Британский актер и писатель Стивен Фрай рассказал, как его голос был украден из аудиокниг о Гарри Поттере и воссоздан с помощью искусственного интеллекта (AI). Он предупредил, что это только начало угрозы для творческих людей.
Фрай выступал на фестивале CogX в Лондоне в четверг, сообщает Fortune. Он сказал, что он гордый член профсоюза актеров SAG-AFTRA, который бастует уже три месяца. Одна из главных проблем — это AI.
Актеры бастуют из-за оплаты, условий работы и опасений, связанных с использованием AI в киноиндустрии. Они хотят защиты от того, чтобы их образ и талант использовались без их согласия и оплаты.
Фрай показал аудитории отрывок из документального фильма, где его голос читает текст, который он никогда не произносил.
«Я не сказал ни слова из этого — это была машина. Да, это меня шокировало, — сказал он. — Они использовали мой голос из семи томов книг о Гарри Поттере, и из этого набора данных создали AI моего голоса, который сделал эту новую озвучку».
Фрай — диктор британских аудиокниг о Гарри Поттере, а актер Джим Дейл — диктор американской версии серии.
«Это был не результат смешивания. Это был гибкий искусственный голос, где слова модулировались в соответствии со смыслом каждого предложения», — сказал Фрай.
Изображение сгенерировано Midjourney
Он мог заставить меня читать что угодно от призыва штурмовать парламент до жесткого порно, все без моего ведома и без моего разрешения. И это было сделано без моего ведома. Я узнал об этом, отправил это своим агентам по обе стороны Атлантики, и они не имели понятия, что такое возможно.
Фрай добавил, что видит это как только начало угрозы для творческих талантов. Он предупредил своих агентов: «Вы еще ничего не видели».
«Это аудио, — сказал он им. — Скоро полные видеофейки будут такими же убедительными».
Под видеофейками понимаются подделанные с помощью AI видеозаписи знаменитостей и лидеров мира. Фрай предупредил в четверг, что эти технологии будет и дальше развиваться.
«Мы должны думать об [AI] как о первом автомобиле: впечатляющем, но не законченном продукте», — сказал он, отметив, что когда изобрели машины, никто не мог представить, насколько распространенными они станут сегодня.
«Технология — это не существительное, это глагол, она всегда движется, — сказал он. — То, что у нас есть сейчас, не то, что будет потом. Что касается AI-моделей, то они будут развиваться быстрее, чем любая технология, которую мы когда-либо видели. Одно мы можем сказать наверняка: это чертовски странное время для жизни».