ИИ способен создать цифровой аватар человека, который может ввести в заблуждение и родственников, и банк

Обозреватель The Wall Street Journal Джоанна Стерн попыталась выяснить, насколько натуральным может получиться цифровой аватар человека, созданный на базе ИИ. Результат эксперимента оказался пугающим: ей удалось получить собственный цифровой клон, который смог ввести в заблуждение ее родственников и обмануть систему голосовой идентификации банка.

Для создания виртуального аватара Джоанна использовала инструмент Synthesia, который производит видеоаватары на основе видео- и аудиозаписей реальных людей. Исходным материалом для обучения алгоритма стали 30 минут видео и два часа аудиозаписей голоса Джоанны.

Стартап Synthesia берет $1000 в год за создание виртуального аватара плюс ежемесячная плата. Когда цифровой клон журналистки был готов, начались его испытания. Она сгенерировала с помощью ChatGPT текст для TikTok-ролика и загрузила его в Synthesia, после чего аватар создал видеоролик. У Джоанны сложилось впечатление, что она смотрит в зеркало и видит свое отражение...