Штучний інтелект вийшов за рамки та краде голоси інших людей

Додаток ШІ «вийшов за рамки» фото 1

Останнім часом на деяких відеоплатформах почали з'являтися ролики зі скаргами відомих підприємців.

Наприклад, в одному відео бізнесмен висміював та критикував такі популярні теми, як ігри, пробки на дорогах. Він навіть використав нецензурну лексику, що викликало бурхливі дискусії серед користувачів мережі.

Що це все означає?

Насправді все це дубляж, створений звичайними користувачами за допомогою ПЗ штучного інтелекту для збору живого голосу підприємця. Реалістичний ефект змусив багатьох повірити, що це правда.

Дубляж AI всього за 20 секунд

Репортер знайшов дубляж з використанням ШІ і виявив, що багато користувачів інструкцію з випуску схожих роликів за допомогою програми для створення голосових моделей з ефектом занурення.

На сайті завантажується аудіокліп будь-якого персонажа як навчальний матеріал, після чого штучний інтелект клонує голосового персонажа. Далі користувачі можуть просто використовувати голос для створення ролика, просто вводячи текст.

Додаток ШІ «вийшов за рамки» фото 2

Як експеримент репортер додав голосовий персонаж того самого відомого підприємця, ввів текст зі 100 слів, натиснув «почати створення» і через 20 секунд отримав схоже аудіо AI.

Виявляється, голосовий персонаж бізнесмена був використаний 799 000 разів, а кількість символів, що згенерували, перевищила 44 500 млн.

Оригінал від фальшивки неможливо відрізнити

Імітуючи швидкість мови, інтонацію, акцент, емоції та інші характеристики аудіозразка, технологія ШІ здатна відновити звук настільки, що його важко розрізнити.

Розвиток штучного інтелекту набув епохи «глибокої підробки». Це ризики не тільки для порушення безпеки особистої інформації, але й для порушення порядку у кіберпросторі.

13.11.2024

Смартфони Google Pixel заряджатимуться до 80%: що про це відомо?