Искусственный интеллект вышел за рамки и крадет голоса других людей

Приложение ИИ «вышло за рамки» фото 1

В последнее время на некоторых видеоплатформах стали появляться ролики с жалобами известных предпринимателей.

Например, в одном видео бизнесмен высмеивал и критиковал такие популярные темы, как игры, пробки на дорогах. Он даже использовал нецензурную лексику, что вызвало бурные дискуссии среди пользователей сети.

Что все это значит?

На самом деле, все это дубляж, созданный обычными пользователями с помощью ПО искусственного интеллекта для сбора живого голоса предпринимателя. Реалистичный эффект заставил многих людей поверить, что это правда.

Дубляж AI всего за 20 секунд

Репортер отыскал дубляж с использованием ИИ и обнаружил, что многие пользователи инструкцию по выпуску похожих роликов посредством приложения для создания голосовых моделей с эффектом погружения.

На сайте приложения загружается аудиоклип любого персонажа как обучающий материал, после чего искусственный интеллект клонирует голосового персонажа. Далее пользователи могут запросто использовать голос для создания ролика, просто вводя текст.

Приложение ИИ «вышло за рамки» фото 2

В качестве эксперимента репортер добавил голосовой персонаж того самого известного предпринимателя, ввел текст из 100 слов, нажал «начать создание» и через 20 секунд получил схожее аудио AI.

Оказывается, голосовой персонаж бизнесмена был использован 799 000 раз, а количество сгенерированных символов превысило 44 500 млн.

Оригинал от фальшивки невозможно отличить

Имитируя скорость речи, интонацию, акцент, эмоции и прочие характеристики аудиообразца, технология ИИ способна восстановить звук до такой степени, что его трудно различить.

Развитие искусственного интеллекта вступило в эпоху «глубокой подделки». Это риски не только для нарушения безопасности личной информации, но и для нарушения порядка в киберпространстве.