Каталог

Информация

UK RU

+38 (050) 393 28 09

Вход Корзина 0

КАТАЛОГ

Новости Человечество на грани вымирания: правительству США предоставили отчет об угрозе со стороны ИИ

23 марта 2024 г., 00:00

Человечеству конец? Неужели искусственный интеллект — это оружие?

Человечество на грани вымирания: правительству США предоставили отчет об угрозе со стороны ИИ фото 1

Компания Gladstone AI подготовила отчет для правительства США, в котором говорилось об угрозах для человечества со стороны ИИ.

Известно, что исследование, ставшее основой отчета под названием «План действий по повышению безопасности передового искусственного интеллекта», проводилось больше года. В этом «плане» представлена тревожная картина рисков нацбезопасности, а также есть предупреждение о необходимости срочно начинать действовать.

Что происходит?

Человечество на грани вымирания: правительству США предоставили отчет об угрозе со стороны ИИ фото 2

Авторы доклада утверждают, что нынешнее развитие искусственного интеллекта способно дестабилизировать мировую безопасность, как это однажды сделало создание ядерного оружия.

Какие существуют риски для человечества и как их устранить?

К основным рискам специалисты отнесли:

Намерение использовать искусственный интеллект как оружие. При таком раскладе могут разрабатываться и даже запускаться биологические, химические и цифровые атаки.
Потеря контроля над искусственным интеллектом.

Исследователи предлагают несколько мер по устранению угроз, исходящих от ИИ:

Человечество на грани вымирания: правительству США предоставили отчет об угрозе со стороны ИИ фото 3

Формирование Федерального агентства по вопросам искусственного интеллекта. Его задача будет определять допустимый уровень вычислительной мощности для обучения моделей и давать разрешения компаниям на использование того или иного уровня.
Принятие закона, запрещающего обнародовать особенности работы мощных ИИ-моделей. Нарушение должно быть уголовно наказуемо в виде лишения свободы. Т.е. предлагается полностью запретить ИИ-системы «open-source».
Усилить контроль над изготовлением и экспортом чипов искусственного интеллекта.

Несмотря на пессимистический настрой Gladstone AI, есть те, кто видит в искусственном интеллекте процветающее будущее. Например, Билл Гейтс считает ИИ благом для человечества, так как он поможет людям меньше работать. А что вы думаете по этому поводу?