Человечеству конец? Неужели искусственный интеллект — это оружие?

    Компания Gladstone AI подготовила отчет для правительства США, в котором говорилось об угрозах для человечества со стороны ИИ.

    Известно, что исследование, ставшее основой отчета под названием «План действий по повышению безопасности передового искусственного интеллекта», проводилось больше года. В этом «плане» представлена тревожная картина рисков нацбезопасности, а также есть предупреждение о необходимости срочно начинать действовать.

Что происходит?

    Авторы доклада утверждают, что нынешнее развитие искусственного интеллекта способно дестабилизировать мировую безопасность, как это однажды сделало создание ядерного оружия.

Какие существуют риски для человечества и как их устранить?

    К основным рискам специалисты отнесли:

1. Намерение использовать искусственный интеллект как оружие. При таком раскладе могут разрабатываться и даже запускаться биологические, химические и цифровые атаки.

2. Потеря контроля над искусственным интеллектом.

    Исследователи предлагают несколько мер по устранению угроз, исходящих от ИИ:

• Формирование Федерального агентства по вопросам искусственного интеллекта. Его задача будет определять допустимый уровень вычислительной мощности для обучения моделей и давать разрешения компаниям на использование того или иного уровня.

• Принятие закона, запрещающего обнародовать особенности работы мощных ИИ-моделей. Нарушение должно быть уголовно наказуемо в виде лишения свободы. Т.е. предлагается полностью запретить ИИ-системы «open-source».

• Усилить контроль над изготовлением и экспортом чипов искусственного интеллекта.

    Несмотря на пессимистический настрой Gladstone AI, есть те, кто видит в искусственном интеллекте процветающее будущее. Например, Билл Гейтс считает ИИ благом для человечества, так как он поможет людям меньше работать. А что вы думаете по этому поводу?