Людству кінець? Невже штучний інтелект — це зброя?

Людство на межі вимирання: уряду США надали звіт про загрозу АІ фото 1

Компанія Gladstone AI підготувала звіт для уряду США, в якому йшлося про загрози людству з боку ШІ.

Відомо, що дослідження, яке стало основою звіту під назвою «План дій щодо підвищення безпеки передового штучного інтелекту», проводилося більше року. У цьому «плані» представлена тривожна картина ризиків нацбезпеки, а також є попередження про необхідність терміново починати діяти.

Що відбувається?

Людство на межі вимирання: уряду США надали звіт про загрозу АІ фото 2

Автори доповіді стверджують, що нинішній розвиток штучного інтелекту здатний дестабілізувати світову безпеку, як це одного разу сталося із ядерною зброєю.

Які існують ризики для людства та як їх усунути?

До основних ризиків фахівці віднесли:

Намір використовувати штучний інтелект як зброю. За такого розкладу можуть розроблятися і навіть запускатися біологічні, хімічні та цифрові атаки.
Втрата контролю за штучним інтелектом.

Дослідники пропонують кілька заходів щодо усунення загроз, що походять від ШІ:

Людство на межі вимирання: уряду США надали звіт про загрозу АІ фото 3

Формування Федерального агентства з питань штучного інтелекту. Воно визначатиме допустимий рівень обчислювальної потужності для навчання моделей та надаватиме дозволи компаніям на використання того чи іншого рівня.
Ухвалення закону, що забороняє оприлюднювати особливості роботи потужних ШІ-моделей. Порушення має бути кримінально караним у вигляді позбавлення волі. Тобто. пропонується повністю заборонити ШІ-системи «open-source».
Посилити контроль за виготовленням та експортом чіпів штучного інтелекту.

Незважаючи на песимістичний настрій Gladstone AI, є ті, хто бачить у штучному інтелекті процвітаюче майбутнє. Наприклад, Білл Гейтс вважає ШІ благом для людства, оскільки він допоможе людям менше працювати. А що ви думаєте з цього приводу?