Искусственный интеллект Google взломали с помощью календаря: уязвимость продемонстрировали на конференции Black Hat

Журнал Wired сообщил о результатах исследования в области кибербезопасности, в ходе которого специалисты смогли взломать голосового помощника Google Gemini.

Уязвимость позволила удалённо управлять устройствами умного дома с помощью косвенных инструкций, скрытых в приглашениях Google Calendar.

Как это было?

Сценарий атаки выглядел следующим образом:

1. Пользователь просил Gemini составить сводку дел из календаря, а затем благодарил его.

2. На этом этапе в ход вступала вредоносная инструкция, замаскированная под текст приглашения, — она передавалась Google Home, который, в свою очередь, выполнял команды, такие как отключение света или открытие окон.

Все это было продемонстрировано на видео.

Реакция Google на проблему

До публичной презентации на конференции Black Hat, исследователи сообщили о находке напрямую в Google ещё в феврале. Как отметил Энди Вэн, старший директор по управлению безопасностью Google Workspace, компания отнеслась к инциденту очень серьёзно:

«Подобные атаки останутся с нами надолго, но мы надеемся, что вскоре обычные пользователи вообще не будут о них задумываться», — сказал он. При этом Вэн добавил, что случаи подобных взломов в реальном мире пока крайне редки.

Однако растущая сложность языковых моделей повышает интерес злоумышленников к новым способам манипуляции ИИ, что затрудняет защиту. Google уже усилила разработку инструментов, способных блокировать такие атаки, на основе выявленных уязвимостей.