Уязвимости Google Gemini позволяют хакерам красть сохранённые данные и местоположение

Исследователи кибербезопасности сообщили о трёх недавно исправленных уязвимостях безопасности, затрагивающих искусственный интеллект (AI) ассистент Google Gemini, которые, если бы были успешно использованы, могли бы подвергнуть пользователей значительным рискам утечки личных данных и кражи информации.

По словам исследователя безопасности Tenable Лива Матана, эти уязвимости относятся к атакам с инъекцией запросов и облачным эксплуатации, включающим:

• Атака с инъекцией запросов в модели персонализации поиска Gemini, позволяющая злоумышленникам управлять поведением AI-чатбота для утечки сохранённой информации и данных о местоположении пользователя.
• Атака с инъекцией логов в Gemini Cloud Assist, которая может привести к эксплуатации облачных сервисов и компрометации облачных ресурсов.
• Непрямая инъекция запросов в инструменте просмотра Gemini, с помощью которой злоумышленники могут экстрагировать информацию о пользователе и данные о местоположении на внешний сервер.

Подробности уязвимостей

Согласно Tenable, возможные злоупотребления данными уязвимостями могли позволить внедрить частные данные пользователя в запрос к злонамеренному серверу, контролируемому злоумышленником, без необходимости визуализации ссылок или изображений в Gemini.

Одна из потенциальных атак заключается в том, что злоумышленник может внедрить запрос, который будет извлекать все публичные ресурсы или искать неверные настройки IAM, создавая гиперссылку, содержащую эту чувствительную информацию.

Для второй атаки злоумышленнику необходимо сначала убедить пользователя посетить веб-сайт, созданный для внедрения злонамеренных поисковых запросов с инъекциями в историю браузера жертвы. Таким образом, когда жертва взаимодействует с моделью персонализации поиска Gemini, инструкции злоумышленника обрабатываются, что приводит к краже чувствительных данных.

Меры безопасности после раскрытия уязвимостей

После ответственного раскрытия информации Google прекратила визуализировать гиперссылки в ответах на все запросы суммирования логов и добавила дополнительные меры защиты против инъекций запросов.

Лив Матан заявил: «Gemini Trifecta показывает, что AI может быть использован не только в качестве цели атаки, но и как средство атаки. Организациям, принимающим AI, необходимо уделять внимание безопасности».

Данная ситуация подчеркивает необходимость повышения безопасности инструментов AI и следования строгим политикам для контроля доступа и использования данных.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching