Как Shadow AI ставит ваши данные под угрозу

Обзор

Сотрудники ежедневно используют инструменты искусственного интеллекта — обычно без контроля IT-отдела — и это постепенно ставит под угрозу конфиденциальные данные бизнеса. В этом эпизоде программы «Сегодня в технологиях» ведущий Кейт Шоу беседует с экспертом по кибербезопасности Этай Маором из Cato Networks, чтобы разобрать растущую угрозу Shadow AI — несанкционированные AI-приложения, которые функционируют вне корпоративного контроля безопасности.

Маор объясняет, почему AI стал новой слабой ссылкой в кибербезопасности, как сотрудники непреднамеренно утечку конфиденциальную информацию в публичные AI-платформы и как злоумышленники используют генеративный AI для ускорения киберпреступности. От реальных примеров атак с внедрением подсказок до растущей опасности AI-агентов с чрезмерными правами — этот глубокий разговор выявляет, почему предприятиям необходимо пересмотреть управление, мониторинг и безопасность в эпоху AI.

На самом базовом уровне Shadow AI — это несогласованные AI-приложения — инструменты, которые сотрудники используют, не получая одобрения от IT. Если IT не знает о них, они не могут обеспечить их безопасность, обновить или контролировать.

Причины, почему AI стал слабой ссылкой

• Люди совершают ошибки.
• Люди легко поддаются социальной инженерии.
• Человеческое поведение трудно изменить.
• Инсайдерские угрозы.

AI унаследовал эти же слабости. AI делает ошибки, его можно использовать для социальной инженерии, а его поведение часто непредсказуемо.

Как начать мониторинг Shadow AI?

Первый шаг — признать, что он уже существует. Большинство компаний не знают, сколько AI-инструментов используется внутри или какие данные передаются. Я бы предложил подход «OODA Loop»: Наблюдайте, Ориентируйтесь, Решайте, Действуйте. Прежде чем вводить какие-либо политики, у вас должна быть видимость. Начинайте с наблюдений за использованием AI: можете ли вы это обнаружить? Затем ориентируйтесь — поймите, как он используется, какие данные он затрагивает и какие риски это создает. После этого вы решаете, какие политики внедрить, и действуете, вводя их.

Риски Shadow AI

Shadow AI вносит три основных риска:

• Утечка данных — конфиденциальная информация попадает в публичные модели.
• Нарушения норм — нарушение GDPR, HIPAA, SOC 2 и т. д.
• Слепые зоны безопасности — злоумышленники используют приложения, которые IT не может видеть или контролировать.

Как управлять Shadow AI

Управление Shadow AI заключается не в его устранении, а в снижении рисков и повышении видимости. Предоставьте сотрудникам одобренные инструменты, контролируйте использование и предлагайте безопасные альтернативы. Если вы только запрещаете инструменты, вы гарантируете, что люди обойдут этот запрет.

Стратегия управления AI

Умная стратегия управления AI должна состоять из трех частей:

• Сначала возможность — предоставьте сотрудникам безопасные AI-инструменты, чтобы они не шли против системы.
• Видимость и наблюдаемость — обнаруживайте все использования AI по всей сети.
• Многоуровневое применение политики — контролируйте риски по приложениям, пользователям, действиям и типам данных, а не просто «разрешить или заблокировать».

Важно объяснять людям, почему определенные практики с AI рискованны, чтобы они понимали, почему их следует избегать.

Заключение

Использование AI может повысить производительность сотрудников, но только если они понимают риски и контролируют свои действия. Сотрудникам нужно осознавать, что захламление конфиденциальными данными инструментов, которые они не контролируют, создает серьезные риски для компании. Правильное управление и осведомленность — вот ключ к безопасному и эффективному использованию технологий на базе AI.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching