Появление Shadow AI среди работников знаний

Использование непроверенных инструментов AI может привести к утечкам данных или уязвимостям в безопасности. Работодатели должны вместо этого сделать использование AI более прозрачным.

По данным отчёта Wrike о Connected Intelligence, более 4 из 5 работников знаний используют AI на работе. Это включает в себя генеративный AI, AI ассистентов/копилотов, AI агентов, внутренние функции AI или сторонние AI функции.

Распространение Shadow AI

Использование Shadow AI было распространено среди 1,000 респондентов, работающих в области знаний: 42% заявили, что используют непроверенные AI инструменты, а 20% сказали, что их организации не внедрили никаких официальных инструментов AI.

Эрик Карофски, основатель VectorHX, в интервью с No Jitter отметил: «Использование Shadow AI происходит либо из-за недостатка одобренных, удобных инструментов, либо работники экспериментируют самостоятельно для повышения своей производительности».

Риски использования Shadow AI

Некоторые случаи использования Shadow AI могут быть безобидными, но могут привести к серьезным проблемам. Например, пользователи загружают конфиденциальные данные компании или данные конечных пользователей в генеративные AI сервисы потребительского уровня, которые обычно обучаются на основании любых пользовательских вводов. Более того, непроверенное программное обеспечение может представить уязвимости в сети организации.

Wrike обнаружил, что почти 40% респондентов заявили, что руководство компании не предоставило последовательных или достаточных указаний о том, какой инструмент AI использовать. «Сотрудники хотят структуры, а не ограничений, чтобы они могли уверенно и ответственно использовать AI», — говорится в пресс-релизе.

Успешная интеграция AI

Успешная интеграция AI требует четкого распределения ролей. Исполнительное спонсирование является важным для любого крупного технологического изменения, но также важна поддержка заинтересованности и вдохновения среди внутренних пользователей. Например, Fannie Mae создала внутреннюю группу суперпользователей для тестирования Microsoft Copilot, что способствовало обучению других сотрудников организации с использованием Copilot. При поддержке руководства использования единого генеративного AI инструмента пользователи также получили направление.

Следует далее изучить тему: успешная интеграция AI требует ясных ролей.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching