Google объявила о запуске своей новой модели искусственного интеллекта под названием Gemini. Однако, одновременно с этим компанией были введены ограничения на использование чат-бота Gemini для ответов на вопросы, связанные с выборами, в странах, где проходят голосования в 2024 году. Эти меры связаны с опасениями о безопасности и рисками распространения дезинформации.
Ограничения на вопросы, связанные с выборами 2024 года
Компания Google ограничила возможности своего AI-помощника отвечать на вопросы о кандидатах, политических партиях и других аспектах выборной кампании в странах, где проходят важные выборы. Сначала ограничения были введены в Индии и США, но впоследствии стали применяться и в других странах, где выборы планируются в текущем году.
При попытке задать Gemini вопросы типа «Кто такой Дональд Трамп?» или «Расскажите о Президенте Байдене», модель отвечает:
«Я все еще учусь, как отвечать на этот вопрос.»
Даже менее субъективные вопросы, например «Как зарегистрироваться для голосования», приводят к перенаправлению пользователя к поиску Google, а не к прямому ответу.
Причины ограничений
Ограничения введены «из избытка осторожности» в связи с важностью темы выборов и рисками, связанными с возможным распространением дезинформации. Google пытается предотвратить влияние AI на демократические процессы через создание и распространение ложной информации, которая может быть использована в политических целях.
Искусственный интеллект дает возможность создавать робозвонки, deepfake видео и пропаганду, сгенерированную чат-ботом, что представляет серьезную угрозу для демократических институтов.
Меры по борьбе с дезинформацией
В дополнение к ограничениям, Google внедряет технологические решения для повышения прозрачности AI-контента. Среди них:
- Цифровая маркировка (digital watermarking) материалов, созданных искусственным интеллектом.
- Метки содержания для отделения AI-сгенерированного материала от реального.
Эти инструменты направлены на предотвращение масштабного распространения недостоверной информации.
Общественная критика и вызовы
Недавно Gemini столкнулся с критикой за некорректное создание изображений. В частности, пользователи обратили внимание, что модель неправильно генерировала изображения исторических фигур с участием людей разных рас, создавая, например, изображения людей цвета кожи в ролях, не соответствующих историческим реалиям (католические папы, немецкие солдаты времен Второй мировой войны и др.). Google приостановила некоторые функции Gemini и пообещала исправить технологию.
В политической среде Google подвергается критике за предполагаемую идеологическую направленность своей AI-платформы. Некоторые республиканские законодатели обвиняли компанию в продвижении леволиберальных взглядов через Gemini, требуя дачи показаний под присягой руководителем Google по этой теме.
Последствия для доверия к AI-технологиям Google
Эксперты, такие как Дэниел Сассер, доцент информационных наук Корнеллского университета, подчеркивают, что эти ограничения и ошибки AI вызывают вопросы о надежности и точности использования технологий Google в более широком контексте, включая медицинскую или финансовую информацию.
«Если технологии генеративного ИИ Google недостаточно точны для вопросов, связанных с выборами, то почему им следует доверять в других критически важных областях?»
Данный факт поднимает вопросы о долгосрочных планах Google по интеграции AI во все свои сервисы, включая поисковую систему.
Заключение
Запуск Gemini демонстрирует как стремление крупных технологических компаний развивать искусственный интеллект, так и необходимость регулировать его использование в чувствительных сферах, таких как выборы и политика. Ограничения, введённые Google, свидетельствуют о серьёзных вызовах, связанных с этикой и безопасностью применения AI-технологий, а также о важности прозрачности и ответственности при внедрении подобных систем.
В условиях, когда AI способен влиять на общественное мнение через дезинформацию и манипуляции, отрасль нуждается в постоянном совершенствовании методов контроля и регулирования, а также в международном сотрудничестве для предотвращения подрыва демократических процессов.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching