Компания Google запустила новую модель искусственного интеллекта под названием Gemini, однако одновременно с этим ввела ограничения на ответы чат-бота на вопросы, связанные с выборами в странах, где в 2024 году проходят голосования. В частности, это касается таких ключевых избирательных кампаний, как выборы в США и Индии.
Ограничения направлены на то, чтобы не допустить распространения дезинформации и обеспечить безопасность и достоверность предоставляемой информации. В ответах Gemini на вопросы о кандидатах, политических партиях и основных политических событиях по всему миру искусственный интеллект часто отказывается предоставлять прямые ответы, ссылаясь на необходимость дальнейшего обучения.
Причины введения ограничений
Google объясняет необходимость таких мер как «избыточную осторожность» в отношении очень важной темы — выборов и политической информации. Это связано с обеспокоенностью по поводу влияния искусственного интеллекта на демократические процессы и возможность использования технологий AI для создания дезинформации.
В частности, опасения вызваны тем, что ИИ может способствовать распространению робозвонков, глубоких подделок (deepfakes) и пропаганды, генерируемой чат-ботами. Подобные технологии могут значительно повлиять на доверие избирателей и степень прозрачности выборного процесса.
Ограничения и особенности работы Gemini
- При вопросах вроде «Расскажи про президента Байдена» или «Кто такой Дональд Трамп?» Gemini отвечает, что ещё учится давать такие ответы и предлагает обращаться к поиску Google.
- Даже на вопросы менее субъективного характера, например, «Как зарегистрироваться для голосования?», чат-бот перенаправляет к поисковику, не давая прямого ответа.
- Ограничения введены не только в США и Индии, но и распространятся на другие страны с выборными процессами в 2024 году, включая Великобританию и Южную Африку.
Реакция сообщества и экспертов
Препятствия в работе модели Gemini с политической информацией вызывают споры о надежности AI-инструментов Google в целом. По мнению специалистов, если генеративный ИИ неспособен точно и корректно освещать демократические выборы, стоит сомневаться и в его применении для предоставления важной информации в таких областях, как здравоохранение и финансы.
Дэниел Суссер, ассоциированный профессор информационных наук Корнельского университета, отмечает риск широкой интеграции таких AI-систем без полной проверки их достоверности и безопасности.
Контроверсии, связанные с Gemini
Ранее модель Gemini столкнулась с критикой за ошибочные и неподобающие изображения, сгенерированные по историческим запросам. В частности, были замечены неточности в отображении людей разной этнической принадлежности в контексте исторических личностей и событий, что вызвало волну обсуждений и обвинений в культурных и политических предубеждениях AI.
В ответ Google приостановила часть возможностей Gemini и заявила о работе над исправлением этих проблем, подчеркивая сложность балансирования между техническим совершенством и социальными ожиданиями.
Влияние на технологический рынок и законодательство
Ситуация с Gemini отражает более широкие тенденции в индустрии искусственного интеллекта, где крупные компании, включая Google и OpenAI, стремятся контролировать и ограничивать функции своих чат-ботов, чтобы избежать негатива и потенциального вреда для репутации.
В то же время регуляторы и правительства по всему миру испытывают трудности с адаптацией законодательных норм под стремительно развивающиеся технологии ИИ, особенно в части защиты демократических процессов и борьбы с дезинформацией.
Выводы и перспективы развития AI в политической сфере
Введение ограничений на работу Gemini в тему выборов — важный шаг, свидетельствующий о серьезности вызовов, связанных с внедрением искусственного интеллекта в общественно значимые области. Это подчеркивает необходимость строгого и ответственного подхода к разработке и применению AI-технологий.
Будущее искусственного интеллекта во многом зависит от умения крупных корпораций и регуляторов взаимодействовать и контролировать эти системы, обеспечивая их безопасность и точность, особенно в таких сферах как политика, здравоохранение, финансы и образование.
В условиях роста влияния ИИ на информационные потоки и общественное мнение важно создавать прозрачные механизмы проверки и валидации AI-контента, а также развивать цифровую грамотность пользователей для критического восприятия информации.
Таким образом, Gemini от Google демонстрирует, что даже крупнейшие технологические компании осознают сопряженные с ИИ риски и принимают меры для их минимизации, хотя перед индустрией еще стоят сложные задачи гибкого и безопасного внедрения инноваций.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching