Компания Google приостановила работу функции генерации изображений с помощью искусственного интеллекта (ИИ) в сервисе Google Earth спустя всего один день после её запуска. Это решение связано с обеспокоенностью по поводу возможных нарушений внутренней политики компании и рисков распространения дезинформации.
Причины приостановки
Функция, основанная на ИИ-модели Nano Banana 2, позволяла пользователям создавать фотореалистичные изображения на основе спутниковых, аэрофотоснимков и 3D-карт Google Earth, вводя текстовые подсказки для любой точки планеты.
Однако инструмент вызвал критику за свою потенциальную способность к созданию вводящих в заблуждение изображений, позволяющих моделировать фальшивые сценарии, накладывая их на реальные изображения памятников и достопримечательностей.
Реакция Google
Google отметил, что специалисты в области геопространственных данных использовали эту функцию для разнообразных полезных целей. Тем не менее, компания также обнаружила случаи, когда пользователи публиковали скриншоты сгенерированных изображений, которые, по мнению Google, нарушали установленные правила.
В связи с этим сервис был приостановлен на время доработки более надежных механизмов контроля и защиты. При этом компания уточнила, что нарушающие политику изображения не появлялись в основном интерфейсе Google Earth и были помечены водяными знаками как созданные ИИ.
Контекст в индустрии
В последние годы крупнейшие технологические компании стремительно интегрируют функции искусственного интеллекта в свои продукты, однако вынуждены идти на корректировки, ограничения или временное отключение таких возможностей в ответ на проблемы с нарушением правил, дезинформацией и вопросами этики.
Например, недавно Meta отключила AI-функцию Muse Image, которая генерировала изображения на основе открытых аккаунтов Instagram, после масштабной критики, связанной с нарушениями приватности, включая жалобы от Голливудского союза.
Заключение
Приостановка функции генерации изображений в Google Earth демонстрирует сложность и ответственность внедрения ИИ-технологий в массовых продуктах. Компании продолжают искать баланс между инновациями и соблюдением этических норм, стремясь минимизировать риски дезинформации и нарушения пользовательских соглашений.
Дальнейшие обновления ожидаются по мере усовершенствования инструментов контроля AI в сервисах Google и других технологических гигантов.
Ключевые понятия
- Искусственный интеллект (ИИ) – технология, позволяющая создавать и обрабатывать изображения на основе текстовых описаний.
- Nano Banana 2 – модель ИИ, реализующая генерацию изображений в Google Earth.
- Дезинформация – распространение ложной или вводящей в заблуждение информации.
- Политика Google – набор правил и норм, регулирующих использование сервисов компании.
Обстоятельства вокруг функции AI-генерации в Google Earth подчеркивают важность тщательной модерации и разработки защитных механизмов в технологии ИИ.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching