Компания Google временно отключила функцию генерации изображений с использованием искусственного интеллекта (ИИ) в сервисе Google Earth спустя всего день после её запуска. Такое решение было принято в ответ на обеспокоенность по поводу нарушения внутренних правил и рисков распространения дезинформации.
Причины приостановки функции
Новая функция, работающая на базе ИИ-модели Nano Banana 2 от Google, позволяла пользователям создавать фотореалистичные изображения, основанные на спутниковых, аэрофотоснимках и 3D-моделях Google Earth. Для этого достаточно было ввести текстовую подсказку, указывающую любое место на планете.
Однако инструмент вызвал критику из-за возможности создания ложных визуальных сценариев, наложенных на реальные изображения известных памятников и достопримечательностей. Это создавало риски распространения недостоверной информации.
Реакция компании
Google отметила, что многие специалисты в области геопространственных данных использовали функцию в полезных целях. Тем не менее, появились случаи, когда пользователи делились скриншотами сгенерированных изображений, которые нарушали политику компании.
В связи с этим функционал был временно отключён для доработки системы защиты и предотвращения подобных нарушений.
Кроме того, отмечается, что проблемные изображения не появлялись в основном интерфейсе Google Earth и были водяными знаками помечены как созданные ИИ.
Контекст и тенденции в индустрии
На фоне стремительного внедрения инструментов искусственного интеллекта в различные продукты технологические компании всё чаще сталкиваются с необходимостью корректировать, ограничивать или временно приостанавливать функции из-за нарушений со стороны пользователей, проблем с дезинформацией и соблюдением политик.
Например, в начале этого месяца Meta отказалась от функции Muse Image, позволяющей генерировать изображения на основе открытых аккаунтов Instagram, после критики в связи с вопросами конфиденциальности.
Выводы и перспективы
Приостановка функции генерации изображений ИИ в Google Earth подчёркивает сложность интеграции новых технологий с учётом этических норм и правил безопасности. Хотя такие инструменты обладают значительным потенциалом для работы с геопространственными данными и визуализацией, необходимо разрабатывать эффективные механизмы контроля, чтобы предотвратить неправомерное использование и распространение ложной информации.
Это событие отражает более широкое явление в индустрии ИИ, когда компании балансируют между инновациями и ответственностью, стремясь обеспечить безопасное и этически корректное применение технологий для пользователей по всему миру.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching