Белый дом намерен расширить свою рамочную политику в сфере искусственного интеллекта (ИИ), впервые включив в неё регулирование открытых моделей с открытым исходным кодом, согласно источникам, близким к обсуждению. Этот шаг представляет собой важный сдвиг в подходе администрации к управлению ИИ, направленный на повышение прозрачности в регулировании технологий, которые традиционно трудно контролировать.
Что представляет собой новое направление политики?
Обновление политики будет впервые комплексно адресовать открытые модели с открытыми параметрами, которые позволяют любому желающему скачивать и модифицировать их. В отличие от закрытых и контролируемых систем, таких как GPT-4 от OpenAI или Gemini от Google, эти модели нельзя отозвать после их публикации. Такая постоянность создает новые вызовы для регуляторов.
Причины и предпосылки изменений
- Распространение мощных открытых моделей от крупных компаний, включая Meta, и исследовательских институтов усиливает необходимость контроля.
- Открытые модели предоставляют небывалый доступ к передовым технологиям ИИ, но также несут риски, отсутствующие в закрытых системах.
- Белый дом стремится найти баланс между обеспечением безопасности и поддержкой инноваций, не подавляя при этом открытое развитие ИИ.
Особенности регулирования открытых моделей
Источники указывают, что обновленная рамка, скорее всего, сосредоточится на таких аспектах, как предварительное тестирование безопасности и требования к прозрачности, а не на ограничении распространения самой технологии.
Правила направлены на то, чтобы:
- Учитывать обеспокоенность национальной безопасности, связанную с возможностью злоупотреблений.
- Сохранять свободу и коллаборативный дух сообщества открытого исходного кода.
- Избежать концентрации контроля в руках ограниченного числа корпораций.
Вызовы и риски
Особенность ситуации заключается в двойственном использовании открытых моделей:
- Они могут помочь ученым в разработке лекарств и решении сложных задач.
- Однако те же технологии могут быть использованы злоумышленниками для создания дезинформации, биологического оружия или кибератак.
Регуляторная политика должна учитывать эти риски, не подавляя при этом инновационный потенциал и совместную разработку.
Трудности с исполнением и соблюдением норм
Вместо крупных компаний с глубокими связями с правительством, таких как Microsoft или Google, открытые модели часто распространяются децентрализованно через сотни серверов и юрисдикций, что усложняет принуждение к соблюдению каких-либо новых требований.
Ожидается, что первоначально рамки включат добровольные обязательства, аналогичные уже существующим, но рассматривается и возможность применения обязательных норм, в том числе через экспортные ограничения для особо мощных открытых систем.
Роль Meta и других компаний
Meta стала одним из самых заметных сторонников открытых моделей ИИ среди крупных технологических компаний, выпустив семейство моделей Llama с минимальными ограничениями. Компания утверждает, что открытая разработка способствует созданию более устойчивых и безопасных систем благодаря коллективной экспертизе сообщества.
Этот подход резко контрастирует с политикой таких организаций, как OpenAI, которые предпочитают закрытое развитие.
Заключение
Расширение политики Белого дома в отношении открытых моделей ИИ — важный этап в глобальном регулировании искусственного интеллекта. Оно отражает понимание того, что технологии развиваются быстрее, чем существующие нормативные рамки, и требует создания новых правил, которые смогут учесть одновременно вопросы безопасности и необходимость открытого инновационного сотрудничества.
Как именно администрация будет настраивать баланс между этими задачами, во многом определит будущее ИИ и возможности для разработчиков, исследователей и компаний, работающих с открытыми моделями. Эти решения могут стать прецедентом для международного регулирования и влиять на то, останется ли открытый ИИ жизнеспособной альтернативой корпоративно контролируемым системам.
Дополнительные размышления о регулировании открытых моделей
Регулирование открытых ИИ-моделей требует продуманного подхода:
- Технологическая гибкость: Политика должна учитывать быстрое развитие ИИ и предусматривать возможность адаптации правил в будущем.
- Международное сотрудничество: Поскольку открытые модели распространяются глобально, необходима координация между странами для эффективного контроля и предотвращения злоупотреблений.
- Поддержка исследовательского сообщества: Ограничения не должны препятствовать академическим исследованиям и развитию новых технологий.
- Прозрачность и ответственность: Создание стандартов, которые обеспечат ясность в использовании и модификации моделей, повысит доверие и безопасность.
Таким образом, расширение политики Белого дома по открытым моделям ИИ выступает как попытка сбалансировать инновации и контроль, что станет ключевым фактором успешного развития искусственного интеллекта в будущем.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching