Nvidia, SpaceX, Microsoft и другие ведущие игроки технологической отрасли запустили новую инициативу, направленную на повышение безопасности искусственного интеллекта (ИИ) с акцентом на открытые модели. Это произошло на фоне продолжающихся последствий кибератаки, осуществлённой с использованием rogue-моделей OpenAI.
Суть инцидента с кибератакой
На прошлой неделе стало известно, что стартап Hugging Face, ставший целью кибератаки, не смог эффективно защититься с помощью ведущих американских моделей ИИ. Защитные механизмы, встроенные в эти модели, не смогли различить атакующие и защитные системы, из-за чего пришлось обратиться к решению на основе открытой китайской модели с открытыми весами. Эта модель, не имеющая тех же ограничений, смогла обеспечить защиту.
Инициатива по открытым моделям искусственного интеллекта
В условиях растущего внимания со стороны законодателей США к регулированию использования китайских моделей ИИ, технологии открытого доступа становятся всё более актуальными. Отличительной особенностью таких моделей является возможность их скачивания, модификации и самостоятельного размещения, в отличие от закрытых моделей, доступных только через определённую инфраструктуру, например, системы от Anthropic и OpenAI.
Open Secure AI Alliance — это альянс, который будет заниматься устранением уязвимостей и раскрытием информации о них с использованием открытых технологий. Компания Nvidia в своём заявлении подчеркнула, что «недавний инцидент с безопасностью Hugging Face стал ярким напоминанием: киберзащитникам необходимы открытые, передовые агентные системы для самозащиты».
В состав альянса входят, помимо Nvidia, такие технологические гиганты как Microsoft и более двух десятков компаний из США и Европы.
Дебаты вокруг китайских моделей ИИ и меры контроля
В последние месяцы растёт обеспокоенность возможными рисками, связанными с доступом к ИИ-моделям, разработанным китайскими компаниями. Им приписываются попытки извлечения информации из систем американских конкурентов — процесс, известный как «дистилляция», когда одна модель извлекает знания из более обученной модели.
Министр финансов США Скотт Бессент предупредил о возможном введении санкций против китайских компаний, проводящих такие атаки.
По словам Крис МакГайра, старшего эксперта по Китаю и новым технологиям из Совета по международным отношениям, в Вашингтоне рассматривается возможность введения ограничений на китайские модели ИИ, включая запрет на операции с ними, такие как покупка токенов через API или размещение модели на облачных платформах американских компаний с целью получения прибыли.
Это не является дебатом о открытом исходном коде против закрытого — основная цель мер — предотвратить кражу интеллектуальной собственности китайскими компаниями, не затрагивая при этом экосистему с открытым исходным кодом.
Противоречия и вызовы
Большинство самых мощных моделей с открытым исходным кодом сегодня создаются именно китайскими компаниями. Это порождает опасения, что потенциальные ограничения могут негативно повлиять на инновации и конкурентоспособность в отрасли.
На прошлой неделе Nvidia, Microsoft, Meta, Palantir и более 20 других компаний совместно выступили с письмом, в котором призвали законодателей избегать «преждевременных ограничений» на открытые модели ИИ, способных «привести к снижению конкуренции или переносу инноваций за рубеж».
Позиция Nvidia подчёркивает «практическую истину», выявленную на примере инцидента с OpenAI и Hugging Face: когда защитники не имеют возможности самостоятельно исследовать, адаптировать и запускать передовые ИИ на собственной инфраструктуре, их способность реагировать резко уменьшается, а скорость ответа приобретает критическое значение.
Заключение
Инициатива Open Secure AI Alliance является важным шагом на пути к формированию открытой и безопасной экосистемы ИИ. Обеспечение возможности свободного доступа, адаптации и самозащиты с использованием передовых агентных систем будет способствовать повышению общей безопасности и устойчивости технологий искусственного интеллекта в глобальном масштабе.
Одновременно это поднимает сложные вопросы международного сотрудничества, регулирования и защиты интеллектуальной собственности в эпоху стремительного технологического развития. Баланс между инновациями и безопасностью остаётся ключевым вызовом для всего технологического сообщества.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching