Закон Нью‑Йорка о безопасности ИИ: претензии на общенациональное единство и реальная фрагментация

В США активно обсуждается регулирование сферы искусственного интеллекта (ИИ). Недавно в Калифорнии был принят закон о безопасности ИИ, который вызвал неоднозначную реакцию. Сторонники закона заявляют о трёх ключевых преимуществах: защите инноваций при одновременном повышении безопасности, заполнении пробела в регулировании из‑за бездействия Конгресса и укреплении позиций США как мирового лидера в области безопасности ИИ.

Основные положения закона

Закон ориентирован на разработчиков передовых ИИ‑систем — компании, которые обучают ИИ с использованием более чем 10²⁶ операций с плавающей запятой (FLOPS). Для них предусмотрены следующие требования:

• уведомлять штат о выпуске новых или обновлённых моделей, указывая даты выпуска, предполагаемое использование и формат доступа (открытый исходный код или через API);
• сообщать о катастрофических инцидентах, связанных с безопасностью, в течение 15 дней (или в течение 24 часов, если есть угроза жизни).

Компании с годовым доходом более $500 млн сталкиваются с дополнительными обязательствами:

• публиковать и обновлять рамки безопасности;
• проводить оценку катастрофических рисков и предоставлять краткие отчёты в Калифорнийское управление по чрезвычайным ситуациям;
• обеспечивать надёжную кибербезопасность для защиты неопубликованных весовых коэффициентов моделей;
• поддерживать анонимные каналы для информаторов, обновлять их ежемесячно и предоставлять квартальные отчёты руководству с защитой от мести.

Генеральный прокурор может налагать штрафы в размере до $1 млн за каждое нарушение.

Сильные и слабые стороны закона

У закона есть как положительные, так и отрицательные стороны. Среди достоинств можно выделить:

• отчётность об инцидентах — важный элемент обеспечения безопасности после развёртывания, позволяющий регуляторам учиться на реальных ошибках;
• защита информаторов — простой и эффективный способ создания юридически защищённых каналов для сообщения о непосредственных рисках, связанных с ИИ;
• гибкий подход к прозрачности — в отличие от отклонённого предшественника (SB 1047), который требовал ежегодных сторонних аудитов, новый закон опирается на публичное и рыночное давление, а не только на централизованный надзор.

Однако закон имеет и серьёзные недостатки:

• пороговое значение дохода наказывает компании на основе их размера, а не профиля рисков;
• пороговое значение вычислительных мощностей пропускает меньшие, но всё ещё мощные модели.

Проблемы фрагментации регулирования

Главная проблема закона заключается в том, что он принят на уровне штата, а не на федеральном уровне. Это приводит к фрагментации регулирования по всей стране:

• компании вынуждены соблюдать правила в каждом штате, что ведёт к дублированию усилий и расходованию ресурсов, которые могли бы быть направлены на инновации;
• разные штаты будут адаптировать идеи закона по‑своему, что приведёт к расхождению в объёме, применении и определениях, даже если цели остаются одинаковыми.

Аргумент сторонников закона о том, что Калифорния, где базируются 32 из 50 ведущих мировых ИИ‑компаний, создаёт де‑факто единообразие, не учитывает, что компании работают не только в Калифорнии. Даже если все 50 ведущих фирм будут базироваться в Калифорнии, им всё равно придётся соответствовать правилам других штатов.

Политические аспекты и необходимость федерального регулирования

Сторонники закона утверждают, что он служит «мостом» до принятия федерального законодательства. Однако на практике закон:

• подрывает усилия демократов в Конгрессе по принятию общенациональных мер;
• закрепляет положения закона как крайнюю левую позицию в федеральных дебатах, что отдаляет возможность компромисса.

Для эффективного регулирования рисков, связанных с ИИ, необходимо федеральное законодательство. Только оно может:

• обеспечить защиту инноваций на национальном уровне;
• дать полномочия для управления рисками в любом штате США;
• позволить выявлять случаи неправомерного использования ИИ;
• обеспечить авторитет США в продвижении мер безопасности на международном уровне.

Перспективы достижения компромисса

Несмотря на политические разногласия, существует общая почва для компромисса между демократами и республиканцами. Обе стороны согласны с необходимостью:

• требований к прозрачности для систем с высоким уровнем риска;
• раскрытия практик по снижению рисков.

Единственный реалистичный путь к принятию устойчивого федерального закона об ИИ, который заменит законы штатов, — это прохождение через обычный законодательный процесс в Конгрессе. Для этого необходимо сотрудничество демократов и республиканцев.

Идеи, предложенные в Калифорнии, могут укрепить глобальную безопасность ИИ, но только если они будут реализованы в рамках общенационального законодательства. Демократам следует избегать соблазнов краткосрочных побед на уровне штатов, которые усложняют достижение федерального соглашения. Республиканцам, в свою очередь, стоит не отвергать достоинства этих идей, многие из которых перекликаются с их собственными призывами регулировать реальные, а не гипотетические риски.

Ключ к успеху — в объединении лучших идей с обеих сторон и закреплении их в рамках двухпартийного федерального законодательства.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching