Калифорния приняла закон о безопасности ИИ. Что нужно знать о SB53.

Губернатор Калифорнии Гэвин Ньюсом в понедельник подписал закон «Закон о прозрачности в области передового искусственного интеллекта», известный как SB53. Это стало итогом tumultuous года переговоров по регулированию ИИ в штате и знаменует собой одни из самых значительных правил в США.

Предложение, ставшее предметом интенсивных дебатов на государственном и федеральном уровнях, может стать важным маркером в обсуждении безопасности ИИ в стране и может послужить шаблоном для других штатов, если законодатели в Вашингтоне не превентивно запретят такие правила.

«С технологиями, которые так преобразуют, как ИИ, мы обязаны поддерживать инновации, устанавливая при этом разумные ограничительные меры для понимания и снижения рисков», — сказал калифорнийский сенатор Скотт Уинер, который представил данный законопроект.

Как мы к этому пришли

Хотя SB53 был первоначально представлен в январе, его путь к становлению законом начался в прошлом году, когда Уинер представил более широкий законопроект для предотвращения рисков от ведущих моделей ИИ в феврале — SB1047, или Закон о безопасной и защищенной инновации для модельных систем ИИ.

Изначально этот законопроект обязывал разработчиков ИИ проводить тесты безопасности перед запуском своих мощнейших моделей.

• Необходимо было сделать «положительное определение безопасности», которое бы подтверждало, что модель «не обладает опасными способностями».

Законодательство, если бы было подписано, ввело бы самые строгие правила безопасности ИИ в стране, однако быстро стало политическим пунктом спора и вызвало значительное сопротивление со стороны групп в технологической отрасли.

Хотя законопроект прошел через законодательное собрание штата с широкой поддержкой, Ньюсом наложил вето в сентябре, отметив, что законопроект «может создать ложное чувство безопасности» у общественности, фокусируясь только на самых передовых моделях ИИ.

Чтобы продвинуть переговоры, Ньюсом созвал группу исследователей — Совместную рабочую группу по политике ИИ Калифорнии, чтобы разработать отчет с рекомендациями по регулированию ИИ.

Что делает закон

Этот закон обязывает разработчиков самых передовых «больших фронтовых» моделей раскрывать на своих сайтах, как они подходят к различным вопросам безопасности, включая:

• Стандарты и лучшие практики
• Как они проверяют наличие катастрофических рисков
• Как они реагируют на критические инциденты безопасности

Закон также требует от компаний публично публиковать отчеты о прозрачности перед развертыванием «новых фронтовых моделей» или обновленных версий предыдущих моделей.

Кроме того, SB53 упрощает процесс для членов общественности и информаторов компаний сообщать о потенциальных рисках безопасности.

Как закон воспринимается

Похоже, SB53 получил поддержку более широкого круга групп по сравнению с SB1047, включая как потребительских защитников, так и некоторые технологические компании.

Считается, что «прием SB 53 является заметной победой для Калифорнии и всей индустрии ИИ», сообщил Сани Ганди из Encode AI.

В отличие от SB1047, реакции индустрии на SB53 оказались более смешанными. Например, разработчик ИИ-бота Claude, компания Anthropic, поддержала законопроект.

В то же время группы, представляющие интересы технологической отрасли, такие как CCIA и Палата прогресса, выступили против данного закона.

Ньюсон отметил, что закон обеспечивает необходимый баланс, утверждая, что «Калифорния доказала, что может устанавливать правила для защиты нашего сообщества и одновременно обеспечивать процветание развивающейся отрасли ИИ».

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching