Трамп приказал американским ведомствам прекратить использование технологий Anthropic в споре о безопасности ИИ

Администрация Дональда Трампа приказала всем американским ведомствам прекратить использование технологий искусственного интеллекта компании Anthropic. Это решение стало следствием публичного конфликта между правительством и компанией по вопросу безопасности ИИ.

Суть конфликта

Президент Дональд Трамп, министр обороны Пит Хегсет и другие официальные лица выступили с критикой в адрес Anthropic в социальных сетях. Причиной стало то, что компания не позволила военным получить неограниченный доступ к своим технологиям ИИ к установленному сроку (пятнице). Власти обвинили Anthropic в угрозе национальной безопасности.

Генеральный директор Anthropic Дарио Амодей отказался пойти на уступки, ссылаясь на опасения, что продукты компании могут быть использованы способами, нарушающими установленные ею меры безопасности.

Трамп заявил в социальной сети: «Нам это не нужно, мы этого не хотим и больше не будем вести с ними дела!»

Реакция правительства и компании

Пит Хегсет назвал Anthropic «риском для цепочки поставок» — это обозначение обычно применяется к иностранным противникам, способным подорвать критически важные партнёрства компании с другими бизнесами.

В своём заявлении, опубликованном в пятницу вечером, Anthropic заявила, что оспорит действия правительства, назвав их «беспрецедентными и юридически необоснованными, никогда ранее публично не применявшимися к американской компании».

Компания стремилась получить от Пентагона гарантии того, что её чат-бот Claude не будет использоваться для массовой слежки за американцами или в полностью автономных системах вооружения. Пентагон заявил, что не заинтересован в таком использовании и будет применять технологию только в законных целях, однако настаивал на доступе без каких-либо ограничений.

Anthropic заявила: «Никакое запугивание или наказание со стороны Министерства обороны не изменит нашу позицию по вопросам массовой внутренней слежки или полностью автономных систем вооружения. Мы будем оспаривать любое обозначение как риска для цепочки поставок в суде».

Контекст спора

Попытки правительства утвердить своё доминирование в принятии решений внутри компании происходят на фоне более широкого конфликта о роли ИИ в национальной безопасности. Существуют опасения относительно того, как всё более совершенные машины могут быть использованы в ситуациях с высокими ставками, связанных с применением смертоносной силы, конфиденциальной информацией или правительственной слежкой.

Реакция конкурентов: сделка OpenAI с Пентагоном

Спустя несколько часов после того, как Anthropic подверглась санкциям, генеральный директор OpenAI Сэм Альтман объявил о заключении сделки с Пентагоном. Компания будет поставлять свой ИИ для засекреченных военных сетей, потенциально заполнив пробел, образовавшийся после исключения Anthropic.

Альтман подчеркнул, что в новом партнёрстве с Пентагоном закреплены те же «красные линии», которые стали камнем преткновения в споре Anthropic с военным ведомством:

• запрет на массовую внутреннюю слежку;
• ответственность человека за применение силы, в том числе в автономных системах вооружения.

Альтман выразил надежду, что Пентагон предложит такие же условия всем компаниям, занимающимся ИИ, чтобы «снизить напряжённость и перейти от юридических и правительственных действий к разумным соглашениям».

Реакция политиков и экспертов

Сенатор от Вирджинии Марк Уорнер, ведущий демократ в Комитете по разведке Сената, отметил, что сочетание действий правительства и «провокационной риторики, направленной против компании, вызывает серьёзные опасения относительно того, принимаются ли решения о национальной безопасности на основе тщательного анализа или политических соображений».

Отставной генерал ВВС Джек Шанахан, бывший руководитель инициатив Пентагона в области ИИ, написал в социальной сети, что «правительство, нацеливающееся на Anthropic, создаёт громкие заголовки, но в итоге проигрывают все». Он подчеркнул, что Claude уже широко используется в правительстве, в том числе в засекреченных условиях, а «красные линии» Anthropic являются «разумными». Шанахан также отметил, что большие языковые модели ИИ, лежащие в основе чат-ботов вроде Claude, Grok и ChatGPT, «ещё не готовы к использованию в условиях национальной безопасности», особенно в контексте полностью автономных систем вооружения.

Влияние на Кремниевую долину

Спор вызвал шок среди разработчиков ИИ в Кремниевой долине. Венчурные капиталисты, видные учёные в области ИИ и многие сотрудники главных конкурентов Anthropic — OpenAI и Google — выразили поддержку позиции Амодея в открытых письмах и на других площадках.

Эти события могут принести пользу ChatGPT от OpenAI, а также чат-боту Grok от Илона Маска, которому Пентагон также планирует предоставить доступ к засекреченным военным сетям. Это может послужить предупреждением для Google, у которой всё ещё находится в стадии разработки контракт на поставку своих ИИ-инструментов военным.

Илон Маск поддержал администрацию Трампа, заявив в своей социальной сети X, что «Anthropic ненавидит западную цивилизацию». Альтман занял иную позицию, выразив солидарность с мерами безопасности Anthropic и выступив против «угрожающего» подхода правительства, одновременно работая над заключением сделки OpenAI с Пентагоном.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching