Суд постановил, что Пентагон может внести компанию Anthropic в чёрный список за отказ включить функции Claude.

В решении Апелляционного суда США по округу Колумбия, принятом большинством голосов (2 против 1), коллегия судей заявила, что «дело поднимает крайне сложные вопросы о надлежащем военном применении почти невообразимо мощной новой технологии». В решении говорится, что США «возникает крайне отрезвляющая перспектива того, что чрезмерно ограниченные модели ИИ могут неожиданно выйти из строя, что приведет к провалу важных военных операций. В деле Anthropic же поднимается крайне отрезвляющая перспектива того, что неограниченные модели ИИ могут создавать галлюцинации, указывающие на неподходящие цели для применения смертоносной военной силы».

Суд заявил, что Трамп и министр обороны Пит Хегсет «должны определить, как лучше всего сбалансировать конкурирующие риски». «Принимая это решение, министр не нарушил никаких ограничений своих полномочий в соответствии с Законом о безопасности цепочки поставок или Конституцией. Соответственно, мы отклоняем ходатайства о пересмотре». Ранее, в апреле, тот же суд отклонил экстренное ходатайство компании Anthropic о приостановлении действия решения.

Оба судьи, вынесшие решение против Anthropic, были назначены Трампом и работали в первой администрации Трампа. Судья Грегори Кацас ранее занимал должность заместителя советника президента, а судья Неоми Рао работала в Управлении по бюджету и управлению администрации Трампа.

Два суда, два разных решения

В марте компания Anthropic подала в суд на администрацию Трампа после того, как та приказала федеральным агентствам прекратить использование продукции Anthropic и запретила оборонным подрядчикам вести с ней какие-либо дела. Anthropic может обжаловать сегодняшнее решение, либо запросив рассмотрение дела в полном составе всех судей апелляционного суда, либо подав ходатайство в Верховный суд.

«Мы с уважением не согласны с решением суда», — заявил представитель Anthropic телеканалу CNBC . «Другой федеральный суд уже признал незаконным параллельное присвоение статуса, предложенное правительством. Мы по-прежнему уверены в своей позиции и рассматриваем все варианты, включая дальнейшее рассмотрение». Несмотря на продолжающуюся судебную тяжбу, министр торговли Говард Лютник недавно заявил, что администрация Трампа и Anthropic наладили отношения и «действуют согласованно».

Два суда рассматривают вопрос о внесении компании Anthropic в черный список США. В прошлом месяце судья окружного суда США по Северному округу Калифорнии постановил, что это решение было незаконным, поскольку Anthropic не соответствует определению риска для цепочки поставок, которое ограничивается «риском того, что противник может саботировать, злонамеренно внедрить нежелательные функции или иным образом подорвать… систему, подпадающую под действие закона».

Сегодняшнее решение Апелляционного суда округа Колумбия не оспаривало основной вывод окружного суда. Однако в нем говорилось, что окружной суд был обязан проверить, было ли решение допустимым в соответствии с одним законом, в то время как апелляционный суд обладает исключительной юрисдикцией для рассмотрения решения в соответствии с другим, более либеральным правом.

Решение окружного суда выявило нарушение статьи 10 USC § 3252, в которой риски в цепочке поставок ограничиваются злонамеренными действиями противников. Апелляционный суд рассмотрел вопрос о внесении в черный список в соответствии со статьей 41 USC § 4713, которая не содержит аналогичных ограничений. Примечательно, что Конгресс предоставил апелляционному суду округа Колумбия исключительную юрисдикцию для рассмотрения закупочных действий, предпринятых в соответствии со статьей 4713.

В США компания Anthropic была отнесена к категории рисков для цепочки поставок в соответствии со статьями 3252 и 4713. Последняя статья определяет «риск для цепочки поставок» как «риск того, что любое лицо может саботировать, злонамеренно внедрять нежелательные функции, извлекать данные или иным образом манипулировать проектированием, целостностью, производством, распространением, установкой, эксплуатацией, техническим обслуживанием, утилизацией или выводом из эксплуатации» защищенных технологических продуктов, «с целью слежки, блокирования, нарушения или иного манипулирования функциями, использованием или работой» этих продуктов или информацией, хранящейся или передаваемой на них, говорится в решении суда.

Использование фразы «любое лицо» показывает, что определение не ограничивается противниками или иностранными субъектами, заявили в суде. Суд также указал на слово «отрицать», которое, по его словам, относится к компании Anthropic, препятствующей США использовать определенные положения закона Клода.

«В итоге мы приходим к выводу, что опасения министра по поводу того, что компания Anthropic может помешать Клоду выполнять законные действия, запрошенные Министерством, квалифицируются как «риск в цепочке поставок» в значении раздела 4713», — заявило большинство судей. Они также отметили, что «Министерство обоснованно опасалось, что Anthropic может манипулировать конструкцией Клода, чтобы помешать ему выполнять функции национальной безопасности, которые Министерство считает разрешенными и необходимыми по контракту».

Особое мнение судьи

Против проголосовала судья Карен Хендерсон, назначенная Джорджем Бушем-старшим. Хендерсон оспорила толкование определения, данного большинством в деле № 4713, заявив, что «в контексте закона все рассматриваемые глаголы направлены на преднамеренное препятствование или прослушивание „функции, использования или работы“ соответствующего товара, попавшего в федеральную цепочку поставок».

Конгресс «принял этот закон в ответ на призывы разведывательного сообщества США к принятию законодательства для противодействия угрозе проникновения «враждебных государств и других злоумышленников» в информационные и технологические системы федерального правительства через его цепочки поставок», — написала Хендерсон. Она отметила, что это определение не следует толковать как охватывающее «честное и открытое соблюдение подрядчиком ограничений на использование защищенного предмета, не одобряемого правительством».

Компания Anthropic утверждала, и судья окружного суда в Калифорнии согласился с этим, что администрация Трампа незаконно приняла ответные меры против компании после того, как та отказалась снять ограничения на использование ее продукции для ведения смертоносной автономной войны и массового наблюдения за американцами.

Апелляционный суд заявил, что компания Anthropic «внесла в модель Claude ограничения, которые препятствуют выполнению задач, которые Anthropic хотела бы предотвратить. Неоднократно эти ограничения мешали Claude выполнять задачи, запрашиваемые государственными пользователями. А недавно возник спор о том, препятствуют ли договорные запреты использованию Claude в текущей зарубежной военной операции, что оставило Министерство в неопределенности относительно того, будет ли Claude работать так, как необходимо и задумано».

Дело в Северном округе Калифорнии рассматривала судья Рита Лин, назначенная Байденом. Лин постановила, что внесение в черный список нарушает Первую поправку к Конституции. «Пустое упоминание национальной безопасности не является карт-бланшем для наказания и мести критикам правительства», — написала она.