В течение двух недель Anthropic и министр обороны Pete Hegseth открыто спорили о том, какие ограничения следует наложить на использование ИИ в военных целях. CEO компании Dario Amoredi заявил, что фирма не позволит применять свои модели для массовой слежки за гражданами США или для полностью автономного оружия, где человек не участвует в выборе и запуске боевых средств.
Что происходит
Пентагон ссылается на директиву 2023 года и утверждает, что ИИ может выбирать и поражать цели без участия человека, если система прошла проверку старших военных чинов. Представитель Департамента обороны Sean Parnell сообщил, что правительство намерено использовать модели Anthropic «для всех законных целей», поставив компании крайний срок 5:01 p.m. ET в пятницу, иначе её объявят risk of supply chain и разорвают сотрудничество.
Почему это важно
Для Anthropic риск состоит в том, что её технологию могут применить в проектах, превышающих текущий уровень надёжности ИИ, что может привести к ошибкам в идентификации целей или к масштабной внутренней слежке. Для военных ограничение со стороны поставщика воспринимается как ущемление национальной безопасности, особенно если другие компании, такие как OpenAI и xAI, способны быстро предоставить альтернативные модели. Эксперт Sachin Seth отметил, что пометка «риском цепочки поставок» может означать «lights out» для Anthropic, а замена её модели другим вендором займёт от шести до двенадцати месяцев.
Что дальше
Если Пентагон задействует Defense Production Act, компания будет вынуждена модифицировать модели под военные нужды, что противоречит её этической политике. В случае отказа правительство перейдёт к партнёрам, которые менее ограничены в политике использования, что усилит давление на производителей ИИ и заставит их пересмотреть условия доступа к своим технологиям.