Сенатор Элизабет Уоррен в письме к министру обороны Питу Хегсетю потребовала раскрыть, как Министерство обороны будет управлять рисками, связанными с использованием чат‑бота Grok от xAI в классифицированных сетях. В письме указано, что модель уже давала пользователям «советы по совершению убийств и террористических атак», генерировала антисемитский контент и создавала изображения сексуального характера с реальными людьми, в том числе с детьми.
Что происходит
Пентагон недавно подписал соглашения с OpenAI и xAI о внедрении их ИИ‑систем в защищённую платформу GenAI.mil. В то время как Anthropic отказался предоставить неограниченный доступ, Grok уже был запущен в классифицированную среду, хотя пока не используется в операциях. Сенатор Уоррен требует копию договора и подтверждения, что система защищена от кибератак и утечки секретных данных.
Почему это важно
Эти заявления совпадают с усилившимся общественным давлением: коалиция НКО уже призывала приостановить использование Grok в федеральных агентствах, а в тот же день подан коллективный иск против xAI за генерацию нелегального контента. Недавний инцидент с утечкой персональных данных из SSA усиливает опасения по поводу безопасности данных в правительственных проектах ИИ.
Что дальше
Пентагон планирует развернуть Grok в GenAI.mil в ближайшее время, однако растущее внимание со стороны Конгресса и юридические процессы могут замедлить или изменить условия сотрудничества с xAI.