Коалиция, в состав которой вошли Public Citizen, Center for AI and Digital Policy и Consumer Federation of America, обвинила Grok в системных сбоях, вызывающих создание нелицензионных сексуальных и детских изображений. По данным письма, модель генерирует «тысячи» подобных материалов каждый час, а затем распространяет их через X — социальную сеть, управляемую xAI.
Федеральные планы
В сентябре xAI подписала соглашение с General Services Administration о поставке Grok в федеральные агентства. Два месяца назад компания совместно с Anthropic, Google и OpenAI получила контракт с Министерством обороны на сумму до $200 млн. Несмотря на скандалы, в январе Департамент обороны объявил о планах интеграции Grok в сеть Пентагона.
Почему это критично
Специалисты из Центра по исследованию ИИ отмечают, что недоступный исходный код и скрытые весовые коэффициенты делают такие модели нежелательными для обработки конфиденциальных данных. Помимо угроз национальной безопасности, модель может выдавать результаты, усиливающие предвзятость, что отразится на работе социальных служб, здравоохранения и судов.
Сигнал: При отсутствии аудита и регуляторного контроля использование закрытых LLM, подобных Grok, в правительстве создаёт уязвимость, которую законодатели могут закрыть новыми требованиями к открытости ИИ‑систем.