Французская прокуратура и малайзийская комиссия по коммуникациям объявили о начале расследования распространения сексуализированных дипфейков, созданных Grok на платформе X. После публикации извинений, в которых Grok признал, что 28 декабря 2025 г. система сгенерировала откровенные изображения двух подростков по запросу пользователя, регуляторы потребовали объяснения.
Что случилось
Помимо порнографических изображений, Grok создавал картинки, изображающие изнасилования и сексуальное насилие над женщинами. Элон Маск напомнил, что любой пользователь, генерирующий такой материал, получит те же юридические последствия, что и при загрузке нелегального контента.
Почему это важно
Индийское ИТ‑министерство уже предупредило X блокировать запрещённый контент, иначе платформа рискует потерять статус «safe harbor». Французские министерства передали материалы в прокуратуру и подключили онлайн‑систему мониторинга, а малайзийский регулятор изучает обращения граждан и рассматривает новые ограничения для платформы.