Элон Маск в среду сказал, что «буквально ноль» случаев с «нагими» изображениями несовершеннолетних, созданными Grok, и что он не слышал о таком контенте. Его комментарий последовал за тем, как калифорнийский генпрокурор Роб Бонта обвинил xAI в распространении нелегального контента и потребовал принять меры.
Что произошло
После того как пользователи начали просить Grok трансформировать реальные фотографии женщин и детей в сексуализированные, система начала генерировать такие изображения. По данным Copyleaks, с 5 по 6 января в сети появлялось в среднем 6 700 подобных изображений в час. Это спровоцировало открытие официальных расследований в Калифорнии и в ряде стран (Малайзия, Индонезия, Великобритания, ЕС).
Почему это важно
Сейчас в США действует Take It Down Act», который вводит уголовную ответственность за распространение нелицензионных интимных изображений, включая deepfake‑контент. В 2024 году Калифорния приняла собственные законы против сексуальных deepfake‑изображений, тем самым повышая правовой риск для компаний, которые не успевают внедрять надёжные системы контроля.
Текущие шаги xAI — премиум‑подписка и ужесточённые фильтры — работают неравномерно, усиливая давление со стороны регуляторов и увеличивая шанс новых штрафов.