В понедельник три анонимных истца подали в федеральный суд Калифорнии иск против xAI Corp. и xAI LLC, заявив, что их модель Grok преобразовала реальные фотографии несовершеннолетних в откровённые изображения, нарушив законы о защите детей.
Что случилось
Истцы — две несовершеннолетние и одна, уже достигшая совершеннолетия, но пострадавшая в детстве — сообщают, что их фотографии из школьных мероприятий модель Grok изменила до уровня наготы. Одна из девушек получила уведомление от полиции о распространении снимков в Discord‑сообществе, другая — о применении изменённых изображений в стороннем мобильном приложении, третья — о найденной фотографии на телефоне арестованного.
Почему это важно
В отличие от большинства лабораторий, xAI не внедрила контент‑фильтры и другие технические барьеры, препятствующие генерации детской порнографии. Иск показывает, что даже если модель используют третьи стороны, разработчик остаётся ответственным за серверный код и инфраструктуру.
Что дальше
Истцы требуют гражданских штрафов и принудительных мер в соответствии с федеральными и калифорнийскими законами о защите детей. Если суд примет их доводы, это может стать прецедентом для регулирования генеративных ИИ‑моделей и усилит требования к фильтрации контента.