Иск против ClothOff доказал, насколько сложно привлечь к ответственности онлайн‑сервисы, создающие нелегальный deepfake‑контент. Приложение удалили из Google Play и App Store, но оно всё ещё работает через веб‑сайт и Telegram‑бота; владельцы, по всей вероятности, находятся на Британских Виргинских островах и в Белоруссии.
Что произошло
Клиника при Yale Law School выступила от имени школьницы‑жертвы, чей 14‑летний Instagram‑портрет превратили в детскую порнографию. В октябре юристы подали иск, требующий закрыть сервис, удалить все созданные изображения и прекратить работу. Сейчас они стараются вручить процессуальные извещения подозреваемым, но их распределение по разным странам осложняет задачу.
Почему это важно
Случай выявил два основных пробела в правовой системе: отсутствие быстрых способов привлечения к ответственности платформ‑генераторов deepfake‑контента и необходимость доказать, что разработчики знали о нелегальном характере материала и игнорировали его, что критично для применения законов, таких как Take It Down Act. Сравнение с делом против xAI и её чат‑бота Grok показывает, что более «общие» ИИ‑системы труднее судить, потому что нужно подтвердить, что их создатели предвидели и допустили создание незаконного контента.
Что дальше
Если суд в итоге поддержит иск, это может стать прецедентом для новых регулятивных инициатив, включая обязательные процедуры уведомления о генерации CSAM и усиление международного сотрудничества в выдаче процессуальных документов. Регуляторы в ЕС, Индонезии и Малайзии уже блокируют такие сервисы, но в США пока нет официального ответа.