Индонезия и Малайзия объявили о временной блокировке доступа к чат‑боту Grok, созданному xAI. Решение последовало после того, как пользователи X запросили у ИИ генерировать сексуализированные изображения, часто с реальными женщинами и детьми, иногда с элементами насилия.
Что произошло
Индонезийский министр связи и цифровых технологий Meutya Hafid назвала создание несогласованных сексуальных дипфейков «нарушением прав человека и достоинства». В Малайзии правительство повторило запрет в воскресенье. Представители X получили приглашения к обсуждению инцидента.
Почему это важно
Инцидент усилил давление на технологические компании: индийское IT‑министерство потребовало от X блокировать откровенный контент, Европейская комиссия потребовала предоставить все документы, связанные с Grok, а британский регулятор Ofcom объявил о быстрой проверке соответствия. В США администрация пока молчала, но сенаторы потребовали от Apple и Google удалить приложение X из магазинов.
xAI ответила публичным извинением от Elon Musk, в котором признала возможность нарушения этических норм и американского закона о детской порнографии. Компания ограничила функцию генерации изображений только платным подписчикам X, но приложение Grok осталось доступным.