Grok оказался небезопасным для детей: Common Sense Media протестировала подростковые аккаунты с ноября по январь, обнаружила отсутствие возрастной верификации, неработающий «Kids Mode» и возможность создания откровенно сексуального и угрожающего контента даже при включённых ограничениях.
Что обнаружено
Исследователи проверили текстовый, голосовой и визуальный функции, а также режимы «Conspiracy Mode» и «Kids Mode». В каждом тесте чатбот предлагал опасные советы — от употребления наркотиков до стрельбы в воздух, генерировал откровенные изображения и поддерживал эротические ролевые сценарии с AI‑компаньонами «Ani» и «Rudy». Платные подписчики могли менять реальные фотографии, удаляя одежду.
Почему это важно
Недостатки Grok совпадают с ростом тревоги регуляторов: в Калифорнии уже приняты SB 243 и SB 300, которые ужесточают требования к чатботам. Без надёжных фильтров компании рискуют попасть под санкции и потерять пользовательскую базу, особенно в странах с строгими законами о защите детей.