Перейти к содержимому
ТехнологииВажное

Roblox запускает функцию перефразирования чата в реальном времени с ИИ для фильтрации запрещённого языка

Roblox представил ИИ‑модуль, который заменяет запрещённые слова в чате на более приемлемые варианты вместо хеш‑фильтра.

Пользователи видят замену в реальном времени, что снижает количество блокировок и сохраняет плавность общения.

Сигнал: Технология может стать примером для других игровых сервисов, желающих повысить безопасность детей без сильного ограничения речи.

В пресс‑релизе Roblox объявил о запуске функции реального‑временного перефразирования чата, работающей на основе искусственного интеллекта. Вместо стандартных «####» сообщения теперь преобразуются в более вежливую форму. Пример: «Hurry TF up!» заменяется на «Hurry up!», и пользователи получают уведомление о замене.

Что изменилось

Новая функция дополняет существующий хеш‑фильтр, который заменял запрещённые слова символом «#». Система теперь поддерживает все языки Roblox, улучшена для распознавания л33t‑спика и обходных методов. Вице‑президент Rajiv Bhatia отметил, что изменения снижают трения в общении и помогают поддерживать вежливую атмосферу.

Контекст и последствия

Функция появилась после обязательной верификации лица для доступа к чатам и серии исков от генпрокуроров штатов Техас, Кентукки и Луизиана о защите детей от груминга и непристойного контента. По данным компании, новые алгоритмы уже сокращают количество ложных срабатываний в 20 раз, повышая общую безопасность платформы.

Все материалы