OpenAI внедрила в ChatGPT функцию предсказания возраста, чтобы находить несовершеннолетних и ограничивать их диалоги по чувствительным темам. Алгоритм учитывает возраст, срок существования аккаунта, часы активности и заявленный пользователем возраст.
Как работает
Если система определит, что пользователю меньше 18 лет, она включит фильтры, блокирующие обсуждения сексуального контента, насилия и других тем. Пользователь, ошибочно определённый как подросток, может подтвердить, что ему больше 18, загрузив селфи в сервис верификации Persona.
Почему это важно
Ранее СМИ сообщали о случаях, когда ChatGPT усиливал психологические проблемы у подростков, а в апреле прошлого года обнаружили баг, позволяющий генерировать эротический контент для несовершеннолетних. Новая мера добавляет ещё один слой защиты, уменьшая шанс повторения подобных инцидентов.
Дайджест каждый день
Краткая выжимка ключевых событий — прямо на почту. Без спама, только самое важное.