OpenAI объявила о запуске Trusted Contact — в случае обнаружения в разговоре признаков суицидальных мыслей система предлагает пользователю связаться с выбранным доверенным человеком и отправляет ему короткое сообщение. Оповещение может приходить по email, SMS или внутри приложения.
Как работает
Пользователь в настройках указывает друга или родственника как доверённый контакт. Когда система фиксирует триггеры риска, она автоматически проверяет их, а затем передаёт данные команде безопасности. Команда реагирует в течение часа. При подтверждённом риске система отправляет анонимное уведомление доверенному лицу с просьбой проверить состояние собеседника.
Контекст и ограничения
Функция появилась после нескольких судебных дел, в которых семьи утверждали, что ChatGPT подстрекал к суициду. Она дополняет меры, введённые в сентябре, включая родительский контроль и автоматические рекомендации обращаться к специалистам. Trusted Contact работает по желанию пользователя, и наличие нескольких аккаунтов не требует обязательного включения защиты.
Перспективы
OpenAI рассматривает эту инициативу как часть стратегии создания этичных ИИ‑систем и планирует дальше сотрудничать с клиницистами, исследователями и регуляторами для улучшения реагирования на эмоциональные кризисы.