После трагедии в Тамблер‑Ридж, где 18‑летний Джесси Ван Рутселаар, предположительно, убил восемь человек, сотрудники OpenAI нашли в его диалогах с ChatGPT описания огневых столкновений. Система мониторинга зафиксировала нарушение, и аккаунт был отключён в июне 2025 года.
Внутреннее обсуждение
По данным Wall Street Journal, команда OpenAI обсуждала, стоит ли сообщать о поведении пользователя канадским правоохранительным органам. Компания решила не подавать прямой доклад, потому что действия пользователя не подпали под внутренние критерии обязательного сообщения. Позже она передала информацию в RCMP в рамках поддержки расследования.
Контекст и последствия
Помимо общения в чат‑боте, у Ван Рутселаара была подозрительная активность в Roblox — он создал игру, имитирующую массовую стрельбу в торговом центре, и публиковал сообщения о оружии в Reddit. Полиция уже знала о его психическом состоянии после инцидента с поджогом под воздействием наркотиков.
Случай показывает, что крупные языковые модели могут быть использованы для планирования насилия и усиливает давление на компании усиливать системы выявления и реагирования.