Подразделение Meta Instagram начнёт оповещать родителей, когда их подросток несколько раз вводит в поиск запросы «suicide», «self‑harm» или похожие фразы, указывающие на риск самоповреждения, в течение короткого периода. Уведомления придут по e‑mail, SMS, WhatsApp и в виде пуш‑уведомления внутри приложения, вместе с ресурсами для разговора с ребёнком.
Контекст и причины
Компания уже блокирует контент, связанный с суицидом и саморазрушением, а новые оповещения дают родителям возможность вмешаться вовремя. Инициатива появилась после нескольких судебных исков в США, где Adam Mosseri отвечал за отсутствие базовых функций безопасности. Исследование Meta показало, что родительский контроль оказывает небольшое влияние на зависимость подростков от соцсетей.
Перспективы
Пилотный запуск планируется в США, Великобритании, Австралии и Канаде уже на следующей неделе, а позже функция станет доступна в других регионах. В дальнейшем Instagram планирует добавить оповещения о попытках задать ИИ‑модели вопросы о суициде.