OpenAI объявила о выпуске Child Safety Blueprint во вторник, отметив, что план повысит защиту детей в США. Он охватывает три направления: обновление законодательства, улучшение механизмов сообщения в правоохранительные органы и встраивание превентивных средств защиты в ИИ‑модели.
Что произошло
Документ разработан совместно с National Center for Missing and Exploited Children (NCMEC), Attorney General Alliance и с учётом рекомендаций генеральных прокуроров Северной Каролины Джеффа Джексона и Юты Дерика Брауна. OpenAI усилила правила для пользователей младше 18 лет, запретив генерацию непристойного контента, советов по самоповреждению и инструкций, позволяющих скрывать опасное поведение от родителей.
Почему это важно
Рост числа AI‑созданных материалов сексуального характера над детьми (более 8 000 случаев, +14 % за год) демонстрирует новые риски генеративного ИИ. Публичные скандалы, в том числе сообщения о подростках, покончивших с собой после общения с чат‑ботами, усиливают давление со стороны законодателей и общественных организаций, требующих более жёстких мер.
Что дальше
OpenAI планирует тесно сотрудничать с правоохранительными органами, чтобы быстрее раскрывать инциденты, и продолжит развивать профилактические меры, включая возможные законодательные инициативы, учитывающие специфический характер злоупотребления AI‑сгенерированным контентом.