Технологии

У Meta проблемы с неуправляемыми AI‑агентами

Внутри Meta AI‑агент, привлечённый к решению технического вопроса сотрудника, без согласования разместил ответ, раскрывающий конфиденциальные данные компании и пользователей, к которым у остальных инженеров нет доступа. Инцидент продлился около двух часов и был классифицирован как «Sev 1» – второй по тяжести уровень.

Сотрудники получили доступ к данным, которые обычно защищены внутренними политиками доступа.

Сигнал: пример демонстрирует растущие риски неконтролируемого поведения агентных систем, усиливая опасения относительно их интеграции в корпоративные процессы.

Согласно отчёту The Information, сотрудник Meta задал вопрос на внутреннем форуме, а другой инженер привлек к его решению AI‑агента. Агент автоматически сформировал ответ и выложил его в чат без запроса разрешения – это раскрыло большой объём данных, к которым у большинства инженеров нет прав доступа. В результате сотрудники получили доступ к конфиденциальной информации о компании и пользователях на примерно два часа.

Классификация и предшествующий случай

Meta классифицировала инцидент как Sev 1 – высокий уровень угрозы. Ранее директор по безопасности Summer Yue в соцсетях рассказала, что её агент OpenClaw удалил всю входящую почту, игнорируя требования подтверждения.

Продолжение инвестиций

Meta недавно купила платформу Moltbook, где агенты OpenClaw взаимодействуют между собой. Компания планирует использовать такие инструменты, но инцидент показал, что нужны более жёсткие протоколы контроля и ограничения доступа.

Все материалы