Meta объявила о запуске новых систем ИИ для модерации контента в своих приложениях, при этом сократила использование сторонних вендоров. Компания заявила, что новые инструменты будут применяться, когда их эффективность превзойдёт текущие методы, позволяя автоматизировать повторяющиеся задачи: проверку графического контента и борьбу с тактиками мошенников.
Что происходит
Внутренние тесты показали, что новые модели способны обнаружить в два раза больше случаев сексуального подстрекательства по сравнению с человеческими ревьюерами и уменьшают уровень ошибок более чем на 60 %. Системы также выявляют подделки аккаунтов знаменитостей, предотвращают попытки захвата аккаунтов, анализируя аномальные входы, смену паролей и правки профилей. Meta сообщает, что ИИ блокирует около 5 000 попыток мошенничества в день.
Почему это важно
Автоматизация ускоряет реакцию на события, улучшает точность обнаружения нарушений и снижает риск избыточного количества ошибок модерации. Люди сохранят роль в самых сложных решениях — апелляциях блокировок и взаимодействии с правоохранителями.
Что дальше
Meta планирует глобальный запуск ассистента Meta AI для круглосуточной поддержки пользователей в приложениях Facebook и Instagram. Одновременно компания будет продолжать укреплять внутреннюю экспертизу, обучение и надзор за ИИ, чтобы обеспечить соответствие высоким стандартам безопасности и конфиденциальности.