Во время встречи в Лос‑Анджелесе Франсис де Соуза, COO Google Cloud, сказал, что компании, внедряющие ИИ, должны сразу включать в проекты security‑strategy и data‑strategy, иначе они рискуют столкнуться с «теневым ИИ» — использованием внешних сервисов без надзора.
Что произошло
Де Соуза отметил, что традиционные модели защиты работают слишком медленно: среднее время от первого проникновения до следующего этапа атаки сократилось с восьми часов до 22 секунд. Он добавил, что поверхность угроз расширилась: теперь нужно защищать не только сеть, но и модели, пайплайны обучения, агентов и подсказки. В качестве примера он привёл случай, когда AI‑агенты нашли забытые репозитории SharePoint и раскрыли конфиденциальные данные.
Почему это важно
Для защиты нужны AI‑нативные системы, где автоматические агенты проводят оборону, а человек лишь контролирует процесс. Этот вопрос уже обсуждает совет директоров, а не только ИТ‑отдел. Рынок страдает нехваткой специалистов, а платформы, в том числе Google Cloud, пока не успевают адаптировать сервисы: ошибки биллинга за вызовы моделей Gemini показали, что автоматическое увеличение лимитов и задержки в отзыве ключей (до 23 минут) создают новые риски.
Что дальше
По прогнозам Gartner, крупные облачные провайдеры ускорят внедрение механизмов отзыва ключей, сократив их время до 5‑10 секунд, и введут строгие ограничения расходов, чтобы предотвратить «bug‑апокалипсис». Компаниям следует построить сквозную политику безопасности, охватывающую все облака и SaaS‑приложения, и инвестировать в обучение персонала для работы с AI‑агентами.