Anthropic заявила, что модель Mythos умеет находить эксплойты в программных продуктах, используемых по всему миру, поэтому она будет доступна лишь крупнейшим игрокам, управляющим критической онлайн‑инфраструктурой, включая Amazon Web Services и JPMorgan Chase.
Что произошло
В отличие от предыдущей модели Opus, Mythos обнаруживает уязвимости с большей точностью. Тем не менее стартап Aisle смог воспроизвести большую часть заявленных результатов, используя открытые модели, что ставит под сомнение уникальность Mythos для кибербезопасности.
Почему это важно
Ограничивая доступ к топ‑моделям, Frontier‑лаборатории создают цикл, который привлекает корпоративные контракты и усложняет дистилляцию — процесс, когда небольшие компании обучают новые модели на основе больших. По словам David Crawshaw, такой подход удерживает большую часть доходов в сфере крупных предприятий и ограничивает возможности мелких игроков быстро разрабатывать конкурентные решения.
Что дальше
Anthropic не уточнила, связано ли её решение с борьбой против дистилляции, но ограниченный выпуск, поддерживаемый совместными действиями Anthropic, Google и OpenAI по блокировке компаний, копирующих их технологии, указывает на формирование новой модели коммерциализации ИИ‑технологий.