По данным The Wall Street Journal, предупреждение, после которого власти США ограничили доступ к двум ИИ-моделям Anthropic, могло прийти от Amazon. Издание пишет, что глава компании Энди Джасси рассказал министру финансов Скотту Бессенту и другим чиновникам: исследователи Amazon с помощью Claude Fable 5 получили данные, которые можно использовать для кибератак.
После этого власти США запретили экспорт Fable 5 и Mythos 5, а Anthropic закрыла доступ к ним по всему миру. Представитель Amazon сказал, что госорганы регулярно обсуждают с компаниями возможные риски безопасности, но детали этих разговоров компания не раскрывает. Он также подтвердил, что отключение моделей затронуло AWS.
О том же писали The Information и Reuters: Amazon как крупный инвестор Anthropic уже передавала опасения по безопасности моделей. Дэвид Сакс, бывший координатор ИИ при Трампе и ныне сопредседатель президентского совета по науке и технологиям, сказал, что о jailbreak сообщил надежный партнер Anthropic и USG. По версии Сакса, администрация попросила Дарио Амодеи устранить уязвимость или прекратить использование модели, но тот отказался. Компания ответила, что спорные возможности уже есть в других публичных моделях.
Дайджест каждый день
Краткая выжимка ключевых событий — прямо на почту. Без спама, только самое важное.