Тревога CEO Amazon и реакция правительства
Генеральный директор Amazon Энди Джесси мог стать тем источником опасений по безопасности, из-за которых Anthropic в пятницу отключила глобальный доступ к двум своим моделям.
Издание Wall Street Journal сообщает, что Джесси во время бесед с министром финансов Скоттом Бессентом и другими чиновниками рассказал, как исследователи Amazon с помощью Claude Fable 5 получили информацию, применимую для кибератак. Правительство после этого ввело запрет на экспортный контроль для моделей Fable 5 и Mythos 5.
Представитель Amazon в официальном комментарии пояснил: запросы государства по части потенциальных рисков безопасности — обычная практика, однако компания не раскрывает детали подобных консультаций.
Также спикер сослался на уведомление о том, что отключение моделей затронуло инфраструктуру AWS.
Другие источники и позиция Белого дома
The Information и Reuters также передали, что Amazon — ключевой инвестор Anthropic — выражал обеспокоенность безопасностью моделей разработчика. Известно, что ранее Anthropic привлекла от Amazon 5 миллиардов долларов, пообещав взамен потратить 100 миллиардов на облачные сервисы.
Дэвид Сакс, бывший «ИИ-царь» Трампа, а теперь сопредседатель Президентского совета советников по науке и технологиям, представил свою версию событий. По его словам, «высоконадёжный доверенный партнёр Anthropic и правительства США» сообщил об успешном джейлбрейке модели. Сакс добавил, что администрация просила CEO Anthropic Дарио Амодея исправить уязвимость или отозвать модель, но получила отказ.
Сама Anthropic в корпоративном блоге заявила, что способности, которые якобы вызвали тревогу властей, уже доступны в других публично распространяемых моделях.