Запрет на экспорт моделей ИИ от Anthropic
В прошлую пятницу, сославшись на неназванные угрозы национальной безопасности, Белый дом приказал Anthropic ограничить экспорт мощных ИИ-моделей Fable и Mythos за пределы США, а также для иностранных граждан внутри страны. Вскоре после этого ИИ-гигант поспешно отключил обе модели, и они остаются недоступными уже неделю.
Этот случай стал первой реальной проверкой того, может ли правительство США использовать экспортный контроль для сдерживания передового ИИ — как оно пыталось, с весьма неоднозначными результатами, ограничивать шифрование и шпионское ПО ранее. И, как бы драматично это ни звучало, исход этого противостояния может определить не только доступ Anthropic к зарубежным рынкам, но и правила игры для других ИИ-лабораторий.
Что привело к запрету Mythos
С тех пор как Anthropic запустила Mythos в апреле, компания рекламировала её как некую «машину Судного дня» для киберпространства, способную нанести ущерб интернету при слишком широком распространении. Именно поэтому до запрета доступ к ней имели лишь около 150 проверенных компаний и государственных организаций. Целью было помочь защитникам укрепить своё ПО и сервисы, прежде чем злоумышленники получат аналогичные возможности.
Так что же спровоцировало запрет? Сообщается о двух событиях. Во-первых, Anthropic предоставила доступ к Mythos южнокорейскому телекоммуникационному оператору в рамках ограниченной партнёрской программы, и американские чиновники забили тревогу, идентифицировав компанию как подозреваемую в связях с Китаем. (Компания, по имеющимся данным, — SK Telecom, — отрицает любые связи с Китаем.) Во-вторых, генеральный директор Amazon Энди Джесси, по сообщениям, предупредил администрацию после того, как исследователи Amazon нашли способ обойти защиту Fable 5. Anthropic оспаривает ярлык «взлома», называя это узкой, уже исправленной проблемой, а не полным поражением защитных мер модели.
Результат оказался одинаковым: Министерство торговли выпустило директиву об экспортном контроле, и Anthropic пришлось в срочном порядке, по некоторым данным, в течение примерно 90 минут после уведомления, ограничить доступ к своим продуктам.
Crypto Wars: как правительство пыталось запретить PGP
Всё это отнюдь не ново. Правительства десятилетиями пытались использовать экспортный контроль для ограничения распространения опасных, по их мнению, кибертехнологий, но их успехи были в лучшем случае посредственными.
В начале-середине 1990-х правительство США стояло за, пожалуй, самой впечатляющей неудачей такого подхода. Тогда компьютерные учёные разрабатывали технологии шифрования для безопасной передачи данных через интернет. Одним из таких продуктов была программа Pretty Good Privacy, или PGP, — популярное ПО, способное зашифровать данные так, что расшифровать их было практически невозможно, даже при перехвате.
Власти поначалу сочли PGP опасным оружием, опасаясь, что оно помешает спецслужбам перехватывать электронные письма. Чтобы остановить распространение, Таможенная служба США начала уголовное расследование против создателя PGP Фила Циммермана по подозрению в нарушении правил экспорта вооружений. В ответ он опубликовал исходный код PGP в виде печатной книги, развязав то, что сегодня известно как «криптовойны» (Crypto Wars).
Циммерман одержал важную победу, когда расследование было закрыто, открыв путь для ключевых алгоритмов сквозного шифрования, которыми сегодня пользуются миллиарды пользователей Signal и WhatsApp.
Шпионское ПО и Вассенаарские соглашения
В начале 2010-х исследователи начали обнаруживать шпионское ПО западного производства, использовавшееся против диссидентов на Ближнем Востоке. В ответ несколько правительств договорились расширить Вассенаарские соглашения — международный договор, ограничивающий экспорт технологий двойного назначения (используемых как в гражданских, так и в военных приложениях).
Идея заключалась в том, чтобы классифицировать программы для слежки и взлома как товары двойного назначения, обязывая производителей шпионского ПО получать экспортные лицензии для продажи своей продукции за рубеж. Однако у Вассенаара всегда было два принципиальных недостатка. Во-первых, ряд стран не присоединились к соглашению, включая Израиль, где базируются одни из самых активных создателей шпионского ПО. Во-вторых, применение соглашения зависит от того, насколько добросовестно страны вводят его для компаний на своей территории. Так, итальянское правительство одно время позволяло одному из ведущих производителей шпионского ПО, Hacking Team, экспортировать свои инструменты по всему миру, несмотря на неоднократные случаи поставок репрессивным режимам, которые использовали его для слежки за журналистами и правозащитниками.
С тех пор и другие европейские страны проявляли попустительство в отношении производителей шпионского ПО. Несмотря на многочисленные скандалы, Европа, где расположено немало разработчиков инструментов для слежки, не смогла эффективно ограничить экспорт шпионского ПО в авторитарные государства. Критики утверждают, что недавно возобновлённые усилия 27 стран-членов ЕС по решению этой растущей проблемы «недостаточны».
Некоторые производители шпионского ПО, например консорциум Intellexa, находящийся под санкциями, просто перенесли свои операции в страны с мягким экспортным контролем. Другие пытались перевести деятельность в Саудовскую Аравию по схожим причинам.
Были и успехи. Немецкий разработчик шпионского ПО FinFisher прекратил работу в 2022 году после многолетнего расследования немецкой прокуратуры в связи с предполагаемой продажей шпионского ПО Турции без экспортной лицензии. Ранее выяснилось, что программы FinFisher устанавливались на телефоны критиков турецкого правительства.
Тупик и уроки истории
На момент написания статьи противостояние между Anthropic и администрацией Трампа продолжается. Вполне вероятно, что администрация отступит и снимет ограничение, дабы сохранить конкурентоспособность американских ИИ-компаний в мире — что означало бы молчаливое признание того, что лаборатории в других странах, включая Китай, скорее всего, достигнут аналогичных возможностей независимо от ограничений США. Или же американским ИИ-компаниям может потребоваться получать разрешение правительства перед обслуживанием иностранных клиентов, что неизбежно скажется на их доходах.
Учитывая прошлый опыт правительств по контролю за распространением ПО, государственные экспортные ограничения вряд ли окажутся верным способом помешать злоумышленникам злоупотреблять мощными технологиями двойного назначения.