Ограниченный доступ к новой модели
На этой неделе Anthropic объявила, что не выпускает публично свою свежую модель под названием Mythos. Причина — её высокая способность выявлять уязвимости безопасности в программном обеспечении, от которого зависят пользователи по всему миру.
Вместо открытого доступа компания предоставит Mythos ограниченному кругу крупных фирм и организаций, управляющих ключевой онлайн-инфраструктурой. Среди них Amazon Web Services и JPMorgan Chase.
OpenAI, по данным источников, обдумывает похожий подход для своего следующего инструмента в области кибербезопасности. Суть в том, чтобы крупные предприятия опередили злоумышленников, которые могут использовать мощные языковые модели для взлома защищённого ПО.
Но слово «предприятия» в описании намекает: за стратегией ограниченного релиза может стоять нечто большее, чем просто кибербезопасность или реклама способностей модели.
Сомнения в революционности Mythos
Дэн Лахав, глава лаборатории по ИИ и кибербезопасности Irregular, ещё до анонса Mythos в марте отметил для TechCrunch: обнаружение уязвимостей ИИ-инструментами важно, но реальная ценность дефекта для хакера зависит от множества обстоятельств, включая комбинирование с другими.
«Главный вопрос у меня всегда такой, — сказал Лахав, — нашли ли они что-то, что можно реально использовать по-настоящему серьёзно, отдельно или в цепочке?»
Anthropic утверждает, что Mythos превосходит предшественника Opus в эксплуатации уязвимостей. Однако не факт, что это идеальное решение для всех задач кибербезопасности. Стартап Aisle по ИИ и безопасности сообщил: им удалось повторить многие достижения Mythos на меньших моделях с открытыми весами. Команда Aisle считает: универсальной модели глубокого обучения для кибербезопасности не существует, эффективность зависит от конкретной задачи.
Бизнес-стратегия под видом защиты
Поскольку Opus уже считали прорывом в кибербезопасности, ведущие лаборатории могут ограничивать релизы для крупных клиентов по другой причине: это запускает механизм привлечения корпоративных сделок и усложняет конкурентам копирование через дистилляцию — метод, где фронтирные модели помогают дешево обучать новые языковые модели.
Дэвид Крошоу, инженер-программист и CEO стартапа exe.dev, написал в соцсетях: «Это маркетинговый камуфляж для того, что топовые модели теперь доступны только по корпоративным контрактам и недоступны мелким лабораториям для дистилляции. К тому времени, как Mythos станет общедоступным, выйдет новая топовая версия только для предприятий. Такая гонка сохраняет приток корпоративных денег — главных доходов, — отодвигая дистилляторов на второй план».
Это соответствует тенденциям в экосистеме ИИ: соревнованию между лабораториями, создающими самые мощные модели, и фирмами вроде Aisle, которые комбинируют несколько моделей и видят в открытых языковых моделях — часто китайских, якобы полученных дистилляцией — шанс на экономическое превосходство.
В этом году фронтирные лаборатории ужесточили позицию по дистилляции. Anthropic раскрыла попытки китайских компаний скопировать свои модели, а три лидера — Anthropic, Google и OpenAI — объединились для выявления и блокировки дистилляторов, согласно отчёту Bloomberg.
Дистилляция угрожает бизнес-модели таких лабораторий, поскольку нивелирует преимущества от огромных вложений в масштабирование. Блокировка дистилляции полезна сама по себе, а выборочный релиз усиливает дифференциацию корпоративных предложений в растущем сегменте прибыльного развёртывания.
Ответственный подход или хитрый ход?
Повлияет ли Mythos или другая новая модель на безопасность интернета — покажет время, а осторожный запуск технологий выглядит разумным шагом.
Anthropic на момент публикации не ответила на вопросы, связан ли выбор также с рисками дистилляции, но компания, похоже, придумала умный способ защитить сеть — и свою прибыль.