Trainium уже приносит Amazon миллиарды на рынке ИИ‑чипов
Сместить Nvidia с позиции доминирующего поставщика чипов для искусственного интеллекта не удаётся ни одной компании, будь то крупный игрок или стартап. Но, по оценке гендиректора Amazon Энди Джесси, сегодня на этом рынке достаточно сотен миллиардов долларов выручки, чтобы даже тот, кто сможет отвоевать лишь часть бизнеса Nvidia, заработал огромные деньги.
На конференции AWS Re:Invent компания представила новое поколение собственного ИИ‑чипа, конкурирующего с Nvidia, — Trainium3. По заявлениям Amazon, он работает в четыре раза быстрее, чем текущий Trainium2, и при этом потребляет меньше электроэнергии. В одном из недавних сообщений в X Джесси поделился несколькими подробностями о текущем поколении Trainium, которые показывают, почему компания так уверена в этом продукте.
По его словам, направление Trainium2 уже «получило значимую рыночную инерцию, вышло на многомиллиардный годовой объём выручки, насчитывает более 1 миллиона чипов в продакшене и свыше 100 тысяч компаний, использующих его, причём он лежит в основе большинства нагрузок Bedrock».
Bedrock — это платформа Amazon для создания и развёртывания ИИ‑приложений, которая позволяет корпоративным клиентам выбирать и комбинировать различные модели искусственного интеллекта.
Джесси объяснил, что ИИ‑чипы Amazon выигрывают у конкурентов среди многочисленных клиентов облака AWS за счёт «привлекательного соотношения цены и производительности по сравнению с другими вариантами GPU». Иначе говоря, Amazon считает, что Trainium обеспечивает лучшую эффективность при меньшей стоимости, чем «другие GPU» на рынке.
Такой подход хорошо вписывается в традиционную стратегию Amazon: разрабатывать собственные технологии, глубоко интегрировать их в свои сервисы и предлагать их клиентам по более низкой цене, чем готовые сторонние решения.
Anthropic как ключевой драйвер спроса на Trainium2
Гендиректор AWS Мэтт Гарман в интервью изданию CRN раскрыл ещё одну важную деталь: значительная часть этих миллиардных доходов связана с одним крупным клиентом. Неудивительно, что речь идёт об Anthropic.
«Мы видим огромный спрос на Trainium2, особенно со стороны нашего партнёра Anthropic. Мы уже объявили о кластере Project Rainier, где более 500 000 чипов Trainium2 помогают им обучать следующее поколение моделей Claude», — рассказал Гарман.
Project Rainier — это крупнейший на сегодня кластер Amazon для ИИ‑нагрузок. Он объединяет множество серверов в нескольких дата‑центрах в США и спроектирован специально для того, чтобы удовлетворять стремительно растущие вычислительные потребности Anthropic. Этот кластер вышел в эксплуатацию в октябре и уже обслуживает обучение и дообучение моделей Claude.
Amazon — крупный инвестор Anthropic. В рамках партнёрства Anthropic сделала AWS своим основным партнёром для обучения моделей. При этом модели Anthropic доступны и в облаке Microsoft, где используются графические процессоры Nvidia.
OpenAI также начала использовать инфраструктуру AWS помимо облака Microsoft. Однако это сотрудничество пока практически не влияет на доходы Trainium, так как в рамках партнёрства AWS для OpenAI задействуются кластеры на базе чипов и систем Nvidia.
Почему конкурировать с Nvidia так сложно
Полноценную конкуренцию Nvidia на рынке ИИ‑чипов могут попытаться составить лишь несколько американских гигантов — Google, Microsoft, Amazon и Meta. У них есть ключевые компоненты: компетенции в разработке собственных кремниевых чипов, экспертиза в создании высокоскоростных межсоединений и сетевых технологий, а также масштаб инфраструктуры для развёртывания этих решений в облаке.
Позиции Nvidia усиливаются ещё и за счёт того, что в 2019 году компания закрыла за собой один из критически важных сегментов высокопроизводительных сетевых технологий. Тогда гендиректор Nvidia Дженсен Хуанг в ходе конкурентной борьбы за активы производителя Infiniband‑оборудования Mellanox предложил цену выше, чем Intel и Microsoft, и в итоге выкупил эту компанию. Это дало Nvidia контроль над ключевой технологией для высокоскоростных ИИ‑кластеров.
Кроме аппаратной части, у Nvidia есть ещё одно стратегическое преимущество — собственная программная платформа CUDA (Compute Unified Device Architecture). Большинство ИИ‑моделей и фреймворков, ориентированных на запуск на GPU Nvidia, опираются именно на CUDA. Эта платформа позволяет использовать графические процессоры для параллельных вычислений и других задач ускоренной обработки.
Как и в старом противостоянии процессорных архитектур Intel и SPARC, перенос сложных приложений на другую платформу — серьёзный барьер. Переписать крупное ИИ‑приложение или модель так, чтобы оно эффективно работало на чипах, не поддерживающих CUDA, — дорогой и трудоёмкий процесс, который многие компании не готовы проходить без очень веских причин.
Стратегия Amazon: совместимость с Nvidia и будущее Trainium
У Amazon есть собственный ответ на эту зависимость от CUDA и доминирование Nvidia. Ранее сообщалось, что следующее поколение ИИ‑чипов Amazon, Trainium4, проектируется таким образом, чтобы работать в одной системе бок о бок с GPU Nvidia. Речь идёт о гибридных конфигурациях, где в одном кластере будут соседствовать чипы Amazon и Nvidia.
Пока неясно, приведёт ли такая стратегия к тому, что часть клиентов действительно начнёт переносить свои нагрузки с GPU Nvidia на Trainium, или же это ещё больше закрепит доминирующее положение Nvidia, но уже внутри облака AWS. Рынок покажет, как распределятся нагрузки между разными типами ускорителей.
Для самого Amazon, возможно, это не принципиально. Если Trainium2 уже вышел на многомиллиардный уровень годовой выручки, а Trainium3 и будущий Trainium4 обещают заметный прирост производительности и эффективности, Amazon может считать такой результат достаточно успешным, даже если Nvidia сохранит статус основного игрока на рынке ИИ‑чипов.