Запуск Sonic Inference Pod
Во вторник компания Runware, занимающаяся инфраструктурой для ИИ, объявила о запуске собственного модульного дата-центра под названием Sonic Inference Pod. Это транспортабельный вычислительный блок, который предлагает более гибкий подход к размещению мощностей, дополняя масштабные проекты гиперскейлеров.
По заявлению Runware, Sonic Inference Pod обеспечивает более качественный инференс при меньших затратах, чем другие бессерверные платформы и GPU-облака. Модульная конструкция позволяет быстро наращивать ёмкость, создавая новые поды, а не расширяя фиксированный дата-центр. «Мы считаем, что распределённые вычисления, расположенные ближе к конечным пользователям для более быстрого инференса, выиграют в долгосрочной перспективе», — отметил Флавиу Рэдулеску, соучредитель и CEO Runware.
Преимущества модульной архитектуры
Помимо низкой цены, Рэдулеску подчеркнул, что система Runware быстро масштабируется, развёртывается в любом месте с доступом к электропитанию и легко адаптируется к новым версиям оборудования. В подах не используется вода — вместо этого применяется замкнутая система охлаждения, монтаж которой занимает дни, а не месяцы или годы, как у традиционных дата-центров. «Спрос на инференс растёт быстрее, чем строятся объекты», — добавил он. «Мы хотим обеспечить вычислительной мощностью весь мир, стать основой для каждой ИИ-модели с пропускной способностью, которая поспевает за спросом, а не ограничивает его».
Развёртывание и клиенты
Сейчас у Runware развёрнуто 10 подов в США, Европе и Азиатско-Тихоокеанском регионе. Компания уже предоставляет инференс нескольким клиентам, включая Higgsfield AI и Wix, и располагает 160 площадками для установки своих подов. В декабре Runware привлекла $50 млн в раунде Series A для создания инфраструктуры, необходимой компаниям для генерации изображений. Расширение на поды — часть основной миссии: предоставлять инференс как услугу, а не просто отдельный продукт.
Конкуренция с гигантами
ИИ-лаборатории, такие как OpenAI и SpaceX, продолжают гонку за строительство дата-центров в США. OpenAI, например, близка к заключению сделки на $500 млрд для создания объекта в Огайо, согласно сообщениям. Однако Рэдулеску не считает такие проекты угрозой для Sonic Inference Pod, указывая на гибкость как ключевое отличие. «Каждый под работает в составе единой сети, поэтому запросы направляются туда, где есть свободные мощности, ближе к пользователям. Если один под выходит из строя, трафик перенаправляется на другой», — пояснил он, добавив, что отказ одного пода не влияет на весь объект. Клиенты, которым требуется выделенное оборудование, могут получить целые поды.
Экологический аспект и будущее
Строительство ИИ-дата-центров — тема неоднозначная, особенно из-за огромного потребления ресурсов. Уже сейчас в сообществах, где они размещены, отмечают рост коммунальных расходов. В Runware видят будущее, где поды смогут работать на возобновляемой энергии и не отнимать ресурсы у населения, но признают, что этот день ещё не настал. Рэдулеску заявил, что потребление энергии ИИ будет расти независимо от того, кто её поставляет, и сейчас важно, как именно удовлетворяется спрос. «Никаких потерь при передаче, в системе охлаждения нет воды, и мы используем уже существующие энергомощности, вместо того чтобы требовать строительства новых сетей. Больше инференса, построенного таким образом, означает меньше новых ЛЭП, меньше воды для того же объёма вычислений».