Стартап намерен выполнять ИИ-инференс из космоса
Стремительное развитие больших языковых моделей вызывает бум дата-центров по всему миру и резкий рост спроса на электроэнергию. Но энергия, необходимая для питания дата-центров, перегружает электросети, заставляя операторов инфраструктуры искать альтернативные источники. Некоторые даже смотрят за пределы Земли.
Одна из компаний, которая обратилась к звёздам в поисках энергии, — Orbital Inc. В середине апреля этот лос-анджелесский стартап вышел из тени и объявил о планах построить космические дата-центры. При поддержке Andreessen Horowitz (A16z) Orbital разрабатывает инфраструктуру для ИИ-инференса — этапа, когда обученная модель генерирует результаты. Как и другие компании, продвигающие космические дата-центры, Orbital делает ставку на «бесплатную» солнечную энергию для питания вычислений при работе с чат-ботами и агентами, обходя земные энергетические ограничения.
«На Земле просто не хватает мощностей, и единственный путь — наверх, — говорит Euwyn Poon, основатель и CEO Orbital. — На самом деле существует изобилие солнечной энергии, которая не используется».
Видение Orbital — это сеть из множества небольших спутников на низкой околоземной орбите. Каждый спутник будет оснащён стойкой с GPU-серверами, питаемой от солнечных панелей размером примерно с теннисный корт, а также радиационными панелями охлаждения сопоставимого размера. Долгосрочная цель — до 10 000 спутников размером с холодильник (каждый мощностью 100 киловатт), образующих распределённое облако, аналогичное концепции AI Sat Mini от SpaceX.
Первый тест Orbital состоится в 2027 году, когда компания планирует запустить прототип спутника на ракете SpaceX Falcon 9, чтобы проверить работу GPU на орбите и выполнить коммерческие задачи инференса. Другая компания, Starcloud, уже провела подобный тест в прошлом году. Отличие Orbital в том, что они намерены сочетать решение с конкретной задачей: небольшие спутники, способные выполнять инференс, могут выиграть от снижения стоимости запуска. Однако перед ними стоят те же трудности, что и перед другими энтузиастами космических дата-центров: каждый ватт «бесплатной» энергии необходимо рассеивать в виде тепла через большие радиационные охладители; радиация на низкой околоземной орбите ухудшает работу вычислительного оборудования; а регулярное обслуживание в космосе затруднено и дорого.
Фокус на инференсе
Poon говорит, что ориентация Orbital на распределённую сеть небольших спутников, предназначенных для выполнения инференса на независимых GPU-узлах, а не на больших тесно связанных системах, делает реализацию более осуществимой. Эта идея определяет конструкцию Orbital. Обучение больших ИИ-моделей обычно опирается на тесно связанные кластеры GPU, оптимизированные для максимальной вычислительной пропускной способности. Задачи инференса, напротив, обычно менее требовательны к вычислениям на один запрос и часто могут выполняться на меньшем количестве GPU, что упрощает их распределение между системами. Ограничение каждого спутника примерно 100 киловаттами, по словам Poon, значительно упрощает конструкцию.
«Всё очень просто, — говорит Poon, имея в виду концепцию инженерной разработки спутников. — Инженеры это оценят».
В конструкции Orbital пользовательский запрос (например, просьба к ChatGPT проанализировать набор данных) направляется из дата-центра на Земле на наземную станцию — ретранслятор, который соединяет спутники с интернетом, а затем передаёт запрос на спутник. Спутники общаются через оптические межспутниковые каналы, использующие лазеры для передачи данных между узлами. Это направляет запрос на доступный GPU, который обрабатывает запрос пользователя и генерирует результат, после чего отправляет ответ обратно через сеть пользователю. Эти каналы зависят от наземных станций, которые связываются со спутниками только тогда, когда те находятся в зоне видимости.
Если спутники докажут свою работоспособность, Orbital намерена привлечь «крупные лаборатории моделей» в качестве клиентов, включая такие компании, как OpenAI и Anthropic, которые выполняют огромные объёмы инференса. Orbital планирует обслуживать их через прямой API-доступ для покупки токенов и корпоративные сделки, перенаправляя нагрузку инференса в свою космическую сеть.
Инженерные вызовы
Poon признаёт, что эксплуатация дата-центров в космосе сопряжена с серьёзными техническими трудностями. Радиация может ударять по GPU и вызывать битовые сбои или другие ошибки. Управление температурой также сложно: в безвоздушном пространстве системы должны отводить тепло в космос, а не использовать обычное охлаждение. Обслуживание — ещё одно ограничение: спутники нельзя легко отремонтировать или заменить в случае неисправности. Именно поэтому Poon говорит, что тестовый запуск будет критически важен для выявления и устранения этих проблем.
«Часть миссии — выяснить неизвестные», — говорит он.
Доктор Амит Верма (Dr. Amit Verma), профессор электротехники в Texas A&M University Kingsville, который исследует моделирование полупроводниковых приборов, высказал схожие опасения. Развёртывание тысяч спутников, по словам д-ра Вермы, увеличивает риск отказов при ограниченных возможностях ремонта. Он добавил, что эксплуатационная целесообразность зависит от приложений, выполняемых на спутниках. В то время как некоторые задачи (например, чат-боты или алгоритмические рекомендации) могут терпеть дополнительные задержки — данные, передаваемые на низкую околоземную орбиту, возвращаются за десятки миллисекунд, — другие, такие как биржевая торговля в реальном времени, этого не выдерживают.
«Космическим дата-центрам, активно использующим ИИ-обработку, безусловно, необходимо преодолеть проблемы с мощностью, развёртыванием и надёжностью, чтобы быть значимыми», — говорит Верма.
Orbital планирует тщательно тестировать оборудование перед запуском. Poon говорит, что его компания изучает возможность радиационного упрочнения GPU и использования аммиачных жидкостных контуров охлаждения для передачи тепла к внешним радиаторам. Снижение массы системы также является приоритетом, чтобы уменьшить стоимость запуска. Даже с учётом этих мер сроки выглядят амбициозными. В посте на Substack, посвящённом космическим дата-центрам, инженер-физик Эндрю Коте (Andrew Côté) прогнозирует, что космические дата-центры не начнут работу как минимум ещё 10–20 лет. Orbital, однако, рассчитывает завершить проектирование спутников к 2026 году, запустить их в 2027 году и построить производственное предприятие в Лос-Анджелесе к 2028 году. Учитывая сложность инженерных задач и высокую стоимость запуска, способность спутниковых систем Orbital надёжно работать в масштабе остаётся открытым вопросом.
Несмотря на эту неопределённость, Poon сосредоточен на долгосрочной перспективе. «Я верю, что наши инженерные усилия смогут начать прогресс в решении этих проблем», — говорит он.