Три года назад сооснователь Luminal Джо Фиоти занимался разработкой чипов в Intel и пришел к важному выводу. Хотя он стремился создавать наиболее эффективные аппаратные решения, настоящим узким местом оказывался программный аспект.
«Можно разработать самое передовое оборудование в мире, но если разработчикам сложно с ним работать, они просто не станут его использовать», — отметил он.
В настоящее время Фиоти основал компанию, которая полностью сосредоточена на решении этой задачи. В понедельник Luminal объявила о привлечении 5,3 миллиона долларов в рамках посевного раунда, возглавляемого Felicis Ventures, с участием ангельских инвестиций от Пола Грэма, Гильермо Рауча и Бена Портерфилда.
Сооснователи Фиоти — Джейк Стивенс из Apple и Мэтью Гантон из Amazon, — а компания вошла в летний батч Y Combinator 2025 года.
Основной бизнес Luminal довольно прямолинеен: фирма предоставляет вычислительные ресурсы, подобно таким нео-облачным провайдерам, как Coreweave или Lambda Labs. Однако, в отличие от них, Luminal акцентирует внимание на методах оптимизации, позволяющих извлекать больше производительности из имеющейся инфраструктуры. В частности, компания работает над улучшением компилятора, который связывает написанный код с аппаратным обеспечением GPU — именно эти системы ранее создавали проблемы для Фиоти на предыдущей работе.
На данный момент ведущим компилятором в отрасли является система CUDA от Nvidia — недооцененный фактор в стремительном успехе этой компании. Многие компоненты CUDA имеют открытый исходный код, и Luminal рассчитывает, что в условиях дефицита GPU на рынке создание дополнительных элементов стека принесет значительную ценность.
Это часть растущей группы стартапов, специализирующихся на оптимизации инференса, которые набирают популярность по мере того, как предприятия ищут более быстрые и экономичные способы запуска своих моделей. Провайдеры инференса, такие как Baseten и Together AI, давно фокусируются на оптимизации, а более мелкие игроки вроде Tensormesh и Clarifai начинают предлагать узкоспециализированные технические решения.
Luminal и другие участники этой группы столкнутся с жесткой конкуренцией со стороны команд по оптимизации в крупных лабораториях, которые имеют преимущество в настройке под конкретные семейства моделей. Работая с клиентами, Luminal приходится адаптироваться к любым поступающим моделям. Тем не менее, несмотря на риск отстать от гиперскейлеров, Фиоти уверен, что рынок развивается достаточно динамично, чтобы не вызывать беспокойства.
«Всегда можно потратить полгода на ручную настройку архитектуры модели под конкретное оборудование, и в таком случае вы, вероятно, превзойдете любые возможности компилятора», — говорит Фиоти. «Но наша главная ставка заключается в том, что для всех остальных сценариев универсальное решение все еще обладает высокой экономической ценностью».