Создатели открытого проекта vLLM объявили, что превратили популярный инструмент в стартап Inferact. Компания привлекла 150 миллионов долларов на seed-раунде при оценке в 800 миллионов.
Инвестиции возглавили Andreessen Horowitz и Lightspeed Venture Partners. Это подтверждает данные TechCrunch о том, что vLLM получила средства от a16z в предыдущем репортаже.
Шаги Inferact похожи на недавнюю коммерциализацию проекта SGLang, который стал RadixArk. По сведениям источников, RadixArk привлекла инвестиции при оценке в 400 миллионов долларов под руководством Accel, как сообщалось ранее на этой неделе.
Внимание в сфере ИИ теперь переходит от обучения моделей к их использованию в приложениях — процессу, который называют inference. Инструменты вроде vLLM и SGLang позволяют запускать ИИ быстрее и дешевле, поэтому они привлекают инвесторов.
Оба проекта появились в 2023 году в лаборатории Университета Калифорнии в Беркли под руководством сооснователя Databricks Иона Стоики.
Генеральный директор Inferact Саймон Мо рассказал Bloomberg, что среди пользователей vLLM есть облачный сервис Amazon и приложение для покупок.