Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

Новости

Новый стартап Навина Рао обещает 1000-кратную экономию энергии

Бывший руководитель AI в Databricks Навин Рао запустил Unconventional AI, представив модель Un0 на новой осцилляторной архитектуре. Компания утверждает, что такой подход сократит энергопотребление инференса в 1000 раз. Стартап планирует выпустить реальный чип и построить полный стек инференса, что может решить проблему нехватки энергии для масштабирования ИИ.

вчера
1 мин
40

Новый ИИ-стартап обещает революцию в энергоэффективности

Стремление открыть следующую большую вещь в ИИ профинансировало немало весьма амбициозных проектов, но одна компания использует эту возможность, чтобы перестроить компьютерную архитектуру с нуля.

Под руководством Навина Рао, ранее возглавлявшего направление ИИ в Databricks, стартап Unconventional AI обещает сделать обработку инференса значительно более энергоэффективной. Секретное оружие: новый вид компьютерной архитектуры на основе осцилляторов (генераторов колебаний).

В четверг компания выпустила свою первую модель ИИ, получившую название Un0, — инструмент для генерации изображений, который впервые демонстрирует, как технология Unconventional может воспроизводить обычные системы ИИ. В сопровождающей новой научной статье исследовательская группа детально описывает, как они построили полностью функциональную модель для генерации изображений с помощью программной симуляции новой архитектуры — модель, которая работает не хуже, чем самые современные диффузионные модели.

«Это „hello world“ нового типа компьютеров, — заявил Рао TechCrunch. — В течение следующего года вы начнёте видеть довольно интересные новости на этот счёт».

Как работает модель Un0 на осцилляторах

Результаты, которые выдаёт новая модель Un0, схожи с результатами таких моделей генерации изображений, как Stable Diffusion или OpenAI GPT Image 1. Впечатляющая часть — то, как она достигает такой производительности. Модель построена на осцилляторной архитектуре, которая полностью отличается от чипов, которые питают обычные вычисления и традиционные LLM. Преимущества вычислений на осцилляторах сложны, но Рао верит, что в конечном счёте это сократит энергопотребление в целых 1000 раз.

От симуляции к реальным чипам

Большая часть инфраструктуры, необходимой для достижения этой цели, ещё строится. Текущая версия Un0 работает на программной симуляции осцилляторных чипов Unconventional, но компания планирует вскоре выпустить схемы для реального чипа. Оттуда план состоит в том, чтобы построить полный стек для инференса с нуля, и Unconventional AI в итоге будет предоставлять вычислительные мощности точно так же, как любой другой провайдер.

«Мы построим новый вид системы, состоящей из наших чипов, — говорит Рао. — Мы будем запускать на ней модели ИИ, и у нас будет сетевой кабель, куда поступают запросы и откуда выходят результаты инференса, но это будет делаться при мощности в 1/1000 от обычной».

Энергия как главное ограничение масштабирования ИИ

Это потрясающе амбициозная цель, особенно для компании, в которой работает менее 50 сотрудников. Но учитывая масштаб развёртывания ИИ и предполагаемую стоимость удовлетворения растущего спроса на инференс, это может быть одной из немногих попыток, соответствующих масштабу проблемы. Как видит это Рао, доступное энергоснабжение станет одним из жёстких ограничений для ИИ в ближайшие годы — и Unconventional — один из немногих проектов, способных решить эту задачу.

«Масштабирование ИИ затруднено из-за энергии. Это станет фундаментальным ограничением в ближайшие несколько лет. Вы просто не сможете его обойти. В конечном счёте это будет проблема, ограниченная энергией», — говорит он.