На лабораторном столе Корнеллского технологического института (Cornell Tech) постдокторант Ифань Хэ настраивает линзу оптического приёмника почти в метре от светодиода, излучающего красный свет. Подключённый монитор на мгновение обновляется и показывает матрицу квадратов, напоминающую QR-код.
Если поднести камеру телефона к QR-коду, свет попадает на сенсор лишь как первый шаг к извлечению данных, скрытых за чёрно-белым узором. Здесь же приёмник делает нечто иное: напрямую изменяет собственную память, используя фототоки от спроецированной световой матрицы. И в отличие от QR-кода, который может указывать на простой веб-адрес, этот оптический код способен передавать параметры целой ИИ-модели.
Новую конструкцию приёмника представили в прошлом месяце на симпозиуме IEEE/JSAP по технологии и схемам СБИС. Она призвана облегчить растущую нагрузку на память в системах искусственного интеллекта. По словам разработчиков, передача данных прямо на процессоры с помощью света способна снизить энергопотребление дата-центров, беспилотных автомобилей и даже периферийных устройств, таких как роботы с ИИ.
«Люди проектируют множество разных ИИ-чипов, — говорит Джей-Сан Со, адъюнкт-профессор электротехники и компьютерной инженерии Cornell Tech. — На этих процессорах редко хватает места для всех параметров модели, поэтому дополнительные данные хранятся в динамической оперативной памяти (DRAM).» Электрические соединения, которыми обычно передают данные между DRAM и процессором, становятся узким местом по стоимости и эффективности при масштабировании систем. «Это одно из главных препятствий», — добавляет он.
Оптические каналы передают данные с высокой пропускной способностью и меньшими потерями энергии, чем металлические провода, но современные оптические приёмники сводят на нет это преимущество, полагаясь на энергоёмкие аналоговые схемы для преобразования света в электронные биты. Новый подход исследователей предлагает вместо этого принимать быстрые вспышки цифровых матриц, похожих на QR-коды, чтобы чипы могли менять параметры моделей без аналоговых схем, реализуя полностью цифровую оптическую связь с меньшим потреблением энергии.
«Это действительно важная задача, — отмечает Деннис Сильвестр, действительный член IEEE и заведующий кафедрой электротехники и компьютерной инженерии Мичиганского университета, не участвовавший в работе. — У неё огромный коммерческий потенциал. Такое решение — остроумный способ с ней справиться».
Как свет «переключает» память для работы ИИ
Процессоры обладают небольшим объёмом встроенной статической оперативной памяти (SRAM), но её недостаточно, чтобы ИИ-модель работала автономно. SRAM быстрее, а DRAM позволяет хранить больше данных в том же корпусе.
В новой системе DRAM располагается на стороне передатчика, а приёмник встроен в SRAM процессора. Передатчик проецирует данные на массив ячеек SRAM, модифицированных фотодиодами. Свет, попадающий на каждый фотодиод, создаёт ток, который переключает двоичные значения в памяти.
Для связи между передатчиком и приёмником требуется калибровка, ведь нельзя ожидать идеального выравнивания или перпендикулярности. Поэтому чип использует опорный кадр с информацией об ожидаемом положении каждого пикселя данных и с его помощью гарантирует корректный приём, объясняет Хэ. «В идеале лучше всего, когда между передатчиком и приёмником есть прямая видимость точка-точка, — добавляет Со, — но даже при небольшом наклоне у нас есть схема калибровки».
Для применения в реальных условиях исследователям предстоит построить оптический передатчик, способный обновлять световую матрицу миллионы раз в секунду, передавая гигабиты в секунду. Передатчик, который демонстрировался в лаборатории, — лишь проверка концепции: статичная 14x14-битная матрица проецировалась через металлическую маску. Сейчас команда сотрудничает с группами по оптике, чтобы создать устройство, быстро меняющее матрицу.
Будущее оптических связей с памятью
Сильвестр полагает, что в нынешнем виде технология далека от коммерциализации, поскольку отдельные фоточувствительные битовые ячейки крупнее обычных ячеек SRAM. Увеличенный размер означает меньшую плотность памяти — компромисс, который может свести на нет выигрыш в эффективности от использования света.
Со отмечает, что группа продолжает работать над уменьшением битовых ячеек за счёт оптимизации размеров транзисторов и схем, а также за счёт масштабирования КМОП-технологии.
Разработчики рассматривают применение технологии в робототехнике и других периферийных сценариях. Например, на складах и заводах с ИИ-роботами оптическая передача данных сэкономит время и энергию при обновлении моделей в каждом устройстве. Кроме того, микророботы, ограниченные по памяти из-за своих размеров, однажды смогут воспользоваться этим подходом — хотя для них потребуется более компактная реализация.
«Периферийный ИИ — это огромная область роста, и через три-пять лет о нём будут говорить так же часто, как о дата-центрах, поскольку интеллект всё больше перемещается в наши устройства», — заключает Сильвестр.