Свежая статья ученых из Колумбийского университета, Нью-Йоркского университета и стартапа Distyl, где одним из соавторов выступил Ян ЛеКун, ставит под сомнение идею AGI. По их мнению, человеческий разум не универсален, а заточен под конкретные задачи. Взамен предлагается концепция сверхчеловеческого адаптивного интеллекта.
Термин AGI заполонил дискуссии об ИИ, однако новая публикация от исследователей Колумбийского университета, NYU и Distyl называет его скорее помехой, чем ориентиром. Среди авторов — известный специалист Ян ЛеКун.
Основная идея проста: человеческий интеллект вовсе не всеобъемлющ, а эволюционно специализирован, и мы не замечаем своих слабых мест. Авторы приводят пример чемпиона по шахматам Магнуса Карлсена: «Магнус Карлсен не объективно силен в шахматах, он силен по меркам человеческих возможностей». Сравнивая с компьютерами, его навыки лишь подчеркивают границы человеческого потенциала. «Наше восприятие его мастерства искажено нашими же ограничениями».
Работа разбирает популярные определения AGI и находит их несостоятельными
Авторы последовательно разбирают типичные определения AGI и приходят к выводу, что ни одно не соответствует своим же критериям. Те, что обещают настоящую универсальность, противоречат теореме «Нет бесплатного обеда», согласно которой ни один алгоритм не может идеально работать на всех задачах. Определения, привязанные к человеческим возможностям, по сути не универсальны. Другие, например от OpenAI или Демиса Хассабиса из DeepMind, либо невозможно проверить, либо содержат внутренние противоречия, считают исследователи.
Ранее Демис Хассабис и Илон Маск возражали против похожих идей, подчеркивая разницу между общим и универсальным интеллектом. Хассабис отмечал: «Мозг — самое изысканное и сложное явление во Вселенной (пока что), и он крайне универсален». Авторы возражают: даже в идеальных условиях человеческий мозг охватывает лишь «бесконечно малую долю» возможных задач. «Мы кажемся универсальными, потому что не видим своих слепых зон, а не потому что их нет».
Авторы продвигают идею адаптивности вместо универсальности
Вместо AGI авторы вводят понятие «Сверхчеловеческий адаптивный интеллект» (SAI) — систему, которая «может научиться превосходить людей во всем значимом, что мы умеем, и закрывать пробелы, где люди бессильны». Главное здесь — не перечень умений, а скорость освоения новых задач.
С технической стороны публикация выделяет обучение с самонадзором и модели мира как наиболее перспективные направления, а не авторегрессионные языковые модели. В последних ошибки «экспоненциально растут с длиной предсказания». Исследователи критикуют доминирование архитектур в стиле GPT: «Однообразие тормозит исследования».
Статья призывает принимать специализацию, а не бороться с ней, и оценивать прогресс ИИ по скорости и надежности появления новых навыков, а не по сходству с человеческим поведением.