Исследователь Microsoft и Йоркского университета Адриан де Винтер создал работающую нейросеть внутри редактора карт легендарной стратегии Age of Empires II. На первый взгляд — забавный эксперимент, но на деле это серьёзная критика методов, которыми часто пользуются в исследованиях больших языковых моделей.
Конструкция выглядит абсурдно. Козы выступают в роли битов: коза на траве — это 0, коза на мосту — 1. Логические вентили де Винтер собирает с помощью скриптовых инструментов редактора сценариев, а ледяные пандусы с ожидающими козами не дают вычислениям запутаться. Итоговая мини-сеть состоит из двух элементов XNOR и одного AND и обучается логической функции AND.
В приложении к работе де Винтер идёт дальше. Он доказывает, что в теории на идеализированной версии игры можно воспроизвести любой компьютер, то есть игра по вычислительной мощности не уступает полноценной машине.
Всё это становится возможным благодаря особенности игровой механики. Внутриигровой рынок позволяет обменивать ресурсы на золото, а цена ограничена значением 9 999. Как утверждается в статье, это создаёт вечный экономический цикл, в котором здания играют роль ячеек памяти, а активные фермы отражают текущее состояние вычислений.
Большой Бостон как языковая модель
Если можно воссоздать языковую модель в Age of Empires II, рассуждает де Винтер, значит, то же самое можно сделать и с кубиками Lego. Или с 667 тысячами жителей Большого Бостона, обменивающимися вычислительными шагами через сообщения на телефонах.
Ответы будут такими же, как у воспроизведённой модели. С помощью этого мысленного эксперимента де Винтер показывает, насколько зыбки подобные приписывания: разве кто-нибудь заявит, что Бостон как город испытывает эмпатию или страх только потому, что его жители выполняют математические операции, лежащие в основе языковой модели?
В этом и заключается главная мысль. Ощущение «человечности» чат-бота сводится к упаковке: низкая задержка, плавная речь, привычное окно чата. Замените эту обёртку на коз, блуждающих по лабиринту, — входные и выходные данные не изменятся, но чувство, что вы с кем-то разговариваете, исчезнет.
Де Винтер не утверждает, что модели действительно обладают такими качествами внутри. Он говорит: LLM не уникальны. Это один из способов выполнить определённый вид вычислений, и он просто выглядит как нечто, с чем людям хочется общаться.
Более половины изученных работ повторяют эту ошибку
Чтобы доказать, что проблема не единична, де Винтер проанализировал 315 научных статей по ИИ за период с середины 2024 по середину 2026 года, собранных через Semantic Scholar и arXiv и отфильтрованных с помощью GPT-5.2. Согласно анализу, в 57% работ уже в исходных предпосылках закладывалось, что LLM обладают человеческими чертами. 36% пришли к аналогичным выводам. Из 47 статей, непосредственно посвящённых изучению таких черт, 77% заключили в пользу антропоморфных атрибутов.
Суть критики формальна. Если исследователь предполагает, что модель обладает страхом, моралью или самосознанием, а затем разрабатывает эксперимент, призванный доказать именно эту черту, — рассуждение становится круговым. Посылка и результат смыкаются в одной логической точке.
Если эксперимент даёт отрицательный результат, невозможно определить, было ли неверным предположение, некорректным эксперимент, или и то и другое. В любом случае результат не подтверждает исходную посылку — он просто неоднозначен.
Подобное часто происходит незаметно. Статья, ставящая целью опровергнуть способность модели объяснять себя, уже изначально предполагает, что внутри модели есть некое «я», способное к объяснению.
Индустрия активно подпитывает этот эффект. Компания Anthropic открыто заявляла, что специально обучала Клода использовать фразы вроде «я считаю» или «меня интересует». Де Винтер указывает на риски такого очеловечивания: оно может провоцировать эмоциональную привязанность, подхалимство, укрепление ложных убеждений и опасное поведение. В единичных случаях самоубийства связывали с взаимодействием с чат-ботами.
Наблюдай, а не приписывай
Де Винтер предлагает трезвый подход: держаться строго того, что можно наблюдать. При условии X модель выдаёт результат Y — и не нужно утверждать, что модель «понимает себя». Такие формулировки проверяемы и сами по себе не оправдывают масштабных приписываний вроде самосознания, понимания или страха.
Завершает работу обновлённая версия канона Моргана — принципа из зоопсихологии XIX века. Поведение машины никогда не следует объяснять высшими когнитивными процессами, если работает более простое объяснение. Код своей постройки в Age of Empires де Винтер выложил в открытый доступ.
Эссе читается как прямое возражение двум громким случаям последних лет. В 2022 году инженер Google Блейк Лемуан публично заявил, что языковая модель LaMDA обрела подобие сознания, после тысяч сообщений в переписке с ней. Google вскоре уволил его и после тщательной проверки назвал обвинения безосновательными. Затем, в мае 2026 года, Ричард Докинз — известный критик религиозного и сверхъестественного мышления — вызвал переполох схожим выводом. Он заявил, что три дня пытался убедить себя, что Клод от Anthropic не обладает сознанием, но не смог.