Найденный код ELIZA: первый чат-бот имел множество личностей

Создатель ELIZA Джозеф Вейценбаум не ожидал, насколько глубоко пользователи погрузятся в диалог с его довольно простой программой. Первая в истории «звезда ИИ» — доброжелательный терапевт в виде чат-бота — мягко расспрашивала собеседников об их переживаниях. Сам Вейценбаум был удивлён тёплым приёмом своего эксперимента по общению человека с машиной. Одни видели в нём начало автоматизированной психотерапии, другие верили, что программа обладает сознанием — эта иллюзия вскоре получила название «эффект ELIZA». По опубликованным описаниям ELIZA воспроизводили на множестве компьютеров, но лишь недавно настоящий исходный код был извлечён из архивов MIT.

В книге Inventing ELIZA: How the First Chatbot Shaped the Future of AI, только что вышедшей в издательстве MIT Press, группа исследователей анализирует код и показывает, что сложная программа была способна на гораздо большее, чем имитация психиатрии. На самом деле она могла принимать несколько разных личностей. Авторы также создали точную эмуляцию терапевтической маски, которую вы можете опробовать самостоятельно после знакомства с отрывком из книги.

Когда в середине 1960-х появилась программа ELIZA, она перевернула представление о взаимодействии с компьютерами. Первый чат-бот показал, что вычислительная машина может поддерживать беседу, и породил множество социальных и технических вопросов, не потерявших актуальность до сих пор. Сегодня нас не удивляет общение с машиной в реальном времени, переписка или голосовые запросы о погоде. Во многом ELIZA определила не только то, как мы взаимодействуем с компьютерами, но и как мы думаем о них. Она начала воплощать в жизнь сюжеты научной фантастики, формируя наши ожидания от вычислительных устройств.

Хотя ELIZA была далека от идеального собеседника, она поражала своих пользователей. Недавнее обнаружение и своеобразная «археология» исходного кода ELIZA стали значительным событием в истории вычислительной техники. Изучая реальную реализацию, а не полагаясь на поздние реконструкции, мы пересматриваем устоявшиеся предположения об этом ключевом программном артефакте.

Например, исходный код показывает, что ELIZA была не просто примитивным чат-ботом с сопоставлением шаблонов, а скорее сложной платформой, рассчитанной на несколько «личностей», или сценариев, с богатым набором возможностей — включая редактирование сценариев и контекстную память. Сценарий, который большинство отождествляет с программой ELIZA, на самом деле назывался Doctor и исполнял роль психотерапевта. Однако, подобно современному чат-боту, которому можно задать разные характеры, ELIZA умела переключаться между многими ролями.

«Этот код и сценарий вскрывают глубинные предположения о языке, терапии и взаимодействии человека с компьютером, которые продолжают влиять на современную разработку ИИ».

Найденные материалы меняют наше понимание раннего развития ИИ, показывая, что технические инновации Джозефа Вейценбаума были гораздо более продвинутыми, чем считалось ранее. Более того, расхождения между его опубликованными описаниями и реальной реализацией помогают увидеть разрыв между теоретическими вычислительными моделями и их материальным воплощением в исходном коде — напряжение, которое по-прежнему формирует современную цифровую культуру.

Хотя с тех пор появилось множество технических новшеств, изучение кода ELIZA/Doctor даёт редкую возможность заглянуть в одну из первых формализованных попыток моделирования человеческой беседы. ELIZA интересна не только историческим значением, но и тем, что она раскрывает взгляды Вейценбаума на вычисления и взаимодействие людей. Код и сценарий не просто демонстрируют приёмы программирования 1960-х — они выявляют скрытые допущения о языке, терапии и диалоге с машиной, которые до сих пор сказываются на разработке ИИ. Читая строки, мы начинаем распутывать утончённые лингвистические и программные методы, позволявшие элементарной системе сопоставления шаблонов создавать убедительную иллюзию понимания. Но сначала дадим общее описание системы.

Как ELIZA создавала личности?

Архитектурное разделение между ELIZA и Doctor — важное проектное решение в истории ИИ. Представьте ELIZA как систему взаимодействия, а Doctor — как один из наборов правил, разработанных Вейценбаумом, наряду с другими. Эта дихотомия «система-сценарий» предвосхитила множество современных программных шаблонов: от конфигурации как данных до подключаемых архитектур и предметно-ориентированных языков.

Без сомнения, исторический контекст вычислений 1960-х фундаментально определил архитектуру ELIZA. Решения, отражавшие материальные ограничения, создают зависимость от пройденного пути и со временем становятся культурными нормами программирования. В ELIZA эти ограничения проявились в однопроходной обработке, хранении на магнитной ленте и стековой реализации. Но и внутри этих рамок Вейценбаум создал элегантное решение. Технические особенности, невидимые пользователям, оказались решающими для создания иллюзии понимания, делавшей ELIZA такой притягательной.

Многие технические черты Вейценбаум описал в статье на 10 страницах, опубликованной в январском номере журнала Communications of the Association of Computing Machinery за 1966 год (CACM). Однако некоторые важные детали он намеренно опустил.

В той статье Вейценбаум опубликовал самый известный диалог ELIZA, который начинается так:

Этот диалог, представленный публике в 1966 году как один из примеров работы сценария Doctor, стал дебютом ELIZA. Обнаружив исходный код ELIZA и проанализировав, как он выполняет сценарий Doctor, мы теперь лучше понимаем две отдельные части системы и можем изучить многие другие маски ELIZA. Судя по известным на сегодня сценариям, ELIZA умела обсуждать математику, поэзию, цвет, парадоксы, синхронизацию, относительность, Францию и лифты.

Эти сценарии работают как шаблоны — структурированные данные, указывающие системе ELIZA, какую задачу или роль «проигрывать». Сравнивая архивные и опубликованные диалоги ELIZA при работе с разными сценариями, включая Doctor, мы глубже понимаем природу бот-персон и то, как они вызывают социальную динамику между системой и собеседником.

В конечном счёте изучение диалогов и сценариев демонстрирует решающую роль сотрудничества: бот и пользователь совместно создают ощущение осмысленного разговора. Чтобы охватить весь спектр возможностей и бесед, посмотрим на разнообразие сценариев, созданных для ELIZA.

Каждый сценарий ELIZA отличается как тематикой, так и лингвистическими и стилистическими решениями. Эти решения не нейтральны; можно сказать, что они конструируют определённую личность с характеристиками, которые проступают через языковые шаблоны, словарь и манеру общения. Короче говоря, важно не только то, что говорится, но и как.

«Целью было не столько создание работающего автоматического терапевта, сколько поиск подходящей ограниченной роли, соответствующей ограничениям программной среды».

Например, в сценарии Doctor Вейценбаум намеренно воспроизвёл стиль роджерианского «разговорного» терапевта. Он выбрал эту роль, потому что психиатрический модус — один из немногих видов беседы, в которой человек может «принять позу незнания почти ничего о реальном мире. Если, скажем, сказать психиатру: “Я отправился в долгую лодочную прогулку”, и он ответит: “Расскажите о лодках”, — никто не решит, что он ничего не знает о лодках, но предположит, что у него была какая-то цель направить последующий разговор».

Таким образом, самая знаменитая маска ELIZA родилась из технического удобства. Как поясняет эксперт по взаимодействию человека с компьютером Люси Сачмен, «программа Doctor эксплуатировала правило, что общие предпосылки могут оставаться невысказанными: чем меньше мы говорим в разговоре, тем более самоочевидным считается сказанное». В создании первоначального эффекта ELIZA принцип «меньше значит больше» работал безотказно.

Целью было не столько создать работающего автоматического терапевта, сколько найти достаточно ограниченную роль, соответствующую возможностям среды программирования. Затем Вейценбаум сочинил сценарий, подбирая слова, задающие риторический тон и характер; например, LET’S DISCUSS FURTHER WHY YOU … WHAT DOES THAT SUGGEST TO YOU. В Doctor машина должна выглядеть хорошим слушателем, которому важно то, о чём говорил пользователь, поэтому она часто вставляет текст собеседника в свои ответы и оставляет реплики открытыми. Поскольку настоящий врач был бы любознателен, сценарий изобилует вопросами WHAT и WHY. В других сценариях и диалогах ключевые слова и назначенные ответы раскрывают проектные решения, помогающие создавать разные личности. Эта вариативность становится всё более очевидной по мере знакомства с более широким спектром сценариев ELIZA.

Какие у ELIZA были альтернативные личности?

Начнём со сценария под названием Neweng, сокращённо от New England. К середине 1950-х учёные уже воспринимали тезис Тьюринга о беседе с компьютером как осязаемую идею. В 1959 году «разговорная машина», созданная небольшой командой в Вычислительном центре Университета Торонто, могла поддерживать светскую беседу о погоде, если ей заранее сообщали текущие данные. Её сценарий включал ранжированные ряды слов, связанных со временем, погодой и эмоциями, но система обладала «довольно узким кругозором», ограниченным словарём и не знала синтаксиса. По словам создателей, «несмотря на эту примитивность, результаты в приемлемой беседе оказались на удивление хорошими, что в некотором смысле говорит о поверхностности обычного разговора о погоде».

Один из тестовых сценариев ELIZA, найденный в архиве, выполнял сходную функцию. Neweng не успокаивает, не лечит и не наставляет — он просто ведёт лёгкую беседу, как на скучном званом ужине.

Чему же учит такой простой диалог, в котором, казалось бы, не сообщается ничего интересного? Несмотря на пресную беседу, из сценария бота проступает личность — в выражениях вроде PLEASANTLY COOL и UP THERE, в упоминаниях THE BEACHES ON LONG ISLAND SOUND. По таким комментариям можно представить персону с определённым словарём, хобби и местами отдыха. Возможно, всплывают и неявные представления о расе и социальном классе.

Болтливый персонаж мог бы принимать разные формы в зависимости от места и времени разговора. Этот кажется сдержанным, что, вероятно, соответствует обстановке Новой Англии 1960-х. Система напоминает пользователю, что Миссури не относится к Новой Англии, но что если бы беседа происходила в Миссури, Техасе или Мексике? Машинный персонаж звучал бы иначе по ритму, тону и отсылкам. Что мы поняли бы о собеседнике с Файер-Айленда, из Бруклина, из Берлина? Как бы они говорили и какие темы обсуждали?

Различия в предметах разговора действительно важны. Они подразумевают личности с совершенно разным происхождением и опытом, предлагая пользователям совершенно разные типы взаимодействия и эмоциональных отношений. Так сценарий Neweng показывает, как даже простые алгоритмы, делающие контекстуальные реплики о географии, могли породить убедительное ощущение личности и привязанности к месту. Если Neweng можно назвать создателем непринуждённой, разговорной маски, ориентированной на лёгкий социальный обмен, другие сценарии переводили ELIZA в более структурированные и образовательные роли. Эти сценарии демонстрируют, как систему можно адаптировать не только для дружеской болтовни, но и для обучения.

Знакомьтесь: ELIZA-учитель — совсем не похожа на ELIZA-терапевта или болтливого соседа. Intrvw, Canvec, FVP1 и Arithm — это набор сценариев ELIZA, созданных в качестве учебных инструментов и использовавшихся в экспериментах Эдвина Ф. Тейлора в Образовательном исследовательском центре MIT. Эти сценарии работают на более поздних версиях ELIZA, в которые добавили важное техническое новшество — условное сопоставление ключевых слов.

В отличие от исходной ELIZA, которая просто искала ключевые слова и генерировала ответы на основе их наличия, обновлённые версии могли отслеживать, что обсуждалось ранее, и ветвиться по разным линиям диалога в зависимости от конкретных ответов пользователя. Это позволило ELIZA имитировать подобие сократовского метода, когда преподаватель направляет обучение через тщательно выстроенную последовательность вопросов, реагирующих на ответы студента, а не просто излагает информацию.

Эти сценарии конструируют образ учителя через множество тонких языковых жестов, создающих характеризацию и риторический тон. Этот тон отличается от манеры Doctor, задававшего открытые вопросы и звучавшего мягко и ненаучно. В учебных сценариях в беседе, как правило, доминируют большие блоки информативного текста от бота, а тон объяснений часто более сухой и безэмоциональный. Диалоги указывают на структурированность сценариев, включающих направляющие подсказки, чтобы вести студента по узким сократовским путям обучения.

Особенностью учебных сценариев являются похвала и критика. Диалоги Intrvw, Canvec и FVP1 усыпаны фразами EXCELLENT, VERY GOOD, RIGHT YOU ARE и CONGRATULATIONS. Они создают ощущение поддерживающего инструктора, подбадривающего студента. Такая вежливость была подхвачена современными ботами вроде ChatGPT, чья работа улучшается, когда люди вежливы в ответ.

ELIZA могла становиться более эффективным учителем по мере роста своих возможностей — ещё одно важное напоминание, что ELIZA была не одной программой, а семейством программ. После публикации статьи в CACM в 1966 году Вейценбаум продолжил развивать системы для взаимодействия и понимания. В качестве эксперимента он написал сценарий Arithm скорее не как учителя, а чтобы «продемонстрировать мощь вычислительного механизма, к которому имеет доступ ELIZA». Сценарий использует дружественный, понятный языковой интерфейс, позволяющий пользователям заниматься простым программированием: он может выполнять расчёты, присваивать переменным значения и производить над ними операции. Математические задачи описываются в виде предложений:

Обновлённая версия системы ELIZA 1967 года способна накапливать факты и сохранять дополнительную информацию. В этой поздней версии, когда система не распознаёт сведения, она задаёт уточняющие вопросы, чтобы получить данные. Как объясняет Вейценбаум, «текущий сценарий призван выявлять, а не скрывать недостаток понимания и недопонимание. Заметьте, например, что когда программу просят вычислить площадь шара, она ещё не знает, что шар — это сфера, а когда требуется вычислить диаметр шара, ещё не установлен факт, что шар является объектом». В отличие от Doctor, который задаёт вопросы, чтобы поддерживать разговор, Arithm строит свой запас — если не знаний, то данных и логических утверждений.

Хотя разнообразие сценариев помогает увидеть, как через скриптовое программирование ELIZA конструировались разные личности, они представляют лишь половину диалогового процесса. Сценарий может заложить основу личности, но эта личность полностью возникает только во взаимодействии с пользователями, которые вовлекаются в него, интерпретируют и реагируют так, что либо подтверждают, либо оспаривают, либо трансформируют неявный характер сценария.