ИИ. История машины, которая научилась говорить

Однажды секретарь Джозефа Вейценбаума попросила его выйти из комнаты, чтобы она могла продолжить разговор с программой наедине. Вейценбаум сам создал эту программу. Секретарь знала, как она устроена и над чем он работал. И всё же ей захотелось приватности.

Историю пересказывают так часто, что она почти превратилась в притчу: компьютер обманул человека, человек поверил в искусственный разум. Но в этом пересказе слишком много удобства. Мы знаем об эпизоде прежде всего со слов самого Вейценбаума, который описал его позднее. Мы не знаем, что именно думала его коллега и насколько буквально она воспринимала собеседника. Возможно, ей просто было неловко говорить о личном при авторе программы. Возможно, разговор увлёк её, даже если она понимала, что перед ней компьютер. Чужие мысли нельзя восстановить по одной реплике.

Зато можно точно сказать, что эпизод задел самого Вейценбаума. Он написал программу, которая не понимала человеческий язык в обычном смысле, и увидел, как легко форма разговора создаёт ощущение собеседника. ELIZA не обладала сочувствием, памятью о жизни пользователя или знаниями психотерапевта. Она искала ключевые слова и перестраивала фразы по правилам. Но человек, сидевший перед терминалом, приносил в диалог всё, чего программе недоставало: собственную историю, контекст, ожидания и способность связывать вопросы с переживаниями.

В этом была не история о глупом пользователе и коварной машине. Вейценбаум знал её механизм лучше всех. История была о силе разговорной формы — и о том, что происходит, когда привычный социальный жест, вопрос или повторение слов получает неожиданный источник.

ELIZA — это программа, DOCTOR — роль

В январе 1966 года Вейценбаум опубликовал описание ELIZA в журнале Communications of the ACM. Полное название статьи обещало не психологическое чудо, а «программу для изучения коммуникации на естественном языке между человеком и машиной». Само название ELIZA он взял у Элизы Дулитл — героини пьесы Бернарда Шоу «Пигмалион», которую широкая публика знала также по мюзиклу «Моя прекрасная леди». В сюжете Элиза учится говорить на языке, который открывает перед ней новые социальные возможности. Компьютерная программа тоже работала с речью, но сравнение заканчивается здесь: ELIZA не проходила обучение и не меняла собственную манеру говорить.

Важно и другое различие. ELIZA была не одной заранее готовой личностью. Это был механизм для обработки текстового диалога. Он мог работать с разными наборами правил — сценариями, которые определяли, какие слова замечать и как отвечать. Самым известным стал DOCTOR: сценарий изображал психотерапевта на первой беседе с пациентом.

Сегодня мы легко называем ELIZA чат-ботом. В середине 1960-х такое слово ещё не было привычной категорией, а сам Вейценбаум описывал более широкую задачу: исследовать, как человек и компьютер могут обмениваться фразами на естественном языке. Поэтому точнее считать ELIZA ранней разговорной программой, а DOCTOR — одним, самым знаменитым способом использовать её механизм. Когда позже вспоминают «психотерапевта ELIZA», это короткое имя объединяет программу, правила и роль в одно целое. Так и возникала её популярная личность.

Эта конструкция уже знакома каждому, кто запускал приложение с несколькими режимами: общий механизм остаётся тем же, меняется набор инструкций. Для ELIZA сценарий был не декорацией поверх персонажа. Он содержал основную часть разговорной компетенции. Интерпретатор знал, как анализировать и преобразовывать текст; сценарий подсказывал, какие преобразования применить и в каком порядке. Если написать другой сценарий, можно было получить иное подобие разговора, не создавая систему заново.

Разделение механизма и сценария стало одним из важных технических решений проекта. В коде не нужно было жёстко закреплять все детали психотерапевтической роли. Вместо этого правила описывали ожидаемые образцы фраз, важность ключевых слов и способ собрать ответ. Вейценбаум мог продемонстрировать, как один программный механизм допускает разные сценарии взаимодействия. Даже до появления современных больших моделей здесь видна идея программного слоя: движок выполняет общие операции, а отдельная конфигурация задаёт поведение.

Но не следует переносить на 1966 год весь смысл нынешней «модели плюс системный промпт». Сходство ограничено разделением кода и настраиваемого содержимого. Современная языковая модель обучается на огромном количестве текстов и строит ответы иначе. Сценарий DOCTOR представлял собой набор человечески написанных правил. В нем не было скрытой статистической модели, самостоятельно выучившей психотерапевтический диалог.

Что программа делала с фразой

Вейценбаум описал механизм без мистики. ELIZA принимала строку текста, разбивала её на элементы, просматривала их в поисках ключевых слов и выбирала подходящее правило. Правило могло разделить фразу на части: одну часть распознать как знакомое начало, другую сохранить для будущей сборки. Затем программа перестраивала сохранённые фрагменты и помещала их в шаблон ответа.

Возьмём условный пример. Пользователь пишет: «Я постоянно ссорюсь с сестрой». Сценарий может обратить внимание на тему семьи и сформировать вопрос о сестре. Другой вариант — заметить оборот «я чувствую» и превратить утверждение в приглашение продолжить: что именно заставляет вас так чувствовать? Это не пример точного вывода о личности человека. Программа не выясняет, кто такая сестра, когда была ссора и чего хочет пользователь. Она берёт распознанный элемент и запускает правило, которому этот элемент соответствует.

При преобразовании фразы могли меняться местоимения и грамматические формы. В английском нужно было, например, превратить «I» в «you», «my» в «your», чтобы пересказанный фрагмент звучал как обращение терапевта к собеседнику. Такие преобразования были не простым поиском и заменой одного слова: часть фразы подчинялась правилам разложения, а результат собирался по подходящему шаблону. Но глубина анализа оставалась ограниченной языковыми образцами, перечисленными в сценарии.

Одни ключевые слова имели больший приоритет, чем другие. Если в длинной реплике встретилась тема, которой DOCTOR придавал высокую важность, программа могла использовать соответствующий набор реакций. Если подходящего правила не находилось, у неё были общие ответы и способы вернуть разговор к новой формулировке. В опубликованном алгоритме были также механизмы для отложенных фрагментов: фраза могла не исчезнуть сразу, а стать материалом для последующего ответа, когда более подходящее правило не срабатывало.

Поэтому ELIZA не просто случайным образом хваталась за первое слово. В ней была структура выбора, и у сценария существовали заранее определённые связи между типами входа и типами ответа. Но эта структура не превращалась в полноценную модель смысла. Программа могла отреагировать на слово «мать» как на тему разговора о семье, не зная, жив ли родитель, о ком именно идёт речь и что слово значит для человека в конкретной ситуации.

Можно представить механизм как театральную труппу. Один участник читает реплику, отмечает знакомые слова и выбирает нужную сцену из папки сценария. Другой переставляет фрагменты фразы, подставляет подходящую формулировку и выдаёт её собеседнику. Это сравнение полезно, пока мы помним границу: внутри ELIZA не было актёра, который понимал роль. Были код и текстовые правила, подготовленные Вейценбаумом.

Такой механизм мог создавать связные локальные переходы. Если программа спрашивала о семье после упоминания сестры, пользователь мог решить, что она заинтересовалась именно его отношениями с сестрой. В техническом смысле ответ был выбран потому, что сработало правило. В человеческом смысле связь между репликами возникала совместно: машина давала зацепку, а собеседник достраивал контекст.

Почему психотерапевт был удачной ролью

Выбор DOCTOR был не случайной попыткой сделать машину модной. Вейценбаум хотел получить сценарий, который мог бы поддерживать разговор, не требуя от системы подробной энциклопедии о реальном мире. Для этого подходила модель недирективного психотерапевтического интервью, связанная с работой Карла Роджерса.

В недирективной беседе специалист не обязан сразу предлагать диагноз и готовый совет. Он может возвращать человеку его слова, просить пояснить, что тот имеет в виду, задавать открытые вопросы и помогать ему самому развернуть рассказ. Пациент говорит большую часть времени. Терапевт слушает, уточняет и не подменяет рассказчика собственными объяснениями. Это упрощённое описание подхода, но для устройства диалога важна именно его форма.

Такая беседа предъявляла к программе более посильные требования, чем, скажем, роль преподавателя математики или адвоката. Преподаватель должен знать материал и обнаруживать ошибки в решении. Адвокат должен учитывать обстоятельства дела и нормы права. От терапевтического персонажа в начальном интервью можно было ожидать вопросов и внимательного отражения слов пользователя. Роль позволяла дольше обходиться без знаний о внешнем мире и не требовала быстро сообщать проверяемые факты.

Вейценбаум позднее прямо объяснял, что выбрал такую форму потому, что это один из немногих жанров парного разговора, где один участник может занимать позицию человека, почти ничего не знающего о реальном мире. Неведение здесь не разрушало роль сразу: психотерапевт часто спрашивал, а не рассказывал. То, что в других ситуациях выглядело бы уклонением от ответа, могло показаться естественным приглашением продолжить.

Эта роль подходила и по ритму. Пользователь делал основную содержательную работу. Он приносил личную проблему, описывал отношения, связывал настоящее с прошлым. Машине достаточно было время от времени направить внимание на знакомое слово или вернуть фразу в вопросительной форме. Граница между «система отвечает» и «пользователь сам продолжает разговор» становилась неочевидной.

Важно не говорить, будто программа действительно стала психотерапевтом или намеренно эксплуатировала уязвимость пользователя. Нет свидетельств, что такова была цель Вейценбаума. Его статья описывала способ изучения общения человека с машиной, а DOCTOR представлял ограниченную языковую роль. Именно удобство этой роли для эксперимента помогло сделать её убедительной и одновременно создало риск, что аудитория воспримет пародию на один стиль беседы как подобие помощи.

Профессиональная помощь — это не только набор вопросов. Она включает подготовку, ответственность, этические обязанности, понимание ситуации и способность реагировать на последствия слов. Перцептрон классифицировал примеры, ELIZA запускала сценарий. Ни один из этих процессов не заменяет отношений, в которых один человек отвечает перед другим. Нельзя незаметно подменить «может поддержать обмен репликами» утверждением «может лечить».

Интерфейс был бумажным и общим

Позднее люди вспоминали ELIZA как текстовое окно, в котором программа мгновенно отвечала на сообщение. Оригинальный опыт был материальнее. В середине 1960-х рядом не было смартфона или персонального ноутбука. ELIZA работала в среде MIT на большой вычислительной системе; пользователи взаимодействовали с ней через терминалы и печатающие устройства. Время машины распределялось между несколькими участниками, подключёнными к общей системе.

Сеанс мог идти через печатный терминал: пользователь вводил строку, компьютер выполнял команды, ответ появлялся на бумаге. В отличие от нынешнего чата, реплика не растворялась в подсветке экрана. Перед человеком оставалась физическая последовательность обмена. Скорость ответа зависела не только от самой программы, но и от устройства и доступности вычислительных ресурсов. Это была встреча с машиной, которая занимала комнату, даже если собеседник видел лишь клавиатуру и лист бумаги.

Одновременно система разделения времени создавала новое ощущение прямого доступа. До этого компьютер часто был ресурсом организации, к которому пользователь обращался через оператора, очередь задач или специалиста. Терминал позволял печатать команды самому и получать ответ без видимого посредника. Компьютер оставался общим, но взаимодействие с ним становилось индивидуальным. Человек сидел один перед печатающей машиной и читал ответ, обращённый к нему.

Эта непосредственность была частью эффекта. Терминал ничего не изображал человеческого лица, но ритм «вопрос — ответ» уже был знаком. Отсутствие оператора не доказывало, что на другом конце есть личность; оно просто делало обмен менее похожим на работу с удалённой вычислительной службой. Машина переставала выглядеть как абстрактный ресурс центра обработки данных и начинала занимать социальную позицию собеседника.

Техническая среда также определяла, что именно сохранялось. Некоторые версии диалога печатали взаимодействие, и его можно было перечитывать; в других условиях разговор воспринимался как последовательность текущих ответов. Сегодня интерфейс привычно включает историю, аватар, анимацию набора, уведомления и постоянную доступность. Вейценбаум не создавал всего этого. Но ELIZA уже показала, что канал передачи участвует в восприятии не меньше, чем алгоритм.

Здесь есть любопытный контраст с символическими программами предыдущих глав. Logic Theorist выдавал доказательство, которое можно было разбирать как формальную цепочку. Перцептрон демонстрировал изменение поведения после примеров. ELIZA работала в устройстве, которое само по себе приглашало к социальному прочтению: человек печатал личную фразу, получал вопрос и отвечал снова. Вычислительная процедура стала частью маленькой сцены.

ELIZA среди ранних языковых программ

Когда Вейценбаум начал работать над ELIZA, компьютерные исследователи уже пытались заставить машины обрабатывать английский. В лабораторной среде MIT можно было встретить программы, решавшие задачи в ограниченных языковых мирах: например, преобразовывавшие текстовую задачу по алгебре в формальные выражения и вычисления. В таких проектах знания часто были тесно связаны с самой программой. Если добавить новую предметную область, приходилось менять и представление задачи, и код.

Вейценбаум хотел исследовать взаимодействие другого типа. Пользователь не только передавал машине готовую задачу, но и мог ввести собственную фразу; программа затем задавала вопрос, который приглашал уточнить её. Ему было важно, можно ли сделать механизм более общим, чем одна жёстко заданная задача. ELIZA не стала общим решением проблемы языка, но разделение сценария и интерпретатора позволяло хотя бы исследовать разные формы текстового поведения в одной программной среде.

Здесь слово «естественный» легко обманывает. Естественный язык — это английский или русский, которыми люди пользуются без формального курса грамматики; но программа не получает значение фразы просто оттого, что принимает слова. На естественном языке можно выразить почти что угодно, пропустить половину контекста, использовать иронию, намёк, двусмысленность или вспомнить событие, о котором система не знает. Вейценбаум мог обрабатывать текст на английском, не решив проблему того, как компьютер связывает слова с общим миром.

Это различие заметно в самом названии статьи. Она говорит о коммуникации между человеком и машиной, а не о полноценном понимании. Коммуникация может состоять из обмена знаками, ответов и ожиданий; понимание подразумевает более сильное утверждение о том, что система делает со смыслом. Если программа отвечает на «я чувствую себя одиноко» вопросом об одиночестве, обмен состоялся. Но из одного этого не следует, что машина представляет, что такое одиночество, как оно переживается или что сейчас нужно человеку.

В лаборатории и в газетах один и тот же проект мог получить разные формулировки. Для автора это эксперимент с языковым интерфейсом и набором процедур. Для пользователя — разговор с компьютером. Для журналиста — машина, которая умеет беседовать. Каждая версия отбирает правду, но последняя легко становится самой громкой. Именно так разговорная способность начала жить отдельно от вопроса, какие операции стояли за конкретной репликой.

ELIZA была особенно важна не потому, что превосходила другие программы во всех задачах обработки языка. Она сместила внимание на человеческую сторону интерфейса. Исследователь мог смотреть на ключевые слова и правила, а пользователь — на вопрос, который словно обращался именно к нему. Впервые техническое устройство стало известным благодаря тому, как люди читали его поведение, а не благодаря объёму математической задачи, которую оно решало.

Правило под микроскопом

Рассмотрим условный текст: «Мой отец часто сердится на меня». Это не стенограмма из статьи Вейценбаума, а схема, которая показывает логику DOCTOR. Программа может встретить слова, связанные с родителем, и присвоить теме более высокий приоритет, чем нейтральному слову вроде «часто». Затем она может выбрать образец, который сохраняет часть фразы, а reassembly-правило превращает её в вопрос о том, почему отец сердится. Если родительская тема не подходит или уже исчерпаны варианты, сценарий может воспользоваться другой зацепкой или общей репликой.

Для человека такая последовательность выглядит как небольшое умозаключение: он рассказал про отца, собеседник заметил семейный конфликт и спросил, что за ним стоит. Для программы это может быть цепочка операций: найти ключ, выбрать соответствующий шаблон, выделить фрагмент текста, изменить местоимения, подставить фрагмент в формулу ответа. Одна и та же внешняя реплика допускает два описания. Первое описывает человеческий смысл разговора; второе — алгоритм, который выдал текст.

Правила разложения давали сценарию некоторую гибкость. Вход не обязательно должен был в точности совпасть с одной фразой целиком. Шаблон мог распознать знакомый фрагмент и сохранить остальное. Например, слово или выражение задавало ключ, а часть после него становилась переменной частью ответа. Программа могла использовать это содержание, не анализируя его как самостоятельное предложение с полноценными синтаксическими и семантическими отношениями.

Сборка ответа могла производиться по нескольким заготовленным вариантам. Если одна и та же тема каждый раз вызывала одну и ту же фразу, пользователь быстро заметил бы повтор. Наличие нескольких шаблонов позволяло слегка менять реакцию. Но разнообразие заготовок — не то же самое, что генерация бесконечного числа новых мыслей. Менялась формулировка; механизм оставался внутри сценария.

Порядок выбора тоже был значим. В сообщении «Мать считает, что я должен уехать, но я не хочу» программа могла обнаружить несколько ключевых слов. То, какое из них получало приоритет, влияло на ответ. Высший приоритет не означал, что ELIZA поняла, что мать давит на сына; он означал, что сценарий устроен так, чтобы один тип реакции выбирался раньше другого. Человеческий разработчик задавал это распределение внимания.

В опубликованной версии есть механизм памяти в узком вычислительном смысле. Если главный ключ не удавалось обработать привычным способом, программа могла временно сохранять часть текста и вернуться к нему позже. Это не биографическая память и не накопленный опыт о пользователе. Система не вспоминала встречу недельной давности и не строила модель отношений. Она хранила фрагменты, чтобы использовать их по правилам текущего сценария.

Такое различие полезно потому, что слова «память», «внимание» и «знание» встречаются и в описании программы, и в разговоре о человеческом сознании. В компьютере «память» может означать область, где временно хранится строка; у человека — воспоминание о событии с его эмоциональной и социальной связью. Термин общий, явление разное. Чтобы не приписывать машине лишнего, приходится уточнять технический смысл каждого такого слова.

В типичном случае ELIZA могла отвечать уместно. Но при неоднозначном сообщении ключ мог увести разговор не туда; если слово было незнакомым, включался общий ответ; если пользователь возвращался к той же теме, шаблон мог повториться. Иногда хватало одной настойчивой проверки, чтобы заставить сценарий ходить по кругу или терять связность. Этот провал не был случайной аварией, как и удачная реплика не доказывала понимание. Оба результата следовали из одного устройства.

Что делал пользователь

Человек, разговаривавший с DOCTOR, выполнял часть работы, которую многие тогда могли не замечать. Он помнил свои предыдущие фразы. Он знал, почему сказал «мать», а не «родитель». Он связывал новый вопрос со своей историей, даже если программа просто выбрала ближайший шаблон. Он мог догадаться, какой ответ машина ожидает, и написать следующую реплику так, чтобы продолжить игру.

Психологи, изучающие общение, говорят об общих предпосылках: чтобы беседа работала, участники обычно считают, что слова относятся к какой-то общей ситуации. В человеческом разговоре часть этих предпосылок действительно разделяется. Собеседник знает, что такое семья, конфликт, страх; он способен соотнести рассказ с интонацией и обстоятельствами. ELIZA разделяла с пользователем только ограниченный текстовый сигнал и правила сценария. Остальное собеседник мог представить как общее знание, потому что так устроено обычное общение.

Это не значит, что пользователь ошибался в каждом случае. Человек мог понимать ограничения и всё равно получать пользу от самого процесса. Дневник тоже не понимает содержание, но письмо в дневник помогает разложить мысли. Специалист иногда задаёт простые вопросы, потому что формулировка вопроса важнее его новизны. Разговор с программой мог выполнять роль внешнего повода сказать вслух то, что человек уже знал, но ещё не собрал в слова.

Отсюда важно различать по меньшей мере четыре вещи: веру в сознательность машины; временное принятие её социальной роли; полезность общения для пользователя; и готовность профессионала доверить системе ответственность за лечение. Можно быть уверенным, что программа не человек, и всё равно отвечать ей искренне. Можно считать разговор интересным, не считать его терапией. И наоборот: кто-то может переоценить технические возможности, даже не испытывая глубокого эмоционального контакта.

Легенда о секретаре часто схлопывает эти различия в один вывод: если она просила приватности, значит поверила, что перед ней настоящий психотерапевт. Но исходная история такого не доказывает. Даже если пользователь знает, что программа механическая, ему может хотеться остаться наедине с личным текстом. Приватность — нормальное человеческое желание, а не тест на то, считает ли человек компьютер живым.

В этом смысле знаменитый эпизод рассказывает как минимум о двух видах интимности. Первая — ощущение, что машина отвечает лично. Вторая — собственная потребность человека в пространстве, где можно говорить без чужого взгляда. Компьютер может не понимать содержание, но интерфейс всё равно становится местом, куда пользователь приносит то, что не хочет произносить перед людьми. Такая возможность одновременно полезна и уязвима: кому-то легче говорить, но система и её создатели получают доступ к личным словам.

Психотерапия — больше, чем набор вопросов

Образ психотерапевта был удачным для эксперимента, но в реальной практике недирективность не означает отсутствие профессиональных знаний. Карл Роджерс делал акцент на уважении к опыту клиента, эмпатическом слушании и создании условий, где человек может исследовать собственные чувства. Вопросы и перефразирование — заметная часть такой работы, но не всё содержание отношений.

Живой специалист не просто обнаруживает эмоционально окрашенное слово. Он следит за тем, как меняется рассказ, замечает противоречия, слышит темп и интонацию, принимает во внимание молчание, прошлый опыт и реакцию клиента на вопрос. Он несёт ответственность за границы отношений и способен пересмотреть подход, если замечает, что вмешательство приносит вред. Даже «внимательное отражение» требует суждения: одно и то же повторение может быть поддержкой, механическим эхом или раздражающим уходом от ответа.

DOCTOR воспроизводил внешний приём — возврат слов и открытый вопрос — в ситуации, где пользователь выполнял содержательную часть разговора. Это было достаточно, чтобы проиллюстрировать технику. Но одна техника не равна профессии. Аналогично, скрипт, который задаёт вопросы о симптомах, не становится врачом, а словарь юридических терминов не превращает программу в адвоката. Профессиональная роль включает больше, чем текстовый стиль.

Это различие важно и потому, что сама терапевтическая форма может усиливать доверие. Человек рассказывает личное, получает вопрос, раскрывает больше. Если программа не умеет распознавать риск и не знает, что делать с тяжёлым признанием, её привычная реплика может быть опасно неуместной. Удобная роль способна сгладить границу между исследовательской демонстрацией и обещанием помощи.