ИИ. История машины, которая научилась говорить

Три программы — три способа проверить успех

Общая тема не означала, что работы участников можно было оценить по одной шкале. Маккарти вспоминал несколько конкретных проектов, и их соседство полезно само по себе: оно показывает, что под новым названием встречались задачи с разными правилами доказательства результата. Программа, которая ищет шахматный ход, геометрический доказатель и система формальной логики могут выглядеть как «машины, решающие задачи», но от каждой требуется особая работа.

У Logic Theorist был наиболее строгий критерий: если программа выводила теорему по принятым правилам, корректность цепочки можно было проверить. Это не отвечало на вопрос, понимает ли машина доказательство или рассуждает как человек. Зато позволяло точно установить, что именно она сделала: получила формальные выражения, применила допустимые преобразования и пришла к результату, который выдерживает проверку внутри системы логики. Для раннего машинного исследования это было важным преимуществом: демонстрация опиралась на прозрачный стандарт правильности.

Шахматная программа Александра Бернстайна работала в другом режиме. В игре нет одного доказательства, подтверждающего лучший ход во всех позициях; решения зависят от того, какую позицию программа сумела оценить и насколько глубоко просмотрела возможные продолжения. Здесь вопрос о «правильности» включает стратегию, ограничения поиска и сравнение с человеком или другими способами игры. Успешный ход может выглядеть убедительно, однако он не доказывает, что система понимает шахматы во всех смыслах этого слова. Он показывает, что заданная процедура способна искать в определённом пространстве вариантов. Более того, оценка хода не заканчивается на том, что программа его предложила: соперник отвечает и меняет положение на доске, поэтому решение приходится рассматривать как часть последовательности действий. Это делает шахматы показательным испытанием поиска и планирования, но не даёт той однозначности, что есть у проверки формального доказательства. Результат зависит от позиции, ограничений вычисления, выбранной стратегии и того, насколько сильный ответ способен найти другой игрок.

Геометрические задачи Минского давали третий пример. Чтобы доказать утверждение о фигурах, системе нужно представить объекты и их отношения так, чтобы правила поиска могли с ними работать. Её успех зависит не только от вычислений, но и от того, как поставлена задача, какие отношения доступны и каким путём можно получить доказательство. Такая программа сближалась с формальной логикой, но требовала другого описания исходного материала и другого способа организовать поиск. В воспоминании Маккарти идея Минского была особенно наглядна: геометрический доказатель должен был сокращать перебор, проверяя прежде всего утверждения, верные для данной диаграммы. Рисунок помогал отобрать перспективные шаги, но сам по себе ещё не заменял доказательство. В этом и состояла исследовательская задача: использовать интуицию, которую подсказывает схема, и при этом понять, какая часть вывода выдерживает строгую проверку.

Эти примеры не следует принимать за исчерпывающий список работ лета и тем более за сравнение, в котором один подход победил остальные. Маккарти сам ограничивал свои воспоминания интересами, которые были ближе ему. Их ценность здесь в другом: они помогают увидеть разницу между общим вопросом и отдельным техническим критерием. Во всех случаях люди проверяли, можно ли поручить вычислительной системе часть задачи, связанной с рассуждением или решением. Но доказательство теоремы, выбор шахматного хода и поиск геометрического вывода предъявляли разные требования к представлению знаний, алгоритму и оценке результата.

Отсюда следовала и практическая трудность: нельзя было объявить одну демонстрацию эталоном для остальных. В логике ответ проверяется относительно формальных правил; в геометрии важны и корректность вывода, и то, как система представляет фигуры; в шахматах качество приходится оценивать в ходе игры и относительно соперника. Успех в одном случае не давал готового способа измерить успех в другом. Даже слово «решить» меняло значение от задачи к задаче.

Не совпадал и смысл сравнения с человеком. Машина могла перебирать варианты иначе, чем шахматист, и всё же выбирать хороший ход; могла получить доказательство, не проходя через те же мысленные шаги, которые доступны ученику. Это не делало результат фиктивным. Это требовало точнее формулировать, что доказывает результат: что вычислительная процедура выполнила определённую задачу, а не что она обладает всеми человеческими способностями, которые мы связываем с этой работой.

С этого момента новая область приобретала сразу два свойства. У неё был общий предмет разговора — возможность выполнять на машине то, что связывают с интеллектом, — и не было единого метода, которому все должны были следовать. Это разнообразие не означало, что поле не сложилось. Оно означало, что его границы и критерии предстояло строить на конкретных задачах. Вместе эти различия удерживают масштаб вывода в границах доказательств. Успех в одной задаче не нужно обесценивать только потому, что система не похожа на человека; однако его нельзя незаметно превратить в свидетельство универсального разума. Это напряжение и останется одной из главных тем молодой области.

В этих различиях уже видна одна из причин, по которой общая область не могла опираться на один тест интеллекта. Формальная корректность доказывает, что последовательность шагов допустима в заданной системе; хорошая игра показывает, что алгоритм справляется в соперничающей среде; геометрическое доказательство зависит от удачного представления объектов и отношений. Каждый результат имеет значение, если ясно, к какому утверждению он относится. Но ни один из них не подменяет остальные и не даёт универсального измерителя способности мыслить.

Один сезон не мог вместить все эти вопросы

Здесь возникает соблазн объяснить расхождение между предложением и состоявшимся летом одним простым препятствием: не хватило денег, поэтому участники не достигли обещанного. Но такая версия слишком удобна. Деньги были реальным ограничением, однако сама программа объединяла задачи разного масштаба и разного типа. Чтобы продвинуться в теории нейронных сетей, требовалась одна последовательность рассуждений; чтобы написать шахматную программу — другая; чтобы определить, что означает работа со словами, — третья. Они могли влиять друг на друга, но не складывались в единый эксперимент с одним заранее известным результатом.

Два месяца — достаточно, чтобы провести интенсивную встречу, представить незавершённую работу, найти неожиданный вопрос и установить связи. Но этого срока мало, чтобы построить общую дисциплину с нуля и одновременно проверить десятки широких гипотез. Любая серьёзная исследовательская линия требует собственного времени: определить задачу, выбрать язык описания, написать и отладить программу, проверить её на случаях, которые не были подобраны специально ради удачного результата, а затем выяснить, что именно показал эксперимент. Если несколько линий используют разные понятия и методы, их нельзя просто ускорить, усадив участников в одной комнате.

Предложение, однако, не было наивным расписанием, где авторы ожидали решить всё перечисленное за лето. Оно прямо говорило о значительном продвижении по одной или нескольким проблемам. Это ограниченное ожидание иногда теряется в пересказах, которые соединяют широкую вступительную гипотезу с легендой о мгновенном появлении ИИ. В документе нет обещания, что участники построят универсальную систему. Есть намерение создать исследовательскую среду и проверить, насколько далеко можно продвинуться в отдельных частях вопроса.

Сама встреча показала, насколько трудно было согласовать такие разные части даже на уровне повседневной работы. Участники не приехали с одной общей задачей, которую можно было разделить на подзадачи и собрать в конце. Они принесли собственные исследования, уже начатые в иных институтах и командах. Совместное обсуждение могло помочь им увидеть связь, но не отменяло необходимости продолжать отдельную работу. Сообщество и лаборатория — разные формы организации: первое может возникнуть через разговор и общий термин; второму нужны постоянный персонал, ресурсы, оборудование, управление и годы накопленной практики.

Поэтому несоответствие первоначального замысла фактическому лету стоит понимать не как провал, который нужно скрыть, и не как чудо, которое нужно преувеличить. Это была граница между проектом на бумаге и новым полем, которому предстояло расти за пределами одного сезона. Дартмут дал исследователям общий вопрос и короткое окно, чтобы встретиться. Он не мог заменить собой годы работы в лабораториях, в которых разные ответы должны были создаваться, сравниваться и иногда терпеть неудачу.

Это также объясняет, почему отсутствие единого результата не обесценивает встречу. Некоторые исторические события важны как прорыв: появляется устройство или доказательство, после которого прежнее положение дел уже невозможно восстановить. Другие события важны как координация: они дают людям возможность продолжать разрозненные работы, пользуясь общим языком и понимая, что спорят о соседних вопросах. Дартмут принадлежит прежде всего ко второму типу. Если измерять его только количеством завершённых открытий за два месяца, результат будет скромным. Если смотреть на то, как после встречи стало возможно говорить о широкой области машинного интеллекта, значение выглядит иначе.

Такой взгляд помогает сохранить сразу две правды. Авторы выдвинули гипотезу смелого масштаба; конкретные результаты встречи были ограниченными и неоднородными. Позднейшая история не делает первое доказанным, а второе — несущественным. Между ними лежит настоящая работа: перевод общего имени в проекты, формулирование задач, сравнение методов, создание программ и постоянная проверка того, можно ли переносить успех из одной узкой способности на другую.

Гипотеза не была обещанием готового разума

В знаменитой формулировке предложения легко услышать больше, чем в ней написано. Если черту интеллекта можно точно описать, машина сможет её симулировать — такова исследовательская гипотеза. Но документ не утверждает, что интеллект уже полностью понят, что машина должна стать копией мозга или что участники за два месяца построят универсальный разум. Напротив, авторы рассчитывают на заметное продвижение по одной или нескольким задачам из большого набора. Риторический масштаб гипотезы шире, чем ожидаемый результат встречи.

Глагол «симулировать» позволяет удержать эту разницу. В вычислительной технике симуляция означает, что одна система воспроизводит некоторые свойства или поведение другой системы согласно выбранной модели. Симулятор полёта может помогать исследовать управление самолётом, не становясь самолётом. Компьютерная модель нервной сети может проверить гипотезу о передаче сигнала, не превращаясь в живой мозг. Для авторов Дартмутского проекта имитация интеллекта была инженерным направлением: взять способность, описать её достаточно точно и выяснить, может ли машина дать сопоставимый результат.

Но слово оставляет открытым главный критерий. Что считать «тем же самым»? Достаточно ли, чтобы машина выдала правильный ответ? Нужно ли, чтобы она пришла к нему тем же способом, что человек? Имеет ли значение, способна ли система объяснить промежуточные шаги, переносить навык в незнакомую среду или только повторяет успех в ограниченной задаче? Разные ответы приведут к разным проектам и к разным заявлениям о прогрессе. Дартмутская заявка не снимала эту неоднозначность — она создавала рабочее пространство, где её можно было исследовать.

В этом смысле документ одновременно был программным заявлением и приглашением к уточнению. Исследователи не собирались сначала найти полное определение интеллекта, а потом открыть лабораторию. Они разбивали широкое понятие на задачи, которые можно было формализовать и проверять. Такая стратегия не просто упрощает объяснение. Она помогает построить эксперимент: задать вход, описать допустимую процедуру, определить, какой результат засчитывается, а затем сравнить его с альтернативой.

Проблема начинается тогда, когда локальный успех превращают в общее доказательство. Программа доказывает теорему — значит ли это, что она рассуждает как математик? Система строит классификацию объектов — значит ли это, что она понимает категорию? Алгоритм предлагает удачный ход — значит ли это, что он обладает интуицией? Чтобы ответить, недостаточно показать впечатляющий результат. Нужно знать, какие именно условия система удовлетворила, какие способы решения использовала и насколько далеко можно переносить вывод.

В Дартмутской заявке уже сосуществовали более осторожные и более смелые версии вопроса. Теория сложности вычислений требовала оценивать, сколько ресурсов нужно для решения формально заданной задачи. Исследование языка и творчества предполагало, что некоторые человеческие способности получится представить через знаки, правила, предположения и направленный поиск. Одни пункты были ближе к понятным математическим процедурам, другие опирались на гипотезы, для которых ещё не было удовлетворительной формализации. Общий термин объединял их раньше, чем они стали одинаково проверяемыми.

Это нельзя считать просто недостатком старого документа. В 1955 году люди только начинали выяснять, какие аспекты можно описать, а какие пока нельзя. Нельзя требовать от исследовательской программы готовой теории до того, как началась работа. Но можно спросить, что именно в ней известно, что предполагается и какую часть будущего авторы оставляют открытой. В этой заявке есть оба вида текста: точные пункты о вычислении и памяти, а рядом — большие слова «интеллект», «самоулучшение» и «творчество». Читая её, важно не позволять второму набору отменить осторожность первого.

Как превратить слово «интеллект» в исследовательскую задачу

В заявке слово «интеллект» звучало как единое целое, но план работы был устроен иначе. Авторы перечисляли не один загадочный предмет, который предстояло обнаружить, а множество действий: распознавать закономерности, усваивать новое, использовать язык, строить понятия, решать задачи и менять собственное поведение. Такой ход был одновременно смелым и практичным. Если никто не мог сразу ответить, что такое разум вообще, можно было начать с вопроса, который уже допускает проверку: способна ли машина выполнить конкретную операцию, которую обычно связывают с мышлением?

Эта стратегия не возникла на пустом месте. Цифровой компьютер был универсальным вычислительным устройством в том смысле, что его поведение можно было задавать программой. Но универсальность аппарата ещё ничего не говорила о том, какие программы удастся написать и насколько убедительно они будут вести себя в сложной задаче. Исследовательский вопрос смещался с железа на описание действия: как представить задачу в форме, с которой машина может работать; какие правила нужны; сколько вычислений они потребуют; как понять, что полученный ответ годится.

Именно поэтому в проекте соседствовали темы, которые сегодня могут показаться принадлежащими разным дисциплинам. Обсуждение нейронных сетей обращалось к устройству нервной системы и к вопросу, можно ли построить систему из множества простых взаимосвязанных элементов. Работа с языком требовала понять, как слова обозначают предметы и отношения и как инструкции переходят в последовательность формальных операций. Теория вычислений задавала пределы: как измерять сложность задачи, когда машина сможет её решить и какой ценой. Самообучение добавляло ещё один уровень: может ли программа менять свои правила или улучшать действия, опираясь на результаты предыдущих попыток.

За каждой из этих тем стоял свой способ увидеть проблему. Сеть могла быть моделью того, как множество простых элементов совместно создаёт сложное поведение. Символическая программа могла представлять отношения между объектами и преобразовывать их по явным правилам. Теоретический анализ мог показать, что задача выполнима в принципе, но практически слишком дорога. Эти подходы не обязательно исключали друг друга, однако и не складывались автоматически в единую теорию. Летом 1956 года слово «искусственный интеллект» служило скорее общим адресом, чем обозначением согласованной научной школы.

В этом была полезная сторона. Если исследователи не обязаны были принять одну модель разума, они могли принести на встречу разные идеи и сравнить, какие части проблемы каждая из них проясняет. Но тут же обнаруживался риск: под общим названием можно было объединить проекты, которые лишь поверхностно похожи. Машина, доказывающая теорему, и машина, распознающая образ, обе демонстрируют некоторую способность, которую человек считает интеллектуальной. Но успех в одной задаче сам по себе не объясняет другую, а тем более не доказывает, что обе основаны на одном и том же механизме.

Вопрос о критерии успеха поэтому был не технической мелочью, а частью самой науки. Если программа решала логическую задачу, достаточно ли было правильного ответа? Нужно ли было, чтобы она пришла к нему тем же способом, что человек? Если программа использовала язык, должна ли была она понимать значение слов или только правильно преобразовывать символы? А если машина приспосабливалась к новым примерам, как отличить обучение от заранее прописанного набора ответов? Предложение ставило такие проблемы, но не обещало решить их до начала работы. Они были частью той области, которую ещё предстояло построить.

Разбивка на отдельные способности давала исследователям способ начать работу до того, как будет разрешён спор о природе мышления. Это было важно в 1955 году: вычислительные машины уже существовали, первые методы и проекты можно было проверить, но ни язык описания, ни правила сравнения результатов ещё не установились. Нужно было не только написать программы. Требовалось выработать привычку формулировать задачу так, чтобы разные исследователи могли понять, что именно проверяется и где проходит граница между демонстрацией и объяснением.

Цена такого подхода стала заметна позже и остаётся заметной. Хороший результат в узкой задаче может выглядеть как признак общего интеллекта, хотя на деле он опирается на ограничения, тщательно подобранные условия и труд человека, подготовившего данные или представление задачи. С другой стороны, требование сначала доказать универсальную теорию разума могло бы остановить любой эксперимент. Дартмутский план выбрал движение от частных задач к большому вопросу. Это позволило начать, но оставило открытым, как связывать отдельные успехи в общее объяснение.

Поэтому широкий список в заявке не был ни готовой картой дисциплины, ни случайным перечнем модных слов. Он показывал, что участники пытались определить пространство возможных исследований: какие функции можно поручить машине, какими методами к ним подступаться и какие ограничения нужно учитывать. В дальнейшем часть этих линий разойдётся, часть столкнётся, а некоторые будут объединяться снова. Но в 1955 году первым достижением было уже то, что их можно было обсуждать под одной формулировкой — не потому, что ответ найден, а потому, что вопрос стал общим.

Слово «симулировать» оставляло выбор за исследователем

Употреблённый в заявке глагол не требовал, чтобы машина была устроена как человеческий мозг. Он позволял изучать поведение через модель, то есть строить одну систему так, чтобы она воспроизводила выбранные свойства другой. Но всякое моделирование начинается с выбора: какие свойства считать существенными, какие детали опустить и какой результат считать совпадением. Для задач, где ответ можно проверить формально, границу провести легче. Для языка, творчества и обучения — гораздо труднее.

Это превращает формулировку 1955 года не только в технический тезис, но и в вопрос о стандарте доказательства. Если программа получает тот же ответ, что человек, этого может быть достаточно для одной инженерной цели и недостаточно для объяснения мышления. Если она действует по иным правилам, нужно решить, сравниваем ли мы только результат или также путь к нему. Если программа справляется лишь в заранее ограниченной среде, результат остаётся настоящим, но его нельзя автоматически переносить на все обстоятельства, где человек использует ту же способность.

Подобные вопросы нельзя решить одним определением слова «интеллект». Они требуют подробного описания конкретной задачи. Что система получает на вход? Какие операции ей доступны? Как проверить ответ? Как устроены примеры, на которых её оценивали? В каких новых ситуациях она продолжает работать, а где ломается? В этом смысле первая заявка предложила гораздо больше, чем оптимистичную фразу о симуляции: она открыла пространство для спора о том, как отличать точную демонстрацию от общего вывода о разуме.

Что именно началось в Дартмуте

Слово «основание» обычно вызывает образ торжественного начала: собрались люди, решили создать дисциплину, сформулировали программу и ушли с планом будущего. В истории искусственного интеллекта всё было менее аккуратно. Предложение 1955 года заранее назвало проект, перечислило вопросы, предложило участников и попросило ресурсы. Летом 1956 года реальность оказалась частичной версией этого замысла. Участники работали не одинаково долго и не обязательно совместно. Единого отчёта не появилось. И всё же имя пережило конкретную встречу.

Чтобы понять почему, полезно разделить три события, которые часто сливаются в одно. Первое — формулирование замысла: возможность исследовать машинный интеллект как набор достаточно точно описываемых задач. Второе — организационная попытка: собрать людей, которые уже работали над различными аспектами этой проблемы, в одном месте и на определённое время. Третье — долгосрочное признание: использование словосочетания «искусственный интеллект» как названия области, к которой могли относить новые проекты. Первые два события занимают месяцы вокруг 1955–1956 годов; третье происходит постепенно и не заканчивается вместе с летом.

Именно третье событие делает историю важной для книги. В науке название — не просто вывеска. Оно позволяет искать собеседников, описывать проекты в заявках и публикациях, объяснять студенту, к какому кругу вопросов относится работа. Оно может объединить исследования с разными методами и тем самым создать возможность для обмена. В то же время оно влияет на то, что считается центральным вопросом, за какие результаты исследователи получают внимание и какие обещания слышит внешняя аудитория. Поэтому название может быть одновременно полезным и опасным: оно даёт области видимость, но также создаёт ожидание, что под ним скрывается единый, уже понятный предмет.

В 1955 году такой единой теории не было. Авторы предложения не показали, что машинное обучение, работа с языком, доказательство теорем, нейронные сети, самоулучшение и творческие действия являются вариантами одного механизма. Они собрали эти направления под общей гипотезой и предложили, что их можно исследовать в рамках одного проекта. Это была постановка программы, не её завершение. Разница между этими двумя вещами важна и сегодня: заявить область вопросов — не то же самое, что решить их; создать демонстрацию в узкой задаче — не то же самое, что объяснить интеллект во всей его широте.

Сама широта объясняет, почему обещание оказалось одновременно плодотворным и неустойчивым. Если слишком рано сузить вопрос, можно принять один метод за весь разум. Если оставить его предельно широким, почти любой вычислительный проект может объявить себя частью искусственного интеллекта, а успех одной задачи легко представить как успех всей программы. Позже исследователям снова и снова приходилось договариваться о границах: что считать интеллектом, чему научилась система, как проверить её поведение и насколько результат зависит от условий эксперимента. Эти споры не были случайными недоразумениями вокруг изначально ясной науки. Они продолжали вопросы, оставленные открытыми в самом первом плане.

Рассказ о Дартмуте часто ставит в центр четыре фамилии на титульном листе. Это верно, но недостаточно. За документом стояли также те, кто организовывал встречу, искал деньги, координировал приглашения и помогал превратить свободную идею в расписание, список задач и рабочее место. За дальнейшей историей — программисты и помощники, без чьего труда идеи не стали бы выполняемым кодом; студенты и сотрудники лабораторий, которые проверяли гипотезы и исправляли программы; те, чьи исследовательские подходы не вошли в каноническую версию легенды. Даже в этой короткой истории полезно помнить, что научное название создают несколько подписей, а научную работу — гораздо более широкая сеть людей и условий.