ИИ. История машины, которая научилась говорить

Когда мы говорим, что машина «рассуждает», часто воображаем, будто внутри неё находится весь процесс человеческого мышления, только ускоренный. Но формальное правило отвечает на более узкий вопрос: если входные сведения представлены именно так, а задача задана именно так, какой следующий шаг следует выполнить? Чтобы запустить процедуру, кто-то заранее решил, что считать входом, как обозначить элементы и что засчитывать за правильный результат.

Силлогизм может быть безупречным по форме и всё же опираться на неверную посылку. Машина может точно вычислить значение по таблице, а сама таблица может содержать ошибку. Релейная схема способна безотказно выполнить неверно заданное условие. Правило не проверяет себя на справедливость только потому, что записано символами. Формализация повышает прозрачность одного этапа рассуждения, но не автоматически всех решений, которые предшествовали ему.

Это напоминает разницу между вычислением и навигацией. Таблица может сообщить моряку, какое значение соответствует определённой позиции; прибор может измерить направление; алгоритм — выполнить расчёт. Но чтобы использовать результат, нужно понять, к какому маршруту он относится, насколько точны наблюдения и какова цена ошибки. В море обстоятельства меняются, и ответ, правильный для исходных данных, может оказаться бесполезным, если сами данные устарели. Вычисление отвечает на вопрос, который ему задали; оно не всегда замечает, что человек имел в виду другой вопрос.

Именно поэтому границы задачи так важны. В математическом доказательстве правила вывода помогают проверить цепочку от посылок к заключению. Они не решают, какие утверждения стоит доказывать и какие посылки принимать. В устройстве Бэббиджа перфокарты задавали операции, но не объясняли, зачем человеку понадобилась конкретная таблица. В схеме Шеннона реле меняли состояние, но не знали, что это состояние означает для оператора. На каждом уровне человек приносил контекст, который система могла не представлять.

Это не аргумент против машин и не доказательство, что любой человеческий ответ мудрее вычислительного. Человек тоже ошибается, путает причины и последствия, принимает желаемое за действительное. Смысл в другом: сравнивать человека и машину следует по конкретной работе, а не по расплывчатому образу «разума вообще». Машина может прекрасно выполнять формализованный расчёт; человек может лучше заметить, что ситуация вышла за границы расчётной модели. В иной задаче сильные стороны могут поменяться местами.

В будущем разработчики попытаются делать системы, способные самостоятельно выбирать шаги и работать с неполными данными. Но и тогда выбор цели, набор наблюдений и критерии ошибки не упадут с неба. Чем менее очевидны правила, тем важнее спросить, кто их создал и что останется незамеченным. Этот вопрос появляется задолго до того, как машине дали имя.

Когда поведение задают вручную, человеческие предположения обычно видны в правилах: кто-то записал условие и связал его с действием. Когда система настраивается на примерах, предположения могут скрываться в том, какие примеры собрали, какие случаи сочли ошибками и какой результат поощряли. Способ их размещения меняется; потребность в выборе остаётся. Даже слово «точность» требует уточнения: точность для какой группы, в каких условиях и по сравнению с какой альтернативой?

Поэтому формализация — не холодная оболочка вокруг готового решения. Это способ сделать одни решения явными, а другие оставить за рамкой модели. Хорошая инженерия помогает эту рамку увидеть и проверить. Плохой пересказ создаёт впечатление, будто машину можно спросить о мире напрямую, без посредников и допущений. История ранних вычислителей учит обратному: между вопросом и ответом всегда есть устройство, процедура и человек, выбравший, что считать ответом.

В 1950 году статья Тьюринга в философском журнале Mind начиналась с простого вопроса: «Могут ли машины мыслить?» Почти сразу Тьюринг объяснял, почему спор о точном смысле слов «машина» и «мыслить» способен отложить разговор на неопределённый срок. Вместо этого он предлагал заменить исходный вопрос более конкретной игрой. Чтобы оценить этот ход, важно помнить, что его знаменитый «тест» в пересказах часто не совпадает с тем, что он описал.

В исходной игре участвуют три человека: мужчина, женщина и задающий вопросы, который находится в другой комнате и общается с ними письменно. Задача спрашивающего — определить, кто из отвечающих мужчина, а кто женщина. Затем Тьюринг предлагает заменить одного участника машиной и спросить, что произойдёт с игрой. Это не просто «поговорить с ботом и посмотреть, кажется ли он умным». Машину проверяют в сценарии, где ответы должны помочь судье различить участников; сама конструкция статьи разворачивается вокруг того, насколько поведение в разговоре может служить свидетельством мышления.

Тьюринг выбрал поведение не потому, что доказал: внутреннего опыта не существует или он не важен. Напротив, он столкнулся с проблемой знания о чужом сознании. Мы не заглядываем напрямую в чужую голову, чтобы удостовериться, что там есть переживания. В обычной жизни мы строим выводы из слов, поступков и общего контекста. Тьюринг спрашивал, почему к машине мы должны предъявлять другой тип доказательства, если претензия на мышление проявляется в её ответах и действиях. Но из этого не следует, что убедительная реплика сама по себе доказывает человеческое понимание. Тьюринг предложил игру как способ обсуждать задачу, а не сертификат сознания.

В статье он последовательно разбирал возражения. Одни апеллировали к религии и человеческой исключительности, другие — к математическим пределам вычисления, эмоциям, творчеству или неспособности машины совершить ошибку. Тьюринг не отвечал: «Компьютер будет умным, просто поверьте». Он рассматривал, какие аргументы зависят от представления о внутреннем опыте, какие — от ограничений вычислительных моделей и почему некоторые возражения переносят разговор обратно к неопределённому слову «мыслить». Это эссе, а не рекламный план готового продукта.

Игра, в которой судят по ответам

Почему Тьюринг сделал общение письменным? Если судья слышит голос или видит собеседника, физические особенности сразу меняют игру. Текст сужает доступные признаки и оставляет поведение в разговоре. Но даже такой обмен не сводится к бесконечной болтовне о погоде. Тьюринг обсуждал вопросы, с помощью которых можно проверять умение отвечать и рассуждать в разных контекстах, а сама статья рассматривает память, вычислительные возможности, обучение и ряд возражений. «Тест Тьюринга» — позднейшее краткое название, которое часто затмевает его более широкую попытку поставить вопрос о машинном мышлении в форме наблюдаемой игры.

Важна и роль самого судьи. Он не получает отчёт о том, как устроен отвечающий: ему доступны сообщения и правила игры. Значит, результат нельзя отделить от условий проверки. Вопросы могут быть удачными или поверхностными, судья — осторожным или доверчивым, а короткая беседа — слишком узкой, чтобы раскрыть нужную способность. Этот пример помогает читать любую оценку ИИ: прежде чем удивляться результату, полезно спросить, кто проверял систему, на каких примерах и что именно считалось успехом.

Результат игры зависит не только от машины. На него влияют ожидания судьи, правила обмена, продолжительность и критерий успеха. Если поставить слишком лёгкие вопросы, система может выглядеть убедительно, не имея способности, которую мы хотим исследовать. Если выбрать узкий набор задач, можно проверить его качественно, но не делать вывод обо всём мышлении. Если же потребовать от человека универсального знания и безошибочности, сравнение перестанет быть честным. Любой тест становится содержательным лишь после того, как мы объяснили, что он измеряет, а что оставляет за кадром.

Этот урок актуален и сегодня. Когда продукт отвечает на вопросы с интонацией собеседника, интерфейс вызывает привычку приписывать словам намерение и понимание. Пользователь видит цельный текст, а не механику производства следующего слова, поисковый запрос, систему модерации или историю обучения. В 1950 году Тьюринг уже отделял наблюдаемое поведение от недоступного напрямую внутреннего состояния. Но это не означает, что он объявил поведение исчерпывающим доказательством сознания. Он дал спору форму, в которой можно задавать более конкретные вопросы.

В современной культуре игру превратили в бинарный ярлык: либо машина обманула человека и «разумна», либо не обманула и «глупа». Такой вывод слишком велик для измерения. Человек может принять за разум поверхностно убедительный стиль, а система может проявлять полезные способности и при этом не иметь того, что мы подразумеваем под человеческим опытом. Тест поведения отвечает на вопрос о том, что увидел судья в ограниченной ситуации. Остальное требует других критериев и отдельной аргументации.

Учиться вместо того, чтобы заранее знать всё

Тьюринг обсуждал и другой способ приблизиться к машинному интеллекту. Возможно, не следует проектировать систему сразу как взрослого знатока, в котором заранее закреплён каждый факт и каждое правило. Можно создать исходный механизм и дать ему учиться. Тьюринг называл эту гипотетическую систему «детской машиной» и сравнивал её развитие с воспитанием. Это было предложение направления, а не спецификация устройства с чертежами, набором данных и планом обучения.

Метафора меняла инженерную задачу. Если машина должна заранее содержать все знания, разработчику придётся определить их состав и способ записи. Если машина учится, важными становятся начальное устройство, среда, примеры, обратная связь и критерии успеха. Возникает новый тип зависимости от человека: кто решает, какие примеры система увидит? Кто исправляет её ошибки? Какие способности поощряются? Когда прекращать обучение? Обучение переносит часть человеческого выбора внутрь процесса, но не устраняет этот выбор.

Тьюринг рассматривал аналогии с образованием и предполагал, что систему можно развивать через опыт и корректировку. Он не утверждал, что машина должна пережить детство так же, как человек. Это различие важно. Человеческий ребёнок учится через тело, взаимодействие, социальные отношения, язык и последствия действий. Для вычислительной системы «пример» — это форма данных, заданная её конструкцией. Даже если внешне результат напоминает рост навыка, механизмы могут быть радикально разными.

Впоследствии идея обучаемой системы станет одной из центральных линий ИИ. Сначала ей будут сопутствовать ограничения вычислительной мощности и трудность подобрать задачи, на которых обучение можно наблюдать. Но сам вопрос останется: нужно ли подробно описывать каждое правило вручную или можно задать процедуру, которая изменит внутреннее состояние системы на примерах? В XXI веке ответом станут не просто данные, а массивы данных, инфраструктура хранения и обработки, методы оптимизации, люди, оценивающие результаты, и компании, превращающие обучение в продукт. В 1950 году до этой системы далеко; однако направление уже различимо.

Называя машину «ребёнком», легко вызвать ощущение, будто интеллект возникнет естественно, если только не мешать развитию. В инженерной практике это опасная иллюзия. Обучающую среду кто-то строит. Цели и сигналы ошибки кто-то выбирает. Данные отражают мир не полностью и могут закреплять его перекосы. Поэтому обучаемая машина не становится нейтральной машиной. Ответственность не исчезает вместе с ручным программированием — она меняет адрес.

К концу этой главы перед нами не одна машина, а несколько разных способов поставить вопрос. Аристотель отделял форму вывода от его содержания. Луллий строил схему, которая помогала комбинировать понятия внутри богословского проекта. Лейбниц мечтал о знаках и правилах, способных сделать часть рассуждений исчислимой. Бэббидж проектировал механизм, который выполнял бы заданные операции над числами; Лавлейс размышляла, как одна и та же машина могла бы обращаться с символами, если их отношения удастся формализовать. Буль и Шеннон связали логические правила с электрическими переключателями. Винер описал контуры управления и обратной связи. Тьюринг предложил формальную модель вычисления, математические пределы процедур и способ поставить вопрос о поведении машины.

Это не прямая линия, на которой каждый следующий исследователь добавляет недостающую деталь и в конце получает современную нейросеть. Большинство этих людей занимались разными проблемами; их идеи не всегда влияли друг на друга напрямую. Историк не должен склеивать их биографии в одну историю неизбежного прогресса. Но между этими работами можно увидеть общий сдвиг: мысль и действие начинают описывать через отдельные элементы, правила и переходы. Как только часть задачи становится достаточно ясной, возникает вопрос, можно ли передать её исполнителю — человеку, механизму или электрической цепи.

Этот сдвиг не отвечает на вопрос, что такое разум. Он делает этот вопрос труднее и продуктивнее одновременно. Если машина вычисляет быстрее человека, чем мы обязаны ей за это? Если она выполняет программу, нужно ли говорить, что она понимает программу? Если её ответы выглядят осмысленно, какую дополнительную проверку мы требуем и почему? Если система учится на примерах, кто отвечает за то, что было выбрано как пример и как ошибка? Каждое техническое достижение будет возвращать нас к этим вопросам, только уже с работающим устройством перед глазами.

Есть соблазн начать историю ИИ в тот день, когда появилось само название. Тогда до нового термина остаётся несколько страниц, и дорога выглядит аккуратно. Но история названия — не то же самое, что история идей, методов и условий, которые сделали его убедительным. К 1950-м годам существовали логика, теории вычисления, первые электронные компьютеры, исследования нейронной активности и практический опыт автоматизации. Ни один из этих элементов ещё не означал «искусственный интеллект» в современном смысле. Они создали почву для проекта, который затем попытается объединить их под общей формулировкой.

Алан Тьюринг не увидел этого проекта. Он умер в 1954 году, за два года до летней исследовательской встречи в Дартмуте. Но статья 1950 года оставила для будущей дисциплины неудобное наследство: недостаточно спросить, похожа ли машина на человека; нужно уточнять, какие способности проверяются, какие условия поставлены и что именно позволяет заключить результат. Это хорошее правило для читателя XXI века, когда убедительный ответ часто приходит быстрее, чем успевает появиться вопрос о том, как он был получен.

Следующая глава начинается с документа, в котором исследователи предложили название для новой области и сформулировали амбициозную программу. Это будет не момент, когда машина внезапно научилась думать. Это будет момент, когда разрозненные надежды получили общий заголовок, лето, список задач и людей, готовых попробовать их решить.

В заявке на исследовательский проект есть странное соседство. На первых страницах четверо учёных предлагают изучить, как машинам научиться пользоваться языком, строить понятия, решать задачи, прежде считавшиеся человеческими, и даже улучшать собственную работу. В финансовом расчёте того же документа стоят куда более земные строки: зарплата, билеты на поезд, аренда жилья, секретарская помощь, размножение материалов и непредвиденные расходы. Итоговая сумма — 13 500 долларов.

Так выглядело предложение, которое должно было изменить название целой области. Не в форме триумфального манифеста, а как заявка на два месяца совместной работы летом 1956 года. 31 августа 1955 года Джон Маккарти, Марвин Минский, Натан Рочестер и Клод Шеннон подписали документ с заголовком «Предложение о летнем исследовательском проекте по искусственному интеллекту». Внутри лежала не готовая теория и не план построить мыслящую машину. Там была ставка: если достаточно точно описать отдельные стороны обучения и интеллекта, возможно, машина сможет их воспроизвести.

С этого места принято отсчитывать рождение искусственного интеллекта как исследовательской области. Удобная формула слишком гладкая. К тому времени уже существовали математические теории вычисления, электронные компьютеры, модели нейронных сетей и эксперименты с программами. Первая глава книги прошла по некоторым из этих дорог. Дартмут не создал их задним числом. Он сделал другое: впервые включил выражение «искусственный интеллект» в название коллективного исследовательского проекта и предложил собраться вокруг вопросов, которые до того не образовывали единой дисциплины.

Это различие — между рождением идеи и появлением общего имени — и есть сюжет главы. Название обещало масштаб, а документ показывал, насколько мало его авторы могли заранее гарантировать. Проект стал важным не потому, что участники за лето решили проблему разума. Он дал им возможность считать эту проблему общей научной работой — и тем самым открыл спор о том, что именно они собираются создавать.

Восемнадцать страниц и один большой глагол

Оригинальная машинопись включала титульную страницу и семнадцать страниц текста. Основная часть предложения занимала лишь несколько страниц; за ней шли описания опыта и научных интересов самих организаторов. Позднейшие пересказы часто цитируют одну центральную фразу — всякий аспект обучения или любую другую черту интеллекта можно, по предположению авторов, описать настолько точно, чтобы машина могла её имитировать. Но в документе важен не только этот тезис. Важны слова вокруг него: «предполагаем», «попытаемся», «считаем возможным».

Авторы не объявляли, что интеллект уже разложен на детали. Они предлагали принять гипотезу, чтобы проверить её исследовательской работой. Между этими формулировками и позднейшим образом самоуверенных инженеров, обещавших построить разум за лето, — существенная разница. У заявки был смелый масштаб, но её авторы признавали, что описания многих задач ещё не были разработаны, а примеры решений предстояло искать.

В документе обозначены амбиции, которые сегодня звучат почти как оглавление целой истории вычислений: сделать так, чтобы машины пользовались языком, формировали абстракции и понятия, решали задачи, которые люди обычно выполняют сами, и улучшали собственную работу. При этом авторы не ограничились философской декларацией. Они пытались перевести большую тему в рабочие вопросы: как программировать компьютеры, можно ли представить мышление как манипуляцию словами и правилами, как нейронные сети формируют понятия, как оценивать сложность вычисления и откуда может появиться оригинальность.

На этих страницах постоянно встречаются два регистра. Первый — исследовательский: определение задачи, вычислительный механизм, пример, проверяемый результат. Второй — почти пророческий: интеллект, творчество, самоулучшение. Сосуществование этих регистров не было случайным дефектом. Чтобы получить финансирование и собрать людей, организаторам нужно было показать, что вопрос одновременно велик и достаточно конкретен для работы. Если описать только ближайшую техническую задачу, проект выглядел бы частным. Если говорить только о человеческом разуме, он оставался бы философским обещанием. Дартмутская заявка пыталась удержать оба края.

Это помогло ей быть сильной и одновременно сделало уязвимой. Широкое утверждение привлекало внимание к множеству возможных исследований, но под одним заголовком оказывались очень разные проблемы. «Использовать язык» — не одна операция. «Формировать понятия» может означать создание внутренних категорий, поиск общих черт в данных или запись нового правила. «Улучшать себя» может быть изменением кода, настройкой параметров, накоплением опыта или выбором более эффективной стратегии. В 1955 году документ не давал единого определения для всех этих обещаний. Он предлагал создать место, где люди могли бы начать его искать.

Четверо подписантов, четыре рабочих стола

Под предложением стоят четыре имени и четыре учреждения: Маккарти представлял Дартмутский колледж, Минский — Гарвард, Рочестер — IBM, Шеннон — Bell Telephone Laboratories. Для читателя это может выглядеть как случайная строка биографий. На деле она показывает устройство амбиции: область хотели собрать между математикой, моделированием нервной системы, вычислительной промышленностью и теорией информации.

Джон Маккарти был математиком, заинтересованным в логике и программировании. Его влекла возможность описывать рассуждение так, чтобы им мог пользоваться компьютер; однако в собственном приложении к проекту он писал и о среде, в которой обучающаяся система действует. Для него машину нельзя было оценить, не спросив, в каком мире она получает сигналы и к каким последствиям приводит её действие. Он хотел изучать не только внутреннюю схему вычисления, но и отношения между системой и средой. В приложении к заявке он предлагал начинать с простой, ограниченной среды и постепенно усложнять её. Машина должна была получать сигналы, пробовать действия и замечать, как меняется окружающая ситуация. Если у неё есть только вход и выход, но нет способа связать действие с его последствиями, она будет перебирать варианты слишком медленно. Маккарти надеялся, что система сможет строить внутреннюю модель среды: сначала проверять возможный ход мысленно, а затем действовать. Это была программа исследований, а не готовый чертёж машины, но она добавляла к вопросу о рассуждении важную часть — связь между вычислителем и миром, на который он пытается влиять. В отдельном приложении Маккарти рассматривал естественный язык не только как словарь команд. Английский, полагал он, позволяет кратко формулировать аргументы, говорить о собственном ходе работы и строить догадки. Формальные языки того времени хорошо справлялись с вычислениями, заданными заранее, но хуже подходили для таких открытых операций. Поэтому Маккарти хотел описать язык, в котором компьютер мог бы говорить об объектах и событиях, проверять предположения и возвращаться к собственной задаче. Это был план исследований, а не утверждение, что повседневную речь можно просто исполнить как программу.