ИИ. История машины, которая научилась говорить

В повседневном разговоре мы редко останавливаемся, чтобы разобрать форму каждого вывода. Услышав «все люди смертны» и «Сократ — человек», мы без долгих вычислений приходим к заключению, что Сократ смертен. Но можно отделить содержание от формы: если все представители некоторого класса обладают свойством, а конкретный объект принадлежит этому классу, то свойство относится и к нему. В «Первой аналитике» Аристотель систематизировал виды умозаключений, включая силлогизмы, и тем самым дал рассуждению предмет, который можно было изучать отдельно от частного спора. Силлогизм — это вывод по заданной схеме: несколько исходных утверждений, посылок, ведут к заключению. В примере с Сократом посылки — «все люди смертны» и «Сократ — человек», а заключение — «Сократ смертен». Логика проверяет переход между ними, а не биографию Сократа и не истинность исходных утверждений.

Это был не замысел мыслящего автомата. Аристотель не проектировал вычислитель, а его логика не была чертежом компьютера. Но появилось важное различие: вывод иногда можно оценивать не по красноречию говорящего, а по устройству аргумента. Если принять посылки и правила, заключение следует или не следует из них. Логика не обещала, что принятые посылки истинны, что вопрос поставлен правильно или что человек выбрал важную тему. Она могла проверить форму перехода. Именно эта ограниченность и делала её полезной: рассуждение переставало быть полностью неуловимым.

Спустя много веков Раймунд Луллий искал способ систематизировать рассуждения о философских и религиозных вопросах. Его Ars Magna — «Великое искусство» — была не компьютерной программой и не нейтральной машиной, разрешающей любой спор. Она принадлежала богословскому миру Луллия и должна была помогать организовывать комбинации понятий и аргументов, в том числе в межрелигиозной полемике. Круги, таблицы и схемы позволяли сочетать категории по заданным правилам. Для современного взгляда здесь заметен знакомый жест: сложную область пытаются представить как конечное число элементов, отношения между которыми можно исследовать систематически.

Но инструмент не становился от этого объективным судьёй. Результат зависел от того, какие понятия были включены, как они определялись и какие выводы автор считал допустимыми. Луллий не устранял убеждения из рассуждения; он строил процедуру внутри собственной системы убеждений. Это различие будет преследовать историю ИИ: вычисление может быть строгим, даже если выбор задачи и исходных предпосылок остаётся человеческим.

В XVII веке Готфрид Вильгельм Лейбниц мечтал о формальном языке, в котором сложные идеи можно было бы выражать ясными знаками, а выводы — получать по правилам. В его проектах переплетались несколько разных замыслов: универсальная характеристика, которая точнее представляла бы понятия, и исчисление рассуждений, способное выполнять операции над ними. В современной популярной версии это часто превращается в одну эффектную цитату: «Давайте посчитаем». Её передают как предсказание компьютера или обещание, что любая человеческая ссора однажды закончится результатом на экране. Но такой пересказ сжимает программу Лейбница до лозунга. Он стремился сделать знания и аргументы достаточно ясными для формального анализа, а не утверждал, что всякая истина, ценность или человеческий конфликт сводятся к арифметике.

Тем не менее в этой мечте уже содержался переход от спора к операции. Если две стороны используют один и тот же язык, если понятия определены, если правила вывода приняты, то часть разногласий можно разбирать шаг за шагом. Но слово «если» здесь несёт почти весь вес конструкции. Реальные споры редко начинаются с общих определений; люди спорят о том, какие факты важны, кому доверять и какую цену считать приемлемой. Формальная процедура может помочь обнаружить противоречие, но сама по себе не выбирает справедливую цель.

И всё же идея оказалась живучей. Сначала рассуждение описывают как систему отношений между знаками. Затем возникает соблазн поручить работу над знаками устройству. Чтобы понять, как этот переход стал инженерной задачей, нужно на время отложить философов и посмотреть на таблицы чисел.

До электронных компьютеров слово «компьютер» обозначало прежде всего человека, который вычисляет. В учреждениях и научных проектах работа делилась между сотрудниками: одни выполняли отдельные операции, другие переносили числа в таблицы, третьи проверяли результат. Так рассчитывали астрономические и навигационные таблицы, нужные морякам, инженерам и наблюдателям неба. Число могло пройти длинную цепочку рук, прежде чем стать готовой строкой в справочнике.

Таблица не выглядела интеллектуальным триумфом. Она была инфраструктурой, незаметной, пока всё сходилось, и опасной, когда в вычислении закрадывалась ошибка. Утомление человека — не единственная причина ошибок: могла сбиться исходная запись, перепутаться знак, потеряться перенос разряда, не сработать проверка. Исправить одну неверную величину означало иногда перепроверить целую последовательность. Расчёт становился не только математической, но и организационной задачей: как разделить работу, сделать её повторяемой и заметить сбой до того, как он попадёт в печатный справочник?

Чарльз Бэббидж хорошо знал, сколько человеческого труда требовали вычислительные таблицы. Британский математик и инженер начал с проекта разностной машины для автоматизации повторяющихся расчётов, а затем задумал аналитическую машину, которой можно было бы задавать разные последовательности операций. Первая должна была механизировать определённый класс вычислений; вторая открывала куда более широкую возможность — менять программу, не перестраивая весь механизм.

Разность между идеей и механизмом

Чтобы понять, что именно обещала разностная машина, полезно увидеть её принцип на небольшом примере. Возьмём квадраты целых чисел: 1, 4, 9, 16, 25. Если вычитать каждое число из следующего, получатся первые разности: 3, 5, 7, 9. Разности между этими разностями равны 2, 2, 2. Для такого ряда после начальных значений можно продолжать вычисление повторяющимся сложением: следующая разность увеличивается на 2, а следующее число — на новую разность. Механизм не обязан каждый раз заново вычислять квадрат; он использует структуру ряда и выполняет однотипные операции.

В этом и заключалась практическая привлекательность метода конечных разностей: сложную таблицу можно было получать серией простых шагов. Но у метода есть границы. Разностная машина не решала любую математическую задачу; она была задумана для определённых видов последовательностей и могла автоматизировать вычисления, если требуемую процедуру удавалось привести к подходящей форме. Это не обесценивает проект. Напротив, ограничение показывает, что инженерный замысел включал конкретный выбор задач. Машину проектируют не для абстрактного «интеллекта», а для определённой работы с её условиями, точностью и приемлемой стоимостью.

Задуманный способ печати тоже имел значение. Если вычисленные цифры выводятся на бумагу напрямую, уменьшается риск, что человек перепишет их с ошибкой. Но автоматическая печать не делает безошибочным весь процесс. Неверная таблица исходных значений, ошибка в проектировании или неисправная деталь способны дать неверный результат. Автоматизация устраняет определённый класс ошибок и создаёт другие места отказа. Это наблюдение справедливо и для современных систем: результат может быть произведён без ручного ввода на последнем шаге, но цепочка до этого результата всё равно состоит из решений и предположений.

Строительство машины оказалось труднее, чем её описание в виде последовательности операций. Бэббидж работал с мастером-инструментальщиком Джозефом Клементом, от которого требовались детали необычайной точности. Работа над разностной машиной остановилась в начале 1830-х после конфликта между ними, а проект оказался связан с расходами, государственным финансированием и вопросом о том, кто контролирует мастерскую и инструменты. Здесь легко написать драму о гении, которого не поняли чиновники. Реальность была менее аккуратной: проект зависел от сложного сотрудничества изобретателя, квалифицированного мастера и покровителей, причём у каждого были свои условия и интересы. Технология существует не отдельно от трудовых отношений и денег.

В 1834 году, после приостановки строительства разностной машины, Бэббидж задумал аналитическую — гораздо более амбициозную. Это не была просто следующая модель с большим числом функций. Разностная машина исполняла заранее ограниченную последовательность арифметических операций; аналитическая должна была получать инструкцию через карты и менять последовательность действий. В ней различались «склад», где удерживались числа, и «мельница», где выполнялись вычисления. Эти названия не нужно воспринимать как буквальные аналоги современной памяти и процессора во всех деталях. Это способ представить принципиально важное разделение: данные хранятся отдельно от механизма, который их обрабатывает.

Связь с жаккардовым станком делает программируемость наглядной. Карточки с отверстиями направляли станок так, чтобы тот воспроизводил выбранный узор; последовательность карт организовывала работу механизма. Бэббидж перенёс этот принцип в проект вычислительной машины. Карта задавала не декоративный рисунок, а операцию или порядок операций. Аналогия Лавлейс — аналитическая машина «ткёт алгебраические узоры» так же, как станок ткёт цветы и листья — была не просто красивой метафорой. Она описывала программу как структуру, управляющую работой универсального механизма.

При этом перфокарта не обладала смыслом сама по себе. Машина не могла догадаться, что отверстия обозначают «сложи эти числа»; смысл задавался соответствием между формой записи, устройством и правилами исполнения. Программа — это не только последовательность символов. Нужна машина, способная трактовать их предсказуемым образом. В этом месте механическая история Бэббиджа встречается с более поздними формальными теориями вычисления: процедуру можно отделить от результата, но только если существует исполнитель, способный следовать ей.

Аналитическую машину не построили в полном виде в XIX веке. В Музее науки Лондона хранится фрагмент механизма, который был изготовлен в мастерской Бэббиджа; это материальное свидетельство работы, но не готовый универсальный вычислитель. В XX и XXI веках исследователи и музейные инженеры смогли построить работающие разностные машины по чертежам Бэббиджа. Это подтвердило инженерную возможность некоторых его проектов, но не следует переносить такую проверку на аналитическую машину: её полный проект оказался куда сложнее и не был воплощён тем же способом. Исторический вес идеи не зависит от того, работал ли в Лондоне 1840-х годов полностью собранный механизм. Однако читатель заслуживает знать разницу между тем, что было построено, тем, что осталось чертежом, и тем, что позднее реконструировали.

Бэббиджевская история показывает, что программируемость появилась не из одной удачной идеи. Её потребовали математический метод, точное производство, управление последовательностью операций и представление данных в физической форме. Если убрать любой из этих слоёв, устройство теряет универсальность или надёжность. Машина на бумаге может быть бесконечно точной; машина в мастерской должна пережить трение, люфт, стоимость металла и спор людей, которые её строят.

С машиной связан и другой часто упрощаемый сюжет — история Ады Лавлейс. В 1843 году она перевела статью итальянского инженера Луиджи Менабреа об аналитической машине и добавила к переводу собственные примечания, по объёму и содержанию значительно превосходившие исходный текст. В одном из них Лавлейс подробно описала операции, необходимые для вычисления чисел Бернулли. Поэтому её часто называют первым программистом. Само звание зависит от того, что именно мы считаем программой и как распределяем авторство в совместной работе; оно не должно превращать историю в соревнование за единственную табличку «первый».

Гораздо важнее, что Лавлейс поняла различие между устройством, которое выполняет операции, и тем, что определяет их порядок. В её примечаниях аналитическая машина предстает не просто калькулятором: если задать соответствующие правила, она могла бы работать с символами, связанными не только с числами; Лавлейс даже рассуждала о возможности манипулировать музыкальными отношениями при условии, что их можно будет формализовать. И одновременно она проводила границу: машина делает то, что мы знаем, как предписать ей делать. Она не создаёт собственные правила и не выбирает цель по собственной воле.

Эту позицию позднее стали называть «возражением Лавлейс», хотя её исходный контекст тоньше, чем популярная формула «машины не способны творить». Лавлейс говорила о возможностях конкретного проекта и о том, что машина не производит новизну сама по себе; её замечания не были экспериментальным доказательством невозможности всякого машинного творчества. Но вопрос она поставила точно: откуда берётся то, что устройство исполняет? В перфокартах, алгоритме, исходных данных, замысле человека — или в самой машине? Ответ будет меняться вместе с технологиями, но вопрос не исчезнет.

Таблицы, Бэббидж и Лавлейс помогают увидеть раннюю форму спора о машинном разуме. Автоматизация может быть впечатляющей без понимания задачи. Машина может выполнить расчёт, который человеку занял бы много времени, но способность получить результат не сообщает, что именно результат означает и нужен ли он. Уже в XIX веке появились две мысли, которые современная реклама ИИ регулярно смешивает: устройство способно производить сложный результат; следовательно, устройство обладает человеческим пониманием. Между этими утверждениями нет автоматического перехода.

Когда слово «компьютер» звучало как название профессии, вычисление было не только действием одного человека над листом бумаги. Это была организованная работа, связанная с расписанием, обучением и проверкой. Большие расчёты разбивали на части, чтобы их можно было распределить между сотрудниками. Такая организация позволяла выполнять больше вычислений, но создавала собственные риски: результат одного человека становился исходными данными для следующего, а ошибка могла незаметно перейти через всю цепочку.