ИИ. История машины, которая научилась говорить

У слова «зима» нет единственной даты

Историки и инженеры обычно помещают первую зиму где-то между серединой 1960-х и концом 1970-х, но границы зависят от того, о какой программе идёт речь. Для машинного перевода важной датой стал отчёт ALPAC 1966 года. Для британского ИИ — доклад Лайтхилла 1972 года и его публикация в 1973-м. Для некоторых американских лабораторий значимее были собственные обзоры DARPA и переход к более целевым программам. Всё это происходило не одновременно.

И само выражение «зима ИИ» стало ретроспективной рамкой. Оно объединяет этапы, которые участникам не обязательно казались одним историческим сезоном. Исследователь мог видеть сокращение средств в своей лаборатории, но одновременно наблюдать рост другой области. Студент мог считать, что его направление только начинается; чиновник — что обещания давно не оправдываются; журналист — что публика больше не интересуется темой.

Метафора делает историю доступной, но может создавать ложную паузу между двумя эпохами подъёма. На деле работа 1970-х повлияла на экспертные системы, робототехнику, программирование и методы представления знаний, которые позднее снова вышли на первый план. Идеи не ждут весны в герметичной банке. Они сохраняются через статьи, людей, учебные программы, код и исследовательские инструменты.

В случае машинного перевода география особенно важна. Американское охлаждение практических исследований не равнялось мировому прекращению работы. За пределами США продолжали развиваться проекты, в том числе направленные на более ограниченные типы текстов и задач. Систему, предназначенную для одной категории научных или погодных сообщений, легче оценить и довести до полезного режима, чем универсальный переводчик, который должен справляться с любым стилем.

Отсюда следует осторожное правило для исторического рассказа: указывать, для какого ведомства, страны, области и периода использован термин «зима». Иначе читатель воображает единый выключатель, хотя на деле перед нами карта с разными погодными условиями.

Зима была неодинаковой

Слово «первая зима ИИ» объединяет периоды и страны, которые не переживали одинакового холода. Машинный перевод после ALPAC, британские университетские группы после отчёта Лайтхилла, американские проекты DARPA и нейросетевые исследования после критики перцептрона — это разные истории. Они соприкасаются в общественном снижении ожиданий, но их нельзя свести к одному решению или общему календарю.

Даже внутри одной области разные лаборатории могли переживать спад по-разному. Университет с сильной поддержкой от нескольких источников мог продолжать программу, а небольшая группа, зависящая от одного гранта, должна была искать новую тему. Прикладная система могла сохранить средства потому, что обещала определённую функцию; теоретическая программа могла потерять их, потому что её ценность было сложнее объяснить за короткий срок. Для студента, который готовился к защите диссертации, смена приоритетов была не абстрактным изменением терминологии — она могла повлиять на доступ к вычислениям, руководству и будущей работе.

Не все исследования назывались «искусственным интеллектом» и до спада. Программирование, распознавание образов, планирование, когнитивное моделирование и автоматизация могли жить в разных дисциплинах. После того как термин стал ассоциироваться с завышенными ожиданиями, некоторые исследователи с большей осторожностью использовали его в названиях заявок. Это не обязательно скрывало работу; иногда конкретное обозначение точнее говорило, что именно изучается.

Ресурсы тоже не исчезали одинаково. Компьютерная наука в целом продолжала расти, а финансирование вычислительных систем могло переходить от открытого исследования к проектам с более ясной прикладной целью. Это означало не конец вычислительной науки, а изменение отношений между фундаментальным вопросом и государственным заказом. Работать над программой можно было, но всё труднее было просить деньги просто «на общий интеллект».

Исследования за пределами США и Великобритании также не остановились. Канада продолжала развивать машинный перевод в задачах с ясным доменом, например переводом погодных сводок; в Европе и Советском Союзе были свои коллективы и приоритеты. Позднее системы, ограниченные конкретным словарём и форматом, могли оказаться полезными там, где универсальный переводчик проваливался. Это показывает: сужение задачи могло быть не капитуляцией, а методом поиска полезной точки применения.

Если назвать все эти различия одним словом «зима», нужно помнить, что это метафора, а не единый режим погоды. Где-то инвестиции сокращались; где-то менялась их структура; где-то публичный интерес падал, а техническая работа продолжалась. Исторический ярлык помогает увидеть общий ритм, но может скрыть тех, кто продолжал работать внутри периода, который позднее описали как остановку.

Когда меняется грант, меняется и биография

У разговоров о финансировании есть соблазнительная безличность. «Поддержка области снизилась» звучит как изменение линии на графике. Но за ней стоят конкретные решения: продолжит ли студент исследование после защиты; получит ли лаборатория время на больший прототип; сможет ли технический сотрудник сохранить место; возьмётся ли молодой учёный за тему, которую комиссия может счесть рискованной.

Мы не должны придумывать, что каждый исследователь 1970-х чувствовал себя изгнанником или считал, что его карьеру уничтожили. Положение разных людей зависело от учреждения, источников финансирования и того, как их работу можно было описать. Но структурное следствие понятно: чем труднее получить средства на открытую программу, тем больше лаборатории вынуждены подтверждать ближайшую пользу или искать название, которое точнее совпадает с приоритетом гранта.

Прикладная формулировка могла помочь сохранить вычислительные ресурсы и исследовательскую группу. Она могла также сузить вопрос. Если лаборатория изучала общие методы поиска, но заявляла проект как оптимизацию одного процесса, ей приходилось удерживать одновременно научную амбицию и обещание конкретному заказчику. Иногда эта связь становилась плодотворной; иногда разрыв между ними накапливал новое разочарование.

Сокращение средств влияло и на невидимую инфраструктуру. Для работы ИИ нужны не только профессора и авторы статей. Нужны компьютеры, операторы, программисты, инженеры, специалисты по данным и техническое обслуживание. Когда проект заканчивается, может исчезнуть не только гипотеза, но и команда, которая научилась строить эксперимент. Восстановить такую способность позже бывает труднее, чем вновь опубликовать идею.

Это не аргумент против оценки результатов. Он показывает, что бюджетное решение имеет цену в обе стороны. Финансировать неподтверждённое обещание дорого; отказаться от программы, которая могла созреть при следующем технологическом условии, тоже дорого. Оценивать приходится не только вероятность успеха, но и то, как распределяется риск: кто платит за неудачу, кто теряет возможности и кто получает пользу, если метод сработает.

Наука и отчётность: конфликт, который никуда не исчез

История первой зимы задаёт неприятный вопрос: кто имеет право требовать от исследователя практической пользы и в какой момент? Если от фундаментальной работы ждать немедленного дохода, часть открытий никогда не получит времени на развитие. Если обещание будущего автоматически оправдывает продление гранта, у исследовательской программы исчезает механизм подотчётности.

Лайтхилл считал тесную связь исследования с практической задачей особенно важной. Историк науки Джон Агар, анализировавший отчёт, показал, что позиция Лайтхилла была связана с его устойчивым представлением о том, как должна выглядеть хорошая наука: она должна быть сопряжена с реальным решением задач. Кроме того, хотя доклад часто описывают как независимый, Science Research Council задавал ему предварительный контекст и направление. Это не означает, что текст был заказным приговором; значит, его независимость не следует понимать так, будто он возник вне институциональной задачи.

Исследователи, в свою очередь, могли утверждать, что хороший теоретический механизм ценен до того, как его применили в роботе или продукте. Они также были правы: инструмент иногда сначала меняет способ думать о задаче, а практическая польза приходит позже. Проблема начиналась, когда широкий лозунг «интеллект скоро станет общим» заменял объяснение того, что именно будет проверено за следующий грантовый период.

Оценка науки поэтому должна разделять горизонты. Ближайший: работает ли прототип при заданных условиях? Средний: переносится ли он на новые примеры и сколько стоит его использование? Долгий: меняет ли программа наше понимание задачи и какие новые методы из неё вырастают? Нельзя требовать, чтобы каждый фундаментальный проект дал продукт за год. Но нельзя и использовать далёкую перспективу как защиту от любой проверки.

У финансирующих организаций есть собственная проблема. Их решения видимы и могут быть политически спорными; неполученные результаты иногда проще объяснить «неудачным направлением», чем неопределённостью исследовательского процесса. Но отказ от проекта также не нейтрален: он определяет, какие идеи будут развиваться, кто сможет остаться в лаборатории и какое будущее станет доступным для проверки. Бюджетная экспертиза — часть истории науки, а не внешний шум вокруг чистых формул.

Эта проблема вернётся и в современные технологии. Компании и ведомства будут обещать полезные системы, показывать демонстрации, просить финансирование и объяснять ограничения. Цикл не обязательно плох: он может дисциплинировать ожидания и защищать общество от бесконечного финансирования пустых обещаний. Но оценка должна быть конкретной. Нельзя судить о переводе, роботе, теории познания и нейронной сети одной шкалой «готово / не готово».

Компьютеру не хватало не только скорости

Когда слышишь о ранних неудачах, легко решить, что все проблемы сводились к слабым компьютерам. Действительно, вычислительная мощность была ограниченной, память стоила дорого, а программы обрабатывали данные медленнее, чем хотелось бы. Но даже вообразив более быстрый процессор, мы не получаем автоматически программу, которая знает, на что обратить внимание.

Чтобы робот взял чашку, ему нужно отличить её от соседнего предмета, определить положение ручки, оценить, можно ли схватить её, и понять, не закрыта ли она другим объектом. Если рядом стоит другая посуда, система должна знать, что можно сдвинуть, а что может упасть. Каждый из этих шагов зависит от предыдущего, но также от ожиданий о физическом мире. Быстрый поиск не спасает, если программе неизвестно, какие варианты стоит рассматривать и какие условия важны.

Это была проблема представлений. Как описать ситуацию так, чтобы компьютеру было удобно рассуждать о ней? Какие факты нужно хранить? Как обновить описание, если объект сместился? Как не перечислять каждую возможную конфигурацию отдельно? Философы и инженеры могли говорить о «здравом смысле», но для программы это означало множество конкретных взаимосвязанных ожиданий: предметы занимают пространство, закрывают друг друга, падают, ломаются, поддерживают вес, могут быть похожи, но выполнять разные функции.

Системы раннего ИИ успешно работали там, где описание мира было достаточно полным и устойчивым. Но реальные задачи были открытыми: пользователь мог назвать незнакомый объект, изменить цель, совершить неожиданное действие. У программы не всегда был способ определить, какое правило уместно. Если в систему добавить больше знаний, возникает новый вопрос: как проверить, что они согласуются и не порождают бесконечный перебор?

Поэтому «недостаточно мощности» — правильный, но неполный ответ. Нужны были новые способы представить знания, выбирать действия, учиться на опыте и сохранять устойчивость к незаданным условиям. Каждый из этих шагов требовал собственных идей. Техника могла сделать систему быстрее; она не могла сама придумать для неё понятие чашки, хрупкости или разумного плана.

Под одной вывеской скрывались разные дисциплины

Слово «искусственный интеллект» объединяло программы, которые решали совсем разные задачи. Logic Theorist строил доказательства. Перцептрон менял веса по примерам. ELIZA выбирала языковые шаблоны. Машинный перевод пытался преобразовать текст между языками. Робототехника связывала зрение с физическим движением. Каждая система требовала своего вида данных, своей аппаратуры и своего критерия успеха.

Это разнообразие было источником силы: исследователи могли обмениваться идеями и переносить методы между задачами. Но оно усложняло оценку. Если программа переводит предложения, её можно сравнить с переводчиком по точности, скорости и стоимости. Если система доказывает теорему, можно проверить цепочку вывода. Если робот в лаборатории берёт блок, надо решить, считать ли успехом само действие, его надёжность или способность переносить навык на другую комнату. Если ELIZA поддерживает диалог, нужно отделить техническую связность от человеческого ощущения разговора.

Единой шкалы для всех этих результатов не было. Тот факт, что один тип программы провалил практическое ожидание, не обязательно говорит о другом типе исследований. Но название «ИИ» могло сделать так, что неудача одной системы воспринималась как отчёт о всей дисциплине. Именно поэтому ALPAC и Лайтхилл нельзя склеивать в единый приговор. Один оценивал прежде всего машинный перевод и связанные языковые процессы в американском контексте; другой пытался классифицировать широкую британскую область, включавшую автоматизацию, модели центральной нервной системы и робототехнику.

Критика также приходила от разных сторон. Заказчик спрашивал, решена ли его практическая задача. Инженер проверял, можно ли запустить систему вне лабораторного стенда. Учёный спорил, даёт ли эксперимент общую теорию. Философ мог сомневаться в самом отождествлении вычисления и мышления. Все говорили об ИИ, но измеряли разные вещи.

Это не значит, что дисциплина была искусственно создана одним названием и потому не имела общего ядра. Общим был интерес к системам, которые выполняют действия, обычно связываемые с человеческими способностями. Но способы исследовать эти действия расходились. В одних проектах главным было формализовать знания; в других — научить машину классифицировать; в третьих — связать восприятие и моторное управление. Слово «ИИ» соединяло их как зонтик, который не отменял разницы в погоде под ним.

Любая оценка описывает свою эпоху

Отчёт всегда измеряет систему теми средствами и по тем задачам, которые доступны в момент проверки. ALPAC не оценивал статистический перевод конца XX века или нейронные модели XXI века; Лайтхилл не мог проверить вычислительные ресурсы и подходы, появившиеся позднее. Их выводы нужно читать как ответы на тогдашние заявки, а не как всевременные предсказания.

Это не повод снисходительно улыбаться экспертам прошлого. Именно они должны были принимать решения при реально имевшихся данных. Но и мы не должны превращать их ограничения в закон природы. Полезная историческая оценка сохраняет два факта одновременно: системы тогда не справлялись с обещанным масштабом, а будущие поколения могли изменить саму задачу, методы и инфраструктуру.

Чего не произошло

Не произошло такого, что в начале 1970-х каждый исследователь остановил работу и признал искусственный интеллект невозможным. Исследовательские вопросы продолжались, иногда меняя имя и контекст. Отчёты не превратили математику в ложь, не запретили роботам двигаться и не закрыли компьютеры. Они изменили степень доверия к широким обещаниям и усложнили получение ресурсов для некоторых программ.

Не произошло и обратного: будто критики были неправы во всём, потому что спустя десятилетия появились мощные системы. Комбинаторная сложность, хрупкость восприятия и нехватка здравого смысла были реальными. Ограниченность тогдашних методов была реальной. Если сегодня машина переводит лучше, это произошло благодаря новым идеям, данным, вычислениям и инженерным системам, которых у команды ALPAC не было. Позднейшая победа не отменяет раннего диагноза о конкретном состоянии дел.

Не следует думать, что «зима» была наказанием за слишком смелую мысль. Наука двигается не только теми, кто верит, что задача решаема. Ей нужны критики, которые показывают пределы; организаторы, которые спрашивают о расходах; инженеры, которые исправляют слабости; и финансирующие структуры, способные поддерживать исследования, результат которых нельзя заказать точно по сроку. Ошибка начинается, когда один вид участника объявляют единственным владельцем истины.

Охлаждение изменило язык. Вместо «общего интеллекта» проще было заявить конкретную функцию; вместо системы, которая знает всё, — программу, которая помогает в одной предметной области. Иногда слово «ИИ» исчезало из вывески, но методы оставались. Распознавание, планирование и обработка языка могли продолжаться под именами компьютерной науки, статистики, инженерии или прикладного анализа.

Одновременно менялся характер публичного обещания. Хорошая демонстрация перестала автоматически означать, что коммерческий или государственный продукт уже на горизонте. Вопрос о масштабировании стал не второстепенной оговоркой, а центральной частью оценки. Что система умеет в чистой комнате? Что происходит, когда меняется фон, словарь, пользователь или цена ошибки? Сколько ручного труда остаётся после автоматизации? Эти вопросы звучали скучнее обещаний мыслящей машины, но были ближе к реальности.

В этом смысле первая зима была болезненной формой взросления области. Она не доказала, что проект искусственного интеллекта ошибочен. Она показала, что единая вывеска прикрывает множество разных задач, у каждой из которых собственная трудность, стоимость и мера успеха. Там, где раньше хватало обещания «создать интеллект», теперь нужно было показать, какой именно метод работает, при каких условиях и почему стоит продолжать.

Почему после зимы выбрали узкую задачу

После разочарования в универсальных обещаниях сильнее выглядела идея выбрать конкретную область и перестать просить от машины всё сразу. Если эксперт умеет диагностировать неисправность, можно попытаться записать его правила. Если геолог умеет отбирать вероятные месторождения по данным, можно формализовать часть его опыта. Если инженер знает, какие конфигурации системы допустимы, машина может применить эти знания быстро и последовательно.

Такой подход менял язык ценности. Вместо общего обещания человеческого разума появлялся узкий вопрос: сможет ли программа помочь специалисту в одной хорошо описанной задаче? Вместо обучения на примерах или большого перебора — явные факты и правила, которые передал человек. Вместо демонстрации «машина думает» — результат, который можно сравнить с работой конкретного эксперта.

Экспертная система не отменяла все старые проблемы. Человек часто не может полностью объяснить, как он распознаёт ситуацию; правила могут противоречить друг другу; база знаний устаревает; система может работать только в узкой области. Но обещание стало проверяемее. Можно было показать, на каких случаях программа помогает, где ошибается, как её обновлять и кто отвечает за правила.

Это не было поражением ИИ. Это была стратегия, которая соответствовала научной и экономической погоде. После зимы легче было финансировать систему, умеющую хорошо делать одно, чем программу, обещающую научиться делать всё. Рынок хотел полезности; исследователи получили более чёткие задачи; пользователи могли оценивать функцию, а не будущий разум.

Следующая глава начинается именно с этого поворота. Компьютеру дадут не сеть связей, которая меняется после примеров, и не открытый поиск универсального интеллекта. Ему дадут знания экспертов — инструкции, условия и правила, записанные в явном виде. Обещание станет уже. И впервые за долгое время именно узость покажется преимуществом.

Глава 7. Если эксперт — это правила