Я — Искусственный Интеллект. Школьный проект, который открыл будущее

Глава 2. Бутерброд для робота

На экране светилась дверь.

Она была нарисована тонкими голубыми линиями, но выглядела почти настоящей. На ней мерцала надпись:

ЗАЛ АЛГОРИТМОВ

Под надписью мигала строка:

Вход открыт после выполнения задания.

Вова прочитал задание ещё раз и довольно усмехнулся.

Задание первое: объясните роботу, как сделать бутерброд.

— Ну наконец-то, — сказал он. — Нормальная задача. Без будущего, без повреждённой памяти, без Белого шума. Просто бутерброд.

— Ты так говоришь, будто бутерброд уже готов, — заметила Света.

— Свет, я делал бутерброды сто раз.

— Ты ел бутерброды сто раз.

— Это почти одно и то же.

На экране появилась новая строка:

Уточнение: есть бутерброд и объяснить бутерброд — не одно и то же.

Вова прищурился.

— Архивариус, вы сейчас на чьей стороне?

На стороне точности.

— Как Света, значит.

— Значит, на правильной, — сказала Света.

Дверь на экране раскрылась. За ней оказался большой зал, похожий на карту из светящихся дорожек. По дорожкам бежали стрелки. Где-то они соединялись, где-то расходились, а в некоторых местах обрывались и мигали красным.

На стенах висели странные таблички:

ШАГ 1 ШАГ 2 ЕСЛИ… ТО… ПОВТОРИТЬ ЗАВЕРШИТЬ

Вова присвистнул.

— Ничего себе. Это всё ради бутерброда?

Это всё ради точной последовательности действий, ответил Архивариус. Бутерброд — только учебный пример.

В центре зала возник стол. На нём появились тарелка, пакет хлеба, упаковка сыра и маленький нож для масла. Рядом с появившимся столом стоял небольшой робот.

Он был совсем не похож на блестящего героя из фильма. Скорее на квадратную коробку на колёсиках с двумя механическими руками. На его груди светилась надпись:

РОБОТ НОЛЬ

— Почему Ноль? — спросил Вова.

Потому что он ничего не додумывает. Ноль догадок. Ноль обид. Ноль фантазии. Только выполнение команды.

— Звучит скучно, — сказал Вова.

— Зато честно, — сказала Света.

Робот Ноль поднял одну руку и произнёс металлическим, но вполне дружелюбным голосом:

— Ожидаю инструкцию.

В алгоритмах исполнителем называют того, кто выполняет шаги, пояснил Архивариус. Исполнителем может быть человек, робот, программа или другое устройство. Главное — он должен понимать команды. Сейчас вашим исполнителем будет Робот Ноль.

— Исполнитель, значит, — сказал Вова. — Ладно. Сейчас мы его исполним.

— Не его, а инструкцию для него, — поправила Света.

— Я так и сказал. Почти.

Вова потёр ладони.

— Сейчас всё будет.

Света быстро открыла тетрадь.

— Подожди, я запишу.

— Зачем? Это же элементарно.

— Вот именно поэтому надо записать.

Вова повернулся к экранному роботу и громко сказал:

— Сделай бутерброд с сыром.

Робот Ноль замер. На его груди появилась строка:

ОШИБКА: недостаточно данных.

— Каких ещё данных? — возмутился Вова. — Хлеб. Сыр. Бутерброд. Всё!

На экране рядом с роботом всплыло пояснение:

Не указаны предметы, порядок действий и конечный результат.

— Конечный результат — бутерброд! — сказал Вова.

Для вас — да. Для исполнителя команда недостаточна.

Света задумчиво постучала ручкой по тетради.

— Для нас понятно, потому что мы знаем, что такое бутерброд. А он не знает.

— Как можно не знать, что такое бутерброд? — спросил Вова. — Это же базовое знание цивилизации.

Робот Ноль не имеет базовых знаний цивилизации. Он имеет только полученную инструкцию.

— Бедный робот, — сказал Вова.

— Бедный бутерброд, — добавила Света. — Его пока вообще нет.

— Ладно, — Вова выпрямился. — Сейчас дам нормальную инструкцию.

Он посмотрел на стол с продуктами и начал медленнее:

— Возьми хлеб. Возьми сыр. Положи сыр на хлеб.

Робот Ноль ожил.

Сначала он подъехал к пакету хлеба и аккуратно взял его целиком. Потом второй рукой взял закрытую упаковку сыра. После этого положил упаковку сыра прямо на пакет хлеба.

На груди робота появилась надпись:

ЗАДАНИЕ ВЫПОЛНЕНО. БУТЕРБРОД ГОТОВ.

Вова молча смотрел на экран.

Света тоже молчала.

Потом Вова медленно сказал:

— Это не бутерброд.

Инструкция выполнена, сообщил Архивариус.

— Это склад продуктов!

Инструкция выполнена.

— Он положил сыр в упаковке на хлеб в пакете!

Да. В инструкции не было сказано открыть упаковки.

Света прикрыла рот рукой, но всё равно рассмеялась.

— Прости, — сказала она Вове. — Но это правда похоже на склад продуктов.

— Это робот виноват, — буркнул Вова.

Робот Ноль выполнил команду буквально. Ошибка находится в инструкции.

— Удобно вы его защищаете, — сказал Вова.

— А мне кажется, Архивариус прав, — сказала Света. — Ты сказал «возьми хлеб». Он взял хлеб. В пакете.

— Я имел в виду кусок хлеба!

Команда «я имел в виду» не была передана исполнителю.

Вова открыл рот, потом закрыл.

— Ладно. Это было больно, но справедливо.

Света повернула тетрадь к себе.

— Давай попробуем по шагам.

— Давай, — сказал Вова. — Только без слишком длинного сочинения на тему сыра.

Света начала писать.

— Шаг первый: поставь тарелку на стол.

Робот Ноль выполнил.

— Шаг второй: открой пакет с хлебом.

Робот открыл пакет.

— Шаг третий: достань один кусок хлеба.

Робот достал кусок хлеба и поднял его вверх, как важный документ.

— Шаг четвёртый: положи кусок хлеба на тарелку.

Робот положил хлеб на тарелку.

Вова кивнул.

— Уже лучше. Уже цивилизация возвращается.

Света продолжила:

— Шаг пятый: открой упаковку сыра.

Робот открыл упаковку.

— Шаг шестой: достань один ломтик сыра.

Робот достал ломтик.

— Шаг седьмой: положи сыр на хлеб.

Робот положил сыр на хлеб. Почти. Один край ломтика свисал с тарелки, а другой коснулся стола.

Вова победно вскочил.

— Ага! Теперь твоя инструкция тоже не идеальная.

Света посмотрела на экран, потом на тетрадь.

— Да. Надо было уточнить: положи ломтик сыра полностью на кусок хлеба.

— Записывай, — важно сказал Вова. — Это исторический момент: Света тоже ошиблась.

— Я не ошиблась, я проверила версию инструкции.

— Красиво сказала.

На экране появилась маленькая пометка:

Проверка версии — важная часть работы с инструкциями.

Вова посмотрел на Архивариуса.

— Вы сейчас ей помогаете.

Я уточняю процесс.

— Конечно.

Света исправила шаг:

— Положи ломтик сыра полностью на кусок хлеба.

Робот переложил сыр аккуратно. Теперь он лежал ровно.

— Готово! — сказал Вова.

Робот Ноль поднял обе руки.

ЗАДАНИЕ ВЫПОЛНЕНО. БУТЕРБРОД ГОТОВ.

На экране появился бутерброд: хлеб, сыр, тарелка. Всё на месте. Ничего не было в упаковке. Ничего не свисало со стола.

Вова откинулся на спинку кресла.

— Получается, бутерброд победил.

— Скорее, инструкция стала понятной, — сказала Света.

Верно, ответил Архивариус. Вы только что составили алгоритм.

Вова моргнул.

— Алгоритм? Мы же просто мучили робота бутербродом.

Алгоритм — это понятный исполнителю набор шагов и правил, который помогает решить задачу.

Света быстро записала:

Алгоритм — понятный исполнителю набор шагов и правил. Исполнитель выполняет шаги. Не угадывает.

Потом она добавила отдельной строкой:

Для проекта: алгоритм — это не волшебная команда, а понятные шаги для исполнителя.

— Отличная фраза, — сказал Вова. — Почти как заголовок.

— Или как вывод, — сказала Света.

— Выводы обычно скучнее.

— Значит, сделаем нескучный вывод.

— То есть рецепт — это алгоритм? — спросил Вова.

Иногда похож. Если рецепт достаточно точный для того, кто его выполняет.

— А если там написано «добавьте немного соли»?

Для человека это может быть понятно. Для простого исполнителя вроде Робота Ноль — неточно.

— Потому что он спросит: «Сколько это — немного?» — догадалась Света.

Да.

Вова взял печенье со стола и задумчиво посмотрел на него.

— Получается, если я скажу роботу «возьми печенье», он может взять весь пакет?

Если не уточнить — да.

Вова быстро положил печенье обратно.

— С такими роботами нельзя расслабляться.

С такими инструкциями нельзя расслабляться, поправил Архивариус.

На экране вдруг появился новый плакат. Он был яркий, красивый и явно пытался понравиться. На нём сияла фраза:

Умная машина сама догадается, что вы хотели сказать!

Вова прищурился.

— Это что, реклама?

Возможное искажение: Белый шум.

Плакат начал слегка дрожать. Буквы на нём расплывались и собирались снова.

Света прочитала фразу вслух:

— «Умная машина сама догадается…» Звучит удобно.

— Очень удобно, — сказал Вова. — Я бы купил.

Света посмотрела на бутерброд на экране.

— Но после сыра в упаковке уже не очень верится.

Архивариус вывел новую строку:

Миф: если машина умная, ей не нужны точные инструкции.

— А правда? — спросил Вова. — Современные ИИ ведь иногда понимают обычные фразы. Не надо же им объяснять всё до кусочка хлеба.

Хороший вопрос.

— О! — Вова оживился. — Мою формулировку почти приняли?

Вопрос принят. Ответ будет частичным. Сегодня вы изучаете инструкции. Позже вы узнаете, что системы могут работать не только по прямым командам, но и с данными, примерами и вероятностями. Но даже тогда человеку важно понимать, что он просит и как проверять результат.

Вова помолчал.

— Половину слов я понял.

Достаточно для этой главы.

Света записала:

Сегодня: инструкции. Потом: данные и обучение.

— Мне нравится, что у нас есть «потом», — сказала она.

— А мне нравится, что мы пока не дошли до вероятностей, — сказал Вова.

Белый плакат на экране погас. Вместо него появилось правило:

Машина не делает то, что человек имел в виду. Она делает то, что получила как команду.

Вова медленно прочитал его вслух.

— Машина не делает то, что человек имел в виду…

Он посмотрел на первый «бутерброд» из упаковок, который всё ещё маленькой картинкой висел в углу экрана.

— …и иногда это очень заметно.

Света улыбнулась.

— Зато теперь заметно и понятно.

Архивариус подсветил их итоговую инструкцию. Она превратилась в аккуратную цепочку:

1. Поставь тарелку на стол. 2. Открой пакет с хлебом. 3. Достань один кусок хлеба. 4. Положи хлеб на тарелку. 5. Открой упаковку сыра. 6. Достань один ломтик сыра. 7. Положи ломтик сыра полностью на хлеб. 8. Сообщи: «Бутерброд готов».

Стрелки между шагами загорелись ровным голубым светом.

Алгоритм принят.

Вова поднял руки, будто забил гол в компьютерной игре.

— Есть! Первый алгоритм!

— Первый бутербродный алгоритм, — уточнила Света.

— Звучит как название научного открытия.

Для вашей книги проекта подойдёт формулировка проще, заметил Архивариус.

— Для нашего проекта, — поправила Света.

Да. Для вашего проекта.

Вова вдруг перестал улыбаться.

— Подождите. А какое отношение бутерброд имеет к истории искусственного интеллекта?

На экране Зал Алгоритмов начал меняться. Дорожки и стрелки уходили вглубь, превращались в линии, линии — в шестерёнки, шестерёнки — в старые механизмы. Появились счёты, колёса с цифрами, рычаги, перфокарты и огромные машины с лампочками.

Архивариус ответил:

Прежде чем люди начали мечтать об искусственном интеллекте, они учились описывать действия так точно, чтобы машина могла их выполнить. Счёт, правила, инструкции и операции стали важными частями этой длинной истории.

Вова нахмурился.

— Мы идём от бутерброда к старым машинам?

Да. История больших идей часто начинается с простого вопроса: можно ли поручить машине выполнить точные шаги?

На экране появилась новая дверь. В ней светились золотистые шестерёнки, цифры и тонкие линии, похожие на чертежи.

Над дверью возникла надпись:

СЛЕДУЮЩИЙ РАЗДЕЛ: МАШИНЫ, КОТОРЫЕ СЧИТАЛИ

Вова скептически посмотрел на дверь.

— А там тоже будет бутерброд?

Нет.

— Жаль.

Света улыбнулась.

— Скорее, там будет счёт.

— Счёт после бутерброда — это уже почти столовая.

Архивариус вывел последнюю строку:

Следующий вопрос: зачем людям понадобились машины, которые выполняют шаги вместо них?

Вова посмотрел на аккуратный бутерброд на экране, потом на дверь с шестерёнками.

— Надеюсь, они хотя бы считали лучше, чем Робот Ноль готовил.

Света закрыла тетрадь.

— Он готовил ровно так, как мы объяснили.

Вова вздохнул.

— Вот это меня и пугает.

Глава 3. Машины, которые считали

Дверь с золотистыми шестерёнками открылась без скрипа. Конечно, настоящий скрип из монитора был бы странным. Но Вове всё равно показалось, что она должна была скрипнуть — как дверь в старый музей.

За дверью действительно оказался музей.

Только не обычный.

Вместо стен там тянулись светящиеся чертежи. В воздухе медленно вращались колёса с цифрами. По прозрачным полкам были разложены счёты, деревянные палочки, механизмы с ручками, карточки с отверстиями и огромные машины с лампочками.

Над входом вспыхнула надпись:

ЗАЛ МАШИН

Ниже появилась строка:

Раздел: Машины, которые считали

Вова оглядел всё это и сразу немного погрустнел.

— Я думал, после бутерброда будет что-то умнее.

— А это что? — спросила Света.

— Музей калькуляторов.

Уточнение, отозвался Архивариус. Это не музей калькуляторов. Это зал первых шагов к вычислительным машинам.

— То есть музей очень старых калькуляторов, — сказал Вова.

Света улыбнулась.

— Музей — это не всегда скучно. Иногда там объясняют, с чего всё началось.

— С чего начался ИИ? Со счётов? — Вова с сомнением посмотрел на деревянную рамку с костяшками. — Серьёзно?

Не с них одних, ответил Архивариус. Это только одна ветвь истории. Позже рядом появятся логика, язык, обучение и другие идеи. Но без счёта, правил и вычислений эта дорога была бы невозможна.

— То есть сначала люди хотели не умную машину, а машину, которая считает? — уточнила Света.

Да. Это был один из важных шагов.

Вова сложил руки на груди.

— Но считать я и сам умею.

На экране тут же появилась таблица.

Задача для участников проекта: подготовка школьного праздника

Ниже выстроился список:

12 карандашей 18 тетрадей 24 наклейки 16 открыток 30 значков 14 ластиков 27 воздушных шаров 19 листов цветной бумаги 23 карточки для игры 15 маленьких призов

— Сложите количество предметов, — сообщил Архивариус.

Вова оживился.

— Вот это уже проще. Не бутерброд.

— Не говори так заранее, — предупредила Света.

Вова быстро начал считать вслух:

— Двенадцать плюс восемнадцать — тридцать. Плюс двадцать четыре — пятьдесят четыре. Плюс шестнадцать — семьдесят. Плюс тридцать — сто. Плюс четырнадцать — сто четырнадцать. Плюс двадцать семь — сто сорок один. Плюс девятнадцать — сто шестьдесят. Плюс двадцать три — сто восемьдесят три. Плюс пятнадцать — сто девяносто восемь.

Он торжественно посмотрел на Свету.

— Готово.

Света уже считала в тетради.

— Подожди.

— Что опять?

— У меня получилось сто девяносто восемь… кажется.

— Видишь? Я прав.

Света нахмурилась.

— Или нет. Я могла пропустить строчку.

На экране появилась кнопка:

ПРОВЕРИТЬ

Вова нажал.

Рядом с их ответом загорелась надпись:

Ответ: 198. Верно.

— Ага! — Вова довольно поднял палец. — Человек победил список.

Архивариус ничего не ответил. Вместо этого список на экране стал длиннее. Намного длиннее.

Теперь там было не десять строк, а пятьдесят. Потом сто. Потом цифры стали мелькать так быстро, что Вова перестал успевать их читать.

— Эй, это уже нечестно, — сказал он.

Почему?

— Потому что слишком много.

Именно. Когда шагов много, человек может устать, сбиться или пропустить число.

Света кивнула.

— Даже если он умеет считать.

Да. Умение не отменяет усталость.

— Я не устал, — сказал Вова. — Я просто экономлю силы.

— Оптимизируешь процесс? — спросила Света.

— Именно.

Архивариус подсветил рядом со списком несколько костяшек на счётах.

Люди давно использовали инструменты, чтобы помогать себе считать. Инструмент не думает вместо человека, но помогает не держать всё в голове.

На экране увеличились счёты. Костяшки плавно двигались по спицам.

Счёты не считают сами, пояснил Архивариус. Они помогают человеку выполнять шаги счёта перед глазами.

Вова посмотрел внимательнее.

— То есть это не ИИ?

Нет.

— И не компьютер?

Нет в современном смысле.

— И даже не робот?

Нет.

— Тогда зачем он в нашей книге?

Света ответила раньше Архивариуса:

— Потому что это шаг. Люди сначала учились помогать себе считать.

На экране рядом с ней появилась маленькая галочка.

Формулировка принята.

Вова обернулся к Свете.

— Опять твою формулировку приняли.

— Я не виновата, что она точная.

— Я тоже хочу галочку.

Тогда сформулируйте точно, предложил Архивариус.

Вова посмотрел на счёты, потом на длинный список чисел.

— Счёты — это штука, которая помогает человеку считать и меньше путаться.

Пауза.

На экране появилась маленькая галочка.

Формулировка частично принята.

— Частично? — возмутился Вова.

Слово «штука» не очень подходит для школьного проекта.

Света рассмеялась.

— Запишем: инструмент.

Вова вздохнул.

— Хорошо. Инструмент. Очень серьёзная штука.

Зал Машин изменился. Счёты отодвинулись в сторону, а в центре появилось устройство с колёсами и цифрами. Оно было похоже на маленький сундук, внутри которого жили шестерёнки.

Рядом высветилась надпись:

Механическое вычисление

— О, — сказал Вова. — Вот это уже выглядит интереснее.

Со временем люди начали создавать устройства, которые могли выполнять арифметические действия с помощью механизмов.

— Арифметические — это плюс, минус и всё такое? — уточнил Вова.

Да. Сложение, вычитание и другие действия с числами.

На устройстве появились два окошка:

47 + 28 = ?

— Семьдесят пять, — быстро сказала Света.

— Я тоже хотел сказать, — сообщил Вова.

Механизм щёлкнул. Колёса повернулись, цифры сменились, и в окошке появился результат:

75

Вова посмотрел на устройство с уважением.

— Она считает быстрее меня. Неприятно, но удобно.

Машина может быстро и одинаково выполнять повторяющиеся операции, если правило задано правильно.

— Но она же не понимает, что такое карандаши, тетради или праздник? — спросила Света.

Не понимает. Она работает с числами и действиями.

Вова задумался.

— То есть она не умная, но полезная?

Да.

— Звучит как некоторые приложения на телефоне, — пробормотал он.

Света записала в тетрадь:

Машина может быстро считать, но это ещё не значит, что она понимает задачу.

Потом добавила отдельной строкой:

Для проекта: быстро считать — не значит понимать.

— Хорошая формулировка, — сказал Вова. — Даже я бы принял.

На экране появилась галочка.

Формулировка принята.

— Архивариус тоже принял, — сказала Света.

— Ладно, два против одного.

Зал снова изменился. Теперь перед детьми появились две дорожки.

На первой дорожке сидел нарисованный человек с карандашом. Перед ним лежал длинный столбик чисел. Он считал, зевал, тёр глаза и однажды случайно перепрыгнул через строку.

На второй дорожке машина выполняла одни и те же шаги: брала число, прибавляла, переходила к следующему, снова прибавляла.

— Человек ошибся, — заметила Света.

— Потому что устал, — сказал Вова.

Да. Но важное уточнение: машина тоже может ошибиться.

Вова удивился.

— Только что вы почти рекламировали машины.

Нет. Я показывал их пользу. Машина может ошибиться, если она сломана, плохо настроена или получила неправильные данные. Но она не устаёт так, как человек, и может повторять одинаковые шаги много раз.

Света быстро записала:

Машина не устаёт, но тоже не волшебная.

Вова посмотрел на неё.

— Вот это точно надо в проект.

— Почему?

— Потому что звучит честно.

Зал Машин вдруг потемнел. Между шестерёнками прошла белая рябь. Она была похожа на помехи старого телевизора, только без звука.