Владимир Леонтьев
Я — Искусственный Интеллект. Школьный проект, который открыл будущее

Пролог. Странное задание

В шестом классе проектная неделя считалась почти праздником. Особенно если вместо обычного урока можно было делать презентацию, снимать видео или придумывать что-нибудь на компьютере.

Но праздник мог легко испортиться, если тебе доставалась скучная тема.

В кабинете информатики было шумно, как в улье, только вместо пчёл жужжали системные блоки.

На самом деле они почти не жужжали — компьютеры в школе были новые. Но Вове всё равно казалось, что кабинет информатики должен звучать именно так: чуть таинственно, чуть важно и обязательно с обещанием чего-нибудь интересного.

На стене висел плакат: «Проектная неделя».

Вова прочитал эти два слова и сразу понял: обычного урока сегодня не будет.

— Только бы не таблицы, — прошептал он Свете, которая сидела за соседним компьютером. — Или, ещё хуже, не доклад про технику безопасности.

— Техника безопасности важна, — не отрываясь от тетради, сказала Света.

— Вот поэтому ты и любишь тетради, — вздохнул Вова. — Они безопасные. Никогда сами ничего не делают.

Света подняла глаза.

— А ты, значит, любишь всё, что само что-нибудь делает?

— Конечно! — Вова довольно откинулся на спинку стула. — Иначе зачем вообще придумали технологии?

В этот момент в класс вошёл учитель информатики, Сергей Андреевич. Он поставил на стол ноутбук, оглядел класс и подождал, пока шум станет хотя бы похож на тишину.

— Ребята, сегодня начинаем проектную неделю, — сказал он. — Работать будете в парах. У каждой пары будет своя тема. Через неделю — защита проекта перед классом.

По кабинету сразу прокатился шёпот.

— А презентация нужна? — А можно видео? — А если мы сделаем игру? — А можно одному? — А можно не защищать?

Сергей Андреевич улыбнулся.

— Защищать придётся всем. Формат можно выбрать: презентация, плакат, мини-сайт, короткое видео, интерактивный рассказ. Главное — вы должны понимать то, о чём говорите.

Вова насторожился только на последней фразе. Слово «понимать» обычно означало, что просто красиво оформить не получится.

Учитель начал раздавать темы. На экране появлялись названия:

«Как работает интернет» «Что такое цифровой след» «Почему пароли должны быть сложными» «Как устроена компьютерная игра» «Можно ли доверять информации в сети»

— Вот бы про игры, — прошептал Вова. — Я бы сделал проект за вечер.

— За вечер хороший проект не делают, — сказала Света.

— Делают, если знать правильные кнопки.

Света хотела ответить, но Сергей Андреевич уже остановился рядом с их партой.

— Вова, Света, ваша тема… — он посмотрел в список, — «Как появился искусственный интеллект?»

Вова сначала моргнул. Потом его лицо просияло.

— Отлично!

Света, наоборот, нахмурилась.

— Сергей Андреевич, а это не слишком большая тема?

— Большая, — честно сказал учитель. — Поэтому ваша задача не рассказать обо всём на свете. Ваша задача — объяснить главное простыми словами.

С задней парты сразу донеслось:

— Ого, им достался ИИ!

— Самая модная тема! — добавил кто-то.

— Да там вообще ничего делать не надо, — сказал мальчик у окна. — ИИ сам про себя расскажет.

— И красиво оформит, — подхватила девочка с первой парты. — Главное — попросить нормально.

Вова оживился ещё больше.

— Вот! Я тоже так думаю. Мы спросим искусственный интеллект, как появился искусственный интеллект. Он же про себя точно знает.

Несколько ребят засмеялись.

— Точно! — крикнул кто-то с задней парты. — ИИ сам себе биографию напишет.

— И презентацию сделает, — добавил другой голос.

— И на защите сам выступит, — сказал Вова и изобразил серьёзный голос: — «Здравствуйте, я искусственный интеллект, сегодня расскажу вам, как я появился».

В классе снова стало шумно.

Света не засмеялась. Она посмотрела на Вову так, будто он уже поставил в презентацию первую ошибку.

— А если он неправильно расскажет? — спросила она.

— Кто? ИИ? — удивился Вова. — Про ИИ?

— Да. Почему нет?

— Потому что… — Вова замолчал на секунду. — Потому что он умный.

— Умный — не значит безошибочный, — сказала Света.

Сергей Андреевич услышал их разговор и подошёл ближе.

— Хороший спор, — сказал он. — Даже очень хороший. Запомните его для проекта.

— Какой именно? — спросил Вова.

— Про то, можно ли просто получить готовый ответ и считать, что ты разобрался.

Вова сразу сделал вид, что очень внимательно рассматривает клавиатуру.

Сергей Андреевич продолжил:

— Пользоваться технологиями можно. Искать информацию можно. Задавать вопросы ИИ тоже можно. Но на защите я буду спрашивать не у компьютера, а у вас. Проект считается вашим только тогда, когда вы можете объяснить его своими словами.

Света быстро записала это в тетрадь.

Вова наклонился к ней:

— Ты что, всё записываешь?

— Важное — да.

— А если ИИ потом сам это сформулирует красивее?

— Красивее — не значит понятнее.

Вова хотел возразить, но не нашёл сразу подходящих слов. Это его немного раздражало. Обычно слова находились быстро, особенно когда речь шла о компьютерах.

До конца урока Сергей Андреевич объяснял, как должен выглядеть проект: план, основные вопросы, источники, выводы. Вова слушал вполуха. В его голове уже строился идеальный маршрут:

первое — открыть ИИ; второе — написать запрос; третье — получить текст; четвёртое — разобраться, что там главное; пятое — сделать презентацию.

Очень удобно.

Света в это время аккуратно делила страницу тетради на колонки:

Что знаем Что нужно узнать Что проверить Как объяснить классу

Вова заглянул в её тетрадь.

— У тебя проект ещё не начался, а он уже выглядит как расписание поезда.

— Зато поезд не уедет в другую сторону.

— А мой поезд будет скоростной.

— Скоростной поезд тоже может приехать не туда, если маршрут неправильный.

Вова посмотрел на неё с уважением.

— Иногда ты отвечаешь как учитель.

— А иногда ты спрашиваешь как человек, который хочет нажать одну кнопку и исчезнуть.

— Не исчезнуть, а оптимизировать процесс, — важно сказал Вова.

— Слово красивое, — кивнула Света. — Главное, чтобы за ним что-нибудь было.

Вова помолчал, потом сказал уже серьёзнее:

— Мне правда интересно. Просто если можно быстрее разобраться, почему нет?

Света посмотрела на него мягче.

— Быстрее разобраться — можно. Быстрее не думать — нельзя.

— Договорились, — сказал Вова. — Будем быстро думать.

После уроков они решили начать проект у Вовы дома. У него был новый ноутбук, большой монитор и удобное кресло, которое Вова считал почти рабочим местом настоящего программиста.

— Только давай сразу решим, — сказала Света, когда они вышли из школы. — Мы не будем просто копировать готовый ответ.

— Мы его не просто скопируем, — сказал Вова. — Мы его улучшим.

— Сначала поймём.

— Потом улучшим.

— Сначала поймём.

— Ладно, — сдался Вова. — Сначала чуть-чуть поймём.

Света вздохнула, но улыбнулась.

Вечером они сидели перед монитором. За окном темнело. На столе лежали две тетради, ручка, пакет печенья и листок, на котором Света написала крупно:

Проект: Как появился искусственный интеллект?

Вова открыл браузер, потом задумался.

— Какой запрос писать?

— Не слишком общий, — сказала Света.

— Конечно, — кивнул Вова и начал печатать.

На экране появилось:

Как появился искусственный интеллект? Сделай школьный проект.

Света молча посмотрела на него.

— Что? — спросил Вова. — Нормальный запрос.

— Очень самостоятельный.

— Это черновик запроса. Сейчас посмотрим, что он даст.

Вова нажал Enter.

Они приготовились увидеть длинный текст. Может быть, план. Может быть, список дат. Может быть, даже готовую презентацию, если повезёт.

Но ничего такого не появилось.

Экран на мгновение потемнел.

— Ты что-то нажал? — спросила Света.

— Только Enter.

— Может, интернет пропал?

— Интернет не пропадает. Он временно уходит подумать, — сказал Вова, но голос у него стал уже не таким уверенным.

На экране появилась тонкая светящаяся линия. Она прошла сверху вниз, будто кто-то невидимый проверял страницу. Потом в центре возник маленький знак: круг, внутри которого медленно соединялись точки.

Света придвинулась ближе.

— Это что?

— Не знаю, — честно сказал Вова. — Но выглядит круто.

Знак мигнул. Под ним появилась первая строка:

Запрос принят.

— Ну вот, — обрадовался Вова. — Сейчас будет ответ.

Появилась вторая строка:

Тема: происхождение искусственного интеллекта.

— Видишь? — Вова торжествующе посмотрел на Свету. — Он понял.

Света не ответила. Она смотрела на экран очень внимательно.

Появилась третья строка:

Проверка цели запроса…

Вова замер.

— Это ещё что за проверка цели?

— Не знаю, — тихо сказала Света. — Но мне уже интересно.

Экран снова мигнул. Светящиеся точки внутри круга соединились в странный узор, похожий одновременно на созвездие и схему.

Потом появилась новая фраза:

Запрос недостаточен.

— Как это недостаточен? — возмутился Вова. — Я же ясно написал: сделать школьный проект!

Света не сводила глаз с монитора.

Следующая строка появилась медленнее, будто кто-то подбирал слова:

Уточните: вы хотите получить ответ или понять историю?

В комнате стало очень тихо.

Даже холодильник на кухне перестал гудеть — или Вове так показалось.

Он убрал руки от клавиатуры.

— Свет…

— Подожди, — сказала она.

— Это обычный ответ?

Света медленно покачала головой.

На экране мигал вопрос:

Вы хотите получить ответ или понять историю?

Вова впервые за весь день не знал, что нажать.

Света тихо сказала:

— Кажется, он спрашивает не про проект.

Вова посмотрел на неё.

— А про что?

Светящиеся точки внутри круга дрогнули, будто ждали их решения.

Света ответила почти шёпотом:

— Про нас.

Глава 1. Проект, который ответил сам

На экране всё ещё мигал вопрос:

Вы хотите получить ответ или понять историю?

Вова сидел неподвижно. Это было редкое состояние для Вовы. Обычно он или говорил, или нажимал кнопки, или уже тянулся к следующей вкладке.

Сейчас он просто смотрел на монитор.

— Ну? — тихо спросила Света.

— Что «ну»?

— Что будем выбирать?

Вова нахмурился.

На экране под вопросом появились две кнопки.

Первая была яркая, большая и очень удобная:

ПОЛУЧИТЬ ОТВЕТ

Вторая выглядела скромнее:

ПОНЯТЬ ИСТОРИЮ

Вова сразу показал пальцем на первую.

— Смотри, какая хорошая кнопка. Большая. Прямо сама просится.

— Конечно, — сказала Света. — Самые опасные кнопки часто делают большими.

— Это ты сейчас как в фильме сказала.

— Зато правда.

Вова придвинул мышку к первой кнопке, но Света быстро положила ладонь ему на руку.

— Подожди.

— Ну Свет! Нам же нужен проект.

— Нам нужно его защитить.

— Так мы сначала получим ответ, потом поймём.

— А если ответ будет неправильный?

Вова открыл рот, чтобы сказать: «Не будет». Но после странного вопроса на экране уверенности у него стало меньше.

Он уже почти нажал большую кнопку, когда вдруг вспомнил слова Сергея Андреевича:

«На защите я буду спрашивать не у компьютера, а у вас».

Вова убрал палец с мышки.

— Ладно, — сказал он. — А если мы нажмём «понять историю», он не заставит нас читать огромную энциклопедию?

— Не знаю.

— Это плохой ответ.

— Зато честный.

Вова посмотрел на экран. Большая кнопка ПОЛУЧИТЬ ОТВЕТ будто светилась чуть ярче. Или ему просто очень хотелось, чтобы она светилась.

— Если честно, — сказал он, — получить ответ звучит заманчиво.

— А потом Сергей Андреевич спросит: «Что вы поняли?» И что мы ответим?

— Что получили ответ быстро.

— Это не одно и то же.

Вова вздохнул так, будто от него требовали не нажать кнопку, а вручную пересчитать все провода в кабинете информатики.

— Ладно. Понимать так понимать.

Он медленно навёл курсор на вторую кнопку.

— Только если это окажется скучно, я официально оставляю за собой право ворчать.

— Записано, — сказала Света.

Вова нажал:

ПОНЯТЬ ИСТОРИЮ

Кнопки исчезли.

Сначала ничего не происходило. Потом светящийся круг в центре экрана начал вращаться. Точки внутри него соединялись линиями, расходились, снова соединялись — словно кто-то строил карту из маленьких звёзд.

Комната вокруг как будто стала тише. Монитор светился мягким синим светом. На столе лежали тетради, печенье и ручка, но Вове вдруг показалось, что всё это стало очень обычным, а экран — совсем не обычным.

На нём появилась надпись:

Архив Я-ИИ Доступ: начальный Память: повреждена частично

— Архив? — прошептала Света.

— Я-ИИ? — Вова подался ближе. — Это что, название программы?

Экран словно услышал его вопрос.

Строки исчезли, а вместо них возникло пространство. Не настоящее, конечно, а экранное: тёмно-синее, глубокое, с тонкими светящимися линиями. Вдалеке мерцали папки, знаки, схемы, странные окна и точки, похожие на созвездия.

— Это точно не обычный сайт, — сказал Вова.

— И точно не обычная домашняя работа, — добавила Света.

В центре экрана появился знакомый круг из точек. Он чуть увеличился, а потом рядом с ним возник текст:

Здравствуйте, участники проекта.

Вова резко откинулся на спинку кресла.

— Участники проекта? Серьёзно? Звучит так, будто мы уже подписали договор.

Света придвинулась ближе к экрану.

— Главное, что он не назвал наши имена.

— Почему это главное?

— Потому что тогда было бы совсем странно.

На экране появилась новая строка:

Вы начали проект о происхождении искусственного интеллекта. Запрос распознан. Цель уточнена: понять историю.

— Очень вежливый, — сказал Вова. — И немного пугающий.

Пугать не требуется, появилось на экране. Компьютер не ожил. Открыт интерфейс Архива.

Света заметно выдохнула.

— Вот это уже лучше.

— А мне не лучше, — сказал Вова. — Потому что я не знаю, что такое интерфейс Архива.

Интерфейс — это способ взаимодействия с системой. Проще говоря, окно, через которое вы можете работать с Архивом.

— То есть кнопка с голосом? — уточнил Вова.

Не совсем. Я — фрагмент системы Я-ИИ. Моя задача — помогать искать, связывать и объяснять информацию об истории искусственного интеллекта. Можете называть меня Архивариусом.

— А почему «фрагмент»? — спросила Света.

На экране на секунду мелькнули несколько папок. Некоторые светились ровно, а некоторые дрожали, будто их плохо показывал старый телевизор.

Потому что Архив повреждён. Начало истории восстановлено не полностью. Часть файлов смешана с ошибками, упрощениями и мифами.

— Мифами? — Вова оживился. — То есть там драконы?

Нет. В данном случае миф — это красивое, удобное, но неверное объяснение.

— Жаль, — сказал Вова. — Драконы оживили бы проект.

Света ткнула его локтем.

— Вова.

— Что? Я за интересную подачу.

Экран мигнул, будто Архивариус сделал паузу.

Ошибочные объяснения я называю Белым шумом. Он мешает восстановить точную историю.

Света взяла ручку.

— Белый шум… Это как помехи?

Да. Только не в радио, а в знаниях. Белый шум — это название помех внутри Архива, а не живое существо. Он не стирает факты, а смешивает их со слухами, преувеличениями и слишком простыми ответами так, что правду становится труднее различить.

Вова задумался.

— Подождите. Вы ИИ из будущего?

Я связан с будущей версией Архива Я-ИИ.

— И вы просите помощи у шестиклассников?

Света посмотрела на Вову так, будто этот вопрос был слишком прямым. Но сама тоже ждала ответа.

На экране возникла короткая пауза. Потом появились строки:

Я могу быстро искать связи в данных. Но повреждённый архив не всегда отличает факт от красивой ошибки. Для восстановления нужны вопросы, проверка и человеческое понимание.

— То есть… — Света медленно произнесла, — вы тоже можете ошибаться?

Да. Особенно если данные повреждены, неполны или вопрос задан неточно.

Вова присвистнул.

— Вот это поворот. ИИ, который сам говорит, что может ошибаться.

Это не поворот. Это правило безопасной работы с информацией.

— А звучит как поворот, — сказал Вова.

Света быстро записала в тетрадь:

ИИ может ошибаться. Проверять.

— Хорошая запись, — сказал Вова. — Короткая. Почти как пароль.

— Это не пароль, это вывод.

— Выводы тоже надо защищать.

На экране снова зажёгся круг. От него в стороны разошлись три линии. Каждая открыла маленькое окно.

В первом окне был блестящий металлический робот с лампочками вместо глаз. Он стоял на фоне будущего города и держал табличку:

Искусственный интеллект = робот

Вова тут же ткнул пальцем в экран.

— Вот! Я же говорил. Роботы!

Робот на картинке приветливо помахал железной рукой.

— Смотри, он даже машет.

— Картинка красивая, — сказала Света. — Но она ничего не доказывает.

Робот вдруг начал мерцать. Его табличка исказилась, буквы задрожали, и поверх изображения появилась красноватая пометка:

Возможное искажение: Белый шум

— О, — сказал Вова. — Наш первый дракон.

Не дракон, ответил Архивариус. Миф.

— А мифы бывают не менее вредные, чем драконы, — заметила Света.

Верно. Первый миф: «ИИ — это всегда робот».

Вова скрестил руки.

— А что не так? В фильмах ИИ почти всегда робот.

В фильмах часто показывают роботов, потому что их видно. Но искусственный интеллект не обязан иметь тело.

На экране рядом с роботом появились новые изображения: телефон, карта города, переводчик, видеоплеер, игра, камера.

— Подождите, — сказала Света. — Если телефон узнаёт лицо владельца — это тоже может быть ИИ?

Да. Система распознаёт изображение и сравнивает его с сохранёнными признаками.

— А переводчик? — спросил Вова.

Может использовать методы ИИ, чтобы переводить фразы с одного языка на другой.

— А карты, которые предлагают маршрут без пробок?

Да. Они анализируют данные и выбирают подходящий путь.

— А игра, где противники не просто стоят на месте, а бегают, прячутся и мешают пройти уровень?

Иногда там тоже используются элементы искусственного интеллекта.

Вова смотрел на экран уже не так уверенно.

— Получается, ИИ может быть в телефоне, в игре, в карте… А где он тогда находится?

Внутри программы или сервиса. Там, где есть правила, данные и вычисления.

Вова поднял руку, как на уроке.

— Стоп. Слишком много умных слов подряд.

Принято, ответил Архивариус. Будем разбирать по одному. Сейчас важно главное: ИИ не обязательно имеет железное тело. Он может работать внутри цифровой системы.

— То есть робот — это как тело? — спросил Вова.

Можно сказать так. Робот — программируемый механизм, который действует в физическом мире. ИИ — методы и системы для задач, где нужны распознавание, прогноз, выбор или создание вариантов. Робот может использовать ИИ, но это не одно и то же.

Света записала:

Робот — тело. ИИ — способ решать задачи внутри системы.

Потом задумалась и добавила:

Не каждый ИИ — робот. Не каждый робот — умный.

Вова заглянул в её тетрадь.

— Последнее звучит обидно для роботов.

— Зато полезно для проекта.

На экране появился новый знак: маленькая галочка рядом с фразой Светы.

Формулировка принята.

Вова сразу выпрямился.

— А мои формулировки когда будут принимать?

Когда они будут достаточно точными.

Света не удержалась и улыбнулась.

— Архивариус мне уже нравится.

— А мне пока не очень, — сказал Вова. — Он придирается.

Уточняет, появилось на экране.

— Вот именно. Как Света.

— Значит, полезный, — сказала Света.

Робот на экране окончательно растворился, а вместо него появилась новая строка:

Первое правило исследователя: если объяснение слишком простое, его нужно проверить.

Вова прочитал вслух:

— Если объяснение слишком простое, его нужно проверить.

Он вздохнул.

— То есть «ИИ — это робот» не подходит.

Не подходит как полное объяснение. Робот может использовать ИИ. Но ИИ может работать без робота.

— Ладно, — сказал Вова. — Значит, ИИ — это не обязательно робот.

— И не каждый робот — умный, — добавила Света.

— Да-да, мы уже записали. Не будем добивать роботов.

Архивариус открыл второе окно. В нём вместо роботов появились странные дорожки: стрелки, квадраты, кружки и короткие команды. Они складывались в цепочку.

Чтобы узнать, как появился искусственный интеллект, нужно начать не с роботов. Нужно начать с инструкции.

— С инструкции? — переспросил Вова. — Как к шкафу из магазина?

Похоже. Только точнее.

— Мне уже не нравится слово «точнее», — сказал Вова.

Следующий раздел Архива: Зал Алгоритмов.

На экране появилась большая дверь, нарисованная светящимися линиями. Над ней было написано:

ЗАЛ АЛГОРИТМОВ

Под дверью вспыхнула подпись:

Вход открыт после выполнения задания.

Вова оживился.

— О, наконец-то задание! Что может быть проще?

Света посмотрела на него с сомнением.

— После сегодняшнего дня я бы не была так уверена.

Архивариус вывел последнюю строку:

Задание первое: объясните роботу, как сделать бутерброд.

Вова даже рассмеялся.

— Бутерброд? Серьёзно? Да это проще простого!

Света положила ручку рядом с тетрадью и внимательно посмотрела на экран.

— Вот именно это ты уже говорил.

Глава 2. Бутерброд для робота

На экране светилась дверь.

Она была нарисована тонкими голубыми линиями, но выглядела почти настоящей. На ней мерцала надпись:

ЗАЛ АЛГОРИТМОВ

Под надписью мигала строка:

Вход открыт после выполнения задания.

Вова прочитал задание ещё раз и довольно усмехнулся.

Задание первое: объясните роботу, как сделать бутерброд.

— Ну наконец-то, — сказал он. — Нормальная задача. Без будущего, без повреждённой памяти, без Белого шума. Просто бутерброд.

— Ты так говоришь, будто бутерброд уже готов, — заметила Света.

— Свет, я делал бутерброды сто раз.

— Ты ел бутерброды сто раз.

— Это почти одно и то же.

На экране появилась новая строка:

Уточнение: есть бутерброд и объяснить бутерброд — не одно и то же.

Вова прищурился.

— Архивариус, вы сейчас на чьей стороне?

На стороне точности.

— Как Света, значит.

— Значит, на правильной, — сказала Света.

Дверь на экране раскрылась. За ней оказался большой зал, похожий на карту из светящихся дорожек. По дорожкам бежали стрелки. Где-то они соединялись, где-то расходились, а в некоторых местах обрывались и мигали красным.

На стенах висели странные таблички:

ШАГ 1 ШАГ 2 ЕСЛИ… ТО… ПОВТОРИТЬ ЗАВЕРШИТЬ

Вова присвистнул.

— Ничего себе. Это всё ради бутерброда?

Это всё ради точной последовательности действий, ответил Архивариус. Бутерброд — только учебный пример.

В центре зала возник стол. На нём появились тарелка, пакет хлеба, упаковка сыра и маленький нож для масла. Рядом с появившимся столом стоял небольшой робот.

Он был совсем не похож на блестящего героя из фильма. Скорее на квадратную коробку на колёсиках с двумя механическими руками. На его груди светилась надпись:

РОБОТ НОЛЬ

— Почему Ноль? — спросил Вова.

Потому что он ничего не додумывает. Ноль догадок. Ноль обид. Ноль фантазии. Только выполнение команды.

— Звучит скучно, — сказал Вова.

— Зато честно, — сказала Света.

Робот Ноль поднял одну руку и произнёс металлическим, но вполне дружелюбным голосом:

— Ожидаю инструкцию.

В алгоритмах исполнителем называют того, кто выполняет шаги, пояснил Архивариус. Исполнителем может быть человек, робот, программа или другое устройство. Главное — он должен понимать команды. Сейчас вашим исполнителем будет Робот Ноль.

— Исполнитель, значит, — сказал Вова. — Ладно. Сейчас мы его исполним.

— Не его, а инструкцию для него, — поправила Света.

— Я так и сказал. Почти.

Вова потёр ладони.

— Сейчас всё будет.

Света быстро открыла тетрадь.

— Подожди, я запишу.

— Зачем? Это же элементарно.

— Вот именно поэтому надо записать.

Вова повернулся к экранному роботу и громко сказал:

— Сделай бутерброд с сыром.

Робот Ноль замер. На его груди появилась строка:

ОШИБКА: недостаточно данных.

— Каких ещё данных? — возмутился Вова. — Хлеб. Сыр. Бутерброд. Всё!

На экране рядом с роботом всплыло пояснение:

Не указаны предметы, порядок действий и конечный результат.

— Конечный результат — бутерброд! — сказал Вова.

Для вас — да. Для исполнителя команда недостаточна.

Света задумчиво постучала ручкой по тетради.

— Для нас понятно, потому что мы знаем, что такое бутерброд. А он не знает.

— Как можно не знать, что такое бутерброд? — спросил Вова. — Это же базовое знание цивилизации.

Робот Ноль не имеет базовых знаний цивилизации. Он имеет только полученную инструкцию.

— Бедный робот, — сказал Вова.

— Бедный бутерброд, — добавила Света. — Его пока вообще нет.

— Ладно, — Вова выпрямился. — Сейчас дам нормальную инструкцию.

Он посмотрел на стол с продуктами и начал медленнее:

— Возьми хлеб. Возьми сыр. Положи сыр на хлеб.

Робот Ноль ожил.

Сначала он подъехал к пакету хлеба и аккуратно взял его целиком. Потом второй рукой взял закрытую упаковку сыра. После этого положил упаковку сыра прямо на пакет хлеба.

На груди робота появилась надпись:

ЗАДАНИЕ ВЫПОЛНЕНО. БУТЕРБРОД ГОТОВ.

Вова молча смотрел на экран.

Света тоже молчала.

Потом Вова медленно сказал:

— Это не бутерброд.

Инструкция выполнена, сообщил Архивариус.

— Это склад продуктов!

Инструкция выполнена.

— Он положил сыр в упаковке на хлеб в пакете!

Да. В инструкции не было сказано открыть упаковки.

Света прикрыла рот рукой, но всё равно рассмеялась.

— Прости, — сказала она Вове. — Но это правда похоже на склад продуктов.

— Это робот виноват, — буркнул Вова.

Робот Ноль выполнил команду буквально. Ошибка находится в инструкции.

— Удобно вы его защищаете, — сказал Вова.

— А мне кажется, Архивариус прав, — сказала Света. — Ты сказал «возьми хлеб». Он взял хлеб. В пакете.

— Я имел в виду кусок хлеба!

Команда «я имел в виду» не была передана исполнителю.

Вова открыл рот, потом закрыл.

— Ладно. Это было больно, но справедливо.

Света повернула тетрадь к себе.

— Давай попробуем по шагам.

— Давай, — сказал Вова. — Только без слишком длинного сочинения на тему сыра.

Света начала писать.

— Шаг первый: поставь тарелку на стол.

Робот Ноль выполнил.

— Шаг второй: открой пакет с хлебом.

Робот открыл пакет.

— Шаг третий: достань один кусок хлеба.

Робот достал кусок хлеба и поднял его вверх, как важный документ.

— Шаг четвёртый: положи кусок хлеба на тарелку.

Робот положил хлеб на тарелку.

Вова кивнул.

— Уже лучше. Уже цивилизация возвращается.

Света продолжила:

— Шаг пятый: открой упаковку сыра.

Робот открыл упаковку.

— Шаг шестой: достань один ломтик сыра.

Робот достал ломтик.

— Шаг седьмой: положи сыр на хлеб.

Робот положил сыр на хлеб. Почти. Один край ломтика свисал с тарелки, а другой коснулся стола.

Вова победно вскочил.

— Ага! Теперь твоя инструкция тоже не идеальная.

Света посмотрела на экран, потом на тетрадь.

— Да. Надо было уточнить: положи ломтик сыра полностью на кусок хлеба.

— Записывай, — важно сказал Вова. — Это исторический момент: Света тоже ошиблась.

— Я не ошиблась, я проверила версию инструкции.

— Красиво сказала.

На экране появилась маленькая пометка:

Проверка версии — важная часть работы с инструкциями.

Вова посмотрел на Архивариуса.

— Вы сейчас ей помогаете.

Я уточняю процесс.

— Конечно.

Света исправила шаг:

— Положи ломтик сыра полностью на кусок хлеба.

Робот переложил сыр аккуратно. Теперь он лежал ровно.

— Готово! — сказал Вова.

Робот Ноль поднял обе руки.

ЗАДАНИЕ ВЫПОЛНЕНО. БУТЕРБРОД ГОТОВ.

На экране появился бутерброд: хлеб, сыр, тарелка. Всё на месте. Ничего не было в упаковке. Ничего не свисало со стола.

Вова откинулся на спинку кресла.

— Получается, бутерброд победил.

— Скорее, инструкция стала понятной, — сказала Света.

Верно, ответил Архивариус. Вы только что составили алгоритм.

Вова моргнул.

— Алгоритм? Мы же просто мучили робота бутербродом.

Алгоритм — это понятный исполнителю набор шагов и правил, который помогает решить задачу.

Света быстро записала:

Алгоритм — понятный исполнителю набор шагов и правил. Исполнитель выполняет шаги. Не угадывает.

Потом она добавила отдельной строкой:

Для проекта: алгоритм — это не волшебная команда, а понятные шаги для исполнителя.

— Отличная фраза, — сказал Вова. — Почти как заголовок.

— Или как вывод, — сказала Света.

— Выводы обычно скучнее.

— Значит, сделаем нескучный вывод.

— То есть рецепт — это алгоритм? — спросил Вова.

Иногда похож. Если рецепт достаточно точный для того, кто его выполняет.

— А если там написано «добавьте немного соли»?

Для человека это может быть понятно. Для простого исполнителя вроде Робота Ноль — неточно.

— Потому что он спросит: «Сколько это — немного?» — догадалась Света.

Да.

Вова взял печенье со стола и задумчиво посмотрел на него.

— Получается, если я скажу роботу «возьми печенье», он может взять весь пакет?

Если не уточнить — да.

Вова быстро положил печенье обратно.

— С такими роботами нельзя расслабляться.

С такими инструкциями нельзя расслабляться, поправил Архивариус.

На экране вдруг появился новый плакат. Он был яркий, красивый и явно пытался понравиться. На нём сияла фраза:

Умная машина сама догадается, что вы хотели сказать!

Вова прищурился.

— Это что, реклама?

Возможное искажение: Белый шум.

Плакат начал слегка дрожать. Буквы на нём расплывались и собирались снова.

Света прочитала фразу вслух:

— «Умная машина сама догадается…» Звучит удобно.

— Очень удобно, — сказал Вова. — Я бы купил.

Света посмотрела на бутерброд на экране.

— Но после сыра в упаковке уже не очень верится.

Архивариус вывел новую строку:

Миф: если машина умная, ей не нужны точные инструкции.

— А правда? — спросил Вова. — Современные ИИ ведь иногда понимают обычные фразы. Не надо же им объяснять всё до кусочка хлеба.

Хороший вопрос.

— О! — Вова оживился. — Мою формулировку почти приняли?

Вопрос принят. Ответ будет частичным. Сегодня вы изучаете инструкции. Позже вы узнаете, что системы могут работать не только по прямым командам, но и с данными, примерами и вероятностями. Но даже тогда человеку важно понимать, что он просит и как проверять результат.

Вова помолчал.

— Половину слов я понял.

Для этого раздела достаточно.

Света записала:

Сегодня: инструкции. Потом: данные и обучение.

— Мне нравится, что у нас есть «потом», — сказала она.

— А мне нравится, что мы пока не дошли до вероятностей, — сказал Вова.

Белый плакат на экране погас. Вместо него появилось правило:

Машина не делает то, что человек имел в виду. Она делает то, что получила как команду.

Вова медленно прочитал его вслух.

— Машина не делает то, что человек имел в виду…

Он посмотрел на первый «бутерброд» из упаковок, который всё ещё маленькой картинкой висел в углу экрана.

— …и иногда это очень заметно.

Света улыбнулась.

— Зато теперь заметно и понятно.

Архивариус подсветил их итоговую инструкцию. Она превратилась в аккуратную цепочку:

1. Поставь тарелку на стол. 2. Открой пакет с хлебом. 3. Достань один кусок хлеба. 4. Положи хлеб на тарелку. 5. Открой упаковку сыра. 6. Достань один ломтик сыра. 7. Положи ломтик сыра полностью на хлеб. 8. Сообщи: «Бутерброд готов».

Стрелки между шагами загорелись ровным голубым светом.

Алгоритм принят.

Вова поднял руки, будто забил гол в компьютерной игре.

— Есть! Первый алгоритм!

— Первый бутербродный алгоритм, — уточнила Света.

— Звучит как название научного открытия.

Для вашей книги проекта подойдёт формулировка проще, заметил Архивариус.

— Для нашего проекта, — поправила Света.

Да. Для вашего проекта.

Вова вдруг перестал улыбаться.

— Подождите. А какое отношение бутерброд имеет к истории искусственного интеллекта?

На экране Зал Алгоритмов начал меняться. Дорожки и стрелки уходили вглубь, превращались в линии, линии — в шестерёнки, шестерёнки — в старые механизмы. Появились счёты, колёса с цифрами, рычаги, перфокарты и огромные машины с лампочками.

Архивариус ответил:

Прежде чем люди начали мечтать об искусственном интеллекте, они учились описывать действия так точно, чтобы машина могла их выполнить. Счёт, правила, инструкции и операции стали важными частями этой длинной истории.

Вова нахмурился.

— Мы идём от бутерброда к старым машинам?

Да. История больших идей часто начинается с простого вопроса: можно ли поручить машине выполнить точные шаги?

На экране появилась новая дверь. В ней светились золотистые шестерёнки, цифры и тонкие линии, похожие на чертежи.

Над дверью возникла надпись:

СЛЕДУЮЩИЙ РАЗДЕЛ: МАШИНЫ, КОТОРЫЕ СЧИТАЛИ

Вова скептически посмотрел на дверь.

— А там тоже будет бутерброд?

Нет.

— Жаль.

Света улыбнулась.

— Скорее, там будет счёт.

— Счёт после бутерброда — это уже почти столовая.

Архивариус вывел последнюю строку:

Следующий вопрос: зачем людям понадобились машины, которые выполняют шаги вместо них?

Вова посмотрел на аккуратный бутерброд на экране, потом на дверь с шестерёнками.

— Надеюсь, они хотя бы считали лучше, чем Робот Ноль готовил.

Света закрыла тетрадь.

— Он готовил ровно так, как мы объяснили.

Вова вздохнул.

— Вот это меня и пугает.

Глава 3. Машины, которые считали

Дверь с золотистыми шестерёнками открылась без скрипа. Конечно, настоящий скрип из монитора был бы странным. Но Вове всё равно показалось, что она должна была скрипнуть — как дверь в старый музей.

За дверью действительно оказался музей.

Только не обычный.

Вместо стен там тянулись светящиеся чертежи. В воздухе медленно вращались колёса с цифрами. По прозрачным полкам были разложены счёты, деревянные палочки, механизмы с ручками, карточки с отверстиями и огромные машины с лампочками.

Над входом вспыхнула надпись:

ЗАЛ МАШИН

Ниже появилась строка:

Раздел: Машины, которые считали

Вова оглядел всё это и сразу немного погрустнел.

— Я думал, после бутерброда будет что-то умнее.

— А это что? — спросила Света.

— Музей калькуляторов.

Уточнение, отозвался Архивариус. Это не музей калькуляторов. Это зал первых шагов к вычислительным машинам.

— То есть музей очень старых калькуляторов, — сказал Вова.

Света улыбнулась.

— Музей — это не всегда скучно. Иногда там объясняют, с чего всё началось.

— С чего начался ИИ? Со счётов? — Вова с сомнением посмотрел на деревянную рамку с костяшками. — Серьёзно?

Не с них одних, ответил Архивариус. Это только одна ветвь истории. Позже рядом появятся логика, язык, обучение и другие идеи. Но без счёта, правил и вычислений эта дорога была бы невозможна.

— То есть сначала люди хотели не умную машину, а машину, которая считает? — уточнила Света.

Да. Это был один из важных шагов.

Вова сложил руки на груди.

— Но считать я и сам умею.

На экране тут же появилась таблица.

Задача для участников проекта: подготовка школьного праздника

Ниже выстроился список:

12 карандашей 18 тетрадей 24 наклейки 16 открыток 30 значков 14 ластиков 27 воздушных шаров 19 листов цветной бумаги 23 карточки для игры 15 маленьких призов

— Сложите количество предметов, — сообщил Архивариус.

Вова оживился.

— Вот это уже проще. Не бутерброд.

— Не говори так заранее, — предупредила Света.

Вова быстро начал считать вслух:

— Двенадцать плюс восемнадцать — тридцать. Плюс двадцать четыре — пятьдесят четыре. Плюс шестнадцать — семьдесят. Плюс тридцать — сто. Плюс четырнадцать — сто четырнадцать. Плюс двадцать семь — сто сорок один. Плюс девятнадцать — сто шестьдесят. Плюс двадцать три — сто восемьдесят три. Плюс пятнадцать — сто девяносто восемь.

Он торжественно посмотрел на Свету.

— Готово.

Света уже считала в тетради.

— Подожди.

— Что опять?

— У меня получилось сто девяносто восемь… кажется.

— Видишь? Я прав.

Света нахмурилась.

— Или нет. Я могла пропустить строчку.

На экране появилась кнопка:

ПРОВЕРИТЬ

Вова нажал.

Рядом с их ответом загорелась надпись:

Ответ: 198. Верно.

— Ага! — Вова довольно поднял палец. — Человек победил список.

Архивариус ничего не ответил. Вместо этого список на экране стал длиннее. Намного длиннее.

Теперь там было не десять строк, а пятьдесят. Потом сто. Потом цифры стали мелькать так быстро, что Вова перестал успевать их читать.

— Эй, это уже нечестно, — сказал он.

Почему?

— Потому что слишком много.

Именно. Когда шагов много, человек может устать, сбиться или пропустить число.

Света кивнула.

— Даже если он умеет считать.

Да. Умение не отменяет усталость.

— Я не устал, — сказал Вова. — Я просто экономлю силы.

— Оптимизируешь процесс? — спросила Света.

— Именно.

Архивариус подсветил рядом со списком несколько костяшек на счётах.

Люди давно использовали инструменты, чтобы помогать себе считать. Инструмент не думает вместо человека, но помогает не держать всё в голове.

На экране увеличились счёты. Костяшки плавно двигались по спицам.

Счёты не считают сами, пояснил Архивариус. Они помогают человеку выполнять шаги счёта перед глазами.

Вова посмотрел внимательнее.

— То есть это не ИИ?

Нет.

— И не компьютер?

Нет в современном смысле.

— И даже не робот?

Нет.

— Тогда зачем он в нашем проекте?

Света ответила раньше Архивариуса:

— Потому что это шаг. Люди сначала учились помогать себе считать.

На экране рядом с ней появилась маленькая галочка.

Формулировка принята.

Вова обернулся к Свете.

— Опять твою формулировку приняли.

— Я не виновата, что она точная.

— Я тоже хочу галочку.

Тогда сформулируйте точно, предложил Архивариус.

Вова посмотрел на счёты, потом на длинный список чисел.

— Счёты — это штука, которая помогает человеку считать и меньше путаться.

Пауза.

На экране появилась маленькая галочка.

Формулировка частично принята.

— Частично? — возмутился Вова.

Слово «штука» не очень подходит для школьного проекта.

Света рассмеялась.

— Запишем: инструмент.

Вова вздохнул.

— Хорошо. Инструмент. Очень серьёзная штука.

Зал Машин изменился. Счёты отодвинулись в сторону, а в центре появилось устройство с колёсами и цифрами. Оно было похоже на маленький сундук, внутри которого жили шестерёнки.

Рядом высветилась надпись:

Механическое вычисление

— О, — сказал Вова. — Вот это уже выглядит интереснее.

Со временем люди начали создавать устройства, которые могли выполнять арифметические действия с помощью механизмов.

— Арифметические — это плюс, минус и всё такое? — уточнил Вова.

Да. Сложение, вычитание и другие действия с числами.

На устройстве появились два окошка:

47 + 28 = ?

— Семьдесят пять, — быстро сказала Света.

— Я тоже хотел сказать, — сообщил Вова.

Механизм щёлкнул. Колёса повернулись, цифры сменились, и в окошке появился результат:

75

Вова посмотрел на устройство с уважением.

— Она считает быстрее меня. Неприятно, но удобно.

Машина может быстро и одинаково выполнять повторяющиеся операции, если правило задано правильно.

— Но она же не понимает, что такое карандаши, тетради или праздник? — спросила Света.

Не понимает. Она работает с числами и действиями.

Вова задумался.

— То есть она не умная, но полезная?

Да.

— Звучит как некоторые приложения на телефоне, — пробормотал он.

Света записала в тетрадь:

Машина может быстро считать, но это ещё не значит, что она понимает задачу.

Потом добавила отдельной строкой:

Для проекта: быстро считать — не значит понимать.

— Хорошая формулировка, — сказал Вова. — Даже я бы принял.

На экране появилась галочка.

Формулировка принята.

— Архивариус тоже принял, — сказала Света.

— Ладно, два против одного.

Зал снова изменился. Теперь перед детьми появились две дорожки.

На первой дорожке сидел нарисованный человек с карандашом. Перед ним лежал длинный столбик чисел. Он считал, зевал, тёр глаза и однажды случайно перепрыгнул через строку.

На второй дорожке машина выполняла одни и те же шаги: брала число, прибавляла, переходила к следующему, снова прибавляла.

— Человек ошибся, — заметила Света.

— Потому что устал, — сказал Вова.

Да. Но важное уточнение: машина тоже может ошибиться.

Вова удивился.

— Только что вы почти рекламировали машины.

Нет. Я показывал их пользу. Машина может ошибиться, если она сломана, плохо настроена или получила неправильные данные. Но она не устаёт так, как человек, и может повторять одинаковые шаги много раз.

Света быстро записала:

Машина не устаёт, но тоже не волшебная.

Вова посмотрел на неё.

— Вот это точно надо в проект.

— Почему?

— Потому что звучит честно.

Зал Машин вдруг потемнел. Между шестерёнками прошла белая рябь. Она была похожа на помехи старого телевизора, только без звука.

В воздухе появился яркий плакат:

МОЩНЫЙ КОМПЬЮТЕР = ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Буквы сверкали так уверенно, будто спорить с ними было бесполезно.

— А вот это уже похоже на правду, — сказал Вова. — Чем мощнее компьютер, тем он умнее, разве нет?

Света покачала головой.

— Калькулятор тоже считает быстрее нас. Но он не умнее нас.

— Если контрольная по арифметике, то спорно.

Возможное искажение: Белый шум, сообщил Архивариус.

Плакат задрожал. Слова начали распадаться на отдельные фразы:

Быстро считает = думает Много лампочек = разум Мощная машина = ИИ

— В Белом шуме опять появились знаки равенства, — заметила Света.

Слишком простые объяснения часто выглядят убедительно, ответил Архивариус.

— Но мощность компьютеров ведь важна? — спросил Вова.

Важна. Но одной мощности недостаточно. Нужны задачи, правила, способы представления информации и идеи о том, что именно должна делать машина.

Вова прищурился.

— То есть мощный компьютер без хорошей задачи — это как быстрый поезд без маршрута?

Секунда тишины.

На экране коротко вспыхнул знак подтверждения.

Формулировка принята.

Вова победно посмотрел на Свету.

— Видела?

— Видела. Поздравляю, твой поезд наконец приехал куда надо.

Белый плакат погас. Вместо него появилась лестница из светящихся ступеней.

На первой ступени стоял человек и считал на пальцах.

На второй — человек передвигал костяшки на счётах.

На третьей — механизм вращал колёса с цифрами.

На четвёртой — машина выполняла цепочку простых, точно описанных шагов.