Учись спрашивать и понимать

Глава 4. Вот вам реальный случай

Через несколько дней Володя снова оказался на занятии у Артура Сергеевича. Артур Сергеевич преподавал здесь недавно, но уже успел приобрести одну особенность, которую студенты ценили больше многих достоинств: он не слишком любил говорить сам. Если можно было поставить вопрос и заставить аудиторию спорить, он предпочитал именно это.

В этот раз на экране уже была выведена задача.

— Сегодня попробуем немного иначе, — сказал он. — Не будем сразу искать решение. Сначала решим, что именно здесь нужно решить.

Рома, сидевший рядом с Володей, тихо прошептал:

— Началось.

Володя улыбнулся. После недавнего разговора с Геннадием Петровичем он стал особенно внимательно прислушиваться к подобным словам. Раньше он, наверное, просто прошёл бы мимо этой фразы.

Артур Сергеевич дал студентам несколько минут. По аудитории прошёл обычный шорох: кто-то листал записи, кто-то уже набирал что-то в ноутбуке. Один студент почти сразу поднял руку.

— Можно использовать ИИ?

Артур Сергеевич посмотрел на него.

— А зачем?

Студент немного растерялся.

— Чтобы решить задачу.

— А если он решит её неправильно?

— Тогда проверю.

— Как?

Студент пожал плечами.

— Ну… посмотрю.

По аудитории прошёл смешок.

— Хорошо, — сказал Артур Сергеевич. — Пользуйтесь.

Володя заметил, как сразу несколько человек потянулись к телефонам.

Сам он пока ничего не открывал. Задача была не слишком сложной. Через несколько минут у большинства уже появились ответы. Кто-то сравнивал их между собой, кто-то исправлял цифры.

Один студент поднял руку.

— У меня есть решение.

— Показывай.

На экране появился подробный текст. Всё было аккуратно: исходные данные, ход рассуждения, формулы, вывод. Артур Сергеевич прочитал его до конца.

— Хорошо.

Студент довольно улыбнулся.

— Это ваше решение?

— Ну… да.

— Вы сами его получили?

Пауза.

— Я с ИИ работал.

— Что именно делали вы?

Студент посмотрел на экран.

— Задал задачу.

— Как сформулировали?

— Ну, как она здесь написана.

Артур Сергеевич снова посмотрел на решение.

— А почему именно так?

Студент замолчал. В аудитории стало немного тише.

— Потому что… это задача.

— Хорошо. А теперь представим, что я не вижу вашего запроса к ИИ. Вы защищаете решение. Что вы можете объяснить сами?

Студент начал объяснять. Первые несколько шагов шли уверенно. Потом он остановился.

— Здесь почему такой переход? — спросил Артур Сергеевич.

Студент посмотрел на экран.

— Здесь ИИ так сделал.

Несколько человек засмеялись. Артур Сергеевич не стал.

— Это я вижу. Я спрашиваю вас.

Студент снова посмотрел на решение.

— Сейчас…

Он несколько секунд молчал.

— Не знаю.

Артур Сергеевич кивнул.

— Хорошо.

Он вывел на экран другую часть решения.

— А это вы понимаете?

— Да.

— Почему?

Студент объяснил.

— Хорошо. А вот здесь.

Снова пауза.

— Не совсем.

Артур Сергеевич выключил проектор.

— Спасибо. Садитесь.

Студент сел. В аудитории повисло неловкое молчание.

— Теперь вопрос ко всем, — сказал Артур Сергеевич. — У нас есть правильный ответ. Есть подробное решение. Есть человек, который это решение представил. Что из этого мы сейчас можем назвать его учебным результатом?

Никто не ответил сразу. Володя вдруг почувствовал, что недавний разговор с Геннадием Петровичем каким-то образом продолжился здесь, только теперь уже без профессора.

Подняла руку Лена.

— Если он не понимает часть решения, наверное, нельзя считать, что он всему научился.

— Наверное? — переспросил Артур Сергеевич.

— Я не уверена.

— Хорошо. Не будьте уверены слишком быстро.

Кто-то с задней парты сказал:

— Но если ответ правильный, какая разница, кто его получил?

Артур Сергеевич повернулся к нему.

— Для чего?

— Для результата.

— А мы сейчас какой результат обсуждаем?

Студент не ответил.

— Если вам завтра понадобится решить такую же задачу, — продолжил Артур Сергеевич, — и вы снова спросите машину, а через неделю забудете, что спрашивали, можно ли считать, что вы чему-то научились?

— Но ведь я получил решение.

— Получили.

— Значит, работа сделана.

— Работа — да. А обучение?

Он оставил вопрос в воздухе. Володя записал его. Работа — обучение. Две вещи, которые ещё минуту назад казались ему почти одним и тем же. После занятия он задержался. Артур Сергеевич собирал бумаги, когда Володя подошёл к нему.

— Интересная история.

— Какая именно?

— С решением.

— Это не история. Это у меня теперь почти каждый день.

— И что вы с этим делаете?

Артур Сергеевич пожал плечами.

— Пока пытаюсь понять.

Володя удивился.

— Вы же преподаватель.

— Именно поэтому и пытаюсь понять.

Он сложил бумаги в папку.

— Знаешь, раньше было проще. Студент принёс чужую работу — понятно, что произошло. Студент списал — тоже. А теперь он может принести работу, которую действительно понимает на восемьдесят процентов, а двадцать процентов получил от машины. Или наоборот. Или вообще не понимает, откуда взялось решение, но сумеет его хорошо представить.

— И что тогда считать самостоятельной работой?

— Вот.

Артур Сергеевич кивнул.

— Ты сам задал этот вопрос.

Володя вспомнил Геннадия Петровича. Хороший вопрос ещё не означает хороший ответ.

— А если студент использует ИИ, но понимает всё решение?

— Тогда я бы скорее спросил, что именно он делал сам.

— Но если машина сделала вычисления?

— Почему нет?

— А если сформулировала часть решения?

— Тоже возможно.

— А если предложила способ решения?

Артур Сергеевич посмотрел на него.

— Вот здесь становится интереснее.

Они вышли из аудитории вместе. В коридоре уже толпились студенты.

— Знаешь, что меня сейчас больше всего беспокоит? — сказал Артур Сергеевич.

— Что?

— Мы привыкли проверять результат. А теперь, кажется, придётся научиться проверять работу человека с результатом.

Володя остановился. Артур Сергеевич пошёл дальше.

— И я пока не знаю, как это делать.

Володя некоторое время смотрел ему вслед. Потом достал телефон. Но записывать не стал. Мысль была слишком свежей. Он просто запомнил её.

Правильный ответ ещё ничего не говорит о том, чему научился человек.

Глава 5. А обязательно самому?

Вечером они снова встретились в том же кафе. Рома пришёл первым и, увидев Володю, сразу сказал:

— Только не говори, что у тебя опять новый вопрос.

— Есть.

— Я так и знал.

Илья уже сидел за столиком и что-то набирал в телефоне. Максим пришёл через несколько минут, Лена — последней.

— Ну? — спросила она. — Что сегодня произошло?

— На семинаре был интересный случай.

— Опять семинар, — сказал Рома. — Ты уже слишком много времени проводишь с преподавателями.

— Послушай.

Володя рассказал про студента, который с помощью ИИ получил правильное решение, но не смог объяснить некоторые его шаги. Илья пожал плечами.

— Но ответ-то правильный.

— Да.

— Тогда что не так?

— Он не понимал часть решения.

— Значит, разберётся потом.

— А если не разберётся?

— Разберётся.

— Почему?

Илья посмотрел на него с некоторым недоумением.

— Потому что теперь у него есть решение.

Рома усмехнулся:

— Железная логика.

— А что в ней плохого? — спросил Илья.

Максим вмешался:

— Ничего. Если результат тебе нужен для работы, то какая разница, сам ты сделал расчёт или машина?

Володя посмотрел на него.

— То есть ты считаешь, что студент всё сделал правильно?

— Я считаю, что мы слишком быстро называем это неправильным.

— Почему?

— Потому что ты говоришь: «Он не сделал сам». А что значит «сам»?

Володя замолчал. Лена посмотрела на Максима.

— Хороший вопрос.

— Спасибо.

— Нет, я серьёзно.

Она повернулась к Володе.

— Вот ты написал статью. Сам набрал текст?

— Конечно.

— Сам придумал формулу?

— Ну…

— Сам нашёл все источники?

— Не все.

— Сам проверил каждую цифру?

— Конечно.

— А компьютер сам исправлял ошибки?

— Исправлял.

— Значит, не совсем сам.

— Лена, это уже игра словами.

— А может, нет.

Она помолчала.

— Мы всё время говорим «сам сделал», как будто существует только два состояния: либо человек сделал всё, либо ничего не сделал. А ведь так никогда не было.

Максим кивнул.

— Именно.

— Но с ИИ всё-таки другое, — сказал Володя.

— Что именно?

— Он может не просто считать или исправлять ошибки. Он может предложить решение.

— И что? — спросил Максим. — Если я использовал чужую идею, а потом её понял, она стала моей или нет?

Рома поднял глаза:

— Зависит от того, насколько дорого заплатил.

Все засмеялись.

— Серьёзно, — сказал Максим. — Учёный же не обязан сам придумать всё, что использует. Он читает других, советуется, спорит, пользуется приборами. Почему с ИИ мы вдруг должны провести какую-то особую черту?

Володя задумался.

— Потому что он может сделать за тебя слишком много.

— А сколько — слишком много?

— Не знаю.

— Вот именно.

Лена подалась вперёд.

— Мне кажется, мы сейчас спорим не о том.

— А о чём? — спросил Илья.

— Не о том, сколько работы сделал ИИ. А о том, что должен уметь сам человек, если он пользуется ИИ.

За столом стало тише. Рома перестал улыбаться.

— Это уже похоже на диссертацию, — сказал он.

— Не начинай, — ответил Володя.

— Я серьёзно.

Володя посмотрел на Лену.

— А что он должен уметь?

— Не знаю.

— Вот опять.

— А что, обязательно знать ответ сразу?

Володя вспомнил Геннадия Петровича. «Если я сейчас отвечу, ты запишешь мой ответ и решишь, что понял». Он вдруг понял, что сегодня ему хочется сделать ровно наоборот.

— Наверное, нет.

Максим откинулся на спинку стула.

— Тогда давайте хотя бы договоримся: использование ИИ само по себе не делает работу несамостоятельной.

— А что делает? — спросил Илья.

Никто не ответил. Володя посмотрел на своих друзей. Ещё вчера ему казалось, что он примерно понимает, где проходит граница между человеком и машиной. Теперь граница куда-то исчезла. И, что было страннее всего, впервые это его не пугало. Он достал телефон. Рома заметил:

— Записываешь?

— Нет.

Володя убрал телефон обратно.

— Сегодня лучше запомню вопрос. Ответ пока подождёт.

Глава 6. Что остаётся человеку?

На этот раз Володя пришёл к Геннадию Петровичу без листа с подготовленной темой.

— Ничего не принёс? — спросил профессор, увидев его в дверях.

— Принёс.

Володя показал голову.

— Тогда проходи. Посмотрим, сколько там места осталось.

Он сел.

— Я поговорил с ребятами.

— Уже опасно.

— Они меня запутали.

— Значит, разговор был полезным.

Володя рассказал про спор в кафе. Про Максима, который не видел ничего страшного в том, что машина выполняет часть работы. Про Илью, который вообще не понимал, зачем человеку делать самому то, что машина делает лучше. Про Лену, которая спросила, что вообще значит «сам».

Геннадий Петрович слушал, не перебивая.

— И что ты думаешь? — спросил он, когда Володя закончил.

— Не знаю.

— Отличное начало.

— Вы всё время это говорите.

— Потому что ты всё время приходишь с хорошим незнанием.

Володя улыбнулся.

— Но ведь должна же быть какая-то граница.

— Между чем и чем?

— Между тем, что делает человек, и тем, что делает ИИ.

— Зачем?

Володя растерялся.

— Как зачем?

— Ты хочешь провести границу. Я спрашиваю: для чего?

— Чтобы понимать, что считать самостоятельной работой.

— А зачем нам это понимать?

— Чтобы оценивать студента.

— А зачем оценивать?

— Чтобы понять, чему он научился.

Геннадий Петрович кивнул.

— Вот теперь мы пришли куда-то.

Он взял ручку, но писать не стал.

— Попробуй ещё раз. Не спрашивай, сколько работы должен делать человек. Спроси иначе.

Володя подумал.

— Что человек должен уметь делать сам?

— Уже лучше.

— А если он умеет?

— Что?

— Поставить задачу. Проверить результат. Понять его. Объяснить.

— Хорошо.

— Тогда разве не всё остальное можно отдать машине?

Профессор улыбнулся.

— Вот теперь ты начинаешь говорить опасные вещи.

— Почему?

— Потому что звучит очень убедительно.

Володя засмеялся.

— Но разве это неправда?

— Не знаю.

— Опять?

— Конечно. Ты ведь сам только что решил, что нашёл границу.

Он встал и подошёл к доске. Вчерашняя цепочка всё ещё оставалась там:

ЧЕЛОВЕК — ВОПРОС — ИИ — ОТВЕТ — ПРОВЕРКА — НОВЫЙ ВОПРОС. Геннадий Петрович взял маркер.

— А теперь добавим ещё одно.

После слова «проверка» он написал: ПОНИМАНИЕ. Володя посмотрел.

— Это обязательно?

— А ты как думаешь?

— Если человек не понимает ответ, он не может его нормально использовать.

— Не всегда.

— Как это?

— Ты можешь пользоваться сложным прибором, не понимая всех законов физики, по которым он работает.

— Но в учебе…

— В учебе — да. Там мы всё время пытаемся решить две разные задачи. Получить результат и научиться.

Он обвёл слово «понимание».

— И вот здесь начинается самое интересное.

— Что именно?

— Может ли человек научиться, используя то, чего он сам полностью не умеет делать?

Володя задумался.

— Наверное, может.

— Тогда вопрос меняется.

— На какой?

— Не «что человек должен делать сам?»

Профессор зачеркнул эту фразу на листе.

— А «что человек должен понимать сам?»

В кабинете стало тихо. Володя посмотрел на доску.

— Это уже другое.

— Совсем другое.

Он положил маркер.

— Потому что теперь нам не нужно защищать человека от машины. Нам нужно понять, каким должен стать человек, который работает вместе с машиной.

Володя медленно кивнул.

— И это уже про образование.

— Вот теперь — да.

Он снова сел за стол.

— А теперь иди.

— Почему?

— Потому что если ты останешься, я начну тебе объяснять.

Володя рассмеялся.

— А это плохо?

— Для твоей диссертации — очень.

Володя встал. У двери он обернулся.

— Геннадий Петрович.

— Да?

— А если мы пока не знаем, что человек должен понимать сам?

Профессор посмотрел на него.

— Тогда, Владимир, у тебя есть ещё одна хорошая причина продолжать исследование.

Володя вышел. На доске осталась новая цепочка: ВОПРОС — ЗАДАЧА — КРИТЕРИЙ — ОТВЕТ — ПРОВЕРКА — ПОНИМАНИЕ. Геннадий Петрович ещё некоторое время смотрел на неё.

Часть II. Жизнь внутри сдвига