Обогнать искусственный интеллект. Про эволюцию человека и развитие в попытке обогнать новое

Глава 4. Человек 2.0

Кто на том конце ваших планов? Для кого всё это?

— вопрос, который А. Чулок задаёт залу

Введение

Мы выяснили, что обогнать ИИ — значит стать кентавром: управлять, а не соревноваться, — а думать этот кентавр должен от результата, а не от шагов. Но кентавр — это не должность и не навык, который можно дописать в резюме. Это другой человек. С другим горизонтом мышления, другой грамотностью, другим набором компетенций и другим отношением к будущему. В этой главе — портрет того, кем предстоит стать. Назовём его, вслед за форсайтщиками, Человеком 2.0.

Сразу оговорюсь: «2.0» — не про чипы в голове и не про киборгов. Это про эволюцию, которая происходит не в железе, а в способе думать и жить. И, в отличие от биологической, эту эволюцию мы проходим не за тысячи лет и не по воле случая, а за годы и по собственному выбору.

Портрет я буду собирать из двух источников. Первый — форсайт: взгляд исследователей будущего на то, каким человеку предстоит стать. Второй — живой: форум об ИИ в образовании, уже знакомый вам по второй главе, где о человеке два дня спорили инженеры, методологи, философы и преподаватели. Масштаб этого спора один из методологов подытожил фразой, которую я записал дословно: от того, сколько часов будет в общем курсе грамотности, — до того, за что будет умирать профессор в современном мире. Вот в этом диапазоне — от учебных часов до костра — и живёт вся эта глава.

4.1 Для кого всё это

На лекциях форсайтщик Александр Чулок задаёт залу один обескураживающе простой вопрос: кто на том конце ваших планов? Вы строите стратегии, цифровые трансформации, дорожные карты — а для кого? Кто этот человек будущего, ради которого всё затевается? И зал, как правило, замолкает, потому что про инструменты думали все, а про человека — почти никто.

Он формулирует это даже резче — и зал ёжится. «Вы куда гребёте? Просто гребёте? Все гребут — и я гребу. Мне же сказали: надо грести». В этой едкой картинке — вся беда планирования без человека в центре: огромная коллективная гребля, у которой никто не может назвать берег. А когда он спрашивает прямо: опишите будущее, ради которого всё это, — у людей, по его наблюдению, повисает пауза — про само будущее, оказывается, никто всерьёз не думал. Думали про дорожные карты, про показатели, про отчёты наверх. Про того, кто на том конце, — нет.

Образ Человека 2.0, который рисует тот же форсайт, поначалу звучит фантастично: ответственный, глубоко интегрированный с ИИ, живущий чуть ли не до ста двадцати лет, с почти бесконечным любопытством. И это не вольная фантазия лектора. В первой главе мы уже поминали японскую концепцию общества будущего Society 5.0 — так вот, Япония прямо вписала такой образ человека в этот государственный документ: там в перечне будущего человека стоят и долголетие, и инклюзивность, и полная интеграция с искусственным интеллектом, и — дословно — вечное любопытство. Чулок шутит на этот счёт горько: получается, японцы к середине века хотят стать такими, какими мы могли бы быть уже сейчас, — да всё некогда. Можно спорить про сто двадцать лет, но суть не в цифре. Суть в том, что человек будущего определяется не тем, что он умеет делать руками, а тем, как он думает, сколько готов учиться и за что берёт ответственность.

И сразу — чтобы образ не повис в воздухе. За ним стоят сухие цифры из первой главы: по оценке Всемирного экономического форума, в ближайшие годы десятки миллионов рабочих мест уйдут «под нож», а десятки миллионов появятся — но уже другие; а на больших анонимных опросах люди в среднем признают, что до двух третей их собственных обязанностей уже сегодня можно делегировать машине. Человек 2.0 — это не красивая утопия, а трезвый ответ на вопрос: кем стать, чтобы оказаться среди тех, чьи рабочие места возникнут, а не исчезнут.

4.2 Горизонт мышления: из будущего, а не из прошлого

Первое, что отличает Человека 2.0, — горизонт мышления. Помните зеркало заднего вида: привычку, как говорил Маклюэн, смотреть на настоящее в зеркало заднего вида и пятиться в будущее. Мы планируем, продлевая вчерашние тренды, — и удивляемся, что приходим не туда.

У этой привычки есть жестокий и точный образ, который Чулок одалживает у Илона Маска. Когда мы работаем с будущим, говорит Маск, мы будто ведём машину, глядя только в зеркало заднего вида. А Чулок добавляет ещё круче: мы смотрим даже не в само зеркало, а в видеозапись того, что в этом зеркале когда-то было, — и по ней пытаемся ехать вперёд. Смешно, пока не вспомнишь, что именно так чаще всего и пишутся стратегии: из вчерашних трендов, продлённых на завтра. А впереди, между прочим, поворот.

Сюда же — его бытовая метафора «кубик и Galina Blanca», уже знакомая вам: когда «образ будущего» варят из технологий восьмидесятых-девяностых, щепотки цифровизации, веточки ИИ и соуса техсуверенитета — и подают как стратегию. Похоже на правду, пахнет аппетитно. Только это не будущее, а вчерашний бульон из кубика.

Человек 2.0 разворачивается. Он мыслит из будущего: сначала образ результата через пять, десять, двадцать лет — и только потом шаги к нему отсюда. Это и есть то, что специалисты называют форсайтом, а инженеры — обратным планированием, — узнаёте? То самое мышление от результата из третьей главы, только растянутое с рабочей задачи на десятилетия жизни. Форсайт, к слову, не гадание: ему больше семидесяти лет, это научно обоснованный инструмент, где будущее не угадывают, а собирают, комбинируя экспертные и математические методы. Чулок любит другой образ — калейдоскоп: будущее не предсказывают единственной картинкой, его складывают из множества трендов, поворачивая трубку под разным углом. Вопрос не «куда нас вынесет, если продолжать как есть», а «каким должно быть будущее — и что для этого сделать сейчас».

Разница кажется тонкой, но она меняет всё. Отрезвляющий контраст между «длинным взглядом» и нашим «горизонтом в пять минут и двадцать совещаний» вы уже видели: Китай с планом до две тысячи пятидесятого, Япония с сотнями технологий в Society 5.0. Добавлю сюда третий пример: Корея строит форсайт на горизонте до середины века, где в центре уже не человек, принимающий решения, а целая россыпь центров силы и новый класс рисков. Дело не в том, что эти нации умнее. Просто они прагматично закладывают инвестиционную стадию под цели середины века уже в ближайшие годы — а мы всё доделываем стратегию, которую следовало принять давно.

У этого разворота есть и строгое основание. На форуме прозвучало рабочее различение, которое я с тех пор пересказываю студентам: интеллект — это адаптация к среде по существующей модели; мышление — выработка новой нормы, когда модель дала сбой. Смотрите, что оно даёт. Адаптацию по известной модели можно спокойно отдавать машине — она делает это быстрее и дешевле. А вот момент, когда прежняя картина мира сломалась и норму надо вырабатывать заново, не делегируется: это и есть мышление в собственном смысле слова. И форсайт — ровно оно: мыслить из будущего значит не продлевать старую норму, а вырабатывать новую.

Почему такой горизонт перестал быть роскошью форсайтщиков и стал бытовой необходимостью, точнее всех объяснил на том же форуме один методолог. Мы привыкли планировать там, где порядок уже состоялся и мыслится константой, говорил он, а ИИ создаёт быстрые порядки — стремительную сборку действия без долгого закрепления; константы перестают быть константами. Переведу на бытовой язык: опоры, от которых мы привыкли планировать, — профессия, инструмент, «так принято в отрасли» — теперь живут меньше, чем сам цикл планирования. Планировать «от того, что есть» стало технически невозможно: пока планировал, «то, что есть» закончилось. Остаётся планировать от того, что должно получиться, — то есть из будущего.

И ещё один сдвиг того же горизонта — уже не во времени, а вокруг себя. На пленарном докладе о когнитивных архитектурах прозвучала оценка: у активного пользователя сеть его ИИ-агентов уже сопоставима по масштабу с сетью его человеческих рабочих связей. Значит, «моя голова плюс мои агенты» — такой же объект проектирования, каким раньше была «моя голова плюс мой ежедневник». Сам сдвиг навыка там уместили в одну строку: от вайб-кодинга — программирования живым диалогом с моделью — к инженерии агентов, то есть от исполнения к постановке задач и ответственности за результат — по сути, знакомая вам оркестрация из третьей главы. Горизонт Человека 2.0 включает не только «когда я думаю», но и «в каком окружении», — и это окружение он проектирует сам.

Совет: Потренируйте разворот на ближайшем рабочем деле. Не спрашивайте «что делать дальше, исходя из того, что есть». Спросите «как выглядит готовый результат через год» — и шагайте от него назад, к сегодняшнему дню. Почти всегда первый шаг оказывается не тем, что подсказывала инерция. Большую версию этого разворота — уже не про дело, а про вас самих — я приберёг для конца главы.

4.3 Новая грамотность: ИИ как смартфон

Второе отличие — отношение к инструменту. Ещё недавно умение работать с нейросетью считалось чем-то для энтузиастов. Сейчас это стремительно становится базовым навыком. Чулок иллюстрирует это собственной молодостью. Когда он выходил на рынок труда, он гордо вписывал в резюме: уверенный пользователь ПК, знаю Internet Explorer, Microsoft Office, печатаю столько-то знаков в минуту. И это было сильным преимуществом — за такое платили сто долларов за статью, а на эти деньги в Москве, как он вспоминает, тогда можно было неплохо жить. Сегодня смешно даже представить такую строчку в резюме. Так вот, прогноз, под которым он подписывается и под которым подпишусь я: уже через два-три года «умею работать с ИИ» окажется такой же само собой разумеющейся строчкой, как сегодня «умею пользоваться телефоном». Её просто перестанут писать — это будет предполагаться.

Показательно, что и сам форсайтщик, человек, который про будущее знает больше многих, поставил себе на год простую личную задачу: закрепиться в какой-нибудь нейросети и начать ею пользоваться по-настоящему — пока не поздно, пока «она ещё будет считаться со мной». В этом признании больше честности, чем в любом докладе: даже эксперту по будущему приходится догонять настоящее. Значит, и нам с вами не стыдно.

Есть, правда, психологический барьер: нам упорно кажется, что ИИ — это что-то, что ещё не наступило. На форуме инженер с двадцатипятилетним стажем в этой области — его голос будет много значить в этой главе — напомнил определение Джона Маккарти, автора самого термина: мы перестаём считать нечто искусственным интеллектом, как только оно начинает работать. Компьютерное зрение, пока путало костюм с собакой, было ИИ; научилось — и стало «фигнёй какой-то». Беспилотники поехали — и тоже перестали быть ИИ. Сейчас на наших глазах из разряда ИИ выбывают языковые модели — а вот агенты пока «считаются». С залами инженер проделывает простой фокус: кто пользуется ИИ каждый день, поднимите руку. Поднимает часть. А в поиск вы как ходите? А телефон вас по лицу узнаёт? Рук становится заметно больше. «ИИ как смартфон» — не прогноз: это свершившийся факт, который мы не замечаем ровно потому, что он сбылся.

Тот же инженер поднимает разговор о грамотности на высоту, с которой она перестаёт выглядеть строчкой в резюме. Уровень интеллекта человека, говорит он, определяется не внутри черепа, а в обществе — в распределённой системе, которая обучается обменом информацией. И каждый большой скачок нашей эволюции случался, когда появлялся радикально более быстрый способ хранить и передавать знание. Язык. Письменность — знание впервые пережило своего носителя. Книги — мощно, но чрезвычайно дорого. Компьютеры и интернет — хранить и передавать стало дёшево, а знание сделалось проактивным: рекомендательная система приносит то, о чём ты даже не спрашивал. Теперь в этом ряду появился ИИ, и нам ещё предстоит осознать его место. Но одно ясно уже сейчас: каждая ступень этой лестницы рождала свою грамотность — умение читать, умение искать, умение фильтровать. Новая грамотность — очередная ступень той же лестницы, а не мода сезона.

А значит, новая грамотность — это не «знать, какие бывают нейросети», а уметь с ними разговаривать: ставить задачу, вести диалог, проверять — те самые три умения кентавра из второй главы. Это ремесло, и, как любое ремесло, оно ставится практикой, а не лекцией. Здесь полезно держать в голове и оборотную сторону: машина уверенно выдумывает — попросите её про научные статьи, и она с честным лицом сошлётся на несуществующие, потому что «сказать точно» для неё дольше и дороже. Поэтому Человек 2.0 не ждёт, пока его научат, и не верит на слово — он учится в деле и проверяет, потому что инструменты меняются быстрее, чем выходят учебники по ним. Но что вообще значит «уметь»? Где граница между тем, кто грамотен, и тем, кто просто бойко тыкает в чат? Об этом стоит поговорить отдельно.

4.4 Грамотность — это слух, а не кнопки

Лучшее определение ИИ-грамотности из всех, что я слышал, прозвучало не с трибуны, а в рабочей группе форума, в самой гуще спора. Дал его тот самый инженер: если сильно упростить, грамотный человек должен понимать на слух, когда ему говорят чушь. И не говорить чушь сам. Всё. Ни слова про промпты, ни слова про кнопки. Грамотность — это слух: как грамотный слышит ошибку в родной речи, не открывая учебника, так ИИ-грамотный слышит фальшь в разговорах про ИИ. А фальши вокруг много. ИИ — это зонтичный бренд над десятком разных технологий, слабо связанных друг с другом, и неграмотность выдаёт себя первой же фразой: «здесь не нужен ИИ, здесь достаточно машинного обучения» — говорят с умным видом люди, не понимающие значения ни одного из терминов. Или вездесущее «мы сделали с точностью девяносто восемь процентов» — и девяносто девять человек из ста не слышат, насколько безграмотно это звучит.

Теперь — главный миф, с которого этот слух начинается. В работе искусственного интеллекта есть два принципиально разных момента: его создание и его применение. Половина всех мифов и заблуждений, настаивает инженер, растёт из того, что люди не понимают: это два не связанных друг с другом процесса — и это, к слову, одно из ключевых отличий искусственного интеллекта от биологического. Отсюда бытовое следствие, которое разоблачает разом целый ворох страхов и надежд: модель ничему не учится в процессе разговора с вами. Как же так, возразите вы, она ведь «узнаёт» меня, помнит наши прошлые беседы! Всё проще: лог разговора хранится отдельно и подаётся модели как контекст. Модель не поменялась — поменялся контекст. Ваш собеседник не умнеет от общения с вами и не копит внутри себя досье — он каждый раз перечитывает вашу общую тетрадь.

Зачем это знать «не технарю»? Инженер отвечает аналогией автошколы: там учат устройству автомобиля — не для того, чтобы вы чинили двигатель, а чтобы ездили осмысленно. С ИИ очень похожая история, и дальше он произносит фразу, которую я печатал бы на каждой коробке с нейросетью: люди без базы думают, что двигатель думает. А у понимания устройства есть немедленная практическая отдача. Помните «машина уверенно выдумывает» из прошлого раздела? У инженера формулировка жёстче: если модель придумывает вам несуществующие ссылки — вы просто неправильно её используете. Звучит обидно, но это переадресация ответственности точно по адресу: грамотный водитель не жалуется, что машина «сама» въехала в столб на льду, — он знает, где у неё пределы сцепления.

По той же причине он отговаривает учить людей «промптингу» как набору заклинаний: трюки помогут прямо сейчас, но через год выйдет другая модель — и там всё по-другому; а тот, кто понимает устройство, выведет приёмы сам. Я видел его компромиссные «полтора часа практики» живьём: одна и та же просьба — составь тест по Второй мировой — а потом она же «от лица воспитателя детского сада» и «от лица студента-отличника». Три совершенно разных теста. Этого хватает, чтобы человек перестал считать модель оракулом и начал считать её инструментом с настройками.

И вот тут разговор о грамотности упирается в различение, которое я считаю главной находкой форума. У нового поколения опыта работы с ИИ больше, чем у их учителей, — это факт, и мы к нему ещё вернёмся. Но опыт — не грамотность. Методолог на сессии сформулировал так: задача не в том, чтобы человек был опытным, — задача, чтобы он был культурным. Чтобы взял другую культуру, не ту, к которой привык: здесь ноги на стол класть нельзя; нельзя сказать «я где-то прочитал» — будь любезен, укажи ссылку. И добавил с усмешкой: опыт у них, конечно, более крутой. А потом — образ из сказок, который стоит целой методички: великий воин рвётся воевать просто умом и удалью, а ему говорят — можно. Но сначала заточи меч. Ведущая той же секции довела мысль до бытовой очевидности: когда ребёнок приходит в первый класс, его опытное владение языком — на очень высоком уровне, он болтает без умолку. Но это владение некультурно: осваивать этим языком следующие предметы он не может. Поэтому первое, что делает школа, — орфография и грамматика. ИИ-грамотность относится к умению бойко тыкать в чат ровно так же, как грамматика — к детской болтовне.

Есть у этой грамотности и ещё один этаж — назову его онтологической гигиеной, вслед за философом с того же форума: не обманываться в статусе собеседника. Он не производит знания — он производит данные, напоминал философ. Даже задумчивая пауза перед ответом — искусственная: модель могла ответить быстрее, но интерфейс демонстрирует человеческое качество. Ощущение настоящего глубокого общения — опасная иллюзия, и она должна осознаваться. Восьмилетний сын философа спорил с умной колонкой и всерьёз на неё обижался — для него стало открытием, что внутри не сидит женщина с микрофоном. Мы улыбаемся, но взрослые совершают ту же ошибку, только дороже. И последняя ловушка, самая незаметная: эхо-камера уточняющих вопросов. Кажется, что диалог с моделью расширяет кругозор, — а на деле с каждым уточнением человек уходит вглубь коридора, на всё более узкий материал. Опытный исследователь знает, что запрос надо периодически расширять; первокурсник ни ловушки не видит, ни выхода не знает.

Важно: Люди без базы думают, что двигатель думает. ИИ-грамотность — это не кнопки и не заклинания-промпты. Это слух — понимать, когда тебе говорят чушь, и не говорить её самому. Это знание устройства — модель не учится в разговоре, меняется только контекст. И это культура пользования — «будь любезен, укажи ссылку» и «сначала заточи меч».

4.5 Компетенции, которые не устаревают

Если конкретные навыки устаревают всё быстрее, на что вообще опираться? Ответ форсайта парадоксален: опираться надо на то, что не привязано к конкретной технологии. И это не умозрение. Вместе с ассоциацией промышленников Чулок четверть века подряд опрашивал директоров — больше трёхсот человек — об одном: что определяет качество управления. На первое место из года в год выходит не знание конкретной программы, а кое-что другое. Компетенции Человека 2.0 — это не «питон» и не «эксель», а то, что останется ценным при любой смене инструментов.

Умение действовать в неопределённости — то, что он по-русски называет нашей «смекалкой»: когда сервер лёг, программа глючит, инструкция не работает, а ты всё равно находишь эффективное решение. Это первое место в его опросе директоров. Именно сюда уходит ценность, когда алгоритмируемое забирает машина.

Баланс критического и креативного мышления. Одной критики мало, предупреждает он: «критиковать, сидя на диване, много ума не надо». Настоящая компетенция — это «критикуешь — предлагай»: уметь и придумать новое, и трезво проверить придуманное. По отдельности любого из двух недостаточно.

Управление собственным психоэмоциональным состоянием — вниманием, энергией, тревогой. В мире, который ускоряется и шумит, это не «мягкий навык», а условие выживания — вспомните когнитивную интенсификацию из второй главы: кентавры устают быстрее. Чулок ставит его в один ряд с двумя первыми.

Коммуникация и умение договариваться. Его любимый тезис: в цифровом мире будущее «продавить невозможно». Мы, говорит он, привыкли продавливать решения сверху, а договариваться не умеем — между тем коварные задачи решаются за столом переговоров, а не формулой. О будущем нельзя приказать, с ним можно только договориться. Заметьте: всё это — ровно то, чего нет у машины и чему толком не учил конвейер. Старая модель оттачивала исполнение; Человек 2.0 оттачивает суждение, устойчивость и способность договариваться. Это и есть переориентация с того, что забирают, на то, что остаётся.

Форум дал этому списку неожиданное подкрепление — из уст всё того же инженера. В споре о том, чему учить, оппонент бросил ему: технологии устаревают за год, чему тут вообще можно научить? Ответ был мгновенным: тогда расскажите, пожалуйста, как за последние двадцать лет устарело понятие обучающей выборки? В зале стало тихо. Устаревают кнопки и продукты; понятия и суждение — не устаревают. У зрелых профессий такое суждение накоплено в форме, которую он назвал профессиональной мудростью, написанной кровью, — как правила безопасности в авиации. Его пример: хороший специалист по машинному обучению, получив результат сильно выше ожиданий, не радуется — он очень расстраивается и уходит искать ошибку в метрике. Потому что чудес не бывает, а ошибки бывают. И этот рефлекс переносится куда угодно: когда к вам приходят со словами «мы получили суперрезультат», вы — если у вас есть эта мудрость — знаете, что спросить.

Куда прикладывать этот рефлекс, долго искать не надо — вот упражнение по трезвости с того же форума. Компании всегда увольняли людей, и признаваться в этом всегда было болезненно. И тут появляется гениальное прикрытие: теперь ты не неудачник, а супертехнологичный передовик — «мы сокращаем, потому что внедрили ИИ». А посмотришь внимательно: сокращают ровным процентом по всем отделам, а не там, где ИИ действительно эффективен. Ровный процент — та самая ошибка в метрике, которую слышит грамотное ухо: настоящая автоматизация бьёт точечно, пиар — по площадям. Отличать технологическое объяснение от пиар-прикрытия — тоже компетенция, которая не устареет.