Кто говорит во мне: я или алгоритм?
- -
- 100%
- +
Иногда такой вопрос полезен.
Но как универсальный детектор он довольно быстро ломается. Даже без всякого алгоритма трудно найти мысль, принадлежащую человеку в том смысле, что ни один внешний голос никогда не участвовал в её появлении.
Гораздо интереснее другое.
Что происходит с чужой мыслью после того, как она до нас дошла?
Мы проглотили её целиком, потому что она удобно легла на прежние убеждения?
Проверили?
Поспорили?
Попробовали применить?
Изменили после собственного опыта?
Согласились с ней сегодня и оставили себе право отказаться завтра?
Вот здесь постепенно появляется пространство, которое можно назвать собственным участием. Не стерильное помещение, куда никогда не заходили чужие идеи. Скорее мастерская, где постоянно лежат принесённые откуда-то материалы: семейные фразы, школьные правила, фильмы, разговоры, ошибки, чужие аргументы, воспоминания, советы. И работа состоит не в том, чтобы доказать, будто всё сырьё произведено здесь.
Важнее понимать, что мы с ним делаем.
Ира, кстати, после многих лет насмешек попробовала арбуз без хлеба.
Ей понравилось.
Теперь она иногда ест так, иногда по-старому.
— Ну и какой вариант правильный? — спросила подруга.
— Мой, — сказала Ира.
— Какой именно?
— Который я сейчас хочу.
Возможно, в этой несерьёзной фразе больше здравого смысла, чем кажется.
Собственное не обязательно означает созданное с нуля.
Иногда оно означает: я это встретил, попробовал, оставил — и готов считать своим выбором.
Глава 5. Что именно я отдаю машине?
Фраза «я использую ИИ» звучит примерно так же информативно, как «я использую электричество». Можно зажечь лампу. Сварить суп. Зарядить телефон. Подключить аппарат, поддерживающий работу сердца. Электричество одно, а происходят совершенно разные вещи.
С ИИ похожая история.
Один человек просит исправить запятые в уже написанном письме. Другой — написать письмо с нуля. Третий приносит три собственных варианта и просит сравнить. Четвёртый описывает конфликт с начальником и спрашивает, увольняться ли ему. Пятый уже решил увольняться, но хочет услышать аргументы против.
Во всех пяти случаях можно сказать:
«Я спросил у ИИ».
Но передана машине была разная работа.
Это различие легко потерять, потому что снаружи действия почти одинаковы: открыть окно, напечатать запрос, получить ответ. Несколько движений пальцами скрывают довольно большой диапазон интеллектуального сотрудничества — от исправления опечатки до участия в решении, способном изменить несколько следующих лет жизни.
Само по себе это ничего не говорит о качестве выбора.
Человечество давно выносит часть умственной работы наружу. Мы записываем то, что не хотим держать в памяти, пользуемся калькулятором, сверяемся с картой, ищем информацию в справочниках, спрашиваем совета. В психологии для части таких процессов используется понятие когнитивной разгрузки: внешние средства помогают уменьшить требования, которые задача предъявляет к нашей собственной когнитивной обработке.
Это не новое человеческое падение.
Записная книжка тоже когда-то получила работу, которую могла выполнять память. Интереснее другое: генеративный ИИ позволяет отдавать наружу не один тип операции.
Допустим, вам нужно написать сложное рабочее письмо.
Можно сначала написать его самому и попросить убрать повторы. Тогда машине в основном передана редактура. Можно сказать: «Я хочу отказаться от проекта, но сохранить хорошие отношения. Предложи три варианта письма». Здесь ей уже передана часть формулирования. Можно спросить: «Стоит ли мне вообще отказываться?» — и тогда система входит в оценку ситуации. Можно попросить перечислить плюсы и минусы. Это структурирование аргументов. Можно написать: «Как бы ты поступил на моём месте?» — и приблизиться к рекомендации решения. А можно сказать: «Я решил отказаться. Найди слабые места в моих рассуждениях». Тогда ИИ выполняет совсем другую роль: не предлагает направление, а проверяет уже выбранное.
Одно окно.
Один инструмент.
Разная работа.
Поэтому вопрос «слишком ли много я пользуюсь ИИ?» не всегда самый полезный. Два человека могут проводить с ним одинаковое количество времени и делегировать совершенно разные вещи. Один десять раз за день попросит сократить собственные тексты. Другой один раз спросит, стоит ли ему принимать предложение о переезде в другую страну. Если считать только минуты или количество запросов, первый окажется «более зависимым от ИИ». Но цифра ничего не расскажет о том, какую часть процесса человек передал системе и насколько эта часть для него важна.
Здесь полезно сделать первую остановку в нашей книге.
Не цифровой детокс. Не торжественное обещание думать исключительно своей головой. И даже не упражнение на силу воли.
Просто инвентаризацию.
Вспомните несколько недавних случаев, когда вы обращались к ИИ. Не обязательно важных. Рабочее письмо, рецепт, идея подарка, объяснение непонятного термина, план поездки, таблица, разговор, который хотелось подготовить заранее. А теперь рядом с каждым случаем попробуйте написать одно слово — что именно вы передали машине.
Найти.
Вспомнить.
Объяснить.
Сформулировать.
Сравнить.
Придумать варианты.
Оценить.
Проверить.
Порекомендовать.
Выбрать.
Список не является психологической классификацией и не обязан быть полным. Его задача гораздо скромнее: сделать видимой работу, которая обычно прячется внутри привычного «спросил у ИИ». Может оказаться, что вы почти всегда используете систему для поиска альтернатив, но решение предпочитаете принимать сами. Или что вам особенно нравится отдавать первый черновик, потому что чистый лист вызывает желание немедленно заняться чем-нибудь срочным — например, разобрать папку «Загрузки» за 2019 год. Возможно, вы охотно поручаете ИИ сравнение технических характеристик, но раздражаетесь, когда он начинает советовать, как разговаривать с близкими. А может быть, всё наоборот: цифры вам спокойнее проверять самому, зато перед неприятным разговором полезно увидеть несколько возможных формулировок.
Здесь нет результата, который нужно получить.
Если в вашей карте много делегирования, это не диагноз. Если мало — не медаль за интеллектуальную независимость. Более того, человек вполне может сознательно решить: эту работу я хочу отдавать. Она скучна, занимает время, не развивает ничего, что мне важно развивать, и прекрасно выполняется инструментом.
Такое решение тоже является формой участия.
Проблема начинается не в момент делегирования как такового. Для этой книги интереснее момент, когда мы перестаём замечать, что именно было делегировано.
Первые пять глав мы подходили к этому с разных сторон.
Мы увидели ответ, появившийся раньше собственной формулировки. Заметили посредника, заранее сокращающего пространство вариантов. Разобрались, почему последнее слово не отменяет влияния того, что прозвучало до него. И отказались от удобной фантазии, будто собственное мнение обязано возникнуть в стерильной комнате без чужих голосов.
Теперь можно сделать следующий шаг.
Потому что «ИИ повлиял на меня» — всё ещё слишком большая и туманная фраза. Гораздо точнее посмотреть, какую работу мы ему поручили. И только потом разбираться, что происходит с нами, когда подсказка начинает получать вес.
ЧАСТЬ II. КАК ПОДСКАЗКА ПОЛУЧАЕТ ВЕС
Глава 6. Мир, который уже отобрали для нас
В старом книжном магазине возле дома стоял стол.
На нём лежало примерно двадцать книг.
Маша заходила туда раз в несколько недель и почти всегда останавливалась именно перед этим столом. Не потому, что там продавались лучшие книги города. Просто он стоял сразу у входа, а над ним висела небольшая табличка:
«Советуем прочитать».
Иногда Маша покупала что-нибудь оттуда.
Однажды спросила продавца:
— А кто выбирает книги для этого стола?
— Мы.
— По продажам?
— Иногда. Иногда просто нравится кому-то из нас. Бывает, издательство присылает новинку. Бывает, книга хорошо пошла, и мы выставляем ещё. По-разному.
Маша кивнула и продолжила рассматривать обложки.
Никакой сенсации.
Никто не прятал остальные книги. Они стояли вокруг — тысячи томов на полках. Можно было пройти дальше, попросить каталог, спросить другого продавца, прийти за конкретным автором.
И всё-таки стол работал.
Он не решал, какую книгу Маша купит. Он решал кое-что гораздо скромнее: с какими книгами она встретится раньше остальных. Цифровой мир во многом устроен так же, только стол стал почти бесконечным и постоянно перестраивается.
Откройте видеосервис — несколько вариантов уже ждут.
Музыкальное приложение знает, что поставить после текущей композиции.
Магазин показывает товары, которые «могут понравиться».
Поиск располагает результаты в определённом порядке.
Лента решает, какие публикации окажутся наверху.
Здесь легко сделать следующий шаг и представить алгоритм неким таинственным существом за кулисами, которое тщательно составляет нашу судьбу на вечер.
Это было бы эффектно.
И довольно неточно.
У разных систем разные цели, данные и способы ранжирования. Мы часто не знаем, почему конкретный вариант оказался именно на этом месте. Более того, человек сам участвует в происходящем: вводит запросы, подписывается, пропускает, покупает, ставит оценки, меняет настройки. В некоторых сервисах можно сознательно переключаться между режимами выдачи или искать совсем за пределами рекомендаций.
Но одна простая особенность остаётся.
Наше внимание ограничено.
Если сервис предлагает тысячу фильмов, мы всё равно не рассматриваем тысячу. Кто-то или что-то должно решить, какие окажутся первыми.
И первый экран — это уже не вся библиотека.
Представьте меню ресторана из десяти тысяч блюд. Формально свобода выбора огромна. Практически официант, вероятно, обнаружит вас на третьи сутки где-нибудь между разделами «лапша» и «региональные вариации чечевицы».
Удобство начинается с сокращения.
Поэтому сам факт отбора не является подозрительным. Без него многие современные сервисы были бы почти бесполезны. Проблема даже не обязательно в том, что какие-то варианты исчезают. Если вы ищете зимние ботинки сорок второго размера, исключение босоножек тридцать пятого — один из тех видов алгоритмического вмешательства, против которых трудно организовать убедительный протест. Значение имеет другое: сокращённый набор становится материалом для нашего следующего действия. Это хорошо видно в исследованиях рекомендательных систем. Изменения в устройстве рекомендаций — в том, какие варианты показываются, как они располагаются и сколько их предлагается, — способны менять то, что пользователи в итоге выбирают и насколько охотно принимают рекомендацию. Отсюда, однако, ещё далеко до громкого вывода «алгоритмы создают наши желания».
Выбор и предпочтение — не одно и то же.
Я могу заказать блюдо, потому что оно первым попалось в меню, и больше никогда его не заказывать. Могу включить песню из рекомендаций и через неделю полюбить исполнителя. Могу посмотреть сериал только потому, что о нём говорили все вокруг, хотя сервис предлагал мне совершенно другое. Устойчивая человеческая склонность не появляется автоматически из одного клика. Но клики накапливаются внутри среды, где встреча с вариантами уже организована. И здесь начинается странная арифметика повседневной свободы. Мы привыкли оценивать её по количеству доступного: раньше было пять телеканалов, теперь тысячи видео; раньше три магазина в районе, теперь весь интернет; раньше знакомиться можно было через друзей и работу, теперь перед глазами огромный поток анкет.
Возможностей действительно стало больше.
А внимания — нет.
У человека по-прежнему один вечер пятницы, один экран телефона и довольно ограниченное терпение. Поэтому значение получает не только число существующих вариантов, но и путь, по которому они доходят до нас. Книжный стол у входа был честен своей очевидностью. Его можно было увидеть целиком — двадцать обложек, выбранных несколькими продавцами. Даже табличка предупреждала: это рекомендации.
Цифровой отбор гораздо удобнее и тоньше. Он может выглядеть не как чья-то рекомендация, а просто как сам мир:
«Для вас».
«Вам может понравиться».
«Популярное».
«Лучшее совпадение».
«Следующее».
И всё же перед нами не весь мир. Перед нами интерфейс.
Это полезно помнить не для того, чтобы каждый вечер объявлять войну рекомендательной системе и демонстративно искать фильм на странице номер 847.
Достаточно иногда замечать сам стол.
Потому что во многих случаях первый шаг выбора уже сделан до нас: огромное пространство возможного стало небольшим пространством видимого.
А дальше начинается более сложная история.
Некоторые предложения мы пролистываем без сожаления.
Некоторые открываем из любопытства.
А некоторым почему-то очень быстро начинаем доверять.
вторник 11:59
Глава 7. Первый ответ меняет поле следующей мысли
Иногда разговор зависит не только от того, что сказали.
Но и от того, что прозвучало первым.
Представьте обычное совещание.
Руководитель задаёт вопрос:
— Почему продажи снизились?
Наступает короткая пауза.
Потом кто-то произносит:
— Скорее всего, дело в цене.
И почти незаметно вся последующая беседа начинает вращаться вокруг цены. Люди вспоминают акции конкурентов, обсуждают скидки, сравнивают стоимость. Даже тот, кто считает причиной неудач плохую логистику или неудачную рекламу, вынужден сначала мысленно пройти через уже предложенное объяснение. Это вовсе не означает, что первое мнение обязательно окажется правильным.
Но оно часто становится отправной точкой.
Психологи давно изучают подобные эффекты в самых разных задачах. В зависимости от ситуации первоначально предложенная информация способна становиться своеобразной точкой отсчёта, относительно которой человек затем корректирует собственные оценки. Сила этого влияния меняется в зависимости от контекста, опыта человека и характера самой задачи. Оно не является универсальным и не действует одинаково всегда.
В обычной жизни мы редко замечаем этот механизм.
Он не выглядит как давление.
Скорее как естественное начало размышления.
Появление генеративного ИИ делает такие начала удивительно доступными. Раньше, столкнувшись с непростой задачей, человек нередко некоторое время оставался один на один с пустым листом. Он перебирал варианты, заходил в тупик, возвращался назад, пробовал ещё раз.
Теперь достаточно нескольких секунд.
«Предложи план.»
«Назови возможные причины.»
«Как лучше поступить?»
Первый ответ появляется ещё до того, как внутренний поиск успевает развернуться полностью.
Важно заметить одну вещь.
Сам по себе первый вариант не является ловушкой.
Очень часто он действительно оказывается полезным. Он помогает начать работу, снимает страх чистого листа, экономит силы. В этом нет ничего подозрительного.
Но первый ответ выполняет ещё одну функцию.
Он незаметно определяет, от чего дальше начинает отталкиваться наше мышление. Попробуйте вспомнить, как вы обсуждаете ремонт квартиры. Если дизайнер сразу показывает современный минимализм, все следующие идеи уже сравниваются именно с ним. Если первым появляется классический интерьер, дальнейшее обсуждение развивается иначе.
Мы редко начинаем размышление из абсолютного нуля.
Наш мозг любит опоры.
ИИ умеет поставлять такие опоры очень быстро.
Поэтому вопрос заключается не в том, прав ли первый ответ.
Гораздо полезнее иногда спросить себя:
«Если бы я сначала увидел совершенно другую версию, мои дальнейшие рассуждения выглядели бы так же?»
Ответ далеко не всегда будет положительным.
И в этом нет ничего тревожного.
Любое мышление развивается постепенно. Мы читаем первую главу книги раньше десятой. Сначала слышим одну историю, потом другую. Учитель начинает объяснение с какого-то примера, а не со всех возможных сразу.
Последовательность имеет значение.
ИИ просто способен создавать эту последовательность значительно быстрее и чаще, чем многие прежние источники помощи.
Есть любопытный парадокс.
Чем полезнее оказывается первый ответ, тем меньше желания искать второй.
Не потому, что человек становится ленивее.
А потому, что задача уже выглядит решённой.
Когда найдено вполне хорошее объяснение, дополнительный поиск начинает казаться избыточным. Мы экономим время — именно ради этого и пришли к инструменту.
Во многих случаях это абсолютно разумно.
Если нужно быстро составить план встречи или подобрать структуру отчёта, второй и третий варианты действительно могут ничего не добавить.
Но существуют ситуации другого типа.
Разговор с близким человеком.
Смена работы.
Серьёзная покупка.
Переезд.
Выбор жизненного направления.
Здесь первый удачный ответ тоже может оказаться ценным.
Просто его полезнее воспринимать как начало исследования, а не как момент его завершения.
Разница кажется небольшой.
На практике она иногда меняет весь дальнейший разговор.
Представьте двух людей, получивших один и тот же совет.
Первый говорит:
— Отлично. Вот решение.
Второй говорит:
— Интересно. Теперь у меня появился первый вариант, с которым можно спорить.
Снаружи оба используют один и тот же инструмент.
Внутри происходят разные процессы.
В одном случае ответ завершает поиск.
В другом — открывает его.
Пожалуй, именно эта разница постепенно становится одной из самых важных для нашей книги.
Не потому, что второй способ всегда правильнее.
А потому, что человек сам начинает выбирать роль, которую отдаёт первой подсказке.
Она может быть финальной инструкцией.
А может стать первой репликой в разговоре, последнее слово в котором ещё впереди.
Глава 8. Почему хорошее объяснение так трудно отпустить?
Наташа знала, почему ей не ответили.
В четверг она отправила руководителю предложение о новом проекте. В пятницу ответа не было. В понедельник тоже. К обеду понедельника Наташа уже успела проверить почту примерно столько раз, сколько человек способен сделать это, сохраняя видимость полноценной трудовой деятельности.
В 14:17 она написала подруге:
«Похоже, идея ему не понравилась».
Подруга ответила:
«Или он просто занят».
Наташа посмотрела на сообщение и почувствовала лёгкое раздражение. Нет, конечно, теоретически он мог быть занят. Он мог болеть, проводить совещания, читать предложение, забыть про него, переслать кому-нибудь на оценку. Мог открыть письмо в лифте, подумать «отвечу потом» и отправить эту мысль туда же, куда человечество веками отправляет обещания «ответить потом».
Вариантов было много.
Но один уже успел стать объяснением.
Идея ему не понравилась.
С ним было неприятно.
Зато понятно.
Неопределённость вообще обладает удивительным свойством: пока причина неизвестна, история остаётся незаконченной. Мышлению приходится удерживать несколько возможностей одновременно. Как только появляется связное объяснение, мир снова становится чуть более собранным. Поэтому хорошая версия событий ценна не только своей истинностью.
Она даёт структуру.
Мы особенно хорошо замечаем это там, где информации мало. Коллега сухо ответил — сердится. Собеседование закончилось быстро — не возьмут. Человек долго не пишет после свидания — потерял интерес.
Каждое такое объяснение может оказаться верным.
Или нет.
Проблема в том, что после появления первой связной истории новые сведения уже приходят не на пустое место. Наташа вспомнила, что руководитель почти не задавал вопросов, когда она рассказывала об идее.
Вот ещё подтверждение.
Потом — что на прошлой неделе он сказал: «Сейчас не лучшее время для новых расходов».
Ещё одно.
А то, что он попросил прислать расчёты подробнее?
Это почему-то выглядело менее убедительно.
Так устроены многие человеческие рассуждения: уже возникшая гипотеза способна направлять внимание к информации, которая с ней согласуется, и влиять на то, как мы оцениваем последующие данные. В психологии существует большая исследовательская традиция, посвящённая подобным эффектам, включая склонность искать или интерпретировать информацию в соответствии с уже принятой гипотезой.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.