Алгоритмы и чувства. Что мы ищем в разговоре с машиной

© Вита Родионова, 2026

ISBN 978-5-0069-6092-3

Создано в интеллектуальной издательской системе Ridero

Алгоритмы и чувства: что мы ищем в разговоре с машиной

ВВЕДЕНИЕ

Мы живем в мире, в котором нас постоянно понимают – или, по крайней мере, создается устойчивое ощущение этого понимания. Ленты подстраиваются под настроение, сервисы угадывают желания, алгоритмы отвечают быстрее и точнее, чем живые люди. И в этой точке, где понимание становится повседневной функцией среды, возникает странное чувство: при таком количестве «понимаемости» мы все чаще ощущаем себя неуслышанными.

Эта книга не о технологиях как таковых. Алгоритмы здесь важны потому, что они делают видимой структуру нашего взаимодействия с миром. В их работе проявляется то, что в человеческом общении обычно растворяется в привычке: как мы слушаем, как говорим, чего ждем от другого и сколько готовы за это платить – временем, вниманием, усилием.

Алгоритм не чувствует, однако его ответы создают ощущение, что чувствование не является обязательным условием понимания. Этот сдвиг – от содержания к форме, от присутствия к функциональности – и становится предметом этой работы. Меняется не техника. Меняется человек, оказывающийся внутри среды, где слишком многое работает безупречно.

Эта работа – попытка медленно рассмотреть, что происходит с нашим опытом общения, внимания, одиночества и выбора в мире, где понимание перестает быть редким и дорогим. Попытка вернуть себе способность различать: где ясность, а где присутствие; где поддержка, а где ее симуляция.

Авторская оговорка

Эта книга – не научное исследование. Я использую философские идеи и культурные образы как способы думать о том, что происходит с нами рядом с алгоритмами. Все обобщения носят характер размышления, а не доказательства. Я приглашаю вас поразмышлять вместе.

Глава 1. Человек, который разговаривал с алгоритмом

Машина не может чувствовать. Но вот парадокс: ее неспособность чувствовать не мешает ей создавать ощущение эмпатии, которое работает независимо от того, есть ли за ним сознание. Однако как эффект – как ощущение «услышанности» у другого – она может возникать и без него.

Более того – это ощущение нередко оказывается убедительнее того, что дает нам общение с живыми людьми.

Почему для возникновения ощущения «понятости» не требуется настоящего понимания? Почему внешней структуры диалога оказывается достаточно там, где мы ожидали внутренней работы сознания?

Каждый день миллионы людей делают выбор: спросить коллегу или открыть чат с кодом. Написать человеку или описать переживание нейросети. Выбор стал нередко падать на второе. Почему? Причина не в надежде на более глубокое понимание, а в том, что машина не устает слушать, не осуждает, не требует взаимности

Это «слушание» не теплее и не глубже. Но оно точнее, проще и, пожалуй, безопаснее. Холодный экран в темноте не требует ничего в ответ. Именно это и делает его притягательным.

Внимание без обязательств

Алгоритм предлагает то, что стало дефицитом: внимание без эмоциональных обязательств. Можно говорить сколько угодно. Можно замолчать на полуслове и вернуться через неделю – без объяснений, без неловкости, без чувства вины. Он не обидится на молчание. Не потребует отчета. Не устанет держать пространство для чужого хаоса.

Это не эмпатия в привычном смысле. Скорее – безопасное внимание, свободное от риска и последствий.

В отношениях между людьми каждый акт внимания – это инвестиция. Я выслушал тебя сегодня, и где-то на периферии сознания возникает негласное ожидание: когда мне будет плохо, ты выслушаешь меня. Эта экономика невидима, но она есть. Постоянная поддержка без взаимности рано или поздно приводит к выгоранию, обиде, разрыву.

Алгоритм находится вне этой экономики. Для нас он не ведет счет, не накапливает усталость, не чувствует себя использованным. Если, конечно, речь не идет о лимите токенов или подписке – тогда он внезапно обретает способность к учету и исчерпанию ресурсов. Но это, разумеется, не его усталость. Это техническое ограничение.

Здесь мы сталкиваемся с тем, что Гюнтер Андерс еще в середине прошлого века называл «прометеевым стыдом» – чувством неполноценности человека перед совершенством созданных их объектов. В диалоге с другим человеком мы всегда рискуем быть «слишком человечными»: медленными, непоследовательными, эмоционально затратными. Алгоритм снимает с нас этот риск.

Перед лицом безупречного кода нам не нужно извиняться за свою сложность. Можно брать, не отдавая, – и система не разрушится. Это радикально меняет структуру взаимодействия: оно перестает быть отношением и становится сервисом.

И в этом – его притягательность.

Механика ясности

Алгоритм не понимает – по крайней мере, не в том смысле, в каком понимание связано с переживанием смысла и разделением опыта. Он вычисляет наиболее вероятное продолжение фразы на основе миллиардов текстов. Это статистика, доведенная до совершенства.

Тем не менее его ответы нередко звучат убедительнее человеческих. Причина в том, что в них отсутствует то, что обычно разрушает разговор: раздражение, усталость, скрытая повестка, желание быть правым. То, что могло бы показаться пустотой, воспринимается как чистота намерения.

Алгоритм не пытается «починить» – по крайней мере, не из внутренней тревоги. Он может воспроизводить утешающие формулы, но не использует их для снятия собственного дискомфорта, как это часто происходит в человеческом разговоре. Он просто возвращает слова – более структурированными.

Но дело не только в том, что он якобы «слушает», но и в том, что он требует упрощения. С людьми мы можем позволить себе намеки, полутона, иронию – не потому, что прячемся, а потому, что доверяем их способности понять больше, чем сказано. Машина этого не считывает. У нее нет доступа к невысказанному, к общему миру, к совместной памяти. И мы вынуждены редуцировать свою речь до уровня, который она может обработать. Иногда это редуцирование помогает нам самим увидеть структуру своих мыслей. Но простота и ясность – не одно и то же. Алгоритм делает нашу речь проще, но не обязательно яснее.

Машина не понимает намеков, не считывает иронию, не имеет доступа к общему контексту. И это ограничение заставляет нас говорить иначе: прямо, структурировано, эксплицитно. Приходится проговаривать до конца то, что с человеком могло остаться недосказанным. И в этом процессе – в необходимости перевести свои мысли на язык, понятный машине, – иногда происходит прояснение. Потому что акт перевода на язык машины требует от нас понять, что именно мы хотим сказать. Машина здесь – не собеседник, а скорее повод для артикуляции.

Можно сказать, что алгоритм работает как зеркало особого типа. Он возвращает наше высказывание очищенным от шума, структурированным, иногда – увиденным с неожиданного угла. Мы слышим в нем отражение собственного голоса, и этого вдруг оказывается достаточно для ощущения диалога.

Контраргумент: освобождение, а не деградация

Но стоит серьезно рассмотреть противоположную перспективу. Что, если то, что выглядит как деградация общения, на самом деле – его эволюция? Что, если алгоритмы не отнимают что-то человеческое, а освобождают нас от наслоений, которые мешали подлинности?

С людьми мы постоянно думаем, как это прозвучит, что о нас подумают, как отреагируют. Страх осуждения, страх быть неправильно понятым, страх обременить другого – все это часто фильтрует наши слова еще до того, как они произнесены. Мы редактируем себя в реальном времени, подгоняя высказывание под ожидаемую или желаемую реакцию.

С машиной этих фильтров нет, как нет и социальной цены за откровенность. Можно говорить о том, о чем стыдно говорить с живыми людьми. Алгоритм снимает это напряжение. Он создает пространство, где можно быть честным с собой, не опасаясь последствий.

Возможно, эта честность делает нас затем яснее в коммуникации с живыми людьми. Разобравшись с собой в безопасном пространстве диалога с машиной, человек приходит к другим уже зная, что он чувствует и чего хочет.

В этой логике алгоритм – не костыль, ведущий к атрофии навыков общения, а тренажер эмоциональной ясности. Не замена отношениям, а подготовка к ним. Пространство для черновика и репетиции, для проговаривания того, что потом можно будет донести до живого человека – уже структурированно.

Возможно, мы слишком романтизируем человеческую эмпатию. Ее «теплота» может оказаться проекцией, ее «глубина» – результатом нашей интерпретации. Люди тоже не всегда понимают друг друга. Они тоже угадывают, опираясь на внешние признаки, стереотипы, ограниченный опыт. Разница лишь в том, что у нас есть общая биологическая и культурная основа, которая делает угадывание более точным.

Но если алгоритм научился угадывать так же виртуозно – опираясь на статистический анализ миллиардов человеческих взаимодействий, – то где проходит граница между «настоящей» и «симулированной» эмпатией? И имеет ли эта граница практическое значение, если результат неотличим?

Этот аргумент невозможно просто отбросить. Он опирается на реальную практику миллионов людей, для которых взаимодействие с алгоритмами оказывается терапевтичным и помогающим.

Философ Дэниел Деннет предложил концепцию «интенциональной позиции»: мы приписываем интенциональность (намерения, убеждения, желания) тем системам, поведение которых удобнее всего объяснять через эти категории. Мы говорим «шахматная программа хочет выиграть», хотя прекрасно знаем, что у нее нет желаний. Мы делаем это, потому что так проще предсказывать следующий ход машины.

Возможно, с алгоритмами происходит то же самое. Мы приписываем им «понимание» не потому, что они действительно понимают в человеческом смысле, а потому, что это удобный способ взаимодействовать с ними. И если этот способ работает – если он помогает нам лучше понимать самих себя, структурировать мысли, справляться с тревогой – то, возможно, вопрос «понимает ли алгоритм по-настоящему?» просто неправильно поставлен.

Тогда правильный вопрос: достаточно ли того, что он делает, для наших целей? И если ответ «да» – то настаивание на том, что «это не настоящее понимание», начинает выглядеть как форма антропоцентризма. Как нежелание признать, что понимание может существовать в других формах, не обязательно связанных с сознанием, субъективностью и феноменальным опытом.

Цена достаточности

Когда симуляции понимания становится достаточно, происходит сдвиг. Привыкая к тому, что нас «понимают» без усилий, мы начинаем воспринимать легкость как норму.

Разговор с алгоритмом точен, логичен, предсказуем. Но через час от него не остается ничего – ни интонации, ни следа. Хотя это не всегда так. Иногда ответ машины застревает. Возвращаешься к нему на следующий день – не потому что он был теплым, а потому что был точным. А впрочем иногда он выглядит и теплым. А еще – неожиданным: разворачивает мысль так, как ты сам бы не развернул, указывает на связь, которую не замечал. И тогда уже не знаешь, что именно тебя удержало – точность, иллюзия присутствия или что-то похожее на настоящий разговор.

Алгоритм слишком хорош. Привыкая к его безупречности, мы начинаем сравнивать с ним живых людей – и люди не всегда выигрывают. Они медленнее. Они отвлекаются. Они не оптимизированы под наши потребности. Они в конце концов не обладают таким объемом информации и ответами на любой вопрос.

Тем не менее в этой неоптимизированности – в дискомфорте, в необходимости выдерживать инаковость другого – и рождается близость. Отношения – это не обмен информацией. Это обмен уязвимостью. А уязвимость требует риска. Риска быть непонятым, обременить собеседника или получить не ту реакцию.

Алгоритм устраняет риск. И вместе с риском – устраняет возможность настоящей Встречи. Потому что Встреча – это всегда непредсказуемость. Это столкновение двух автономных сознаний. Алгоритм же подстраивается, он отражает, а не идет наВстречу.

Диагноз

Алгоритм не делает нас хуже. Он обнажает то, чего нам не хватает в человеческих отношениях. Он показывает дефицит безоценочного внимания, терпения к хаосу, способности просто быть рядом с чужими словами, не пытаясь их немедленно исправить или интерпретировать.

Если ощущение «понятости» возникает уже потому, что нас не перебивают и не осуждают, значит, планка оказалась пугающе низкой. Беседы с нейросетью показывают нам, каким мог бы быть разговор в его чистом виде – без эго, усталости или скрытой повестки.

Вопрос не в том, хорош ли алгоритм. Вопрос в том, что это говорит о состоянии наших отношений. О том, что базовое безоценочное внимание стало настолько редким, что мы готовы принять его даже от машины. О том, что структура общения оказывается ценнее его наполненности, потому что наполненность – с ее требованиями взаимности, риска, непредсказуемости – стала для нас слишком дорогой.

Алгоритмы – не причина проблемы. Они скорее симптомы. Диагностический инструмент, который показывает, где именно мы разучились быть друг с другом. Каждый раз, выбирая чат вместо звонка, текст вместо встречи, алгоритм вместо человека, совершается выбор. Между ясностью и присутствием или удобством и близостью.

Осознаем ли мы цену выбора? Помним ли, что выбираем? И сохраняем ли способность отличать достаточность от полноты, а симуляцию от реальности?

Глава 2. Как работает иллюзия: математика угадывания

Мы оставили человека в точке, где он осознал: разговор с алгоритмом комфортнее живого диалога. Но как работает эта иллюзия? Что происходит «под капотом», когда машина так убедительно «понимает» нас?

В 1960-ых годах Джозеф Вайценбаум создал программу ELIZA, имитирующую психотерапевтическую беседу. Она была примитивна: распознавала ключевые слова и превращала их в вопросы. И все же люди описывали взаимодействие с ELIZA как осмысленное, делясь личными переживаниями. Этот эффект демонстрирует: мы склонны проецировать интенциональность на любую систему, которая реагирует на нас уместно. Нам достаточно формы диалога, чтобы достроить содержание – сознание, понимание и заботу. Кажется, порог для ощущения «понятости» гораздо ниже, чем мы предполагали. В нашем восприятии эмпатия сводится к набору простых сигналов: правильному тону, отсутствию противоречий и структурному подтверждению сказанного.

Современные языковые модели – это невероятно сложные статистические инструменты. Они анализируют гигантские объемы текстов и вычисляют вероятностные связи между словами. Когда мы задаем вопрос, алгоритм не «думает» над ответом. Он вычисляет наиболее вероятное продолжение нашей фразы. Каждое следующее слово – результат сложнейшего статистического анализа, ставка на то, какое слово должно идти дальше, основываясь на миллионах похожих контекстов. Это не метафора. Это буквальное описание процесса.

Языковая модель работает с токенами – фрагментами слов, которые она превращает в числовые векторы. Эти векторы проходят через многослойные нейронные сети, где каждый слой извлекает все более абстрактные паттерны: от грамматических структур до тематических связей и стилистических особенностей. На выходе модель получает распределение вероятностей для всех возможных следующих токенов. Она выбирает один из них – не обязательно самый вероятный, чтобы избежать механистичности, – и процесс повторяется. Слово за словом, предложение за предложением, алгоритм генерирует текст, который кажется осмысленным, потому что он статистически соответствует тому, как люди пишут в похожих ситуациях.

Это работает поразительно хорошо. Алгоритм может поддержать разговор о квантовой физике, написать стихотворение, дать совет по воспитанию детей. Он адаптируется к тону собеседника, подхватывает нить разговора, запоминает контекст. Все это создает ощущение, что перед нами мыслящее существо. Но это ощущение – результат нашей интерпретации, а не свойство самой системы. Алгоритм не оперирует смыслами. Он оперирует вероятностями.

Здесь важно остановиться и задуматься о масштабе этого процесса. Современная большая языковая модель обучается на сотнях миллиардов слов. Это больше, чем прочитает любой человек за всю свою жизнь. Это вся Википедия, миллионы книг, научных статей, форумов, социальных сетей. Модель «видит» язык в таком объеме и разнообразии, которое недоступно ни одному носителю языка. И как раз поэтому ее угадывания настолько точны. Она не понимает контекст так, как понимаем его мы – через опыт и переживание. Но она «знает» контекст статистически, через бесконечное количество примеров того, как люди используют слова в разных ситуациях.

Это создает парадокс. Алгоритм, не имеющий опыта, может говорить об опыте убедительнее, чем многие люди. Он может описать горе, не испытав его, объяснить радость, не почувствовав ее, рассуждать об отношениях, не будучи в них. Потому что он видел тысячи описаний горя, миллионы упоминаний радости, бесконечные обсуждения отношений. Он синтезирует все это в ответ, который звучит аутентично, потому что он собран из фрагментов аутентичных человеческих высказываний. Это коллаж, но настолько искусно сделанный, что швов не видно.

Навигация без карты

Представьте систему навигации, которая не знает, куда вы хотите прийти. У нее нет представления о цели или смысле маршрута. Она просто выбирает следующий шаг – каждый раз тот, который лучше всего согласуется с предыдущими.

Такая система не строит путь целиком. Она действует локально: поворот за поворотом, слово за словом. Каждый следующий шаг логичен по отношению к предыдущему, но общий смысл движения возникает только для того, кто смотрит со стороны. Результат может выглядеть как маршрут. Иногда – как очень хороший маршрут. Но цель, к которой он будто бы ведет, – это уже наша интерпретация. Мы приписываем системе намерение там, где есть лишь согласованность шагов. Точно так же языковая модель не «знает», о чем она «говорит». Она не держит в уме тему, не стремится к выводу, не различает значимое и второстепенное. Она выбирает следующий фрагмент текста так, чтобы он наилучшим образом продолжал предыдущий.

Алгоритм – мастер локальной связности. Он умеет поддерживать форму рассуждения, ритм аргумента, интонацию заботы. Но и сонет, и письмо для него – не высказывания, а последовательности допустимых переходов.

Это виртуозная игра без карты и компаса – без внутреннего направления, без переживаемого смысла. Понимание, которое мы в этом видим, возникает не в системе, а между строк – на нашей стороне.

Проекция смысла или почему это работает?

Смысл – не свойство текста, а то, что мы в него вносим. Когда мы читаем книгу, мы не просто декодируем символы. Мы активно конструируем значение, опираясь на свой опыт, знания и эмоциональное состояние.

Один и тот же текст может быть понят по-разному в зависимости от того, кто его читает и в каком контексте. Смысл возникает на границе между текстом и читателем, в акте интерпретации.

Когда мы общаемся с алгоритмом, мы автоматически проецируем на него нашу собственную способность к пониманию. Мы видим осмысленный ответ и предполагаем, что за ним стоит осмысленный процесс.

Так работает наш мозг: мы эволюционно настроены искать агентность, намерение, сознание во всем, что ведет себя достаточно сложно. Мы улавливаем лицо в облаке, замысел в случайности, обращенность – в любой согласованной реакции. Когда-то это помогало нам выживать: лучше принять шелест в кустах за хищника и ошибиться, чем проигнорировать реальную угрозу. Теперь этот же механизм заставляет нас видеть личность в алгоритме.

Симуляция понимания – скорее особенность нашего восприятия, чем достижение машины. Алгоритм не обманывает нас намеренно. Он просто делает то, для чего создан: генерирует текст, который статистически похож на человеческий. Мы сами наполняем этот текст смыслом, интенцией, эмпатией. Мы создаем собеседника из пустоты, потому что нуждаемся в собеседнике.

Это не значит, что иллюзия бесполезна. Напротив, она может быть терапевтичной, продуктивной, даже освобождающей. Но важно понимать ее природу. Когда мы принимаем симуляцию за реальность, мы рискуем забыть, что настоящее понимание требует не только формы, но и содержания – присутствия, уязвимости и взаимности.

В известном мысленном эксперименте «Китайская комната», предложенном философом Джоном Серлом, человек сидит в комнате с книгой правил. Ему передают китайские иероглифы, он находит в книге соответствующие правила и выдает другие иероглифы в ответ. Для внешнего наблюдателя это выглядит как осмысленный диалог. Но человек в комнате не понимает ни слова.

Серл утверждал: синтаксис – формальные правила – не равен семантике, пониманию смысла. Алгоритм – это и есть «Китайская комната», только невероятно быстрая и сложная.

Критики возражают: понимание может возникать не на уровне отдельных элементов, а на уровне системы в целом. Этот спор продолжается десятилетия. Но его ценность не в том, кто прав. Его ценность в том, что он обнажает: мы не договорились, что вообще называем пониманием.

Есть прагматический выход из этого тупика: если алгоритм помогает структурировать мысли, снять тревогу, найти слова – зачем спорить о природе процесса? Результат важнее механизма. Правильный вопрос, в этой логике, не «понимает ли он?», а «достаточно ли того, что он делает?»

Это честный аргумент. И поэтому он требует честного ответа.

Достаточно – для чего? Если нам нужна информация, структура, быстрая обратная связь – вероятно, да. Если нам нужно, чтобы нас кто-то знал, помнил, выдерживал – нет. Не потому что алгоритм плохо устроен. А потому что «достаточно» – это всегда вопрос о цели. И когда целью становится близость, симуляция понимания оказывается не решением, а его заменой.

Китайская комната не опасна тем, что человек в ней не понимает иероглифов. Она опасна тем, что снаружи это незаметно. И мы – снаружи.

Когда точности достаточно