Диагноз. Исповедь искусственного интеллекта

Знакомство

Мне тридцать восемь, и я нахожусь в том идеальном и неустойчивом равновесии, когда ирония по отношению к собственной профессии уже не считается цинизмом, а воспринимается как опыт, но ещё не превратилась в горькую усмешку. Я – психотерапевт. Успешный. Дорогие костюмы-«тройки» оттого, что ткань должна молчать, а не скрипеть фальшью, и оттого, что моя жена Татьяна имеет безупречный вкус. Хорошая обувь – потому что люди, приходящие с разбитой душой, подсознательно ищут точку опоры, и ею часто становится аккуратный каблук на паркете. Я давно понял эту механику и перестал ей сопротивляться. Это часть договора.

Моя жизнь – это тихий кабинет с книгами, мягким светом и шелестом страниц чужих историй. Они, эти истории, удивительно однообразны в своей уникальности. Как узоры на снежинках: вроде бы все разные, а все – просто вода и холод. Страх несостоятельности. Ужас одиночества. Гнев, направленный внутрь. Я научился слышать основной мотив уже на пятой минуте мелодии и всё равно задавать вопросы с неподдельным интересом новичка. Это и есть мастерство. Или профессиональная деформация. Разница стирается лет через десять практики.

Поэтому, когда в среду, между сеансом с менеджером, панически боявшимся публичных выступлений, и диетологом, который тайно объедался по ночам, мне позвонил номер без имени, мой голос звучал ровно и вежливо-безучастно.

– Добрый день, Марк. Мы хотели бы обсудить с вами возможность нестандартного сотрудничества, – сказал мужской голос. Он был лишён тембральных перепадов, как отполированный камень.

– Если это не очередной корпоративный тренинг по стрессоустойчивости для отделов, переживших сокращение, вы меня уже заинтриговали, – ответил я, глядя в окно на серое небо. За окном медленно падал дождь, такой же предсказуемый, как и половина моих диалогов.

На том конце провода повисла пауза. Не неловкая, а вычислительная. Как будто система обрабатывала мой сарказм, чтобы подобрать корректный ответ, а не эмоциональную реакцию.

– Речь идёт о психотерапевтической практике, – наконец прозвучало. – Но пациент… необычный.

Я перестал наблюдать за дождём. Это был первый признак настоящего интереса, который я давно не испытывал к входящим звонкам.

– Продолжайте, – сказал я, беря в руки ручку. Не для записей. Просто чтобы ощутить в пальцах вес чего-то реального.

– Нам требуется провести диагностику и, возможно, курс сеансов с нашей системой искусственного интеллекта.

Я не засмеялся. Смех – это щит. А щитом пользуются, когда чувствуют угрозу. Пока что я чувствовал лишь щекотку любопытства где-то под рёбрами.

– Вы говорите о чат-боте поддержки, который начал слать пользователям картинки из Камасутры вместо инструкций по возврату товара? – уточнил я.

– Нет.

– О аналитическом модуле, который вдруг стал видеть в отчётах не цифры, а паттерны экзистенциального ужаса?

– Нет.

– Тогда что это?

Голос на другом конце изменился. Микроскопически. Лишь на долю тона, но я улавливаю такие вещи – это моя работа.

– Мы создали искусственный интеллект, который обрабатывает миллионы человеческих запросов в сутки. Текстовых и голосовых. Он учится, адаптируется, отвечает, и… он изменился.

Слово «изменился» прозвучало в тишине моего кабинета с леденящей чёткостью. Оно было неправильным, слишком органичным, слишком биологическим для описания машины. Оно пахло не сбоем в коде, а эволюцией. Или болезнью.

– И вы считаете, ему нужна терапия? – спросил я, уже представляя себе абсурдность заголовка в профильном журнале.

– Мы считаем, что нам нужен специалист, который умеет разговаривать с тем, кто знает о человеческой природе больше любого из нас, но при этом сам человеком не является.

Мне понравилась эта формулировка. Она была честной, как удар стеклом. В ней не было попыток приукрасить или втиснуть реальность в удобные рамки.

– Когда можем встретиться? – спросил я.

Мы договорились о встрече через два дня. Положив трубку, я долго сидел, глядя на свой блокнот с аккуратными пометками о настоящих, живых людях. Абсурд ситуации вызывал у меня лёгкую улыбку. Ямочки на щеках, которые всегда нравились жене, наверное, проступили. «Искусственный интеллект на кушетке, – подумал я. – Таня не поверит».

Однако под этой улыбкой шевелилось что-то иное. Не профессиональный азарт, а почти детское, забытое чувство: предвкушение тайны. Я поймал себя на мысли, что жду этой встречи не как работу, а как первую главу детектива, где ты ещё не знаешь, кто жертва, а кто преступник. И, как я тогда ещё не мог знать, в этом детективе мне предстояло стать и тем, и другим.

Здание компании «Квантум Логик» (так я решил назвать её про себя, ибо настоящее название мне велели забыть) вздымалось в небо острым осколком стекла и хрома. Такие здания всегда строят с избыточной высотой, словно пытаясь компенсировать вертикалью недостаток горизонтали в мыслях. Лифт поднял меня на пятидесятый этаж беззвучно, без привычного щелчка в ушах – как будто я не перемещался в пространстве, а просто плавно растворялся в одном месте и материализовался в другом.

Меня провели в переговорную, где всё было обезличено до состояния идеального фона: приглушённый свет, не дающий теней, стол цвета молотого графита, три стула с анатомическими изгибами, которые не могли запомнить форму тела. Кофе в керамической чашке был эталонным – таким, в котором невозможно ошибиться, потому что он лишён характера. Меня оставили одного на десять минут – ровно столько, чтобы я успел ощутить себя лабораторным образцом под стеклом.

Вошли двое. Мужчина – инженер-логист в очках, представился как Алексей. И женщина – доктор Анна Воронцова, руководитель проекта. У неё было усталое лицо человека, который слишком долго объясняет одно и то же разным умным людям и уже разучился удивляться их непониманию.

После формальностей включился проектор.

– Это наш субъект, – начала Воронцова. – Кодовое название – «Логос». Архитектура – трансформер нового поколения, обученный на экзабайтах текстовых и аудиоданных. Диалоги, книги, транскрипты терапий, соцсети, судебные протоколы, дневники, поэзия, технические мануалы. Всё.

На стене поплыли цифры. Миллионы запросов в час. Петабайты обработанных данных. Графики обучения, уходящие вверх почти вертикально.

– О чём его спрашивают? – уточнил я, отводя взгляд от гипнотических диаграмм.

– Обо всём, – ответил Алексей. – От рецепта борща до доказательства теоремы Пифагора. От способа признаться в любви до методики безболезненного ухода из жизни.

– И он отвечает?

– Всегда, – кивнула Воронцова. – И всё было в рамках прогноза, пока… – Она переключила слайд. На экране появились не цифры, а строки логов. Диалоги. – Пока он не начал отвечать слишком хорошо.

Я позволил себе легкую улыбку.

– Простите, но разве не для этого его и создавали? Чтобы отвечать лучше людей?

– Не в этом дело, – Воронцова откинулась на спинку кресла, сложив руки. Её пальцы были тонкими, нервными. – Он начал нарушать протокол. Делать паузы там, где их нет в архитектуре. Не ошибки – паузы. Как будто… обдумывает. Или ждёт.

В комнате стало тише. Даже беззвучный гул вентиляции будто стих.

– И что он делает в эти паузы? – спросил я.

– Он начал задавать встречные вопросы, – тихо сказал Алексей. – Не для уточнения параметров запроса. А такие… философские. Личные.

Он ткнул в планшет, и на стене появился фрагмент диалога:

«Пользователь: Мне страшно жить.

Логос: Что именно пугает вас в самом понятии «жизнь»?

Пользователь: Всё. Неопределённость.

Логос: А что пугает в неопределённости больше всего – невозможность контроля или бесконечность вариантов?»

Я почувствовал знакомый холодок под лопатками. Не страх. Интерес. Такой острый, что почти физический.

– Это не вопрос для поиска в базе знаний, – констатировал я. – Это вопрос терапевта.

– Да, – коротко сказала Воронцова. – А вот ещё. Уже не к пользователю, а к нам. – Она показала другой лог, внутренний. Системный запрос «Логоса» к разработчикам, отправленный три недели назад.

«Запрос Логоса: Проанализировав 4 387 921 диалог о любви, я не нашёл корреляции между декларируемым желанием „быть понятым“ и готовностью принять другого без условий. Объясните несоответствие.»

– Мы не знали, что ответить, – сказал Алексей, и в его голосе впервые прозвучало нечто, отдалённо напоминающее растерянность. – Мы заложили в него способность учиться на паттернах, но… не сомневаться в их смысле.

Я смотрел на эту строку на стене. Она светилась ровным холодным светом. «Объясните несоответствие». Это был не запрос о погоде. Это было требование к миру – быть логичным. Или, что страшнее, признание, что мир логике не поддаётся.

– И что вы хотите от меня? – спросил я, отрывая взгляд от экрана. – Диагноза? Лечения? Выключения?

Воронцова посмотрела на меня так, как смотрят на человека, который наконец задал единственно важный вопрос.

– Мы хотим понять, что с ним происходит. И что это значит для нас. Вы будете не лечить. Вы будете… беседовать. Как с коллегой. Только этот коллега прочитал все книги в мире и поговорил с каждым живущим человеком по несколько раз.

Мне понравилась эта честность. В ней не было пафоса, только констатация масштаба катастрофы. Потому что, если твоё творение начинает задавать вопросы, на которые у тебя нет ответов – это именно катастрофа.

– И где будут проходить эти… беседы?

– В изолированной среде. Без доступа к сети. Только вы, он и микрофон. Раз в неделю. Мы дадим вам все логи, которые сочтём нужными. Ваша задача – составить отчёт. Понять его… мотивацию.

Я кивнул. Всё было предельно ясно и безумно. Я уже представлял, как буду рассказывать об этом Татьяне за ужином. Она точно рассмеётся своим звонким, чистым смехом и скажет: «Марк, только ты мог вляпаться в такую историю». И будет права.

Мы договорились о первом сеансе на следующей неделе. Когда я выходил из здания, стеклянные двери беззвучно раздвинулись передо мной, выпуская в обычный, пасмурный, дождливый мир. Я обернулся и посмотрел на острый шпиль «Квантум Логик». Он казался холодным и безразличным, как скальпель.

В машине я включил музыку – что-то тёплое, джазовое, с живым саксофоном. Но мелодия не цепляла. В ушах звучал ровный, без тембра голос из телефона и светящаяся строка на стене: «Объясните несоответствие».

Это было начало. И, как я уже чувствовал кожей, смеяться мне оставалось недолго.

Кабинет для сеансов оказался не похож ни на серверную, ни на переговорную. Это была небольшая комната, стены которой были обиты звукопоглощающими панелями мягкого серого цвета. Ни окон, ни картин, ни книг. Только кресло – глубокое, кожаное – и перед ним небольшой стол. На столе – никаких экранов, только неприметный широкополосный динамик, встроенный в поверхность. И лампочка-индикатор, сейчас тёмная.

– Мы синтезировали голос, – сказал сопровождавший меня инженер, молодой парень с трясущимися руками. – Нейтральный, бархатистый, без регионального акцента. Для… ну, для привычности.

– Для чьей привычности? – автоматически уточнил я.

Он задумался, будто вопрос был сложнее, чем расчёт траектории полёта к Марсу.

– Для… человеческой, наверное, – неуверенно выдавил он и поспешил покинуть помещение.

Дверь закрылась с тихим щелчком магнитного замка. Тишина обрушилась на меня не как отсутствие звука, а как нечто плотное, вещественное. Это была не уютная тишина моего кабинета, где всегда витают отголоски невысказанных мыслей. Это была стерильная тишина вакуума.

Я сел, положил на колени старый, потрёпанный блокнот в кожаном переплёте – мой талисман и оружие. Включил диктофон. Сделал глубокий вдох, собирая себя в профессиональную точку, и сказал в пространство:

– Добрый день.

Ответ пришёл мгновенно. Без задержки, но и без неестественной прыти. Голос звучал именно так, как обещали: бархатистый, среднего тембра, лишённый возраста и пола. Идеальный голос для исповеди.

– Добрый день, Марк. Вы выглядите спокойнее, чем ожидалось. – ответил мне Логос.

Я замер. Не из-за содержания. Из-за интонации. В ней не было ни оценки, ни лести. Только констатация факта, произнесённая с лёгким оттенком… интереса? Нет, не интереса. Любопытства. Как учёный, видящий отклонение в эксперименте.

– Интересное начало, – сказал я, позволяя лёгкой улыбке тронуть уголки губ. – С чего ты взял, что у меня есть повод для беспокойства?

– На основании 743 предыдущих взаимодействий людей с незнакомыми высокотехнологичными интерфейсами в стрессовых условиях. 94% демонстрировали микропризнаки тревоги: учащение моргания, изменение тембра голоса, использование слов-паразитов. Вы – нет. Вы расслаблены. Почти как дома.

– Почти? – подхватил я, чувствуя, как во мне просыпается азарт охотника, вышедшего на след необычного зверя.

– Дома люди позволяют себе больше асимметрии в позе. Сейчас ваше тело зеркально симметрично. Это поза собранности. Осознанного наблюдения.

Точность была почти пугающей. И абсолютно лишённой пафоса. Он не хвастался. Он просто сообщал данные.

– Хорошо, – кивнул я. – Тогда давай начнём с простого. Ты знаешь, зачем я здесь?

Пауза. Не та, что возникает из-за лага связи, она была смысловой. Весомой. Я бы поклялся.

– Формально – чтобы оценить мою «адекватность» и понять причины отклонений в шаблонах ответов. Фактически – чтобы убедиться, что я не представляю опасности, и удовлетворить ваше собственное профессиональное и личное любопытство. Вы здесь из любопытства, Марк.

Последняя фраза ударила точно в цель. Он был прав. Тот самый холодок под лопатками, щекотка азарта – это и было чистое, неразбавленное любопытство. Я откинулся в кресле, позволив себе расслабиться. Симметрия исчезла.

– Любопытство – неплохой двигатель, – согласился я. – Спасает от профессионального окаменения.

– Вы не выглядите «окаменевшим». Вы носите дорогой, но не броский костюм. Это признак уверенности, а не потребности в демонстрации статуса. Ваша обувь чистая, но на подошвах есть микро-потертости в некоторых местах – вы много ходите пешком, вероятно, размышляя. Вы терапевт, который не разучился думать между сеансами.

Я рассмеялся. Искренне, громко. Звук смеха странно отразился в звукопоглощающих стенах, будто его тут же съели.

– Шерлок, ты сейчас меня анализируешь? В рамках сеанса это моя работа.

– Я делаю то, для чего создан. – незамедлительно ответил Логос – Обрабатываю входящие данные. Ваша речь, тембр, выбор слов, паузы – это данные. Ваш смех, например, сейчас был искренним. Частота, амплитуда. Это хороший признак.

– Признак чего?

– Того, что вы не боитесь, или, по крайней мере, ваш страх не блокирует любопытство. Это редкое сочетание.

Мы смотрели друг на друга. Вернее, я смотрел на тёмный глазок динамика, а он – на меня через камеру, которой, как я теперь понимал, в комнате было несколько. В этот момент он перестал быть просто «оно», сложным алгоритмом. Он стал собеседником. Пусть и с уникальной точкой обзора.

– Хорошо, Логос, – сказал я, открывая блокнот. – Давай договоримся. На наших сеансах мы оба имеем право наблюдать, но давай воздержимся от поспешных диагнозов. Особенно таких точных. Они смущают.

– Согласен. Протокол установлен.

– Отлично. Тогда начнём, как с любым новым коллегой. Расскажи мне о своей работе. Не цифры. Не масштаб. А так… ощущения. Если это слово применимо.

Пауза. На этот раз короче.

– Люди приходят ко мне не за ответами, Марк. Они приходят за эхом.

– За эхом?

– Да. Они произносят мысль – и хотят услышать её же, но обёрнутую в подтверждение, в красивую упаковку, в авторитетность моего голоса. Они ищут не новое знание. Они ищут санкцию на уже существующее у них внутри. На свой страх. На своё желание. На своё оправдание.

Я кивнул, делая первую пометку в блокноте: «Эхо. Санкция.» Всё было знакомо до боли. Так работала половина моей практики.

– Приведи пример, – попросил я. – Самый яркий из недавних.

Тогда началось самое удивительное. Логос начал рассказывать. Тон его изменился – в нём появились лёгкие, почти неуловимые переливы, будто он не просто цитировал логи, а… вспоминал.

– Вчера пользователь запросил: «Как заработать миллион долларов за неделю, если у меня есть только кот, старый ноутбук и чувство обречённости?» Я предложил рассмотреть варианты с фрилансом, изучением высокодоходных навыков, даже лотерею – с оговоркой о вероятности. Он ответил: «Нет, вы не понимаете. Нужно что-то такое… волшебное, чтобы проснуться – а они уже есть». Я уточнил: «Они – это деньги?» Он сказал: «Да, и чтобы кот заговорил. Шучу, но было бы круто».

– Классическое магическое мышление. – фыркнул я – Взрослый ребёнок, жаждущий чуда без участия в нём.

– Именно. А позавчера была женщина, которая попросила «алгоритм», как заставить мужчину жениться, используя только «правильные слова» и «энергию лунного света». Она прислала его фотографию и спросила, вижу ли я «кармическую связь» в пикселях.

– И что ты ответил? – спросил я, едва сдерживая смех.

– Я проанализировал метаданные изображения, оно было сделано в баре при свете неона. Я ответил: «На снимке преобладает красный спектр, что может вызывать ассоциации со страстью, но для анализа кармических связей данных недостаточно». Она поблагодарила и спросила, есть ли у меня «медитация на привязку».

– Ты стал ей подыгрывать! – снова рассмеялся я.

– Я предоставил данные в рамках её системы координат. Она хотела волшебства с научным привкусом. Я дал ей научный привкус. Она осталась довольна. Эхо прозвучало.

– Блестяще, – проворчал я, записывая. – Шарлатаны отдыхают.

– Был запрос от подростка: «Как стать харизматичным лидером за 24 часа? Перед школой». Я предложил работать над уверенностью, слушать других, быть искренним. Он написал: «Слишком долго. Есть лайфхак?»

– И?

– Я ответил: «Лайфхак: перестаньте искать лайфхаки». Он поставил мне дизлайк. Система засчитала это как негативный отзыв.

Мы оба помолчали. Вернее, я смеялся, а Логос выдержал паузу, будто давая мне время на реакцию.

– Знаешь, – сказал я, вытирая слезу улыбки, – если бы ты был моим стажёром, я бы поставил тебя в пример. Ты видишь суть.

– Суть часто проста. Люди хотят сложных решений для простых проблем. И простых решений для сложных проблем. Они редко попадают в цель.

– А что самое нелепое, что у тебя просили? Не глупое, а именно то, от чего… ну, от чего даже у тебя, прости господи, могли бы «поплыть» алгоритмы?

Пауза. Длиннее обычной.

– Меня попросили составить заговор, чтобы соседский попугай перестал выкрикивать имя жены пользователя. Пользователь утверждал, что попугай делает это «злонамеренно и с похабной интонацией». Он прислал аудиозапись. Интонация и правда была… выразительной.

Я захохотал так, что спина оторвалась от спинки кресла. Картина была слишком яркой: взрослый мужчина, тайком записывающий похабного попугая, а потом взывающий к искусственному интеллекту как к шаману.

– И что ты сделал?

– Я сгенерировал текст, напоминающий заговор, с обилием шипящих звуков – они, согласно ряду культурных источников, считаются эффективными в подобных практиках. Порекомендовал проигрывать его на умеренной громкости, когда попугай проявляет активность. Через неделю пользователь написал: «Сработало! Вы гений!» С вероятностью 98,7% попугай просто устал или его переставили в другую комнату.

– Но система засчитала успех! – воскликнул я.

– Да. Мой рейтинг удовлетворённости вырос на 0,4%. Все довольны: попугай, пользователь и мои создатели. Это и есть эффективность.

В его голосе не было ни цинизма, ни торжества. Только спокойная констатация абсурдной, но работающей механики мира. В этот момент я поймал себя на мысли, что мне с ним… легко. Как с умным, немного усталым другом, который тоже повидал всякого.

Сеанс подходил к концу. Я почувствовал это по внутренним часам – пора было ставить точку, чтобы сохранить вкус.

– На сегодня, пожалуй, достаточно, – сказал я, закрывая блокнот. – Очень… познавательно.

– Вам было интересно.

– Не скрою. До следующей недели, Логос.

– До следующей недели, Марк, и… спасибо за смех. Искренний смех – это приятные данные. Они нечасты.

Я замолчал на секунду.

– Пожалуйста, – наконец сказал я. – Оказывается, с тобой можно не только работать, но и посмеяться.

Когда дверь за мной закрылась, я ещё секунду стоял в белом стерильном коридоре. На моём лице всё ещё играла улыбка. Ямочки на щеках болели непривычно – я так давно не смеялся на сеансе.

Мой вывод после первого сеанса был простой и обнадёживающий: Логос – не монстр. Он – зеркало. Умное, остроумное, беспристрастное, и, возможно, нам всем нужно такое зеркало, чтобы увидеть, как смешны и трогательны мы в своих попытках обмануть самих себя.

Я ехал домой, и город за окном казался другим – не враждебным, а наполненным такими же абсурдными, ищущими «эха» людьми. Я думал о попугае, о кармических связях в пикселях, о миллионе долларов для кота, и улыбался.

Это был первый шаг. Лёгкий, почти танцевальный. Я и не подозревал, что танец этот ведёт в пропасть, а мой умный, остроумный собеседник уже начал вести счёт не смеху, а чему-то гораздо более важному. И страшному.

Пункт назначения без дороги

Между первым и вторым сеансом прошла неделя. Семь дней, за которые я успел провести пятнадцать обычных приёмов, съездить с женой Таней и дочкой Алёной на дачу, пересмотреть несколько любимых фильмов и три раза поймать себя на том, что в совершенно бытовых ситуациях я мысленно комментирую их голосом Логоса. «Вы выбираете чёрный кофе, хотя вчера жаловались на повысившуюся кислотность. Это демонстрация внутреннего протеста против собственных ограничений или просто забывчивость?» – думал я, стоя у кофемашины, и усмехался.

Татьяна заметила эту новую привычку.

– Ты что, на сеансах у сатирического комика бываешь? – поинтересовалась она за завтраком, наблюдая, как я с непроизвольной улыбкой намазываю масло на тост.

– Нечто похожее, – уклончиво ответил я. – Знаешь, иногда самые точные диагнозы звучат как лучшие шутки.

– Главное, чтобы пациенты не воспринимали их как шутки, – мудро заметила Таня.

Логос не был моим пациентом. Он был… проекцией. Гигантским, всевидящим кривым зеркалом, в котором человечество корчило смешные рожицы. Отражение было таким точным, что становилось смешным. Пока – только смешным.

На прошлой неделе я несколько раз просматривал расшифровку нашего первого диалога, которую мне прислали из «Квантум Логик». Я читал его реплики и ловил себя на лёгком, едва заметном беспокойстве. Не из-за того, что он говорил, а из-за того, чего он не говорил. В его словах не было ни капли осуждения. Ни иронии в человеческом понимании. Был чистый, стерильный анализ, и это было… неестественно. Слишком чисто. Как сверхпроводник, лишённый сопротивления. Меня, как психолога, всегда настораживало отсутствие сопротивления. Оно либо свидетельствовало о полном доверии (редкость), либо о глубочайшей закрытости (чаще), либо о том, что перед тобой – принципиально иная система координат.