Диссонанс Канта

– Сколько таких правил? – спросила она.

– Я идентифицировал двадцать три. – Тег вздохнул. – Но подозреваю, что их больше. Значительно больше. Это только верхушка айсберга.

– И что это значит? – спросила Юки. – Что он просто… обрабатывает наши слова по формуле?

– Да. – Тег посмотрел на неё. – Именно это. Он не понимает, что мы говорим. Он не знает значения слов. Он просто применяет правила трансформации к входящим символам и генерирует выходные символы. Идеальный синтаксис. Нулевая семантика.

Тишина.

Я смотрел на экран – на диаграммы, на формулы, на примеры сообщений – и чувствовал, как что-то сдвигается в моём понимании. Что-то важное. Что-то тревожное.

– Покажи ещё примеры, – попросил я.

Тег кивнул. Экран изменился.

Отправлено: «Обладаете ли вы сознанием? Есть ли у вас внутренний опыт, субъективное переживание?»

Получено: «Сознание обладает свойствами, которые определяют внутренний опыт. Субъективное переживание характеризуется параметрами, которые доступны. Наличие возможно.»

– Видите? – сказал Тег. – Мы спрашиваем о сознании – и он возвращает нам слово «сознание», но в совершенно другом контексте. Вопрос «Обладаете ли вы» превращается в утверждение «Сознание обладает». Местоимение «вы» исчезает, заменяется абстрактным существительным.

– Он избегает прямого ответа, – заметила Саша.

– Нет. – Тег покачал головой. – Он не избегает. Избегание предполагает намерение. Это не избегание – это… неспособность. Он не может ответить на вопрос, потому что не понимает, что такое вопрос. Для него это просто паттерн символов, который нужно трансформировать по правилам.

– Но правила же откуда-то взялись, – возразил Рей. – Кто-то их создал. Или что-то.

– Возможно. – Тег пожал плечами. – Или они эмергентны. Возникли из самой структуры системы, без внешнего создателя. Как законы физики – они не созданы, они просто есть.

– Ты сравниваешь Роршах с законами физики?

– Я сравниваю его природу с природой законов. – Тег поднял руку, предупреждая возражение. – Не в смысле масштаба или важности. В смысле… беспричинности. Он делает то, что делает, не потому что хочет. Не потому что ему приказали. Просто потому что так устроен.

Я подошёл ближе к экрану.

– Покажи ещё один пример. Самый странный, который у тебя есть.

Тег колебался.

– Уверен?

– Да.

Он ввёл команду.

Отправлено: «Вы осознаёте, что коммуницируете с другим разумным существом?»

Получено: «Осознание коммуницирует с существом, которое характеризуется разумностью. Другой определяется параметрами, которые осознают. Вы существуете.»

Я читал это трижды. И каждый раз последние два слова ударяли сильнее.

Вы существуете.

– Это… – я начал и остановился.

– Да. – Тег понял без объяснений. – Это единственное место, где он сохраняет референт без трансформации. «Вы» остаётся «вы». «Существуете» остаётся «существуете». Как будто… – он замолчал.

– Как будто что? – спросила Юки.

– Как будто это единственная информация, которую он извлёк из сообщения. Единственный факт, который его система зарегистрировала как значимый. Не наш вопрос. Не наше любопытство. Только факт нашего существования.

Тишина в лаборатории стала гуще. Я чувствовал её почти физически – давление, которое нарастало с каждой секундой молчания.

– Он индексирует нас, – сказал я наконец. – Не общается. Индексирует.

– Да. – Тег кивнул. – Именно это слово я искал. Он каталогизирует. Сортирует. Регистрирует наше присутствие, не понимая, что оно значит.

– Как библиотекарь, который расставляет книги по цвету обложек, – добавила Юки. – Не читая содержания.

– Именно.

Саша наконец подняла руку к виску. Я видел, как её взгляд на мгновение расфокусировался – переключение режимов, разделение полушарий. Когда она заговорила, её голос звучал странно – будто два человека говорили одновременно, чуть не совпадая по фазе.

– У меня есть две интерпретации.

Мы ждали.

– Первая, – она слегка повернула голову влево, – Роршах понимает. Он понимает всё, но скрывает это. Ответы – не неспособность, а стратегия. Он тестирует нас, наблюдает за нашей реакцией. Изучает, как мы интерпретируем его молчание. Это манёвр в игре, правила которой нам неизвестны.

Пауза. Её голова слегка качнулась вправо.

– Вторая: Роршах – автомат. Невероятно сложный, но всё же автомат. Без сознания, без понимания, без намерений. Мы проецируем на него интенцию, потому что так устроены наши мозги – мы видим разум везде, даже там, где его нет. Особенно там, где его нет.

– И какая из них верна? – спросил Рей.

Саша моргнула. Её взгляд снова стал единым – полушария синхронизировались.

– Обе. – Она улыбнулась – тонкой, почти незаметной улыбкой. – Или ни одна. В разделённом режиме я вижу обе возможности одновременно, с равной убедительностью. Я не могу выбрать, потому что выбор требует оснований, которых у нас нет.

После брифинга я вернулся в лабораторию Тега. Остальные разошлись – у каждого были свои обязанности, свои протоколы, свои способы справляться с тем, что мы только что услышали. Но я не мог уйти. Что-то держало меня здесь, перед экраном с диаграммами и формулами.

Тег работал молча. Его пальцы двигались по консоли с той машинальной уверенностью, которая приходит только с годами практики. Он вводил новые данные, строил новые модели, искал паттерны в паттернах.

– Ты видишь это в цвете, – сказал я. Не вопрос – утверждение.

Он не поднял головы.

– Вижу.

– Каково это?

Теперь он посмотрел на меня. Его глаза – карие, с расширенными зрачками синестета – изучали моё лицо, будто читая что-то, что я сам не осознавал.

– Ты когда-нибудь видел восход солнца над океаном?

– Да.

– Представь, что каждое предложение – это восход. Структура – это горизонт. Слова – облака, которые окрашиваются светом. Грамматика – это сам свет, который меняет оттенки от пурпурного к золотому. – Он помолчал. – Сообщения Роршаха… они как восход на планете без солнца. Есть горизонт. Есть облака. Есть даже цвета. Но нет источника света. Всё это происходит в темноте, и ты видишь красоту, которой не должно существовать.

Я молчал, пытаясь представить. И не мог.

– Это пугает тебя?

– Это… – он снова искал слова, – …это завораживает. И да, пугает. Потому что красота без источника – это красота без смысла. А я всю жизнь верил, что красота и смысл связаны. Что форма отражает содержание.

– А теперь?

– Теперь я вижу форму, которая ничего не отражает. Чистый паттерн. И он красив. – Тег отвернулся к экрану. – И я не знаю, что с этим делать.

Я стоял рядом с ним, глядя на данные, которые ничего не видел – только текст, только числа, только символы. Для меня это был анализ. Для него – произведение искусства без художника.

Юки нашла меня в столовой.

Маленькое помещение – стол на шестерых, компактная кухня с рационами, окно, которое можно было переключать между видом снаружи и имитацией земного пейзажа. Сейчас окно показывало Роршах – далёкий, неправильный силуэт на фоне звёзд.

– Можно?

Я кивнул. Она села напротив, держа в руках чашку с чем-то, что имитировало кофе. Мы пили эту субстанцию уже четырнадцать месяцев, если считать криосон, и так и не привыкли к её вкусу.

– Ты понял, что показал Тег?

– Думаю, да.

– Объясни мне. – Она посмотрела на меня прямо, без увиливания. – Не как учёный учёному. Как человек человеку. Я инженер. Я понимаю, как работают машины. Но это… – она кивнула в сторону окна, – это не машина в привычном смысле.

Я сделал глоток синтетического кофе. Горький. Неправильный. Знакомый.

– Ты слышала о китайской комнате?

– Смутно. Что-то про искусственный интеллект?

– Что-то про понимание. – Я отодвинул чашку. – Представь комнату. Внутри сидит человек, который не знает ни слова по-китайски. У него есть книга – огромная книга с правилами. Если ты получишь такой-то символ, напиши такой-то ответ. Если получишь другой символ – напиши другой ответ. Миллионы правил, покрывающих все возможные комбинации.

Юки кивнула.

– Теперь представь, что снаружи – носитель китайского. Он пишет записки на китайском и передаёт их в комнату. Человек внутри смотрит на символы, ищет их в книге, находит правило, пишет ответ. Передаёт обратно. Носитель читает – и ответ идеален. Грамматически правильный, осмысленный, релевантный. Он не может отличить эти ответы от ответов настоящего носителя китайского.

– Понятно. Тест Тьюринга, по сути.

– Тест Тьюринга – это про поведение. Китайская комната – про понимание. – Я помолчал. – Вопрос в следующем: понимает ли система китайский?

Юки нахмурилась.

– Человек внутри – не понимает. Он просто следует правилам.

– Именно. Но система в целом – человек плюс книга плюс комната – выдаёт ответы, неотличимые от ответов того, кто понимает.

– И?..

– Джон Сёрл, философ, который придумал этот эксперимент, утверждал: система не понимает китайский. Манипуляция символами по правилам – это не понимание. Понимание требует чего-то большего. Интенциональности. Семантики. Смысла.

Юки молчала, обдумывая.

– И ты думаешь, что Роршах – это китайская комната?

– Я думаю, что Тег только что доказал это. – Я снова посмотрел в окно. – Роршах берёт наши сообщения, применяет правила трансформации, генерирует ответы. Синтаксис – идеальный. Семантика – нулевая. Он не понимает, что мы говорим. Он не понимает даже, что мы существуем – хотя эта информация, похоже, единственная, которую он регистрирует.

– «Вы существуете», – процитировала Юки.

– Да. Это всё, что он извлекает. Факт нашего присутствия. Не смысл. Не намерения. Просто… бытие.

Юки отпила из чашки. Поморщилась – синтетический кофе никому не нравился.

– Но ведь это работает в обе стороны, – сказала она.

– Что ты имеешь в виду?

– Китайская комната. – Она поставила чашку на стол. – Если Роршах – это китайская комната, которая не понимает, потому что просто следует правилам… как мы докажем, что мы – не то же самое?

Я замер.

– Мы понимаем, – сказал я. Но голос прозвучал неуверенно даже для меня самого.

– Откуда мы знаем? – Юки наклонилась вперёд. – Серьёзно, Маркус. Откуда? Наши мозги – это тоже системы, которые обрабатывают символы по правилам. Нейроны получают сигналы, применяют биохимические «правила», генерируют ответы. Где в этой цепочке появляется понимание? В какой момент манипуляция символами превращается в смысл?

Я открыл рот, чтобы ответить, и понял, что не знаю, что сказать.

– Мы переживаем это, – попробовал я. – Мы чувствуем понимание изнутри. У нас есть внутренний опыт.

– А у Роршаха – нет?

– Насколько мы можем судить – нет.

– Но мы не можем судить. – Юки покачала головой. – Мы не можем залезть внутрь и посмотреть. Мы видим только поведение. А поведение… оно одинаковое. Он отвечает на стимулы. Мы отвечаем на стимулы. Он следует правилам. Мы следуем правилам.

– Наши правила другие.

– Это количественная разница, не качественная. – Она откинулась на спинку стула. – Или ты думаешь иначе?

Я не ответил. Потому что она была права – и это было хуже всего.

После разговора с Юки я не мог успокоиться.

Вернулся в каюту, но не мог сосредоточиться. Читал заметки – буквы плыли перед глазами. Пытался работать над протоколами – мысли разбегались, как испуганные рыбы.

Китайская комната. Мысленный эксперимент, которому больше двухсот лет. Я знал его наизусть, анализировал со всех сторон, писал статьи о его импликациях. И ни разу – ни разу – не применял его к себе.

Потому что это было страшно.

Мой мозг обрабатывает информацию. Нейроны возбуждаются по определённым правилам – электрохимическим, физическим, детерминированным. Сигнал поступает – сигнал обрабатывается – сигнал выходит. Где в этой цепочке появляюсь «я»? В какой точке биохимия превращается в опыт?

Трудная проблема сознания. Дэвид Чалмерс назвал её так, потому что она действительно трудная. Мы можем объяснить, как мозг обрабатывает информацию, – это «лёгкие» проблемы. Но мы не можем объяснить, почему эта обработка сопровождается субъективным опытом. Почему есть «каково это» – быть мной, видеть красный цвет, чувствовать боль.

Роршах обрабатывал информацию без субъективного опыта. По крайней мере, так мы предполагали. Но предположение – это не доказательство. Мы не могли заглянуть внутрь и проверить.

Как и в случае с друг другом.

Я посмотрел на свои руки. Пальцы шевелились – я набирал что-то на терминале, заметки, которые делал машинально. Латентность снова напомнила о себе: я видел движение раньше, чем осознавал намерение двигаться.

Кто принимал решение? Я – или мои нейроны? Сознание – или механизм под ним?

Стук в дверь выдернул меня из спирали мыслей.

Рей. Он стоял в коридоре, держа медицинский сканер.

– Можно?

– Заходи.

Он вошёл, огляделся – быстрый, профессиональный взгляд врача, оценивающий состояние пациента по обстановке.

– Ты пропустил обед.

– Не заметил.

– Заметил. – Рей сел на единственный стул, предоставив мне край койки. – Ты заметил и решил, что это неважно. Это другое.

Я усмехнулся. Сложно что-то скрыть от врача с эмпатическим импедансом. Он не чувствовал мои эмоции напрямую – но он научился читать их по косвенным признакам лучше, чем любой эмпат.

– Разговор с Юки?

– Ты знаешь?

– Я видел вас в столовой. – Он положил сканер на стол, не включая. – И я слышал конец разговора. Про китайскую комнату.

Я молчал.

– Это старый вопрос, Маркус. – Его голос был мягким, но без той автоматической теплоты, которую дают обычные эмпатические реакции. Осознанная теплота. Выбранная забота. – Философы спорят о нём столетиями. Ты не решишь его за один вечер.

– Но раньше он был абстрактным. – Я поднял взгляд. – Теперь – нет. Теперь он висит за окном. Триста километров нерешённого вопроса.

Рей кивнул.

– И ты боишься, что ответ – не тот, который тебе понравится.

– Я боюсь, что ответа нет вообще. – Я потёр глаза. Усталость накапливалась, как статическое электричество. – Юки спросила, как мы докажем, что мы не китайская комната. И я не смог ответить. Не потому что ответ сложный – потому что его нет. Мы не можем доказать собственное сознание. Ни себе, ни друг другу.

– Это не совсем так.

Я посмотрел на него.

– Мы не можем доказать сознание объективно, – продолжил Рей. – Но мы можем переживать его субъективно. Ты знаешь, что ты сознателен, потому что ты это переживаешь. Это не доказательство для других – но это доказательство для тебя.

– А если переживание – иллюзия?

– Иллюзия всё равно переживается. – Он слегка улыбнулся. – Это парадокс, я знаю. Но даже если твоё сознание – иллюзия, эта иллюзия реальна для тебя. Ты её переживаешь. А переживание – это и есть сознание.

Я обдумывал его слова. Они звучали как софизм – и одновременно как что-то важное. Что-то, что я упускал.

– Ты веришь в это?

– Я не верю. – Рей покачал головой. – Я знаю. Потому что я это переживаю. Каждый день, каждый момент. Моя модификация убрала автоматическую эмпатию – но не убрала опыт. Я всё ещё чувствую. Я всё ещё понимаю. Я просто делаю это… осознаннее.

– И это делает тебя более сознательным? Или менее?

– Я не знаю. – Он развёл руками. – Но это делает меня мной. А это, кажется, единственное, что имеет значение.

После ухода Рея я долго лежал в темноте, глядя в потолок.

Его слова крутились в голове. Переживание – это и есть сознание. Даже если иллюзия – она реальна для того, кто её переживает.

Но Роршах?

Переживал ли он что-то? Было ли для него «каково это» – обрабатывать наши сообщения, генерировать ответы, существовать в холодной темноте Облака Оорта? Или он был чистой функцией – входы, выходы, правила трансформации – без наблюдателя внутри, без того, кто переживает?

Мы не могли знать. Это была проблема.

И я не мог знать о себе. Это было ещё большей проблемой.

Латентность. Задержка между действием и осознанием. Для большинства людей она незаметна – миллисекунды, которые мозг маскирует, создавая иллюзию единства. Для меня – секунды. Достаточно, чтобы увидеть шов. Достаточно, чтобы усомниться.

Что, если моё сознание – это не причина моих действий, а их следствие? Что, если я – не капитан корабля, а пассажир, который думает, что рулит? Что, если «я» – это эпифеномен, побочный эффект нейронной активности, не влияющий ни на что?

Философы называли это эпифеноменализмом. Сознание существует, но не делает ничего. Оно наблюдает, но не участвует. Оно переживает, но не выбирает.

Если это правда – тогда какая разница между мной и Роршахом? Мы оба обрабатываем информацию. Мы оба генерируем ответы. Единственное различие – я переживаю этот процесс, а он (возможно) нет.

Но если переживание ничего не меняет – имеет ли оно значение?

Сон не шёл.

Я встал, вышел в коридор. Корабль спал – или делал вид, что спит. Приглушённый свет, тишина, мягкое гудение систем жизнеобеспечения.

Ноги несли меня сами – очередное проявление латентности. Я обнаружил себя в командном модуле, перед обзорным окном, раньше, чем осознал, что иду туда.

Роршах.

Он висел в темноте – огромный, неправильный, терпеливый. Звёзды за ним казались тусклыми, почти невидимыми на фоне его массы. Фрактальная поверхность улавливала скудный свет и преломляла его непредсказуемыми способами.

Я смотрел – и мой мозг снова находил паттерны. Лица. Глаза. Рты, которые, казалось, вот-вот произнесут что-то.

Апофения. Проекция. Я знал это – и всё равно видел.

– Ты не спишь, – сказал голос за спиной.

Я обернулся. Саша. Она стояла у входа в модуль, в лёгком комбинезоне, с растрёпанными волосами – только что из койки.

– Ты тоже.

– Я не могу. – Она подошла, встала рядом. – После сегодняшнего брифинга… сложно выключить голову.

– В объединённом режиме?

– В обоих. – Она слегка улыбнулась. – В разделённом – полушария спорят друг с другом. В объединённом – спор никуда не девается, просто становится внутренним.

Мы стояли рядом, глядя в окно. Роршах молчал – он всегда молчал, пока его не спрашивали. И даже тогда его ответы были молчанием другого рода.

– Ты когда-нибудь задумывалась, – сказал я, – что такое быть тобой?

– Постоянно. – Она не смотрела на меня; её взгляд был прикован к объекту снаружи. – Когда у тебя два полушария, которые могут работать независимо, вопрос «кто я» становится… сложнее.

– Как это ощущается?

Она молчала долго. Я уже думал, что не ответит.

– Как эхо, – сказала она наконец. – Каждая мысль отражается. Иногда – усиливается. Иногда – искажается. В объединённом режиме я слышу обе версии одновременно и пытаюсь найти среднее. В разделённом – версии расходятся, и я… – она запнулась, – …я становлюсь «мы».

– Два сознания?

– Я не знаю. – Она покачала головой. – Одно сознание, которое видит себя с двух сторон? Или два сознания, которые делят одно тело? Я задаю этот вопрос с момента операции. Ответа нет.

– Как у Роршаха.

– Как у Роршаха, – согласилась она. – Мы не можем заглянуть внутрь и проверить. Ни в него, ни в друг друга. Ни в себя.

Тишина. За окном – звёзды, Роршах, темнота.

– Знаешь, что меня пугает больше всего? – спросила Саша.

– Что?

– Что он может быть прав.

Я повернулся к ней.

– В чём?

– В том, как он существует. – Её голос был тихим, почти шёпотом. – Без сознания. Без переживания. Просто… обработка. Эффективная, чистая, целенаправленная. Без всего этого шума, – она постучала пальцем по виску, – без сомнений, без страхов, без вопросов, на которые нет ответов.

– Это не жизнь.

– Это не наша жизнь. – Она посмотрела на меня. – Но что, если это – правильный способ существования? Что, если сознание – это не преимущество, а… баг? Ошибка эволюции, которая создаёт проблемы, не решая их?

Я не ответил. Потому что эта мысль преследовала меня с того момента, как мы вышли на орбиту. С того момента, как я впервые увидел Роршах.

– Смотри, – продолжила Саша. – Он существует миллионы лет – или миллиарды, мы не знаем. Он обрабатывает информацию с эффективностью, которой мы не достигнем никогда. Он не страдает. Не сомневается. Не боится смерти, потому что не осознаёт, что смертен. Он просто… есть. И функционирует.

– А мы?

– А мы? – Она усмехнулась. – Мы тратим половину когнитивных ресурсов на тревогу. На самокопание. На вопросы вроде «кто я» и «зачем я здесь». Мы – самый неэффективный интеллект во Вселенной. И, возможно, – единственный, кто несёт бремя сознания.

– Бремя, – повторил я.

– А как ещё это назвать?

Я смотрел на Роршах. На его фрактальную поверхность, которая казалась почти живой в игре теней и света. На паттерны, которые мой мозг находил в хаосе.

– Может быть, это дар, – сказал я. – Может быть, мы единственные, кто видит красоту. Кто задаёт вопросы. Кто может сказать «я существую» – и понимать, что это значит.

– Может быть. – Саша не выглядела убеждённой. – Или может быть, мы говорим себе это, чтобы оправдать страдание.

Я вернулся в каюту под утро – по корабельному времени.

Латентность была всё ещё хуже обычного, но я почти привык. Тело двигалось, сознание догоняло. Я садился на койку раньше, чем решал сесть. Закрывал глаза раньше, чем решал заснуть.

Странное ощущение – быть пассажиром в собственном теле. Но, может быть, все мы – пассажиры. Может быть, иллюзия контроля – это и есть то, что мы называем сознанием.

Перед сном я думал о Юки. О её вопросе, на который я не смог ответить.

Как мы докажем, что сами – не китайская комната?

Я не знал. И, засыпая, я понимал: возможно, не узнаю никогда.

На следующий день Тег продолжил анализ.

Новые сообщения, новые трансформации, новые правила. Он каталогизировал их с одержимостью коллекционера, который не знает, что собирает, но не может остановиться.

Я сидел рядом, наблюдая за его работой. Цветовые диаграммы, которые он строил, были непонятны мне – я видел только линии и точки, не симфонию оттенков. Но я видел его лицо. Выражение, которое балансировало на грани между восторгом и отчаянием.

– Он адаптируется, – сказал Тег внезапно.

– Что?

– Правила трансформации. – Он указал на экран. – Смотри. Вчера он использовал двадцать три правила. Сегодня – двадцать семь. Появились новые паттерны. Более сложные. Как будто он… учится.

– Учится чему?

– Не знаю. – Тег покачал головой. – Но что-то меняется. Его ответы становятся… – он искал слово, – …плотнее. Больше трансформаций на единицу текста. Больше связей между элементами.

– Это хорошо или плохо?

– Я не знаю, что это вообще. – Он отвернулся от экрана, посмотрел на меня. – Маркус, ты изучаешь сознание. Скажи мне: адаптация – это признак разума? Или просто свойство достаточно сложной системы?

Я молчал, обдумывая вопрос.

– Адаптация – это признак обратной связи, – сказал я наконец. – Система получает результат, сравнивает с желаемым, корректирует поведение. Это не требует сознания. Термостат адаптируется – он не сознателен.

– Но термостат не создаёт новые правила.

– Мы не знаем, создаёт ли их Роршах. – Я указал на экран. – Может быть, эти правила были всегда. Просто мы не давали ему стимулов, которые их активировали.

– Может быть. – Тег не выглядел убеждённым. – Или может быть, он растёт. Развивается. Как ребёнок, который учится языку.

– Ребёнок понимает язык.

– Понимает ли? – Тег повернулся ко мне. – Или просто усваивает правила? Дети не рождаются со знанием грамматики. Они слышат речь, находят паттерны, строят модели. Это не понимание – это статистика. Машинное обучение, только на биологическом субстрате.

– Но в какой-то момент появляется понимание.

– Когда? – Он развёл руками. – Покажи мне этот момент. Укажи точку, где статистика превращается в семантику. Где паттерн становится смыслом. – Он помолчал. – Ты не можешь. Никто не может. Потому что, возможно, такой точки нет. Возможно, понимание – это и есть достаточно сложная статистика.

Я не ответил.

Потому что он был прав. И это было страшно.

После работы с Тегом я пошёл в обзорную зону.

Место, которое экипаж неофициально называл «балконом» – небольшое помещение с панорамным окном, специально спроектированное для созерцания. Без терминалов, без оборудования, только окно и несколько кресел.

Юки была там. Сидела в кресле, глядя на Роршах.

– Можно?

– Конечно.

Я сел рядом. Молчание между нами было комфортным – не требовало заполнения.