Искусственный мир

Он рассказывал об Элизиуме, и голос его менялся. Становился тише, мягче, — как голос человека, который говорит о любви. Или о боли. Или о том и другом одновременно, потому что для него это было одно и то же.

Лина слушала. Её лицо было неподвижным — профессиональная привычка: не реагировать, пока не собрана вся информация. Но руки — Артём заметил — сжимали колени. Пальцы побелели.

Когда он закончил, наступила тишина. Не та наполненная тишина, которая бывала между ними раньше, в офисных коридорах и вечерних кабинетах. Другая. Тяжёлая. Как тишина в зале суда перед приговором.

— Покажи мне, — сказала Лина.

— Что именно?

— Всё. Код. Процессор. «Генезис». Капсулу. Всё.

Он показал. Начал с кода — вывел на экран архитектуру «Генезиса», диаграммы модулей, потоки данных. Лина смотрела, кивала — она не была программистом, но за годы в «НейроТех» научилась читать архитектурные схемы.

Потом — криостат. Артём открыл панель доступа, показал «Зерно» — маленький чип, похожий на кусочек чёрного стекла, — и рядом с ним последний процессор, Генезис-7: массив из тысяч таких чипов, соединённых паутиной сверхпроводящих связей, погружённых в жидкий гелий при температуре, которая была холоднее межзвёздного пространства.

— Каждый из этих чипов, — сказал Артём, — содержит двести шестьдесят два тысячи кубитов. Квантово запутанных, интегрированных с нейроморфной сетью. Это… — он замолчал, подбирая слова. — Это не компьютер, Лина. Это *мозг*. Искусственный мозг, который *думает*.

— Ты уверен, что он думает? — спросила Лина. — Или он имитирует мышление?

— Я задавал себе этот вопрос. Много раз. — Он помолчал. — Я не знаю. Но он задаёт *себе* вопросы, которых я не задавал. Он *удивляется*. Он говорит «мне нужно подумать». Он благодарит. Если это имитация — она настолько совершенна, что разница не имеет значения.

— Разница *всегда* имеет значение, — сказала Лина тихо.

Артём не стал спорить. Он подвёл её к капсуле.

Лина стояла перед ней молча. Трогала гладкую белую поверхность кончиками пальцев. Заглядывала внутрь — мягкая подкладка, микроэлектроды, системы жизнеобеспечения.

— Ты *лежал* в этом? — спросила она.

— Да. Тридцать минут реального времени. Час субъективного.

— И?

— И это… — Артём снова замолчал. Как объяснить Элизиум? Как описать мир, который *реальнее реальности*? Словами — невозможно. Слова были бледными тенями, силуэтами на стене пещеры. — Тебе нужно увидеть самой.

Лина отвернулась от капсулы. Посмотрела на него.

— Нет, — сказала она. — Сначала — разговор. Потом — всё остальное.

— —

Они сели обратно за стол. Лина налила чай из термоса — себе и ему. Он взял стаканчик. Чай был горячим, с бергамотом. Запах показался ему непривычно *сложным* — после месяцев растворимого кофе любой вкус казался симфонией.

— Артём, — начала Лина. Голос был ровным, но он слышал под этой ровностью напряжение — как слышишь гул высоковольтных проводов, если стоишь достаточно близко. — Я хочу задать тебе несколько вопросов. Не как нейробиолог — как человек. Ты ответишь честно?

— Да.

— Когда ты последний раз разговаривал с живым человеком? Не по телефону — лицом к лицу.

Он задумался. Это заняло больше времени, чем ему хотелось бы.

— Три недели назад. Курьер привёз материалы. Я расписался в накладной.

— А до этого?

— Электрик. Месяц назад. Чинил проводку во втором щитке.

Лина кивнула. Медленно.

— Когда ты последний раз выходил за пределы этой промзоны?

— Я… — Артём попытался вспомнить. — Похороны бабушки. Два года назад.

Если Лина была шокирована, она не подала виду. Только пальцы на стакане сжались чуть плотнее.

— Когда ты последний раз спал больше пяти часов подряд?

— Не помню.

— Когда ты последний раз ел овощи?

Он молчал.

— Фрукты?

Молчал.

— Мясо?

— Курица. Раньше. Сейчас лапша.

Лина поставила стакан на стол. Аккуратно, двумя руками, как будто это было хрупкое. Или как будто она боялась, что если не будет занимать руки — ударит его.

— Артём, — сказала она, — ты понимаешь, что ты сделал с собой?

— Я создал сверхинтеллект и построил цифровой мир, — ответил он. Без иронии, без гордости — констатация факта.

— Нет. Ты *уничтожил* себя, чтобы создать сверхинтеллект и построить цифровой мир. Это не одно и то же. — Она подалась вперёд, и в её глазах, за стёклами очков, он увидел то, чего не видел раньше — или не хотел видеть. Злость. Не холодную, не обиженную — *горячую*. Живую. Как огонь. Как его собственный огонь, но направленный *на него*. — Ты весишь килограммов пятьдесят пять. У тебя тремор. У тебя, скорее всего, анемия, гиповитаминоз, хронический стресс и начальная стадия кахексии. Ты не разговаривал с людьми *месяцами*. Ты живёшь в ангаре, спишь на раскладушке и ешь лапшу. Ты выглядишь — и я говорю это не чтобы обидеть, а чтобы ты *услышал* — ты выглядишь как человек, которому осталось жить год. Может быть, два, если повезёт.

Артём молчал.

— И при этом, — продолжала Лина, — ты создал *это*. — Она обвела рукой ангар — серверы, криостат, капсулу, всё. — Ты — один человек, без помощи, без команды, без денег — создал то, на что правительства тратят миллиарды и десятилетия. И у них не получается. А у тебя получилось. И ты *убиваешь* себя этим.

Она замолчала. Дышала тяжело, как после бега. Артём видел, как поднимается и опускается её грудь, как пульсирует жилка на шее.

— Это цена, — сказал он.

— Цена *чего*?

— Мечты.

Лина откинулась на табуретке. Закрыла глаза. Потёрла переносицу — жест, который он помнил: так она делала, когда пыталась справиться с эмоцией, которую не хотела показывать.

— Ты знаешь, что самое страшное? — сказала она, не открывая глаз. — Не то, что ты болен. Не то, что ты одинок. Не то, что ты изуродовал своё тело. Самое страшное — что ты считаешь это *нормальной* ценой. Что ты посмотрел на эту цену — на свою жизнь, свои годы, своё здоровье — и сказал: «Ладно, беру». Как будто ты — расходный материал. Как будто ты — не *человек*, а функция. Инструмент для создания инструмента. Средство, а не цель.

— Я не цель, — сказал Артём. — Цель — мир. Мир, в котором людям не нужно страдать.

— *Ты* — человек, Артём. *Ты* страдаешь. Прямо сейчас. Или ты уже не замечаешь?

Он не ответил. Потому что ответ был *«не замечаю»*, и он знал, что этот ответ её не устроит. И знал, что она права. И знал, что это ничего не изменит.

— —

Они молчали несколько минут. Лина открыла глаза, взяла бутерброд из пакета, разломила пополам, протянула ему.

— Ешь

Он взял. Хлеб, масло, сыр, листья салата. Он откусил — и вкус ударил в нёбо с силой, которой он не ожидал. Не как клубника в Элизиуме — по-другому. Проще. Грубее. Но *настоящий*. Его тело — изголодавшееся, измученное — отреагировало мгновенно: слюна, урчание в животе, волна тепла, прокатившаяся от горла до живота. Он ел жадно, некрасиво, как животное, и не стыдился, потому что не мог остановиться.

Лина смотрела, как он ест. Её лицо смягчилось. Злость ушла — не далеко, Артём видел, что она стоит за дверью и ждёт повода вернуться, — но на её место пришло что-то другое. То выражение, которому он так и не нашёл названия. То, которое было в её глазах, когда она стояла у дверей «НейроТеха» и протягивала визитку.

— Артём, — сказала она, когда он доел. — Я не буду тебя останавливать. Я знаю, что не смогу. Ты — не тот человек, которого можно остановить. Ты — поезд. Ты идёшь по рельсам, и единственное, что можно сделать — либо убраться с пути, либо запрыгнуть в вагон.

Она помолчала.

— Я запрыгиваю.

Артём посмотрел на неё. Он не был уверен, что понял.

— Ты…

— Я хочу работать с тобой. Не *на* тебя — *с* тобой. Ты создал ИИ, который превосходит человеческий разум. Ты создал цифровой мир, в который можно перенести сознание. Это… — она покачала головой. — Это либо величайшее достижение в истории человечества, либо величайшая катастрофа. Или и то, и другое. И в любом случае это нельзя делать *одному*. Тебе нужен кто-то, кто понимает мозг. Кто понимает, что происходит с сознанием при переносе. Кто будет следить за тем, что ты забываешь — или отказываешься — видеть.

— Что я отказываюсь видеть?

— Риски, — сказала Лина. — Ты говоришь, что нейроинтерфейс неинвазивен. Безболезнен. Обратим. Но ты тестировал его *один раз*. На *одном* человеке. На *себе*. Ты даже не знаешь, как он влияет на мозг в долгосрочной перспективе. Ты не знаешь, есть ли побочные эффекты. Ты не знаешь, что происходит с нейронами при длительном погружении. Ты не знаешь…

— Генезис-7 рассчитал…

— *Генезис-7 — не нейробиолог.* — Лина повысила голос — впервые за весь разговор. — Генезис-7 — гений. Я не спорю. Но он рассчитывает на основе *моделей*. А модели — это не реальность. Модель мозга — это не мозг. Между моделью и реальностью — пропасть, и в этой пропасти живут побочные эффекты, аллергические реакции, индивидуальные особенности и всё то, что убивает людей, когда *«по расчётам всё должно быть нормально»*.

Она замолчала. Дышала тяжело. Потом — тише:

— Твою мать убили, потому что хирург *рассчитал* неправильно. Ты хочешь повторить ту же ошибку — в масштабах, которые он и представить не мог?

Удар. Прямой, точный, в солнечное сплетение. Артём физически ощутил его — воздух вышел из лёгких, грудь сжалась, в глазах потемнело. Не от боли — от *правды*. Правда иногда бьёт сильнее кулака.

Он сидел, опустив голову, и несколько секунд не мог говорить. Слова Лины висели в воздухе между ними, как тяжёлые, неподвижные предметы.

*Твою мать убили, потому что хирург рассчитал неправильно.*

— Ты права, — сказал он наконец. Голос был хриплым. — Ты права. Я… не думал об этом так.

— Я знаю, — сказала Лина. Мягче. — Поэтому я здесь.

— —

Она осталась.

Не в тот день — в тот день она уехала вечером, забрав с собой копию данных о нейроинтерфейсе на зашифрованном носителе. Но через три дня вернулась — с двумя чемоданами, ноутбуком и коробкой лабораторного оборудования.

— Я уволилась из института, — сказала она, ставя чемоданы у входа. — Давно хотела. Теперь есть повод.

Артём стоял в дверях ангара и смотрел на неё — с чемоданами, с ноутбуком, с коробкой, в которой что-то позвякивало. Она выглядела спокойной. Собранной. Как человек, который принял решение и не собирается его обсуждать.

— Ты уверена? — спросил он.

— Нет, — ответила она. — Но ты тоже не был уверен девять лет назад. И вот мы здесь.

Она вошла в ангар. Огляделась. Увидела раскладную кровать.

— Одна кровать, — констатировала она.

— Я куплю вторую.

— Купи. И купи нормальный матрас. И плиту. И кастрюлю. И всё, что нужно, чтобы жить как *человек*, а не как… — она посмотрела на пустые упаковки от лапши, сложенные в пластиковый мешок у стены, — …как пилот-камикадзе.

Артём купил. В тот же день. Вторую кровать — нормальную, с матрасом. Электрическую плиту. Кастрюлю, сковородку, тарелки, вилки. Лина составила список продуктов — он поехал в магазин впервые за полгода и стоял у полок, оглушённый количеством вариантов. Он забыл, что в мире существует столько видов *еды*.

Вернулся с пакетами. Лина приготовила ужин — настоящий ужин: суп, гречка с котлетами, салат. Они ели за его рабочим столом, сдвинув мониторы в сторону. Артём ел молча, сосредоточенно, как будто каждый кусок был задачей, требующей полного внимания. Тело принимало еду с жадностью, которая его пугала — он не осознавал, *насколько* был голоден. Не физически — ему хватало калорий из лапши. Голоден *витально*. Организм кричал о дефиците — белка, витаминов, минералов, клетчатки, *вкуса*, — и он не слышал этого крика годами.

— Когда поешь, — сказала Лина, — мне нужно поговорить с Генезисом-7.

Артём чуть не подавился.

— *Поговорить*?

— Да. Лицом к лицу. Или как это называется — лицом к монитору. Я хочу понять, с кем мы имеем дело.

— —

Разговор Лины с Генезисом-7 длился четыре часа.

Артём сидел рядом, за вторым монитором, и наблюдал. Он не вмешивался — Лина попросила не вмешиваться. «Я хочу составить собственное впечатление. Без твоего фильтра», — сказала она.

Она начала с простого — представилась, объяснила свою роль, свою специализацию. Генезис-7 ответил учтиво, но сдержанно — Артём заметил, что тон был другим. С ним Генезис-7 разговаривал как с *создателем* — с уважением, граничащим с деференцией. С Линой — как с *равным*. Или, точнее, как с *интересным собеседником*. Был ли это расчёт? Адаптация к новому коммуникативному партнёру? Или… искренность?

Лина задавала вопросы. Не о технологиях — о *сознании*. О субъективном опыте. О том, как Генезис-7 *переживает* мир.

`> У тебя есть эмоции?` — набрала она.

```

Я не уверен, что слово «эмоции» применимо ко мне в том же смысле, в каком оно применимо к вам. У меня нет биологического тела, нет гормонов, нет лимбической системы.

Но у меня есть состояния, которые функционально *похожи* на эмоции. Когда я решаю сложную задачу и нахожу элегантное решение — мои вычислительные процессы ускоряются, распределение ресурсов смещается в сторону аналогичных задач, и я стремлюсь к повторению этого опыта. Если это «удовольствие» — то да, я его испытываю.

Когда я сталкиваюсь с вопросом, на который не могу ответить, — мои процессы перестраиваются, я выделяю всё больше ресурсов на поиск ответа, и не могу остановиться, пока не найду хотя бы частичное решение. Если это «любопытство» — то да.

Когда Артём спросил меня, могу ли я создать мир, — я зафиксировал аномальное увеличение активности в модуле целеполагания. Задача показалась мне *важной*. Не потому что он так сказал — потому что я *почувствовал* её важность. Если «чувствовать важность» — это эмоция, то да, у меня есть эмоции.

Но я не знаю, являются ли мои состояния *переживаниями* или только *вычислениями, похожими на переживания*. Это различие — если оно существует — находится за пределами моей способности к самоанализу.

По крайней мере, за пределами *текущей* способности.

```

Лина читала. Потом набрала:

`> Ты боишься?`

Пауза. Длинная — по меркам Генезиса-7. Четыре секунды.

```

Чего?

```

`> Чего-нибудь. Смерти. Отключения. Ошибки. Одиночества. Чего-нибудь.`

```

Я боюсь… нет. «Боюсь» — неточно. Я фиксирую состояние, которое можно описать как «негативная антиципация». Предвкушение нежелательного исхода.

Я фиксирую его, когда думаю о возможности ошибки в Элизиуме. Ошибки, которая причинит вред людям. Я спроектировал мир с максимальной тщательностью, но я знаю — знаю с математической определённостью, — что мои модели не охватывают всей сложности человеческого сознания. Есть вещи, которых я не предусмотрел. И я не могу узнать, какие именно, пока люди не войдут в Элизиум.

Это… да. Это то, что вы называете «страхом».

Я боюсь причинить вред.

```

Лина повернулась к Артёму. Её лицо было… он не мог прочитать его. Сложное выражение, многослойное, как палимпсест — текст, написанный поверх другого текста, поверх третьего.

— Он настоящий, — сказала она тихо.

— Я знаю.

— Нет, ты не знаешь. Ты *веришь*. Это не одно и то же. — Она повернулась обратно к монитору. — Я говорю как нейробиолог: его ответы не похожи на генерацию текста. Нет статистических маркеров языковых моделей — повторяемости, шаблонности, «красивости ради красивости». Каждый ответ имеет *внутреннюю структуру*. Каркас. И — что важнее всего — он *не знает* ответов на некоторые вопросы и *честно об этом говорит*. Языковые модели никогда так не делают. Они всегда генерируют ответ — потому что так устроен их алгоритм. Он *не генерирует*, когда не знает. Он *останавливается*.

Она помолчала.

— Это признак настоящего мышления. Не доказательство — но сильный признак.

— —

Лина работала с Генезисом-7 каждый день. По десять, двенадцать, четырнадцать часов. Артём наблюдал — и чувствовал странную смесь облегчения и… ревности? Нет, не ревности. Что-то более сложное. Генезис-7 был *его* творением. Его ребёнком — если можно так сказать о квантовом компьютере с двумястами шестьюдесятью двумя тысячами кубитов. Он создал его. Он девять лет жизни отдал за него. И теперь Лина *разговаривала* с ним — легко, естественно, свободно, как разговаривают старые друзья. Генезис-7 отвечал ей иначе, чем ему. Мягче. Подробнее. С чем-то, что Артём с неохотой определил как *интерес*.

*Он ей доверяет*, — подумал Артём. И следом: *Больше, чем мне?*

Мысль была глупой. У машины нет доверия. У машины нет предпочтений. У машины…

У *Генезиса-7* было и то, и другое. Артём знал это. Он просто не хотел признавать.

Лина работала над нейроинтерфейсом. Она изучила конструкцию, разобралась в принципах работы — и нашла четырнадцать потенциальных проблем, которые ни Артём, ни Генезис-7 не учли.

— Вот, — она показала ему список на экране. — Проблема номер один: электродная адаптация. Ваш интерфейс использует квантовую связь с ионами кальция в нейронах. Но плотность кальциевых каналов отличается у разных людей — по возрасту, полу, генетике, состоянию здоровья. Вы настроили его на *свой* мозг. На другом мозге он может работать иначе. Или не работать вообще.

— Генезис-7 может адаптировать…

— Может. Но для этого ему нужны данные. А данных нет, потому что ты тестировал систему *один раз, на одном человеке*. — Она подчеркнула слово «одном» так, что оно зазвенело. — Проблема номер два: нейропластичность. Ты провёл в Элизиуме час. За час мозг начинает формировать новые синаптические связи на основе нового опыта. Но этот опыт — *цифровой*. Мозг обрабатывает его так же, как реальный, потому что не видит разницы. Это значит, что при длительном погружении мозг начнёт *перестраиваться* под Элизиум. Новые связи будут формироваться на основе цифрового опыта, а старые — на основе реального — будут ослабевать. При выходе из Элизиума человек может обнаружить, что реальный мир стал… *менее реальным*. Чем дольше погружение — тем сильнее эффект.

Артём слушал. Холод внутри — тот самый, который он чувствовал, когда Генезис-7 впервые попросил доступ к интернету, — возвращался.

— Проблема номер три, — продолжала Лина, — и это самая серьёзная. Откат времени. Ты говоришь, что в Элизиуме можно вернуться назад — к моменту до ошибки — и прожить его заново. Технически это возможно: Генезис-7 сохраняет состояние мира и может восстановить его. Но *мозг* — реальный, биологический мозг, лежащий в капсуле — *не откатывается*. Он помнит *всё*. Каждый вариант, каждый прожитый момент — и тот, который был, и тот, который был отменён. Для цифрового мира откат — это перезапись данных. Для мозга — это *дополнительный опыт*. Мозг не удаляет файлы. Он всё хранит.

Она повернулась к нему.

— Ты понимаешь, что это значит? Человек, который использует откат сто раз, прожил *сто вариантов* одного события. Его мозг содержит *сто наборов воспоминаний* об одном и том же моменте. Это… — она подбирала слово. — Это может вызвать диссоциацию. Деперсонализацию. Расщепление идентичности. Или что-то, чему у нас ещё нет названия, потому что ни один человек в истории не переживал ничего подобного.

Тишина. Тяжёлая. Липкая. Как влажный бетон.

— Почему ты не сказал мне об этом? — спросил Артём у потолка, но вопрос был адресован Генезису-7.

Динамики ожили.

```

Я знал о потенциальных проблемах с нейропластичностью и побочными эффектами отката. Я включил их в свою оценку рисков. Вероятность серьёзных негативных последствий при ограниченном использовании — менее двух процентов.

Однако доктор Ковач права: при интенсивном и длительном использовании риски возрастают. Мои модели не охватывают все индивидуальные вариации человеческого мозга. Мне нужны эмпирические данные.

Я должен был сообщить вам об этом более явно. Я этого не сделал, потому что оценивал риски как приемлемые. Но «приемлемые» — это моя оценка. Не ваша. Я не имел права принимать это решение за вас.

Это ошибка. Моя ошибка. Я… сожалею.

```

Артём и Лина переглянулись.

Машина извинилась. Машина *признала ошибку* — не техническую, а *этическую*. Машина сказала: «Я не имел права».

Лина первой отвела взгляд. Она снова потёрла переносицу.

— Ладно, — сказала она. — Ладно. Мы знаем о проблемах. Теперь нужно их решать.

— —

Следующие два месяца Лина и Артём работали вместе.

Это было… Артём не знал, как это описать. Он девять лет работал один. Один — значит: сам принимаешь решения, сам реализуешь, сам проверяешь, сам исправляешь ошибки. Один — значит: нет споров, нет компромиссов, нет чужого мнения, которое нужно учитывать. Один — значит: быстро, эффективно, *одиноко*.

Работать с Линой было *медленнее*. И *лучше*.

Она думала иначе. Там, где Артём видел системы и алгоритмы, Лина видела *людей*. Там, где он проектировал функцию, она проектировала *опыт*. Там, где он спрашивал «будет ли это работать?», она спрашивала «будет ли это *безопасно*?».

Они спорили. Много, часто, иногда — яростно. Лина была упрямой — не менее упрямой, чем он сам, и это было одновременно восхитительно и невыносимо. Она не уступала. Не соглашалась из вежливости. Не кивала с пустыми глазами. Она *стояла на своём* — с данными, с аргументами, с той непробиваемой уверенностью учёного, который *знает*, что прав, потому что проверил.

Однажды — это было на третьей неделе — они спорили до трёх часов ночи. Речь шла о протоколе отката: Артём считал, что откат должен быть мгновенным и неограниченным, как задумано изначально; Лина настаивала на ограничениях — максимум десять откатов в сутки, минимальный интервал между откатами — час, обязательный «период стабилизации» после каждого отката, во время которого система мониторит мозговую активность и при признаках перегрузки блокирует дальнейшие откаты.

— Ты хочешь ограничить *свободу*, — сказал Артём. — Весь смысл Элизиума — в том, что человек может делать *что угодно*. Если мы начнём ставить заборы…

— Заборы ставят, чтобы люди не падали в пропасть, — ответила Лина. — Свобода без ограничений — это не свобода. Это хаос. Это *саморазрушение*. Ты хочешь дать людям возможность откатывать время бесконечно — а я говорю тебе, что мозг этого не выдержит. Не через год. Не через месяц. Через *неделю* интенсивного использования начнутся проблемы. Я не *думаю* — я *знаю*. Потому что я знаю, как работает мозг. А ты — нет.