Искусственный мир

Как отличить настоящее сознание от его имитации? Этот вопрос мучил Артёма по ночам. Он лежал на диване — тонком, продавленном, пахнущем потом и стиральным порошком, — и смотрел в потолок, и думал.

Тест Тьюринга не работает. Если система достаточно хорошо имитирует сознание, она пройдёт тест, не будучи сознательной. Это театр, не разум. Нужен другой критерий.

Он разработал свой. Назвал его «тест Вельского» — без ложной скромности, но и без гордости, просто для удобства. Суть теста: системе предлагается задача, для решения которой она должна изменить собственную архитектуру. Не может — именно «должна». Задача сконструирована так, что решить её в рамках текущей архитектуры невозможно. Если система осознаёт это ограничение, проектирует изменение и объясняет, почему именно это изменение необходимо, — она прошла тест. Она знает себя.

Идея была красивой. Реализация — кошмарной. Потому что для теста нужна была система, способная в принципе менять свою архитектуру — а именно её Артём и пытался создать.

Змея, кусающая свой хвост.

Он работал.

Квартира постепенно превращалась в лабораторию. Это происходило не сразу — не так, что он однажды проснулся и обнаружил себя в окружении проводов и серверов. Нет, это было медленное, органическое разрастание, как плесень или как город.

Сначала — три монитора на столе из двух кухонных. Потом — ещё один компьютер, купленный на кредитные деньги, поставленный на табуретку в углу. Потом — ещё один, и ещё, и ещё. Артём покупал подержанные серверы на интернет-аукционах, списанное оборудование из университетских лабораторий, видеокарты с майнинговых ферм — выработавшие ресурс, перегретые, ненадёжные, но дешёвые.

Через год квартира была забита железом. Серверы стояли вдоль стен, как книги на полке. Провода ползли по полу, как корни. Вентиляторы охлаждения гудели круглосуточно — ровный, низкий гул, который сначала мешал спать, потом стал привычным, потом — необходимым: в тишине Артём уже не мог уснуть.

Электричество стало проблемой. Старая проводка не выдерживала нагрузки — пробки вышибало по три-четыре раза в неделю. Артём вызвал электрика, заплатил ему за модернизацию щитка и за молчание. Электрик — пожилой мужчина с руками, перепачканными изолентой, — осмотрел квартиру, присвистнул и сказал:

— Ты тут майнишь, что ли?

— Вроде того, — ответил Артём.

— Ну-ну. Ты аккуратнее, а то спалишь дом.

Он был аккуратен. Насколько мог. Но иногда, поздно ночью, когда все серверы работали на полную мощность и температура в комнате поднималась до тридцати пяти градусов, а стены гудели от вибрации, он ловил себя на мысли: Если бы кто-нибудь зашёл сюда, он бы решил, что я безумен.

Никто не заходил.

Соседи жаловались на шум — он купил звукоизоляционные панели и обклеил ими стены. Соседи жаловались на жару — тёплый воздух от серверов шёл через вентиляцию в соседние квартиры. Артём установил систему охлаждения, которую собрал из кондиционера и промышленного вентилятора, купленных на свалке.

Счета за электричество сжирали треть его зарплаты. Аренда — ещё треть. На жизнь оставалось немного. Он перестал заказывать доставку — дорого. Перешёл на рис, макароны, яйца. Иногда — раз в неделю — позволял себе курицу.

Он худел. Бледнел. Тремор в правой руке стал заметнее. Под глазами залегли тени, и с каждым месяцем они становились глубже, как овраги, которые промывает дождь.

На работе это начали замечать.

— Вельский, ты нормально себя чувствуешь? — спросил однажды коллега из соседнего отдела, встретив его в коридоре.

— Да, — ответил Артём.

Коллега посмотрел на него с сомнением, но не стал настаивать. Люди обычно не настаивают. Им проще принять ложь, чем возиться с правдой.

На третий год он столкнулся со стеной.

Адаптивная архитектура работала. Самореференция — в зачаточном виде, но работала. Рекурсивный механизм — теоретически описан, частично реализован. Но всё это было программное. Софт. А софт был ограничен железом.

Обычные процессоры — даже мощные, даже GPU — не могли обеспечить то, что требовалось для настоящего рекурсивного самосовершенствования. Квантовые суперпозиции нельзя эмулировать на классическом оборудовании — можно симулировать, но симуляция квантовых систем на классическом компьютере требует экспоненциально растущих ресурсов. Чем больше кубитов — тем больше нужно обычных битов для симуляции. Двадцать кубитов — справится ноутбук. Пятьдесят — нужен суперкомпьютер. Сто — не хватит всех компьютеров на планете.

А для «Генезиса» нужны были тысячи кубитов. Может быть, миллионы.

Артём стоял у стены и смотрел на свою схему — три метра диаграмм и стрелок — и понимал: дальше без квантового процессора не продвинуться. Всё, что он мог сделать в рамках классических вычислений, он сделал. Дальнейший путь лежал через квантовые нейроморфные процессоры — первый столп, тот самый, который он отложил на потом, потому что для него нужны были ресурсы, каких у него не было и быть не могло.

Квантовый нейроморфный процессор. Устройство, которое не существовало нигде в мире. Которое нужно было не просто спроектировать, но и изготовить. А изготовление квантовых чипов — это не паяльник и не 3D-принтер. Это чистые комнаты класса ISO 1, криогенные системы, литографическое оборудование стоимостью в десятки миллионов, команды физиков и инженеров.

У Артёма была однокомнатная квартира с серверами и зарплата программиста.

Он сел на пол — стульев больше не было, он убрал их, чтобы поставить ещё один сервер, — и впервые за три года почувствовал нечто похожее на отчаяние.

Не отчаяние. Он не позволял себе отчаяния — это было бы слабостью, а слабость он ненавидел. Но что-то близкое. Тяжёлое, серое, давящее на грудь, как камень. Невозможность. Стена. Потолок.

Он сидел на полу среди проводов и гудящих серверов, и горячий воздух обдувал ему лицо, и пот стекал по вискам, и он думал: Может быть, Белозёров был прав. Может быть, я перегорю. Может быть, я уже перегорел — и просто ещё не заметил, потому что инерция вращения не даёт остановиться.

Он думал это — и одновременно знал, что не остановится.

Потому что за стеной — мир. Мир, где мама жива. Мир, где папа не пьёт. Мир, где ошибки можно отменить, и ни за что не нужно платить жизнью.

Он встал. Вытер пот. Сел за монитор.

И начал думать, где взять деньги.

Идея пришла ночью — как и всё лучшее в его жизни.

«НейроТех» разрабатывал систему предиктивной аналитики для финансового рынка. Проект был секретным — для избранных клиентов, крупных инвестиционных фондов. Артём не был в команде проекта, но имел доступ к внутренней сети компании — как старший разработчик, он имел права администратора, которые ему выдали три года назад и не удосужились отозвать.

Он мог… нет. Не мог. Не должен. Это было бы преступлением. Кражей интеллектуальной собственности. Уголовной статьёй. Всем тем, во что он не верил — не потому что считал себя выше закона, а потому что закон не успевал за тем, что он делал.

Он отбросил эту мысль.

Она вернулась через час.

Он отбросил её снова.

Она вернулась через двадцать минут.

На третий раз он позволил себе подумать. Только подумать. Не сделать — подумать.

Что, если использовать адаптивную архитектуру — его архитектуру, ту, над которой он работал три года — для анализа финансовых рынков? Не красть чужой код — написать свой. Использовать то, что он уже создал. Его нейросеть была лучше любой системы в «НейроТех» — он знал это точно, потому что видел их код и видел свой, и разница была как между калькулятором и суперкомпьютером.

Если его система могла предсказывать поведение нейросетей — почему бы ей не предсказывать поведение рынков? Рынки — это тоже паттерны. Сложные, хаотические, нелинейные — но паттерны.

Он написал прототип за неделю. Протестировал на исторических данных — данных, которые были в открытом доступе, ничего краденого. Результаты были… настораживающими. Система предсказывала движения рынка с точностью, которая выглядела невозможной. Семьдесят три процента. Семьдесят восемь. На некоторых инструментах — восемьдесят два.

Артём знал, что на реальном рынке будет хуже. Исторические данные — это зеркало заднего вида: можно увидеть, что было, но не то, что будет. И всё же.

Он открыл торговый счёт. Положил на него последние сбережения — сто двадцать тысяч рублей. Всё, что было.

Первая неделя: плюс одиннадцать тысяч.

Вторая: плюс двадцать три тысячи.

К концу первого месяца на счету было двести восемьдесят тысяч.

Артём смотрел на цифры и чувствовал странное — не радость, не облегчение, а нечто холодное. Деньги. Он использовал свой гений, свою трёхлетнюю работу, свою мечту о совершенном мире — чтобы делать деньги. Это было похоже на то, как если бы Микеланджело использовал свои кисти, чтобы красить заборы. Не аморально. Не незаконно. Просто… мелко.

Но деньги были нужны. А мораль подождёт.

Он торговал шесть месяцев. Осторожно, дисциплинированно, без жадности. Система работала — не идеально, были потери, были просадки, но общий тренд шёл вверх. К концу полугода на счету было четыре с половиной миллиона рублей.

Этого было недостаточно. Для квантового нейроморфного процессора нужны были другие деньги.

Но это было начало.

Между тем жизнь продолжалась — та, внешняя, которую Артём считал декорацией.

Бабушка звонила раз в месяц. Голос слабел — ей было уже восемьдесят, артрит, давление, плохое зрение. Она спрашивала: «Ты кушаешь? Ты не болеешь? У тебя есть девушка?» Артём отвечал: «Да, нет, нет». В том же порядке. Бабушка вздыхала и рассказывала про соседей, про погоду, про цены на картошку. Артём слушал, и где-то глубоко внутри, под рубцовой тканью и слоями кода, шевелилось что-то тёплое и болезненное.

Отец… отец был где-то. Артём не звонил ему. Не потому что ненавидел — ненависть выгорела давно, оставив после себя лишь пепел и ровную, бесцветную пустоту. Он не звонил, потому что не знал, что сказать. «Привет, пап, как дела?» — бессмыслица. «Пап, я создаю искусственный интеллект, который изменит мир» — безумие. «Пап, я скучаю» — ложь. Или правда. Он не мог различить.

На работе всё шло своим чередом. «Ассистент-3» запустили, потом «Ассистент-4», потом начали разрабатывать «Ассистент-5». Сергей Валентинович получил повышение. Команда росла — новые лица, новые имена, которые Артём не запоминал. Он был старейшим сотрудником отдела, и новички смотрели на него с любопытством и лёгкой опаской — как смотрят на странного старика, живущего в конце коридора: вроде безобидный, но кто его знает.

Лина продолжала работать консультантом, хотя её контракт дважды продлевали — она стала незаменимой. Её знания о мозге, о нейроинтерфейсах, о взаимодействии биологических и искусственных систем были уникальными, и даже Сергей Валентинович, при всей своей одержимости ROI, понимал, что отпускать её нельзя.

Она и Артём продолжали свой странный танец — тот, у которого не было названия. Утренние прогулки. Обеденные молчания. Вечерний чай. Иногда — разговоры, которые начинались с нейронов и заканчивались вопросами, на которые нет ответов.

Однажды, зимним вечером, когда за окнами падал снег и город утопал в оранжевом свете фонарей, Лина спросила:

— Артём, ты когда-нибудь думал о том, что тебя делает человеком?

Он задумался. Не для виду — по-настоящему задумался, и это заняло почти минуту.

— Способность моделировать реальность, — сказал он наконец. — Строить в голове мир, которого нет, и действовать на основе этой модели. Животные реагируют на стимулы. Люди реагируют на предсказания. Мы живём не в настоящем — мы живём в будущем, которое сами придумали.

— А чувства? — спросила Лина.

— Чувства — это сигналы обратной связи. Они говорят модели, насколько её предсказания совпали с реальностью. Удовольствие — предсказание сбылось. Боль — не сбылось. Страх — предсказание негативного исхода. Любовь… — он замолчал.

— Любовь? — повторила Лина.

— Любовь — это… — он снова замолчал. Провод перегорел. Мысль, которая была ясной секунду назад, растворилась, оставив после себя только дымку и ощущение чего-то важного, ускользнувшего.

— Я не знаю, что такое любовь, — сказал он. Честно. Тихо. Без стыда и без гордости — просто констатация факта.

Лина смотрела на него. В её глазах — за стёклами очков, за нейробиологическим взглядом, за привычкой анализировать — было что-то, чего Артём не мог расшифровать. Не грусть. Не жалость. Что-то другое. Что-то, для чего у него не было алгоритма.

— Может быть, это не то, что нужно знать, — сказала она. — Может быть, это то, что нужно чувствовать.

— Я плохо чувствую, — ответил он.

— Я знаю, — сказала она. — Но ты чувствуешь. Плохо — но чувствуешь. Машина не чувствует вообще. В этом разница.

Он хотел сказать: Пока не чувствует. Но не сказал.

Они допили чай. Она ушла. Он поехал домой — к мониторам, серверам, гудящим вентиляторам. К «Генезису».

Но в метро, стоя в переполненном вагоне, держась за поручень — левой рукой, правая дрожала, — он поймал себя на том, что думает не о коде. Не о квантовых процессорах. Не о рекурсивном самосовершенствовании.

Он думал о Лине.

О том, как она наклоняет голову, когда слушает. Как поправляет очки средним пальцем — всегда средним, никогда указательным. Как её голос становится чуть выше, когда она говорит о чём-то, что её по-настоящему волнует. Как она сказала «я знаю» — и это «я знаю» было не осуждением, не диагнозом, а чем-то третьим. Чем-то, что означало: я вижу тебя таким, какой ты есть, и мне это нормально.

Его никогда раньше не видели таким, какой он есть. Он и сам себя видел плохо — как видишь лицо в запотевшем зеркале.

У меня нет на это времени, — подумал он привычно.

Но мысль прозвучала иначе. Тише. Менее убедительно. Как аргумент, который повторяли слишком много раз, и он истёрся, как монета.

Двери вагона открылись. Его станция. Он вышел.

И пошёл домой. К «Генезису».

Четвёртый год.

Деньги росли. Торговая система работала стабильно — Артём довёл её до автоматического режима, она торговала сама, без его участия, и каждый месяц на счёт капало от трёхсот тысяч до полутора миллионов. Он не тратил почти ничего — жил так же, как раньше: рис, макароны, яйца. Изредка курица. Деньги копились.

К концу четвёртого года на счету было тридцать два миллиона рублей.

Много — для обычного человека. Пыль — для того, что он задумал.

Квантовый нейроморфный процессор нельзя было купить — его не существовало. Нельзя было заказать — ни одна лаборатория в мире не взялась бы за такой проект для частного лица, без объяснения целей и без институциональной поддержки. Нужно было строить самому.

А для этого нужно было место. Оборудование. Материалы. Знания — не его профиля, а физики, материаловедения, криогенной инженерии.

Артём начал учиться. Снова. Как в детстве, когда он осваивал программирование по учебникам из интернета. Только теперь учебники были другие: квантовая механика, физика твёрдого тела, нанотехнологии, криогеника. Он читал по два-три часа в день — между работой в «НейроТех» и работой над «Генезисом». Сна осталось три-четыре часа в сутки. Иногда меньше.

Тело протестовало. Тремор в руке усилился — теперь дрожали обе. Появились головные боли — тупые, давящие, как обруч вокруг черепа. Зрение ухудшилось — он купил очки, дешёвые, в пластиковой оправе, похожие на Линины. Один раз потерял сознание в метро — просто отключился на несколько секунд, очнулся сидящим на полу вагона, а вокруг стояли люди и спрашивали, всё ли в порядке. Он сказал «да», встал, вышел на следующей станции. Проверился у врача — хронический недосып, стресс, дефицит железа, витамина D, и ещё половины таблицы Менделеева. Врач прописал витамины, восьмичасовой сон и отпуск. Артём купил витамины.

Он знал, что разрушает себя. Знал — как знают курильщики, что сигареты убивают. Знание не останавливает зависимость. А «Генезис» был его зависимостью — более сильной, чем никотин, чем алкоголь, чем всё, от чего люди привыкли бежать.

Потому что «Генезис» был не о нём. Он был о мире. О мире, который можно исправить. О мальчике на холодном линолеуме, которому можно сказать: «Не плачь. Мы вернёмся назад. Мы всё переделаем. Мама будет жива».

Это было больше, чем одержимость. Это было призвание. Или проклятие. Разница между ними — вопрос точки зрения.

Лина почти не видела его больше.

Он стал приходить на работу раньше — к семи утра, когда офис был ещё пуст. Уходить — ровно в шесть, не задерживаясь. Обедал за столом, не поднимая глаз от экрана — ел что-то, принесённое из дома в пластиковом контейнере, жевал механически, не чувствуя вкуса. На её сообщения отвечал коротко: «Занят», «Потом», «Извини».

Она пыталась пробиться.

Однажды — это был апрель, четвёртый год, — она подкараулила его у выхода из офиса. Стояла на ступеньках, скрестив руки, и ветер трепал её короткие тёмные волосы, и в свете заходящего солнца она выглядела… Артём не хотел думать, как она выглядела.

— Тебе нужно поесть, — сказала она. — Нормально поесть. В ресторане. С другим человеком напротив. Со мной, если конкретнее.

— Лина, я не могу. У меня…

— Проект. Я знаю. Ты всегда занят проектом. Но послушай меня — не как нейробиолог, а как человек, который…

Она запнулась. Артём увидел, как краска поднимается по её шее — медленно, неровно. Она не краснела легко. Это было усилие.

— …как человек, которому не всё равно, — закончила она. Слова были осторожными, выверенными — но за ними стояло что-то, что осторожностью не было.

Артём стоял на ступеньках и смотрел на неё, и внутри него происходило то, что в физике называется интерференцией: две волны — одна тянула к ней, другая толкала к «Генезису» — накладывались друг на друга, усиливаясь и гася одновременно.

Он мог бы сказать «да». Мог бы пойти с ней в ресторан, сесть напротив, заказать что-нибудь, что он не может произнести без запинки, — пасту с трюфелем, или ризотто, или что там едят люди, когда у них есть жизнь за пределами мониторов. Мог бы слушать, как она рассказывает о крысах и нейронах, и смеяться, и чувствовать, как что-то оттаивает внутри, как лёд весной, медленно и болезненно. Мог бы — потом, когда она проводит его до метро и они будут стоять у входа, не зная, как попрощаться, — мог бы сделать что-нибудь нелогичное, необъяснимое, человеческое.

Но если он сделает это — он потеряет вечер. А вечер — это пять-шесть часов работы. Это десяток экспериментов, которые не будут проведены. Это день, который «Генезис» мог бы стать ближе — и не станет.

Каждый вечер, потраченный на жизнь, был вечером, украденным у мечты.

— Извини, — сказал он. — Я не могу. Правда не могу. Не сейчас.

Лина смотрела на него. Молча. Долго.

Потом кивнула. Один раз, коротко.

— Ладно, — сказала она. — Не сейчас.

Она развернулась и пошла обратно в офис. Артём стоял и смотрел ей вслед — на её спину, на короткие волосы, на руки, опущенные вдоль тела, на шаги — ровные, чёткие, без колебания.

Он хотел окликнуть её. Хотел сказать: Подожди. Я идиот. Я пойду с тобой. Я расскажу тебе всё — про «Генезис», про квантовые процессоры, про мир без ошибок, про маму на холодном линолеуме, про всё. Я хочу, чтобы ты знала. Я хочу, чтобы кто-нибудь знал.

Он не окликнул.

Она скрылась за дверью. Стеклянная дверь качнулась и закрылась.

Артём стоял ещё несколько секунд. Потом повернулся, надел наушники — без музыки — и пошёл к метро.

В правой руке лежал телефон. На экране горело её последнее сообщение — то, старое: «Ты живой?»

Он не ответил тогда.

Он не ответил и сейчас.

На пятый год работы над «Генезисом» Артём решился.

На счету было пятьдесят семь миллионов рублей. Торговая система работала безупречно — он дважды обновлял алгоритм, учитывая изменения рыночной конъюнктуры, и доходность оставалась стабильной. Но для следующего шага нужны были не только деньги.

Нужно было место.

Квартира исчерпала свои возможности. Серверы стояли уже в коридоре — хозяйка квартиры, к счастью, жила в другом городе и не знала, во что превратилась её однушка. Но квартира была слишком маленькой, слишком жаркой, слишком тесной для того, что Артём планировал дальше.

Ему нужна была лаборатория. Настоящая лаборатория. С пространством, изоляцией, мощной электрической подводкой, вентиляцией, системой охлаждения. Место, где можно было бы не только писать код, но и строить.

Он начал искать. Промышленные помещения на окраинах города. Бывшие заводы, склады, мастерские. Искал то, что можно было арендовать дёшево и переоборудовать — вложив деньги, но не все.

Нашёл через три недели. Заброшенный ангар на территории бывшего авиаремонтного завода, в промышленной зоне на юго-востоке города. Завод закрылся пятнадцать лет назад — оборудование вывезли, здания стояли пустые, медленно разрушаясь. Территория принадлежала какой-то инвестиционной компании, которая купила её под застройку, но застройка буксовала — кризис, бюрократия, суды.

Ангар был большой — восемьсот квадратных метров. Бетонный пол, металлические стены, крыша с дырами, через которые было видно небо. Ни отопления, ни водопровода, ни нормального электричества. Пахло ржавчиной и мокрым бетоном.

Артём стоял посередине ангара — один, в куртке с поднятым воротником, потому что было холодно и сквозняк шёл со всех сторон, — и смотрел на пустое пространство.

Он видел не ангар. Он видел лабораторию. Серверные стойки вдоль левой стены. Рабочие станции — вдоль правой. В центре — место для квантовой установки: криостат, экранированная камера, оптические столы. В дальнем конце — спальное место и кухня, потому что он будет здесь жить. Он знал это так же, как знал, что дважды два — четыре.

Аренда стоила сто пятьдесят тысяч в месяц. Переоборудование обойдётся в несколько миллионов — крыша, электричество, отопление, минимальная отделка. Ещё несколько миллионов — на оборудование: криогенные системы, вакуумные насосы, измерительные приборы, материалы для чипов.

Он подписал договор аренды в тот же день.

Переезд был… трудным. Физически — потому что серверы тяжёлые, а грузчиков он нанимать не хотел: слишком много вопросов. Он перевозил оборудование сам, на арендованной «газели», по ночам, за двенадцать рейсов. К концу третьей ночи болела каждая мышца. Тремор в руках усилился настолько, что он не мог открутить болт без помощи плоскогубцев.

Но физическая трудность была ерундой. Главная трудность была — в решении.

Он уволился из «НейроТех».

Это было необходимо. Ангар требовал времени — полного, неразделённого, стопроцентного. Невозможно было работать восемь часов в офисе и потом ночью строить лабораторию. Тело не выдерживало. Мозг не выдерживал. Что-то должно было уступить, и Артём выбрал то, что имело меньше значения.

Заявление он написал коротко: «Прошу уволить по собственному желанию». Без объяснений, без благодарностей, без прощальных слов.

Сергей Валентинович вызвал его на разговор.

— Артём, я тебя слышу. Ты уверен? Ты у нас семь лет. Мы ценим тебя. Я могу предложить повышение, если дело в этом.

— Дело не в этом.

— А в чём?

— Личные причины.

Сергей Валентинович посмотрел на него — без улыбки, впервые на памяти Артёма — и сказал:

— Ты знаешь, что делаешь?

Артём подумал: Нет. Но когда это меня останавливало?

Вслух сказал:

— Да.

Сергей Валентинович протянул руку. Артём пожал её — механически, как всегда. Рука начальника была тёплой и сухой. Артёмова — холодной и влажной.