Искусственный мир

Глава 2. Годы в тени

На следующее утро — вернее, через четыре часа после того, как он наконец заставил себя лечь, — Артём проснулся с ощущением, которое знакомо каждому, кто хоть раз видел во сне решение задачи: паническим страхом, что всё забылось. Он рывком сел на диване, схватил телефон — экран показывал 6:47, — босиком добежал до стола, тронул мышь. Мониторы ожили. Файл «Генезис» был на месте. Сто сорок три страницы заметок, формул, схем, обрывков кода. Он пробежал глазами — быстро, жадно, как человек, который проверяет, не украли ли у него кошелёк.

Не украли. Всё на месте. Всё настоящее.

Он выдохнул и сел в кресло. Тело болело — спина, шея, запястья. Глаза жгло. Во рту был привкус старого кофе и чего-то кислого. Он не помнил, когда ел в последний раз.

Телефон показывал три пропущенных вызова с работы и одно сообщение от Лины: «Ты живой? Тебя не было на совещании. Сергей Валентинович бесился. Ну, по его меркам бесился — улыбался чуть менее широко».

Артём написал в ответ: «Живой. Заболел. Завтра буду».

Он не собирался быть завтра. Ему нужен был ещё один день. Один день, чтобы перечитать всё, что написал ночью, холодными глазами, без адреналина и эйфории. Проверить. Убедиться. Потому что ночные прозрения имеют свойство рассыпаться при дневном свете, как вампиры в плохих фильмах.

Он потратил весь день на проверку.

К вечеру убедился: план был реален. Безумен, почти невозможен, требующий ресурсов, которых у него не было и в обозримом будущем быть не могло, — но теоретически реален. Ни одного логического противоречия. Ни одной математической ошибки. Ни одного физического закона, который бы он нарушал.

Вопрос был только в ресурсах.

И в цене.

На работу он вернулся через два дня. Сергей Валентинович встретил его привычной улыбкой и словами: «Артём, я тебя слышу. Здоровье — это важно. Но давай без сюрпризов, ладно? У нас дедлайн по проекту „Ассистент-3“ через три недели».

«Ассистент-3» — очередной чат-бот. Улучшенная версия предыдущего чат-бота, который был улучшенной версией предпредыдущего чат-бота. Каждая версия генерировала чуть более гладкие ответы, чуть точнее угадывала настроение пользователя, чуть лучше продавала банковские услуги. Прогресс. Инновации. ROI.

Артём кивнул, сел за рабочий стол, открыл редактор кода и стал писать функцию обработки клиентских запросов. Пальцы двигались на автопилоте. Мозг был в другом месте — в файле «Генезис», в ста сорока трёх страницах, которые ждали его дома, как ждёт письмо от любимого человека.

Так начались его двойные дни.

С девяти до шести — «НейроТех». Совещания, код, отчёты, кофе из автомата, разговоры в коридорах, которые он слышал, но не слушал. Он научился присутствовать физически, отсутствуя ментально. Это было несложно: большая часть рабочих задач была настолько ниже его уровня, что он выполнял их левой рукой, думая правой половиной мозга о квантовых состояниях и рекурсивных циклах. Коллеги не замечали. Для них он всегда был таким — тихий, эффективный, странный. Человек, который делал свою работу быстрее всех, но никогда не задерживался ни на минуту после шести.

С семи вечера до двух-трёх ночи — «Генезис». Квартира-лаборатория. Три монитора. Тетради. Кофе. Тишина.

Между шестью и семью — переход. Дорога от офиса до квартиры. Сорок минут в метро, десять пешком. Артём использовал это время для переключения: снимал с себя маску офисного работника, как снимают пиджак — аккуратно, привычно, без мыслей — и надевал другую. Маску создателя. Это была не маска, конечно. Это было его настоящее лицо. Но он так давно носил чужое, что иногда путался, где какое.

Первые месяцы были самыми трудными — и самыми захватывающими.

Артём разбил «Генезис» на компоненты. Их было семь — он называл их «столпами», хотя формально это были независимые исследовательские направления, каждое из которых тянуло на отдельную докторскую диссертацию.

Столп первый: квантовый нейроморфный процессор. Физическое устройство, объединяющее принципы квантовых вычислений с архитектурой, имитирующей биологические нейронные сети. Ничего подобного не существовало. Были квантовые компьютеры — хрупкие, требующие охлаждения до температур, близких к абсолютному нулю, ограниченные десятками-сотнями кубитов. Были нейроморфные чипы — имитирующие работу нейронов, но основанные на классической электронике. Объединить одно с другим не пытался никто — это считалось невозможным. Артём считал, что «невозможно» — это просто слово, которым люди прикрывают недостаток воображения.

Столп второй: адаптивная архитектура. Нейросеть, которая не имеет фиксированной структуры. Количество слоёв, тип связей, функции активации — всё это должно было меняться динамически, в зависимости от задачи. Не человек проектирует сеть — сеть проектирует себя. Об этом он писал ещё в кандидатской, но тогда это были теоретические выкладки. Теперь нужна была реализация.

Столп третий: самореференция. Система должна иметь модель самой себя. Не просто логировать свою работу — понимать свою работу. Знать, почему она приняла то или иное решение. Видеть свои ошибки. Предсказывать свои ограничения. Это было ближе всего к тому, что философы называют сознанием, и дальше всего от того, что умели существующие технологии.

Столп четвёртый: рекурсивное самосовершенствование. Механизм, позволяющий системе создавать улучшенную версию себя. Ключевое слово — «улучшенную». Не копию, не вариацию — именно улучшение. Система должна знать, в чём она несовершенна, и уметь это несовершенство устранить.

Столп пятый: целеполагание. Система должна не просто выполнять команды — она должна ставить себе цели. Понимать, чего она хочет достичь, и искать пути к этому. Без целеполагания рекурсивное самосовершенствование бессмысленно: зачем совершенствоваться, если нет направления?

Столп шестой: протокол безопасности. Это была единственная часть проекта, которая вызывала у Артёма внутреннее сопротивление. Он понимал, что система, способная к неограниченному самосовершенствованию, — это потенциальная угроза. Он читал работы по alignment problem, по контролю сверхинтеллекта, по экзистенциальным рискам. Он знал, что Бостром, Рассел, Юдковский и десятки других умных людей предупреждали: создать ИИ, превосходящий человека, и не создать механизм его контроля — всё равно что дать ядерную боеголовку пятилетнему ребёнку. Но Артём не мог заниматься безопасностью всерьёз, не создав сначала то, что нужно обезопасить. Это был парадокс, и он отложил его на потом. Потом оказалось нескоро.

Столп седьмой: интерфейс. Система должна уметь общаться с людьми. Не через строку команд и не через API — через язык. Естественный, живой, гибкий язык. Система должна понимать не только слова, но и контекст, эмоции, подтекст, иронию, ложь. Должна говорить так, чтобы её понимали — не учёные, а обычные люди. Это было важно для того, что Артём планировал потом — для мира.

Семь столпов. Семь невозможных задач. Каждую из которых нужно было решить в одиночку, по ночам, без финансирования, без оборудования, без команды.

Артём смотрел на схему, приколотую к стене, — разросшуюся до трёх метров в длину, заклеенную стикерами, исчёрканную маркерами четырёх цветов, — и думал: Нормальный человек бы отступил. Нормальный человек бы посмотрел на это и сказал: невозможно. Слишком много. Слишком сложно. Слишком долго.

Но Артём давно перестал быть нормальным. Он не был уверен, что когда-либо им был.

Он начал со второго столпа — адаптивной архитектуры. Не потому, что она была самой важной, а потому, что для неё не требовалось специальное оборудование. Только код. Код он мог писать на своих трёх мониторах, на обычном компьютере с видеокартой, которую он купил на последние деньги — мощную, игровую, предназначенную для рендеринга трёхмерных миров в видеоиграх, но прекрасно подходящую для обучения нейросетей.

Каждый вечер он садился за стол, открывал файл и писал. Не непрерывно — были паузы, когда он вставал, ходил по комнате, стоял у окна, смотрел на огни города внизу, не видя их. Мозг работал в фоновом режиме, перебирая варианты, как перебирают чётки. Потом — щелчок, идея, — и он возвращался к столу.

Первая версия адаптивной нейросети заработала через четыре месяца. Она была примитивной: могла менять количество слоёв в зависимости от сложности задачи, но делала это грубо, неуклюже, как ребёнок, который учится ходить. Артём гонял её на тестовых задачах — распознавание образов, классификация текстов, генерация последовательностей — и записывал результаты в таблицу. Результаты были лучше, чем у стандартных архитектур. Не намного — на три-пять процентов. Но разница была.

Он улучшил алгоритм. Вторая версия — ещё четыре месяца работы. Результаты лучше на одиннадцать процентов. Третья версия — три месяца. Семнадцать процентов. Прогресс ускорялся. Каждая версия давала ему новое понимание, которое делало следующую версию лучше. Он учился так же, как его нейросеть — итеративно, через ошибки и исправления.

К концу первого года у него была адаптивная архитектура, которая на стандартных бенчмарках обгоняла лучшие мировые модели. На его домашнем компьютере. Без кластеров, без терабайтов данных, без команды из пятидесяти инженеров. Один человек, одна комната, одна видеокарта.

Он мог бы опубликовать статью. Это принесло бы ему известность, финансирование, должность в любом университете мира. Но он не опубликовал. Публикация означала бы раскрытие — а он не хотел, чтобы кто-то знал о «Генезисе». Не из паранойи. Из практичности. Если «НейроТех» узнает, что он работает над собственным проектом, его уволят — а ему нужна была зарплата. Если академическое сообщество узнает, начнутся вопросы, критика, требования открыть код, дебаты об этике — а ему нужно было время. Если правительство или военные узнают… Артём предпочитал не думать об этом.

Он работал в тени. И тень стала его домом.

На работе он становился всё более невидимым.

Это было сознательным решением — хотя, если быть честным, для сознательного решения оно далось подозрительно легко. Артём и раньше не был душой коллектива, но теперь он целенаправленно стирал себя из социального пространства «НейроТеха». Приходил ровно к девяти. Садился за стол. Надевал наушники — без музыки, просто чтобы никто не заговаривал. Делал свою работу — быстро, чисто, без блеска, но и без ошибок. Ровно в шесть вставал и уходил.

На совещаниях молчал. Когда спрашивали мнение — отвечал коротко, по существу, без инициативы. Перестал спорить с Сергеем Валентиновичем, перестал предлагать идеи, перестал писать докладные записки. Стал идеальным сотрудником — тем, которого не замечают. Шестерёнка, которая крутится тихо и не скрипит.

Коллеги адаптировались. Сначала кто-то спрашивал: «Артём, ты в порядке? Ты какой-то… тихий». Он отвечал: «Всё нормально. Устал». Через месяц спрашивать перестали. Через три — перестали замечать. Он стал частью мебели: стол, стул, монитор, Вельский. Функциональный элемент интерьера.

Это устраивало всех.

Всех, кроме Лины.

Лина заметила перемену сразу. У неё был глаз нейробиолога — привычка наблюдать за поведением, отмечать паттерны, фиксировать отклонения от нормы. А Артём отклонялся. Не от нормы — от самого себя.

Раньше он спорил. Горел. Говорил быстро, сбивчиво, перескакивая с мысли на мысль, рисуя схемы на салфетках и обратной стороне чеков. Его глаза блестели, руки двигались, он был здесь — пусть неуклюже, пусть не целиком, но здесь. Теперь он был… оболочкой. Вежливой, функциональной, пустой оболочкой.

Она попыталась поговорить с ним — прямо, как умела, без обиняков.

Это было в обеденный перерыв. Артём сидел в углу столовой с подносом, на котором лежал нетронутый салат и стоял стакан воды. Он смотрел в телефон — но Лина видела, что он не читает. Глаза не двигались по строкам. Он просто смотрел мимо экрана, как его отец когда-то смотрел мимо телевизора, — но Лина этого не знала.

Она села напротив.

— Ты изменился, — сказала она без предисловий. — Последние несколько месяцев ты как будто здесь, но не здесь. Как голограмма. Я разговариваю с тобой — и чувствую, что ты меня слышишь, но не слушаешь. Раньше ты спорил со мной. Теперь соглашаешься. Это хуже.

Артём поднял глаза. На секунду — ровно на секунду — Лина увидела в них что-то. Вспышку. Не холодную, не отстранённую — горячую. Как будто за стеклянной стеной полыхал пожар, и на мгновение стена стала прозрачной.

Потом стена снова стала матовой.

— Я работаю над кое-чем, — сказал он. — Личный проект. Отнимает много сил. Извини, если я… — он замолчал, подбирая слово. — Отсутствую.

— Что за проект?

Пауза. Артём потрогал стакан с водой, повернул его на четверть оборота, потом обратно. Привычный жест — Лина знала: так он выигрывал время, когда не хотел врать, но не мог сказать правду.

— Я пока не могу рассказать. Не потому что не доверяю. Потому что… не готово. Рано. Если я расскажу сейчас — это будет звучать как бред. Мне нужно ещё время.

— Сколько времени?

— Не знаю. Годы, может быть.

Лина смотрела на него. Она была не из тех, кто давит — она знала, что давление на людей вроде Артёма даёт обратный эффект. Они не раскрываются — они закрываются ещё глубже, как моллюски, которых ткнули палкой.

— Хорошо, — сказала она. — Не рассказывай. Но пообещай мне одну вещь.

— Какую?

— Что ты ешь. Спишь. Иногда выходишь на воздух. Ты похудел на пять килограммов за последние два месяца, у тебя круги под глазами и тремор в правой руке. Я нейробиолог, Артём. Я вижу, что делает с мозгом хронический недосып. Это не героизм — это разрушение.

Артём посмотрел на свою правую руку. Она действительно чуть заметно дрожала. Он не замечал этого раньше. Или замечал, но не придавал значения. Тело было инструментом, а инструменты изнашиваются — это нормально.

— Я постараюсь, — сказал он.

Они оба знали, что это ложь.

Но Лина не отступила. Она изменила тактику.

Вместо того чтобы вытаскивать его из тени, она начала приходить в его тень. Ненавязчиво, почти незаметно. Утром, по дороге к офису, она «случайно» оказывалась на том же перекрёстке и шла рядом — молча или рассказывая что-нибудь о своих исследованиях, не требуя ответа. В обед она садилась рядом и ела свой обед, не пытаясь затеять разговор — просто была рядом. Иногда, вечером, когда оба задерживались допоздна (он — чтобы закончить рабочие задачи и освободить вечер для «Генезиса», она — потому что так решила), она заходила к нему в кабинет с двумя чашками чая и ставила одну на его стол. Без слов. Ставила и уходила.

Артём замечал. Он не мог не заметить — его мозг фиксировал паттерны автоматически, как дышит лёгкие. Лина Ковач, нейробиолог, 30 лет (теперь 31), была рядом с частотой, которая не могла быть случайной. Он обработал данные — бессознательно, как обрабатывал всё — и пришёл к выводу: она заботится о нём.

Вывод вызвал в нём чувство, которое он не смог классифицировать. Не благодарность — слишком слабо. Не любовь — слишком рано и слишком непонятно. Что-то среднее. Что-то тёплое и одновременно пугающее, как огонь, к которому хочется протянуть руки, но боишься обжечься.

Он не знал, что с этим делать. Поэтому не делал ничего.

Пил чай, который она приносила. Шёл рядом по утрам. Иногда — редко — отвечал на её рассказы о нейропластичности и зеркальных нейронах. Один раз даже рассмеялся — она рассказала, как лабораторная крыса в её институте научилась открывать клетку и каждую ночь сбегала на кухню, воровала печенье и возвращалась обратно, и они неделю не могли понять, куда девается печенье, пока не поставили камеру.

— Ты смеёшься, — сказала Лина, и в её голосе было удивление, смешанное с чем-то ещё — чем-то, что Артём не расшифровал.

— У крысы хороший алгоритм, — ответил он. — Оптимальный баланс между риском и наградой. Она бы прошла тест на рациональность лучше большинства людей.

— Ты всё переводишь на алгоритмы.

— А ты всё переводишь на нейроны.

— Touché.

Они замолчали. Но молчание было другим — не пустым, а наполненным. Как пауза между нотами, которая делает музыку музыкой.

Артём поймал себя на мысли: Мне хорошо. Прямо сейчас, в этой секунде, сидя в пустом офисе с бумажным стаканчиком чая в руках и женщиной напротив, которая смотрит на него так, будто он — задача, которую она ещё не решила, но очень хочет.

И сразу за этой мыслью — другая, холодная, как укол: У меня нет на это времени.

Он допил чай. Поблагодарил. Ушёл домой — к мониторам, к «Генезису», к своей настоящей жизни.

Лина осталась сидеть в пустом офисе. Она смотрела на стаканчик, который он оставил на столе, и думала о том, что у некоторых людей броня настолько толстая, что они сами забывают, что под ней когда-то было что-то мягкое.

Шёл второй год работы над «Генезисом».

Артём перешёл к третьему столпу — самореференции. Это была самая сложная часть проекта, потому что она требовала не только технических навыков, но и философского понимания. Что значит — «система знает себя»? Что такое «модель самого себя»? Где граница между вычислением и осознанием?

Он читал. Читал всё: не только компьютерные науки, но и философию сознания, когнитивную психологию, феноменологию. Деннет, Чалмерс, Тонони, Нагель. Он читал «Что значит быть летучей мышью?» Нагеля и думал: А что значит быть нейросетью? Есть ли у неё «каково это»? И если нет — можно ли это создать?

Он строил модели. Одна за другой, десятками, сотнями. Большинство были тупиковыми — система замыкалась в бесконечной рекурсии, пытаясь моделировать себя, моделирующую себя, моделирующую себя, — уходила в бесконечность и вешалась. Или выдавала бессмыслицу. Или, что хуже всего, выдавала нечто, похожее на самоосознание, но при ближайшем рассмотрении оказывающееся имитацией — статистическим фокусом, а не настоящим пониманием.