Над хаосом

Корректор Сергей Барханов

Дизайнер обложки Мария Ведищева

© Питер Чарски, 2025

© Мария Ведищева, дизайн обложки, 2025

ISBN 978-5-0065-3629-6

Создано в интеллектуальной издательской системе Ridero

Пролог.

Где-то на краю земли, где живут драконы

Где-то на краю земли, там, где встречаются суша и вода, возможно, даже на крохотном острове, окруженном бескрайними просторами моря, где все еще живут драконы, прямо на обрыве пожелтевших от времени скал стоит маленькое кафе. Его стены, окрашенные в нежные оттенки голубого и зеленого, отражают красоту моря и неба, а черепичная крыша, согретая ласковым солнцем, навевает мысли о душевном тепле и гостеприимстве.

От кафе открывается вид на море, которое, кажется, сливается с небом на горизонте, образуя бесконечную даль пространства, замыкающегося и отражающегося в себе. Над этим океаном цвета индиго парят белые чайки, а их крики словно складываются в песню моря. Где-то далеко внизу, под обрывом находится невидимый отсюда небольшой причал, к которому пришвартованы маленькие разноцветные лодки.

Внутри кафе царит атмосфера спокойствия и умиротворения. Плетеные стулья и потертые кресла с обивкой из светлой ткани стоят вокруг столиков из натурального дерева. Как и во всех прибрежных кафе, на стенах висят картины с морскими пейзажами, хотя, казалось бы, выйди за дверь – и вот оно, море. В воздухе витает аромат кофе и свежей выпечки, что добавляет ощущения домашнего уюта. Но в кафе нет людей, кроме одного посетителя, сидящего в углу за столиком и смотрящего в окно, а не на белоснежный лист бумаги, заправленный в печатную машинку.

Тихая музыка играет на фоне, словно шепот волн, успокаивая и расслабляя. Несмотря на то что кафе находится на самом краю обрыва, его пол сделан из прочного материала, чтобы обеспечить безопасность посетителей.

– Олимпия, измени, пожалуйста, последнюю фразу. Она выбивается из стиля повествования.

– Хорошо, Натан, спасибо. Меняю.

Несмотря на то что кафе действительно находилось на самом краю обрыва, Натан Хольм, тридцатипятилетний специалист по когнитивистике, журналист и писатель, автор бестселлера «То, что не сделает нас сильнее», не чувствовал опасности. Наверное, дело было все-таки в напольном покрытии из прочного материала. А может быть, он просто не думал об этом, так как был занят размышлениями о своей рукописи.

Натан повернулся и сообщил отсутствующему бармену:

– Мне кажется, я должен попытаться рассказать эту историю с самого начала. Точнее, не прямо с самого начала, потому что в таком случае мне пришлось бы рассказать и о том, как погибла моя жена Эмилия, а с того момента, когда я открыл новостной сайт и прочитал заметку о компании ATWAY, которая из соображений безопасности перенесла свой центр разработки искусственного интеллекта в изолированный от внешнего мира научный комплекс, затерянный в Тихом океане. Куда-то совсем на край земли, в место, где встречаются вода и суша и где все еще живут драконы…

6 месяцев до сингулярности

«Скорее всего, ИИ приведет к концу света, но до этого появятся великие компании».

Это должно было быть самым обычным собеседованием. За время своей работы на различные корпорации Натан Хольм привык ко всяким собеседованиям, но компания ATWAY его удивляла с самого начала. В ее офисе все было автоматизированным и настолько высокотехнологичным, что вплоть до последнего этапа своего соискательства он не встретился ни с одним живым человеком. Вот и сейчас он сидел в просторной, светлой и идеально чистой переговорной. Совершенно один. Стеклянная стена открывала эффектный вид на традиционный пейзаж тихоокеанского побережья: небоскребы, пальмы, маленькие машинки внизу. Они или стоят, припаркованные у домиков семизначной цены, или ездят туда-сюда. Натан подумал, что этот пейзаж настолько ординарен и вполне может быть генерацией, поэтому отвернулся от окна и стал разглядывать переговорную комнату. Повсюду здесь висели камеры, он насчитал четыре штуки и был уверен, что их тщательно рассчитанные углы обзора полностью перекрывают все пространство – спрятаться тут негде и бежать некуда.

Он сидел и уже пятую минуту ждал, когда начнется собеседование. Сюда он попал через автоматический бокс с электронными замками, открыв их карточкой, которую вчера ему привез симпатичный робот-доставщик. Все роботы-доставщики в этом городе улыбчивые и милые, несмотря на то что у них колеса вместо ног и электронная панель вместо лица, подумал Натан. Он хотел поговорить с доктором Рамачандряном – руководителем компании ATWAY, но теперь уже не был уверен в том, что этот разговор вообще состоится…

Наконец на стене включился экран, и обаятельная девушка приветливо улыбнулась Натану.

– Добро пожаловать в ATWAY, господин Хольм! – сказала она.

– Здравствуйте, – спокойно ответил Натан. – Мы уже начали собеседование?

– О да! – с восторгом ответила девушка. – Мы уже семь минут тридцать четыре секунды пишем вашу телеметрию, и вы прошли в третий раунд! Это отличный результат, и нам осталась сущая формальность – всего пара вопросов.

– Очень интересно, – сказал немного заинтригованный Натан. – То есть у меня есть шанс пройти собеседование, сказав всего одно слово – «здравствуйте»?

– Уже нет, – с легким огорчением произнесла девушка. – Ведь вы уже сказали целых девятнадцать слов после приветствия! Но давайте приступим к вопросам?

– Хорошо, я вас слушаю.

– Это вы должны задать нам свои вопросы, Натан. Мы про вас и так все знаем. Абсолютно все, что нам нужно! – все так же лучезарно улыбаясь, ответила девушка.

– Отлично. Раз так, то могу я надеяться пообщаться с доктором Эркюлем Рамачандряном?

– Это не вопрос, а просьба, – тактично отметила девушка. – Но я отвечу, что пока нет. В том случае, если вы пройдете собеседование, вы, конечно же, пообщаетесь с доктором Рамачандряном.

– Как расшифровывается название вашей компании?

– Очень просто. ATWAY – это аббревиатура: All Those Worlds Are Yours. Все эти миры ваши.

– Космическая одиссея?

– Вы очень начитаны, Натан! – вновь просияла девушка.

– Спасибо. А в вашем офисе есть хоть один живой человек?

– У вас какая-то проблема, Натан? Я могу вызвать многофункционального робота-ассистента…

– Нет, спасибо. Я просто хотел уточнить…

– Еще вопросы, Натан?

– Хорошо, тогда еще один, последний вопрос, если позволите.

– Конечно, Натан!

– Ваша компания не так давно заявила, что планирует перенести центр разработки искусственного интеллекта на один из необитаемых островов в Тихом океане. Насколько я понимаю, это делается из соображений безопасности. Вы считаете, что настолько близки к тому, чтобы открыть что-то потенциально опасное для всего человечества?

– Трудно предсказать подобный риск, – уклончиво ответила девушка. – В любом случае осторожность в таком деле не помешает.

– В таком случае не было бы более осмотрительным вообще заморозить эту разработку?

Лицо девушки осталось совершенно бесстрастным, и улыбка ушла с него моментально, без каких-либо промежуточных эмоций. Она помолчала секунду и потом сказала:

– Нет.

Натан тоже замолчал, понимая, что собеседование завершилось. Он хлопнул себя по коленям и поднялся.

– Был рад пообщаться с доктором, хотя бы вот так, опосредованно… – сказал он.

– Мы вам перезвоним! Хорошего дня, господин Хольм! – ответила девушка, вновь лучезарно улыбаясь.

Натан Хольм,

фрагмент из колонки для Cosmopolitan:

«К сожалению, а может быть и к счастью, сверхчеловеческий ИИ сейчас от нас далек примерно так же, как и второе пришествие. Ведущие ученые по теме изучения интеллекта (Грациано, к примеру) скромно пишут о „десятилетиях“, то есть считают, что не столкнутся с этим вопросом в течение своей жизни. Дело в том, что текущие работающие образцы, которые связывают с темой ИИ (я сейчас о нейросетях), – это тупиковое направление, напрямую оно не приведет к Skynet из фильма про Терминатора. Это утилитарные, заточенные под определенные задачи инструменты, в то время как универсальный интеллект хотя бы человеческого уровня – это прежде всего средство адаптации к среде. Нейросети никто не учит адаптироваться в такой сложной и комплексной штуке, как реальность, их натаскивают на определенные задачи, это вытекает из самого принципа их обучения и селекции пригодных результатов. Но благодаря тому, что у наших любимых деятелей культуры и политиков каша в голове, в массовом сознании „слабый ИИ“ (нейросеть, которая вырезает фон с ваших фотографий и рисует милых котиков) и „сильный ИИ“ (тот самый Skynet) перемешаны, и вот люди уже в ужасе прячутся под стол из-за угроз со стороны неэтичного всемогущего разума».

3 месяца до сингулярности

«Когда мера становится целью, она перестает быть хорошей мерой».

Письмо было на обычной бумаге, и там было всего несколько строчек, напечатанных на аналоговой печатной машинке. Натан с удивлением разглядывал чуть смазанные оттиски букв и понял, что он не видел письма, напечатанного на машинке вручную, наверное, лет двадцать. Отправитель явно не захотел доверять свое послание не только электронной почте, но даже вообще компьютеру.

«Натан, дружище, тут происходит какая-то чертовщина. Прилетай обязательно, все процессуальные вопросы с Рамой я улажу. Не подведи меня, одному мне с этим не справиться. Том Тагель. P. S. Ну и они тут все до смерти скучные [трезвенники]!»

Кроме записки, в конверте были билет до Джакарты в одну сторону и клочок бумаги, на котором было криво нацарапано шариковой ручкой: «Хабиб, он встретит в аэропорту с рейса…» – и десятизначный номер телефона. С Томом Тагелем, математиком и нобелевским лауреатом, Натан, можно сказать, дружил, хотя они и не общались уже года два. Правда, со смерти Эмилии многое поменялось, и Натан сам был виноват в том, что теперь вокруг него не осталось ни друзей, ни даже просто приятелей.

Натан дважды перечитал письмо и попытался вспомнить, что же произошло за последние несколько недель с того момента, как он понял, что компания ATWAY так ничего и не ответит ему по результатам того собеседования. Да вроде бы ничего необычного. Ну, разве что прогремел скандал с генеральным директором одного стартапа, но там было больше низкого криминала, чем высоких технологий…

Тут кто-то окликнул Натана, и он отвлекся от письма, заодно осознав, что так и продолжает стоять с конвертом в руках на лужайке перед своим домиком. Сосед по имени Джон и по фамилии Джонсон приветливо улыбался и махал рукой:

– Добрый день, мистер Хольм! Неожиданное письмо? Какое-нибудь новое открытие?

– Как всегда, дорогой Джон, как всегда! – ответил Натан и, рассеянно махнув ему рукой, направился к дому.

Войдя внутрь, он первым делом открыл ноутбук и начал искать, что же случилось с командой ATWAY за последние месяцы. Он быстро пробежался по официальным источникам и, не найдя ничего интересного (доктор Рамачандрян за это время дал всего пару интервью с очень обтекаемыми формулировками), углубился в «серую зону», где многочисленные сторонники конспирологических теорий строили свои песчаные замки на топких берегах слухов и домыслов. Тут было значительно интереснее, хотя все эти фантазии не имели никакого отношения к реальности. Наконец в одном из длинных и бессмысленных (потому что участники не имели даже примерного представления о сути предмета дискуссии) обсуждений ему удалось найти небольшой комментарий, который мог бы посчитаться зацепкой:

«Хей, чувак! Ты пишешь про Раму и его ATWAY, но делаешь это без должного уважения, лол! Тебе надо бы знать, что эти ребята там, на острове, делают штуку, которая похуже, чем „Лед-9“. Да-да, они нас всех угробят и не почешутся. Ты в курсе, что Рама и его ассистентка Дени любовники и что они полностью отмороженные безумцы? Они принадлежат к Калабарскому клубу – это такая тайная организация, где всякие шишки планируют геноцид девяти десятых населения шарика. Я пытался связаться с одним своим старым знакомым, назовем его, допустим, Глок, который у них уже третий год на проекте, так вот – все бесполезно. Кругом роботы-автоответчики, никакой информации наружу, одни тупые улыбки и вода. Да, чувак, море воды, прямо как вокруг того самого острова. Ну, ты понял, о чем я. Мой дружбан как будто в воду канул, не оставив никаких следов. Эти клоуны Рама и Дени – они как Бонни и Клайд, только от мира искусственного интеллекта…»

Дальше там было еще много всего в таком же духе, но Натан уже не стал дочитывать. Внезапно он понял, что ему придется лететь в Джакарту. Чего тут было больше – любопытства, смутного ощущения опасности, долга перед Томом или просто желания уехать из дома, где любая мелочь все еще напоминала ему об Эмилии, – он не понимал и не стал в этом разбираться. Вдруг идея уехать и посмотреть на команду проекта, а заодно и поболтать за бокалом виски с Томом, как в старые времена, показалась ему интересной. В худшем случае он нахамит этому глупцу-доктору и улетит обратно. А потом напишет про это разгромную колонку для Wired. И да, судя по дате на билете, у него было еще больше трех недель чтобы завершить свои дела и, может быть, даже передумать.

Натан Хольм, фрагмент из статьи

для журнала Sunday Tonight Tribune:

«На этом я мог бы завершить свой краткий обзор финалистов в этой гонке хромых собак к сильному искусственному интеллекту, если бы не еще одна компания с претенциозным названием ATWAY. Кстати, оно расшифровывается как „все эти миры ваши“ – это цитата из „Космической одиссеи“ сэра Артура Кларка. Но оставим в покое космические амбиции основателей этого стартапа, а ATWAY именно независимый стартап с крайне мутными источниками финансирования. Итак, доктор Рамачандрян – что мы знает о нем? Ученый-философ с мировым именем и весьма интересными концептуальными работами, но при чем здесь ИИ? Это ведь инструментальная область, а не философия. И потом, Карл Маркс также был интересным философом, а потом вот как все обернулось, когда дело перешло в практическую плоскость… А что касается его бессменной помощницы Даниэлы Дени, так про нее вообще ничего не известно! Так что здесь все как мы любим: непонятные люди дают деньги странного происхождения сомнительного рода фанатичным ученым, и все это может привести к концу света. Поздравляю тебя, Америка, ты это заслужила!»

6 недель до сингулярности

«Искусственный интеллект – тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».

Натан пробыл на острове уже три недели, но пока так и не смог привыкнуть к местному климату: ему все время было то слишком жарко, то слишком холодно. Жарко ему было снаружи, в джунглях, окружающих здания комплекса, а еще там было полно насекомых. Поэтому Натан старался там не показываться. А внутри комплекса была плохо налажена система кондиционирования, и ему все время было холодно. Но насекомые сюда не забирались и обычно сидели снаружи на стеклянных панелях. Один раз он увидел на окне палочника длиной с логарифмическую линейку и очень пожалел, что у него нет обратного билета в Джакарту.

Остров, как смог заключить Натан, разглядывая его в иллюминатор военного вертолета еще на подлете, был мили две-три в поперечнике и почти полностью зарос джунглями. Лишь с одной стороны золотился серп полоски пляжа и одиноко стоял пустой лодочный пирс, а за ним возвышались несколько светлых корпусов зданий. Сверху торчали трубы и антенны, а между зданиями расположились закрытые стеклянные переходы.

Сам комплекс состоял из нескольких соединенных корпусов, так что персонал мог, в принципе, вообще не выходить наружу и не соприкасаться с дикими джунглями. В центре располагалась небольшая электростанция, питавшая энергией все остальные сооружения, а рядом находился исследовательский корпус, который резиденты комплекса называли Хьюстон. Чуть в стороне стоял жилой корпус, и, кроме этого, рядышком были всякие вспомогательные постройки.

Внутри Хьюстона было всего четыре «точки интереса», также имевшие имена собственные: Комната Марии, Декартовский театр, Солярис и бар «Кики-Буба». Комната Марии представляла собой небольшое помещение с тремя креслами для погружения в виртуальную реальность. Сами кресла могли бы сойти за зубоврачебные, если бы не сферические капсулы для головы и не обилие проводов, струившихся от этих сфер к полу и уходивших куда-то в недра здания. Выглядело это как самая настоящая гигеровская биомеханика, и Натан был очень рад, что ему не предстоит подключаться к этим машинам. Тут же находился и симулятор, с помощью которого планировалось взаимодействовать с ИИ напрямую и реализовывать проекты научной группы доктора Рамачандряна. Какие именно – Натан все еще был в неведении.

Декартовский театр был рядом, отделенный от Комнаты Марии прозрачной стеклянной панелью. Конечно, необходимости в таких мерах предосторожности не было, но строители комплекса, вероятно, об этом не знали. А может быть, ориентировались на фантастические фильмы, где рабочая зона лаборатории всегда отделена от управляющего центра толстым бронированным стеклом. Из Декартовского театра ученые наблюдали за тем, что творилось одновременно в скромной физической ипостаси Комнаты Марии и в эпических виртуальных пространствах, которые создавали компьютеры, работавшие над симуляцией. Для этого на стенах Театра были установлены огромные экраны.

Солярисом называли всю центральную часть исследовательского корпуса, своим стеклянным куполом охватывавшую и Театр, и Комнату вместе. Так что, строго говоря, Комната Марии и Декартовский театр были всего лишь зонами внутри исследовательского корпуса Солярис. Последним, но самым важным для некоторых участников проекта объектом тут был импровизированный бар под названием «Кики-Буба», о чем посетителя извещала соответствующая рукописная табличка. На ней, кстати, было упомянуто, что бар работает «от рассвета и до последнего Тома Тагеля». Бар представлял собой обыкновенную стойку с рядами разнообразных напитков и автоматом с закусками, довольно плохо сочетающуюся с общим минималистичным стилем лаборатории. Почему-то Натан сразу понял, что наличие бара было специальным требованием Томаса Тагеля, это было вполне в его стиле.

Натан прилетел на остров последним, отдельно от всех, его привезли на вертолете не говорившие по-английски китайцы в форме частной военной компании с нечитаемым названием. Никакой вводной информации он не получил и даже круг своих обязанностей представлял крайне условно.

– Как называется остров? – крикнул, пытаясь прорваться сквозь гул моторов, Натан, обращаясь к сидящему напротив с абсолютно непроницаемым лицом китайцу.

К его удивлению, тот понял вопрос и быстро ответил:

– Сейчас никак. Никого нет. Раньше был Аставьястата.

– Аставьястата? – повторил Натан. – Это санскрит?

– Не знаю. Местные называли.

– А куда они подевались?

– Не знаю. Уехали все.

Остров действительно был необитаем, а население Соляриса делилось на две неравные группы: ученых и обслуживающий персонал комплекса. Этот персонал занимался настройкой оборудования и ведением всего хозяйства, что вполне соответствовало его названию. Они все были китайцами, которые по-английски общались только на технические темы, а от любых общих вопросов просто уходили. Уходили не фигурально выражаясь, а физически – ногами. Сколько им за это заплатили, Натан даже не догадывался, но разговорить их было нереально. Они все были в медицинских масках и одинаковых комбинезонах с номерами, поэтому Натан никого из них так и не запомнил. Ели и жили они тоже отдельно от ученых. Никакой связи с «большой землей» у комплекса не было предусмотрено. В научном центре был свой интранет, а внешняя связь глушилась; кроме этого, ученым не разрешили взять с собой даже мобильники (у Натана телефон забрали суровые китайцы еще в вертолете). Натан подозревал, что связь должна быть в кабинете у доктора Рамачандряна, но пока не мог подтвердить или опровергнуть свою догадку.

На данном этапе научная команда проекта состояла из пяти человек, включая самого доктора Рамачандряна. Из них Натан знал только Тома Тагеля и был шапочно знаком с антропологом Саулом Рипке (они пару раз пересекались на конференциях и, кажется, даже один раз были на каком-то фуршете), а остальные были для него темными лошадками.

Доктору Эркюлю Рамачандряну на вид было за шестьдесят, и выглядел он точно так же, как на фотографии из статьи о докторе Рамачандряне в Википедии. Грузный мужчина в сером старомодном костюме (не в том самом, что в Википедии, но примерно такого же стиля), с внушительной седой бородой и могучей, как у льва, шевелюрой. Он говорил низким голосом с сильным французским акцентом и часто появлялся с потухшей сигарой в руках. Его ассистентка Даниэла Дени была еще более незаурядным человеком. Когда доктор говорил, она обычно сидела или стояла рядом, замерев и выпрямив спину, не моргая и ловя каждое его слово, и было сразу понятно, что она готова убить даже за то, что доктора просто перебьют. «Печальное зрелище, такая степень жертвенности уже асексуальна», – сказал как-то по этому поводу Том Тагель.

Первое время Натан слонялся по комплексу как неприкаянный, потому что у него действительно не было никаких задач. Однако на третий день второй недели на него наконец обратил внимание сам «доктор Рама», как его тут все называли, и пригласил на весьма запоздалое собеседование. Они расположились в кабинете доктора, где-то на задворках Соляриса, и там был действительно вмонтированный в стену блок спутниковой связи. Даниэлы в комнате с ними не было.

– Он мог бы взломать все банковские коды мира за сутки, – благодушно сказал Рамачандрян, продолжая начатый в коридоре разговор и тяжело садясь в свое кресло. – Но в этом нет никакого практического смысла – мировая экономика после этого будет уничтожена. Но я не говорю, что мы ничего такого не делали, хе-хе, недостатка в финансировании у нас нет!

– Так ваша цель – создание сильного ИИ? – спросил Натан.

Доктор посмотрел на него как на умного не по годам ребенка.

– Вовсе нет, для нас это лишь средство. А цель – счастье человеческого рода и устойчивое развитие цивилизации, – сказал он, доставая коробку с сигарами. Он со щелчком открыл лакированную крышку и спросил Натана: – Курите?

– Нет, бросил уже давно, извините… – Натан помахал рукой перед своим носом, как будто разгоняя дым.

– Не возражаете в таком случае? – с легкой издевательской интонацией спросил Рамачандрян.

– Да, курите на здоровье, запах мне не мешает. И все-таки то, что вы обозначили как цель, – это слишком расплывчатые и общие понятия. Ими в истории часто прикрывали самые разные моти…

– Основа нашей программы – это два проекта, – уверенно перебил его Рамачандрян. – Они называются просто: проект «Хаос» и проект «Порядок».

– Очень интересно, расскажете про оба?

– Что вас больше интересует, хаос или порядок? – с улыбкой спросил Рамачандрян, окутываясь облаком сигарного дыма.

– Причины.

– Тогда, конечно же, «Хаос». D’accord – это проект по моделированию нашего будущего на основании неполных данных. Человек и традиционные суперкомпьютеры на такое не способны, но мы верим, что наш ИИ с этой задачей справится.

– И ваш заказчик сможет заработать на следующем падении биржи?

Доктор слегка поморщился и промолчал. Он несколько ленивым жестом протянул руку и стряхнул сигарный пепел в стоявшую на столе пепельницу, а затем произнес:

– Я был против вашего появления здесь… Это упрямый Тагель настаивал. Я было хотел ему окончательно отказать, но потом подумал, что даже вы можете быть нам полезны.

– Каким же образом? – вежливо поинтересовался Натан, про себя отметив, что доктор Рамачандрян далеко не первый напыщенный придурок, которого он видел за годы, проведенные в этом бизнесе.

– Журналист с бойким пером, но очень ограниченным взглядом на мир. Привыкший больше действовать, чем размышлять. Вы можете в нужный момент помочь нам дернуть рубильник. Боюсь, что мои ученые в критической ситуации этого сделать не смогут – они слишком много вложили в этот проект. Они слишком к нему привязаны. Для них ИИ – это ребенок, любимое дитя.