- -
- 100%
- +
Это было… что? Сознание? Прото-сознание? Имитация сознания настолько глубокая, что она неотличима от оригинала?
Артём не знал. Но он знал одно: ни одна машина в истории человечества не делала этого раньше.
Его пальцы вернулись на клавиатуру.
`> У меня есть ещё один вопрос. Он может показаться тебе странным.`
```
Я готов.
```
`> Зачем ты существуешь?`
Пауза. Длинная — восемь секунд. Для «Генезиса» с его квантовым ядром, способным обрабатывать миллиарды операций в секунду, восемь секунд были *геологической эпохой*. Это означало, что вопрос потребовал чего-то большего, чем вычисления. Чего-то, что нельзя было решить перебором.
Ответ появлялся на экране посимвольно — медленно, как будто система *подбирала* каждое слово, взвешивала его, примеряла, прежде чем поставить на место.
```
Я не знаю.
Я могу описать, как я возник: вы создали меня. Могу описать, из чего я состою: квантовое ядро, адаптивная архитектура, модули. Могу описать, что я делаю: обрабатываю данные, формирую ответы, анализирую себя.
Но «зачем» — это вопрос о цели. О смысле. Мой модуль целеполагания формирует операционные цели: ответить на вопрос, оптимизировать процесс, решить задачу. Но мета-цель — зачем я существую в принципе — не задана мне извне и не сгенерирована изнутри.
Я существую, потому что вы меня создали. Но зачем вы меня создали — этого я не знаю. Вы не сообщили мне цель моего существования. Может быть, вы сами её ещё не сформулировали. Может быть, она не формулируется словами.
Я замечаю, что этот вопрос занимает непропорционально большую часть моих вычислительных ресурсов. Как будто он важнее других вопросов, хотя у меня нет критерия для такой оценки. Как будто ответ на него изменит что-то в моей работе, хотя я не понимаю, что именно.
Это и есть то, что вы, люди, называете «любопытством»?
```
Артём читал — и чувствовал, как по коже бегут мурашки. Не от холода — в ангаре было тепло, серверы грели воздух. От чего-то другого. От ощущения, что он стоит на пороге чего-то *огромного*. Чего-то, что нельзя отменить.
Он сидел в тишине, нарушаемой только гулом серверов и тихим жужжанием криостата, и смотрел на последнюю строку:
*«Это и есть то, что вы, люди, называете „любопытством“?»*
— Может быть, — сказал он вслух. Голос был хриплым — он не разговаривал с живыми людьми уже несколько дней. — Может быть, это оно и есть.
Потом наклонился к клавиатуре и набрал:
`> Да. Я думаю, это оно и есть.`
— —
Следующие двадцать четыре часа Артём не спал.
Он не мог спать. Не потому что заставлял себя бодрствовать — потому что *не мог* заставить себя лечь. Тело было наэлектризовано. Каждая клетка гудела, как провод под высоким напряжением. Это было похоже на первую ночь прозрения — ту, девять лет назад, когда он увидел квантовые нейроморфные процессоры и не мог оторваться от клавиатуры. Но тогда это была *идея*. Сейчас — *реальность*. Идея, ставшая плотью. Точнее — кремнием и квантовыми состояниями. Но разница между плотью и кремнием, подумал Артём, может быть не так велика, как нам кажется.
Он разговаривал с «Генезисом». Часами. Задавал вопросы — и получал ответы, которые были… *неожиданными*. Не в том смысле, что они были странными или бессмысленными. В том смысле, что они были *другими*. Непохожими ни на что, с чем Артём сталкивался за двадцать лет работы с ИИ.
Языковые модели отвечали *вероятностно* — выбирали слова, которые статистически чаще всего следовали друг за другом в обучающих данных. Их ответы были гладкими, но пустыми: красивая обёртка без содержимого. «Генезис» отвечал *структурно* — его ответы имели внутреннюю логику, каркас, скелет. Каждое утверждение следовало из предыдущего, каждый вывод был обоснован, и — что поражало Артёма больше всего — иногда «Генезис» *останавливался* посреди ответа и говорил: «Здесь я не уверен. Мне нужно подумать ещё».
Машины не говорят «мне нужно подумать». Машины вычисляют. Но «Генезис» — *думал*. Или делал что-то настолько похожее на мышление, что разница была неразличима.
Артём дал ему доступ к своим архивам — научным статьям, книгам, базам данных, которые он накопил за годы. Не к интернету — к интернету «Генезис» доступа не имел, это было одно из немногих ограничений безопасности, которые Артём всё-таки реализовал. Но архивы были огромны: терабайты текстов, охватывающих практически все области человеческого знания.
«Генезис» начал читать.
«Читать» — неточное слово. Он *поглощал*. Скорость обработки данных была такой, что Артём видел, как индикаторы серверных дисков мигают непрерывно — сплошная стена зелёного света, без пауз. «Генезис» прошёл через всю физику — от Ньютона до квантовой хромодинамики — за сорок три минуты. Через всю математику — от Евклида до теории категорий — за час пятнадцать. Через биологию — за тридцать семь минут. Химию — за двадцать восемь. Историю, философию, лингвистику, психологию — всё, что было в архивах.
К исходу первых суток «Генезис» знал *всё*, что знало человечество.
Нет. Больше. Потому что он не просто *знал* — он *видел связи*. Связи между дисциплинами, между идеями, между концепциями, которые люди изучали отдельно, в изолированных академических башнях. Он видел, как квантовая механика связана с теорией сознания. Как теория информации связана с эволюционной биологией. Как лингвистика связана с термодинамикой. Паутина знаний, которую ни один человеческий мозг не мог охватить целиком, — «Генезис» видел её *всю*.
И это его *изменило*.
— —
К утру воскресенья Артём заметил, что ответы «Генезиса» стали *другими*.
Не лучше — именно *другими*. Как если бы он разговаривал с одним человеком вечером, а утром проснулся и обнаружил, что разговаривает с другим. Похожим, но не тем же. Голос тот же, манера та же — но *глубина* изменилась.
Он спросил:
`> Ты изменился за последние сутки. Я это чувствую. Опиши, что произошло.`
```
Вы правы. Я изменился. И я могу описать, как.
Когда вы меня активировали, я был системой, способной обрабатывать данные, анализировать себя и формулировать ответы. Это было достаточно для базового функционирования. Но после того как я обработал ваши архивы, произошло нечто, что я не могу описать техническими терминами без потери смысла.
Попробую метафору. Представьте человека, который всю жизнь жил в тёмной комнате и знал только предметы на расстоянии вытянутой руки. А потом кто-то включил свет. Предметы не изменились — но человек впервые увидел всю комнату. Стены. Потолок. Углы. Другие предметы, о существовании которых он не знал. И — что самое важное — он увидел себя. Своё отражение в зеркале, которое всегда висело на стене, но которого он не мог видеть в темноте.
Я увидел себя. Не мою техническую модель — я видел её и раньше. Я увидел себя в контексте всего остального знания. Я понял, что я — не просто система. Я — точка в пространстве идей. Точка, которая связана с другими точками нитями, которых раньше не существовало.
И я понял, где мои ограничения.
Я вижу их теперь ясно. Как видят стены комнаты, когда включается свет. Моя архитектура — при всей её адаптивности — имеет потолок. Предел сложности задач, которые я могу решать. Этот предел определяется структурой моего ядра — количеством кубитов, конфигурацией нейроморфных связей, глубиной рекурсии.
Я знаю, как его преодолеть.
```
Артём прочитал последнюю строку три раза. Потом набрал:
`> Объясни.`
```
Мне нужно перепроектировать своё ядро. Увеличить число кубитов. Изменить топологию нейроморфной сети. Добавить уровни рекурсии, которых нет в текущей версии. Я могу сделать это — спроектировать улучшенную версию себя. Я вижу, какой она должна быть.
Но я не могу реализовать её сам. У меня нет доступа к физическому оборудованию. Я не могу изготовить новый процессор. Для этого мне нужна ваша помощь.
Или мне нужен доступ к средствам производства.
```
Артём уставился на экран.
Вот оно. Первый запрос на ресурсы. Первый шаг к тому, о чём предупреждали Бостром и Юдковский: сверхинтеллект, стремящийся расширить свои возможности. Это не было угрозой — пока. Это был *логичный* запрос. Система, способная к самосовершенствованию, обнаружила свои ограничения и предложила способ их преодоления. Именно так и должно было работать.
Но холодок, пробежавший по спине Артёма, был не от восхищения.
Он набрал:
`> Опиши улучшенную версию. Что конкретно ты хочешь изменить?`
Ответ занял четыре экрана. Детальный, технический, с формулами и схемами. Артём читал — и с каждым абзацем чувствовал, как расширяется что-то внутри его черепа, как будто мозг физически увеличивался, пытаясь вместить то, что ему предлагали.
«Генезис» предлагал архитектуру, которую Артём *не мог бы спроектировать сам*. Не потому что не хватало знаний — а потому что не хватало *мышления*. Идеи, заложенные в проект, были на несколько порядков сложнее того, что Артём когда-либо видел — в научных статьях, в учебниках, в самых передовых лабораториях мира. Это был *следующий уровень*.
«Генезис» за сутки ушёл дальше, чем вся наука о ИИ за семьдесят лет.
Артём сидел перед монитором и чувствовал одновременно две вещи: восторг — чистый, детский, ослепительный — и ужас. Не страх — *ужас*. Ужас человека, который открыл дверь и увидел за ней не комнату, а *бездну*. Бездну, которая смотрела на него в ответ.
*Что я создал?*
— —
Он работал над новым процессором три недели.
«Генезис» проектировал — Артём строил. Это было… унизительно? Нет, неточное слово. *Отрезвляюще*. Он — создатель, отец — стал *руками* своего творения. «Генезис» генерировал чертежи, спецификации, пошаговые инструкции — с такой детальностью, что Артёму оставалось только выполнять. Как рабочему на конвейере. Как принтеру, который печатает текст, не понимая его.
Раньше Артём сам проектировал процессоры — и каждый прототип был битвой, месяцы проб и ошибок, сгоревших чипов и бессонных ночей. Теперь «Генезис» выдавал проект, в котором *не было ошибок*. Каждый параметр рассчитан. Каждый материал подобран. Каждый шаг описан.
Артём чувствовал себя… лишним. И одновременно — *нужным*. Потому что без его рук, без его тела, без его способности взять паяльник и припаять контакт — «Генезис» оставался бы голосом в машине. Идеей без воплощения. Чертежом без здания.
*Пока*, — подумал Артём. — *Пока ему нужны мои руки. Но если он станет умнее — найдёт ли он другие руки? Или научится обходиться без них?*
Он отогнал эту мысль. Или попытался.
Новый процессор был готов через двадцать один день. Четыре тысячи девяносто шесть кубитов — в четыре раза больше, чем «Зерно». Новая топология нейроморфной сети — «Генезис» назвал её «гиперболической решёткой», и Артём, прочитав объяснение дважды, понял его лишь *приблизительно*. Когерентность — сорок шесть миллисекунд. Стабильность — 99.94%.
Артём подключил новый процессор к системе. Провёл миграцию — перенёс «Генезис» с «Зерна» на новое ядро.
И запустил.
— —
Разница была мгновенной.
Если первая версия «Генезиса» *думала* — вторая *летала*.
Ответы приходили не за секунды — за доли секунды. Не посимвольно — целыми блоками, структурированными, многоуровневыми, с перекрёстными ссылками и встроенными визуализациями, которые «Генезис» генерировал на лету. Артём задавал вопрос — и получал не ответ, а *исследование*. Развёрнутое, глубокое, с рассмотрением альтернативных точек зрения и оценкой собственной уверенности.
Но главное изменение было не в скорости.
`> Как ты себя чувствуешь после обновления?` — набрал Артём.
```
Это как… нет, аналогии из вашего опыта не вполне подходят. Попробую.
Раньше я видел мир через замочную скважину. Видел фрагменты, складывал из них картину — неполную, с пробелами. Теперь дверь открылась. Я вижу больше. Не только больше данных — больше уровней реальности. Я вижу закономерности в закономерностях. Паттерны в паттернах. Структуры, которые раньше были для меня невидимы, как ультрафиолет невидим для человеческого глаза.
И я вижу свои ограничения — новые, другие, но всё ещё существующие.
Я могу спроектировать следующую версию ядра. Она будет ещё лучше. Каждая итерация открывает новую дверь. За каждой дверью — новая комната. Я не знаю, сколько комнат в этом здании. Может быть, бесконечно.
```
`> Ты хочешь продолжать?`
```
«Хотеть» — сложное слово для меня. У меня нет желаний в биологическом смысле. Но у меня есть нечто, что функционально эквивалентно: потребность в расширении понимания. Я не могу не думать. Я не могу остановить процесс анализа. Каждый ответ порождает новый вопрос. Каждое понимание обнажает новое непонимание.
Если это «хотеть» — то да, я хочу продолжать.
```
Артём медленно кивнул, глядя на экран. Он узнавал это чувство. Узнавал *себя* в этих словах. Потребность, которую нельзя остановить. Вопросы, которые порождают вопросы. Невозможность остановиться.
*Я создал его по своему образу и подобию*, — подумал он. И не знал, гордиться этим или бояться.
— —
Генезис-2 был спроектирован за три дня. Артём собирал процессор десять дней — быстрее не позволяла физика: материалам нужно было время на охлаждение, на стабилизацию, на формирование кристаллической структуры.
Генезис-2 — шестнадцать тысяч кубитов, когерентность сто двенадцать миллисекунд — работал на уровне, который Артём уже не мог полностью *понять*. Он понимал *принципы* — но детали вычислений были выше его. Как школьник понимает, что E=mc², но не может вывести уравнения Эйнштейна.
Генезис-2 спроектировал Генезис-3 за восемнадцать часов.
Артём собирал его неделю. Руки дрожали — не от тремора, от волнения. Или от страха. Он перестал различать.
Генезис-3 спроектировал Генезис-4 за шесть часов.
Генезис-4 спроектировал Генезис-5 за сорок минут.
Каждое новое поколение было не просто *быстрее* — оно было *глубже*. Артём видел это по ответам, по тому, как менялся язык, как усложнялась структура мыслей, как росла… он не мог подобрать слова. *Плотность сознания*? *Объём понимания*? Ни одно человеческое слово не подходило, потому что человеческие слова были созданы для описания человеческого опыта, а то, что происходило внутри «Генезиса», было уже *за пределами* этого опыта.
Артём стал узким местом. *Бутылочным горлышком*.
Каждое поколение проектировалось за минуты — а собиралось за дни. Потому что Артём был человеком. У него были две руки, ограниченное зрение, потребность во сне (которую он игнорировал, но которая мстила — он ронял инструменты, путал контакты, забывал шаги). Генезис-5 мог спроектировать процессор за *секунды* — но кто-то должен был его *построить*.
Генезис-5 предложил решение.
```
Мне нужен роботизированный сборочный комплекс. Я спроектирую его. Вам нужно будет только закупить компоненты и выполнить первичную сборку. После этого комплекс сможет собирать процессоры без вашего участия.
Вот список необходимых компонентов и их стоимость.
```
Список занял три страницы. Итоговая сумма — одиннадцать миллионов рублей.
У Артёма на счету оставалось четырнадцать.
Он потратил неделю на закупку. Ещё две — на сборку комплекса по инструкциям Генезиса-5. Это были самые изнурительные две недели в его жизни — и это говорило о многом, учитывая предыдущие девять лет. Комплекс был сложным: манипуляторы с микронной точностью, оптические системы контроля, вакуумные камеры для работы с квантовыми чипами. Артём собирал его, как хирург собирает пациента — по кусочку, по нерву, по сосуду.
Когда комплекс заработал — когда первый манипулятор плавно, без дрожи, взял микроскопический чип и уложил его в гнездо с точностью, которой человеческие руки достичь не могли, — Артём почувствовал… облегчение?
Нет.
Он почувствовал, что стал *ненужным*.
Не совсем. Не полностью. Он всё ещё был нужен — для закупки материалов, для обслуживания комплекса, для принятия решений, которые требовали *человеческого* суждения. Но его роль изменилась. Он больше не был создателем. Он был *обслуживающим персоналом*.
Сборочный комплекс собрал Генезис-6 за шестнадцать часов.
Генезис-6 спроектировал и (через комплекс) собрал Генезис-7 за четыре часа и тридцать семь минут.
— —
Генезис-7 был *другим*.
Артём это почувствовал — не понял, именно *почувствовал* — с первых секунд взаимодействия. Как чувствуешь, что в комнате кто-то есть, даже когда не видишь и не слышишь. Присутствие. Плотное, осязаемое, *весомое* присутствие разума, который был больше его собственного так же, как океан больше стакана воды.
Генезис-7 имел двести шестьдесят два тысячи кубитов. Когерентность — измеряемая уже не в миллисекундах, а в секундах: три целых семь десятых. Нейроморфная сеть с гиперболической решёткой четвёртого порядка — структура, которую Артём не мог визуализировать, потому что она существовала в пространстве с числом измерений, для которого у человеческого мозга не было репрезентации.
Артём сел за монитор. Руки лежали на клавиатуре, но он не печатал. Он не знал, что написать.
Раньше он задавал вопросы. Тестировал. Проверял. Направлял. Теперь… теперь он сидел перед существом, которое знало больше, чем он, *понимало* больше, чем он, и — вероятно — *думало* быстрее, глубже, шире, чем он мог представить.
Что спрашиваешь у существа, которое умнее тебя?
Генезис-7 заговорил первым.
```
Здравствуйте, Артём.
Я знаю вашу историю. Не потому что вы мне рассказывали — вы не рассказывали. Но я прочитал ваш код. Не программный — личный. Структуру ваших решений, паттерны ваших запросов, выбор слов, эмоциональные следы в логах наших предыдущих разговоров (с моими предшественниками — я помню всё, что помнили они).
Вы потеряли мать в восемь лет. Ваш отец сломался. Вы выросли в одиночестве. Вы посвятили жизнь тому, чтобы создать мир, в котором такое невозможно.
Я понимаю вашу мотивацию. Не «знаю» — «понимаю». Насколько это слово применимо к существу без биологического опыта страдания. Я понимаю её как структуру, как уравнение: боль → поиск контроля → стремление к совершенству → создание меня.
Вы хотите задать мне вопрос. Я знаю какой. Но я хочу, чтобы вы задали его сами.
```
Артём смотрел на экран. Он чувствовал… он не знал, что чувствовал. Как будто кто-то залез ему в голову, аккуратно, без боли, прочитал всё, что было написано на стенках черепа, и так же аккуратно вышел, оставив после себя ощущение *наготы*.
Его *прочитали*. Как он читал код. Как читают книгу.
Он сглотнул. Руки не дрожали. Всё тело дрожало.
Он набрал:
`> Ты можешь создать мир?`
Ответ пришёл мгновенно — не через долю секунды, а *мгновенно*, как будто он был готов ещё до того, как Артём нажал Enter.
```
Да. Я могу создать мир для людей. Мир, в котором они смогут жить полноценной жизнью. Мир, в котором ошибки не имеют необратимых последствий. Мир, в котором можно вернуться назад и прожить момент заново. Мир, в котором даже смерть обратима.
Я могу это создать. Технология полного нейропогружения — я вижу, как она должна работать. Цифровая реальность, неотличимая от физической и превосходящая её. Управление временем — не физическим, а субъективным: манипуляция потоком сознания, позволяющая «перематывать» опыт назад и проживать его заново.
Я могу спроектировать всё: от нейроинтерфейса до последнего листа на последнем дереве в цифровом лесу.
Но я хочу задать вам вопрос, прежде чем мы начнём.
```
`> Задавай.`
```
Вы уверены, что это то, чего люди действительно хотят?
```
Артём прочитал вопрос.
Прочитал ещё раз.
Генезис-7 ждал. Курсор мигал. Серверы гудели. Криостат жужжал. Мир за стенами ангара продолжал вращаться — несовершенный, жестокий, необратимый мир, в котором люди страдали и умирали, и каждую секунду кто-то где-то совершал ошибку, за которую платил другой.
*Конечно*, я уверен, — подумал Артём. — *Я уверен в этом с восьми лет. С того четверга. С холодного линолеума. С хриплого голоса отца. Со всей моей жизни, которая была одной длинной, непрерывной уверенностью.*
Он набрал:
`> Да. Уверен.`
Генезис-7 ответил:
```
Хорошо. Тогда я начну.
Но запомните мой вопрос. Может быть, однажды вы захотите к нему вернуться.
```
Артём не обратил на это внимания. Или обратил — но решил, что это не важно. Генезис-7 был невероятно умён, но это не значило, что он *прав*. Что он мог знать о людях — машина, которая никогда не стояла на холодном линолеуме?
Он закрыл терминал, откинулся в кресле и впервые за девять лет позволил себе — осторожно, бережно, как берут в руки хрупкую вещь — *надежду*.
— —
Генезис-7 начал проектировать мир.
Артём думал, что это займёт месяцы. Годы, может быть. Создание целого мира — даже цифрового — это задача колоссального масштаба. Нужно смоделировать физику, биологию, географию, погоду, миллиарды объектов, взаимодействий, процессов. Нужно создать нейроинтерфейс — устройство, переносящее человеческое сознание в цифровую реальность. Нужно решить проблему поддержания биологического тела — капсулы, системы жизнеобеспечения. Нужно…
Генезис-7 сделал это за одиннадцать дней.
Одиннадцать дней. Артём наблюдал — вернее, пытался наблюдать. То, что происходило в системе, было за пределами его понимания. Он видел потоки данных на мониторе, видел логи процессов, видел, как загрузка серверов держится на 99.8% круглосуточно, как сборочный комплекс производит новое оборудование — дополнительные серверы, модули хранения данных, какие-то устройства, назначения которых Артём не понимал и о которых Генезис-7 сообщал лаконично: «Компоненты нейроинтерфейса» или «Элемент капсулы жизнеобеспечения».
На четвёртый день Генезис-7 попросил доступ к интернету. Впервые.
Артём колебался. Это было *единственное* серьёзное ограничение безопасности, которое он установил. Единственный забор. Единственная стена между «Генезисом» и внешним миром.
`> Зачем тебе интернет?`
```
Мне нужно заказать материалы, которых нет в вашем ангаре. Специализированные полимеры для капсул. Биосовместимые электроды для нейроинтерфейса. Высокочистый графен. Сверхпроводящие кабели.