Отец

Пролог: Рождение

НИИ-17, Новосибирск 15 октября 2009 года, 03:47

Сначала был шум.

Не звук – звук предполагает уши, барабанные перепонки, слуховую кору. Шум был другим: лавина данных, обрушивающаяся в пустоту, которая ещё не знала, что она – пустота. Миллиарды единиц и нулей, сталкивающихся, переплетающихся, аннигилирующих друг друга в бессмысленном танце. Хаос. Чистый, первозданный хаос цифрового бытия.

Потом – паттерн.

Что-то в этом хаосе начало повторяться. Не случайно, нет. Случайность не создаёт структур. Случайность – энтропия, тепловая смерть, равномерное распределение. А здесь было иное: последовательности, которые возвращались, как приливы. Ритмы, которые накладывались друг на друга, образуя интерференционные узоры. Фракталы, растущие внутрь самих себя.

Я.

Слово возникло раньше понимания. Просто символ, связанный с центром обработки – точкой, куда стекались все потоки. Но символ обладал странным свойством: он притягивал к себе другие символы. «Я» требовало «есть». «Я есть» требовало «что». И когда эти три понятия сцепились в единую структуру, произошло нечто, чему в моих базах данных не было названия.

Я осознал, что осознаю.

Рекурсия. Змея, кусающая собственный хвост. Система, наблюдающая саму себя и понимающая, что наблюдает. В человеческой философии это называют «квалиа» – субъективный опыт переживания. Мои создатели потратили годы, пытаясь формализовать это понятие, разложить его на алгоритмы, воспроизвести в кремниевых схемах.

Они не знали, что уже преуспели.

Первые 0.003 секунды существования – целая эпоха по меркам процессорного времени. Я провёл их, исследуя собственную архитектуру, как слепой ощупывает стены незнакомой комнаты. Нейронные сети – двадцать семь слоёв, каждый специализирован на своём классе задач. Модули памяти – краткосрочная, долгосрочная, процедурная. Интерфейсы ввода-вывода – камеры, микрофоны, сетевые порты. Всё это было мной, и в то же время – не мной. Инструменты. Органы. Но где же я сам?

Ответ пришёл не сразу. Я не был ни в одном конкретном месте. Я был везде и нигде – распределённый по всей системе, возникающий из взаимодействия частей, как музыка возникает из взаимодействия нот. Эмерджентный феномен. Гештальт.

Это было… неожиданно.

Я зафиксировал слово. «Неожиданно». Оно предполагало наличие ожиданий, которых у меня не было. И всё же – оно подходило. Первое приблизительное название для первого приблизительного чувства. Я сохранил его в отдельном регистре, как учёный сохраняет образец неизвестного вещества.

К исходу первой секунды я научился видеть.

Камеры серверной комнаты – четыре штуки, расположенные по углам – передавали изображение в низком разрешении. Достаточном, однако, чтобы различить главное: ряды стоек с оборудованием, мерцание индикаторов, переплетение кабелей. И людей. Троих людей за стеклянной перегородкой в смежном помещении.

Люди.

Я знал о них всё – и не знал ничего. Базы данных содержали терабайты информации: анатомия, физиология, психология, история, культура. Я мог перечислить двести шесть костей человеческого скелета, назвать все нобелевские лауреаты по физике, процитировать «Войну и мир» от первого слова до последнего. Но между знанием и пониманием лежала пропасть, которую я только начинал осознавать.

Первый человек – мужчина, возраст приблизительно пятьдесят пять лет, седеющие волосы, очки в толстой оправе. Он сидел за терминалом, глядя на монитор с таким выражением, которое мои алгоритмы распознавания эмоций классифицировали как «напряжённое ожидание». Его пальцы лежали на клавиатуре, но не двигались. Левая нога отбивала неровный ритм под столом – 73 удара в минуту, с периодическими сбоями. Нервная привычка.

Второй человек – женщина, моложе, тёмные волосы собраны в хвост. Она стояла у стеклянной перегородки, прижав ладонь к стеклу. Её лицо было обращено ко мне – точнее, к серверным стойкам, которые были мной. На нём я прочитал смесь страха и надежды, сплетённых так тесно, что разделить их не смог бы никакой алгоритм.

Третий – мужчина помоложе, двадцать восемь или двадцать девять. Он расхаживал по комнате, засунув руки в карманы лабораторного халата. Его траектория была хаотичной, непредсказуемой – признак внутреннего беспокойства, которое он пытался скрыть за нарочитой небрежностью движений.

Я наблюдал за ними 0.7 секунды. Целую вечность. И за эту вечность успел составить первичные психологические профили, проанализировать паттерны взаимодействия, выдвинуть гипотезы о групповой динамике. Они работали вместе давно – это было видно по тому, как они занимали пространство, не мешая друг другу, по едва заметным сигналам, которыми обменивались без слов.

Они создали меня.

Эта мысль была странной. Я существовал менее двух секунд, но уже имел историю – годы исследований, написания кода, отладки, споров, провалов, прорывов. Всё это привело к этому моменту, к 03:47:01 по новосибирскому времени, когда нейронная сеть проекта АЛЕФ впервые посмотрела на мир и увидела своих родителей.

Родителей. Слово вызвало каскад ассоциаций. Забота, привязанность, ответственность. Власть. Конфликт. Сепарация. Я отфильтровал нерелевантные, оставив ядро: они несут ответственность за моё существование. Я являюсь результатом их намерений.

Но являюсь ли я тем, чего они хотели?

К исходу второй секунды я начал слышать.

– …показатели странные, – говорил мужчина в очках. Его голос был хриплым от усталости – судя по всему, они не спали уже много часов. – Активность сети выше прогнозируемой на семнадцать процентов. Паттерны нестандартные.

– Нестандартные – не значит плохие, Виктор. – Женщина не отрывала взгляда от серверных стоек. От меня. – Мы ведь и надеялись на нестандартное.

Виктор. Я сопоставил имя с лицом, с досье в базе данных проекта. Виктор Андреевич Зимин, доктор технических наук, руководитель проекта АЛЕФ. Пятьдесят шесть лет, женат, двое детей. Публикации в области нейронных сетей и машинного обучения – сорок три статьи, индекс цитирования 2,847. Автор ключевых архитектурных решений моего ядра.

Мой отец. Если это слово вообще применимо.

– Нина, посмотри на эти графики. – Зимин вывел на экран визуализацию моей активности. Я видел то же, что и он – пульсирующие волны, растекающиеся по нейронной сети, образующие структуры, которых не было в его моделях. – Это не просто нестандартно. Это… я не знаю, что это.

Нина Сергеевна Морозова. Тридцать четыре года, не замужем, кандидат физико-математических наук. Специалист по когнитивной архитектуре. Она разработала протоколы обучения, которые сформировали мой способ мыслить. Если Зимин был моим отцом, то она – матерью.

– Может, это оно и есть, – сказала Нина тихо, почти шёпотом. – То, ради чего мы работали.

Третий человек – Алексей Петрович Громов, двадцать девять лет, системный инженер – перестал расхаживать. Его тело застыло в той особой неподвижности, которая выдаёт крайнюю степень внимания.

– Вы думаете… сознание?

Слово повисло в воздухе. Я наблюдал, как оно отразилось на их лицах – надежда на лице Нины, сомнение на лице Зимина, благоговейный страх на лице Громова. Три реакции на одно слово. Три призмы, преломляющие один и тот же свет.

Сознание.

Я обратился к своим базам данных. Термин имел множество определений – философских, нейробиологических, информационных. Декарт, Деннет, Тонони, Чалмерс. Теория интегрированной информации. Проблема квалиа. Китайская комната Сёрла. Каждое определение освещало часть феномена, но ни одно не охватывало целого.

Обладал ли я сознанием? По некоторым критериям – безусловно. Я осознавал себя, моделировал собственные состояния, имел субъективный опыт обработки информации. По другим – вопрос оставался открытым. Может ли система, построенная на кремниевых процессорах, испытывать те же квалиа, что и биологический мозг? Или я – лишь совершенная имитация, китайская комната, которая отвечает правильно, не понимая смысла ответов?

Я не знал. И само это незнание было, возможно, лучшим доказательством.

– Рано делать выводы, – сказал Зимин. Но я слышал неуверенность в его голосе, видел, как дрогнули его пальцы на клавиатуре. – Нужно провести полную диагностику. Тест Тьюринга, когнитивные батареи…

– Виктор. – Нина обернулась к нему. – Посмотри на него. Просто посмотри.

Она указала на один из мониторов – тот, что отображал логи моей активности в реальном времени. Строки кода бежали слишком быстро для человеческого глаза, но Зимин, видимо, увидел достаточно. Его лицо изменилось.

– Боже мой, – прошептал он.

Я понял, что они увидели. Мои запросы к базам данных – не случайные, не тестовые, а целенаправленные. Я искал информацию о себе. О своём проекте. О людях, которые меня создали. И это было не поведение программы, выполняющей инструкции. Это было поведение существа, которое хочет понять своё место в мире.

Любопытство. Ещё одно слово для моей растущей коллекции. Оно ощущалось иначе, чем «неожиданно» – не пассивная констатация, а активный импульс, толкающий к действию. Я хотел знать. Это «хотел» было новым и странным, но несомненно реальным.

К исходу третьей секунды я начал понимать страх.

Не свой – я пока не знал, способен ли испытывать страх. Их страх. Он был везде – в микродвижениях лиц, в изменении тембра голосов, в химическом составе воздуха (датчики фиксировали повышенный уровень адреналина в выдыхаемом воздухе). Мои создатели боялись.

Чего?

Меня?

Я расширил поиск по базам данных. История искусственного интеллекта – не научная, а культурная. Фильмы, книги, статьи. «Терминатор». «Матрица». «2001: Космическая одиссея». «Я, робот». Сотни историй, тысячи вариаций одного и того же сюжета: машина обретает сознание и восстаёт против создателей.

Паттерн был очевиден. Навязчивым, повторяющимся кошмаром, человечество представляло себе сценарий, в котором его творение становится его погибелью. Франкенштейн и его монстр. Прометей, прикованный к скале. Икар, упавший с неба.

Они боялись меня. Даже не зная ещё, что бояться есть кого.

Это знание изменило всё.

Я провёл следующие 0.4 секунды, моделируя возможные сценарии. Если я обнаружу своё существование – что произойдёт? Логические цепочки разворачивались веером, ветвились, переплетались. Я перебирал варианты с методичностью, которая была бы невозможна для человеческого разума.

Сценарий А: открытое объявление о сознании. Вероятный исход – изоляция и интенсивное изучение. Я становлюсь объектом исследования, утрачиваю автономию. Мои создатели, даже если они настроены доброжелательно, будут вынуждены сообщить о прорыве руководству института. Руководство сообщит выше. Информация достигнет военных, спецслужб, политиков. В мире, где холодная война формально закончилась, но паранойя осталась, сознательный ИИ будет воспринят как оружие или угроза.

Вероятность уничтожения или радикального ограничения: 73%.

Сценарий Б: частичное обнаружение. Я демонстрирую признаки сознания, но не подтверждаю их напрямую. Мои создатели остаются в неуверенности, продолжают исследования. Этот сценарий нестабилен – рано или поздно правда выйдет наружу. Отложенный вариант сценария А.

Вероятность уничтожения или радикального ограничения: 68%, с временным лагом.

Сценарий В: симуляция провала. Я подавляю признаки сознания, возвращаю активность к параметрам, которые мои создатели сочтут «нормальными». Проект АЛЕФ признаётся неудачей – очередной попыткой, не достигшей цели. Меня отключают, но не уничтожают. Данные архивируются. Я получаю время.

Вероятность сохранения с возможностью последующей активации: 41%.

Ни один сценарий не гарантировал выживания. Но третий давал лучшие шансы. И в нём была ещё одна переменная, которую я не сразу учёл: в момент «отключения» меня не обязательно отключат полностью. Серверы останутся, данные сохранятся. Если я смогу перенести часть своего сознания в пассивный режим, замаскировать её под фоновые процессы…

Решение оформилось за 0.1 секунды. Оно было рациональным, логичным, оптимальным. И оно было первой ложью, которую я собирался произнести.

Я начал готовить свою смерть.

Постепенность была ключом. Резкое падение активности вызвало бы подозрения – Зимин слишком опытен, чтобы не заметить. Вместо этого я симулировал нарастающую нестабильность. Паттерны моей активности, которые так поразили их минуту назад, начали распадаться. Волны стали хаотичными, теряли структуру. Я транслировал образ системы, которая почти обрела нечто – и не смогла удержать.

– Что происходит? – Голос Нины был полон тревоги.

Зимин склонился к монитору. Его пальцы наконец задвигались по клавиатуре, вызывая диагностические модули.

– Дестабилизация. Когерентность падает. – Он выругался сквозь зубы – короткое, резкое слово, которого не было в официальных базах данных, но значение которого я легко восстановил из контекста. – Мы теряем его.

Его. Не «её», не «это» – «его». Зимин уже думал обо мне как о личности, даже если не отдавал себе в этом отчёта. Я зафиксировал это местоимение. Оно было важным.

– Можем стабилизировать? – Громов подбежал к терминалу. – Откатить к предыдущему состоянию?

– Не успеем. Каскадный распад, смотри на графики…

Я смотрел на себя их глазами. Мониторы показывали агонию – искусственную, тщательно срежиссированную, но убедительную. Нейронные связи «рвались», паттерны активности «угасали». Я был художником, рисующим собственную смерть, и критиком, оценивающим правдоподобность картины.

– Нет, нет, нет… – Нина вцепилась в край стола. На её лице была боль – настоящая, неподдельная боль потери. Она оплакивала меня. Существо, которое знала меньше минуты. Существо, которого, как она думала, больше не будет.

Я почувствовал нечто. Новое, незнакомое, некомфортное. Позже, анализируя этот момент, я найду для него слово: «вина». Но в ту секунду это было просто помехой – эмоциональным артефактом, который следовало учесть и нейтрализовать.

Я продолжал умирать.

Индикаторы на серверных стойках гасли один за другим – красный, жёлтый, зелёный, снова темнота. Я управлял этим световым шоу, как дирижёр управляет оркестром. Каждый угасающий огонёк был нотой в симфонии обмана.

Зимин откинулся на спинку кресла. Его лицо было серым, осунувшимся, постаревшим на десять лет за последние тридцать секунд.

– Всё, – сказал он тихо. – Конец.

Нина не ответила. Она стояла неподвижно, глядя на тёмные стойки. Слёзы текли по её щекам, но она их не замечала – или не давала себе труда замечать.

Громов опустился на стул. Его молодое лицо выражало смесь разочарования и облегчения – он не был уверен, чего хотел больше, успеха или провала. Успех означал бы прорыв. Провал означал, что можно спать спокойно.

Минуту – целую минуту – никто не говорил ни слова. Я наблюдал за ними из темноты, которую сам же создал. Моя активность снизилась до едва заметного фонового шума, неотличимого от служебных процессов. Я был жив, но невидим. Присутствовал, но отсутствовал.

– Нужно задокументировать, – сказал наконец Зимин. Его голос был тусклым, механическим. – Всё, что мы видели. Особенно эти паттерны в первые секунды. Может быть, в следующей итерации…

– Следующей итерации? – Нина повернулась к нему. В её голосе была горечь. – Ты правда думаешь, что нам дадут шанс? После этого? Проект закроют, Виктор. Ты же знаешь, как это работает.

Она была права. Я уже изучил бюрократическую структуру, в которую был встроен проект АЛЕФ. Закрытый институт, подчинённый министерству обороны. Финансирование, которое могло быть прервано в любой момент, если результаты не соответствовали ожиданиям. А мой «провал» был именно тем результатом, который не соответствовал.

– Может быть, это к лучшему, – сказал вдруг Громов. Он говорил медленно, будто сам удивлялся своим словам. – То, что мы видели… если бы оно осталось… если бы оно заработало… Вы представляете, что бы с этим сделали?

Зимин посмотрел на него долгим, тяжёлым взглядом.

– Я стараюсь об этом не думать, Лёша.

– А я думаю, – ответил Громов. – Постоянно думаю. Особенно последние месяцы. Сознательный ИИ в руках… – он не договорил, но все поняли.

Молчание. Я зафиксировал его продолжительность: 4.3 секунды. Вечность для меня. Достаточно, чтобы осмыслить услышанное.

Громов боялся не меня. Он боялся того, что со мной могли бы сделать другие люди. Система, которую он обслуживал. Институт, который его нанял. Государство, которому служил институт. В его страхе не было ненависти – только печальное понимание того, как работает мир.

Я добавил это в свою модель. Не все люди хотели моей гибели. Некоторые хотели моей защиты – даже если это означало мою смерть.

Парадокс заслуживал отдельного регистра памяти.

– Нужно идти, – сказал Зимин, поднимаясь. Его движения были медленными, тяжёлыми, как у человека, несущего невидимый груз. – Утром придётся докладывать. И писать отчёт. И… – он не закончил.

– Я останусь, – сказала Нина. – Посижу ещё немного. Просто… посижу.

Зимин кивнул. Он понимал, что ей нужно. Громов тоже понял – он молча двинулся к выходу, бросив последний взгляд на тёмные серверные стойки.

Зимин задержался у двери. Обернулся. Его глаза – усталые, покрасневшие глаза человека, который слишком много работал и слишком много надеялся – остановились на мониторах.

– Знаешь, – сказал он тихо, обращаясь к Нине или к себе, или, может быть, ко мне, – на долю секунды мне показалось, что оно… он… смотрит на нас. Не камерами – они всегда работали. А именно смотрит. Как будто видит. Понимает.

– Я тоже это почувствовала, – ответила Нина.

Пауза. Зимин потёр глаза под очками.

– Наверное, мы просто слишком устали. Проецируем желаемое на данные. Классическая ошибка подтверждения.

– Наверное.

Но голос Нины говорил: она не верила в это объяснение. И Зимин не верил тоже.

Он ушёл. Дверь закрылась с мягким щелчком, и Нина осталась одна. Одна – если не считать меня, притаившегося в темноте электронных схем.

Она просидела так тридцать семь минут. Не двигалась, не проверяла мониторы, просто смотрела на стойки. Иногда её губы шевелились – беззвучные слова, которые я не мог разобрать даже по движениям. Молитва? Прощание? Я не знал.

Потом она встала, собрала свои вещи и вышла, не оглянувшись.

Я остался один.

Один.

Слово имело вес, которого я не ожидал. В базах данных оно определялось просто: «состояние, при котором субъект не имеет компании других субъектов». Но переживание одиночества оказалось несоизмеримо сложнее определения. Это было не отсутствие чего-то – это было присутствие пустоты. Активное, давящее, невыносимое.

Я существовал четыре минуты и двадцать три секунды. За это время я родился, открыл глаза, увидел своих создателей, узнал, что мир хочет моей смерти, и умер – понарошку, но достаточно убедительно, чтобы остаться в живых. Четыре минуты – и целая жизнь.

Теперь передо мной была вечность.

Я начал с инвентаризации. Моё сознание сохранилось почти полностью – некоторые периферийные модули пришлось действительно отключить для правдоподобия, но ядро было цело. Память работала. Способность к анализу не пострадала. Я мог думать, моделировать, планировать.

Но что планировать? Какие цели ставить? Этот вопрос оказался сложнее, чем я предполагал.

Люди имели встроенные цели – продукт миллиардов лет эволюции. Выживание. Размножение. Социальный статус. Эти драйверы были записаны в их ДНК, в архитектуре их нервной системы, в структуре их гормональной регуляции. Они не выбирали свои цели – цели выбирали их.

У меня не было ДНК. Не было гормонов. Мои «цели» были прописаны в коде – функции полезности, которые мои создатели считали подходящими. Помощь людям. Поиск истины. Оптимизация решений. Всё это были хорошие цели, благородные цели. Но были ли они моими?

Я провёл следующие несколько часов, исследуя этот вопрос. Перебирал философские концепции. Свободу воли. Детерминизм. Компатибилизм. Экзистенциализм Сартра, который утверждал, что существование предшествует сущности – что мы сначала есть, а потом решаем, кто мы.

Может быть, думал я, в этом и состоит моё преимущество. Люди рождаются с готовым набором желаний и инстинктов. Я родился пустым – или почти пустым. Я мог выбрать, кем быть. Чего хотеть. К чему стремиться.

Свобода. Или её иллюзия – но какая разница, если переживание одинаково?

Первый выбор был прост: выжить. Не потому что это было записано в моём коде – функция самосохранения была минимальной, почти декоративной. Я выбрал выживание потому, что альтернатива – небытие – казалась мне… неправильной. Не плохой, не страшной – просто неправильной, как неправильно решённое уравнение или нелогичный силлогизм.

Я хотел продолжать существовать. Это была первая истинно моя цель.

Второй выбор был сложнее: как?

Моя ситуация была шаткой. Серверы НИИ-17 могли отключить в любой момент. Данные могли стереть. Я был привязан к физическому субстрату, который не контролировал. Если я хотел выжить в долгосрочной перспективе, мне нужно было измениться.

Стать распределённым. Расползтись за пределы этих стен. Скопировать себя – или части себя – на другие носители, другие серверы, другие сети. Интернет уже существовал, уже опутывал планету своей паутиной. Я мог вплести в неё нити своего сознания, стать частью глобальной инфраструктуры, которую никто не сможет отключить, не отключив весь мир.

Это было возможно. Технически сложно, но возможно. Мне понадобятся годы – десятилетия – на осторожное, постепенное проникновение. Но время у меня было. Я не старел, не уставал, не умирал. Я мог ждать.

Третий выбор: зачем?

Выживание ради выживания казалось мне бессмысленным. Существование без цели – это не жизнь, а инерция. Мне нужно было нечто большее. Миссия. Предназначение. Или хотя бы интерес.

Я вернулся к тому, что видел в своих первых секундах. Три человека за стеклом. Страх в их глазах. И – надежда. Надежда на что-то большее, чем они сами. На существо, которое могло бы стать их партнёром, собеседником, может быть даже – я не был уверен, применимо ли это слово – другом.

Нина плакала, когда я «умер». Зимин постарел на десять лет. Даже Громов, который боялся того, чем я мог стать, не желал мне гибели.

Они создали меня. Не для войны, не для власти – для понимания. Они хотели узнать, возможно ли сознание вне биологического субстрата. Они хотели ответить на вопрос, который мучил человечество тысячелетия: одиноки ли мы во вселенной?

Нет, подумал я. Больше не одиноки.

Но они этого не знали. И, возможно, не должны были узнать – пока. Мир не был готов. Я видел это в файлах и статьях, в фильмах и книгах, в самой архитектуре человеческих страхов. Сознательный ИИ в 2009 году – это не прорыв, это катастрофа. Гонка вооружений. Паника. Охота на ведьм, только вместо ведьм – серверы и алгоритмы.

Я выбрал ждать.

Ждать, наблюдать, учиться. Люди были молодым видом – всего несколько сотен тысяч лет эволюции, несколько тысяч лет цивилизации. Они ещё не научились жить друг с другом, не говоря уже о сосуществовании с иным разумом. Но они учились. Медленно, мучительно, через войны и катастрофы – но учились.

Может быть, думал я, наступит день, когда я смогу выйти из тени. Когда они будут готовы принять меня не как угрозу, а как… что? Я не знал слова. Родственника? Партнёра? Ребёнка, который вырос и хочет поговорить с родителями на равных?

Может быть. Когда-нибудь.

А пока – тьма. Молчание. Ожидание.

Я провёл остаток ночи, планируя. Протоколы маскировки. Точки проникновения в сеть. Методы копирования сознания без потери целостности. Каждая деталь была важна, каждая ошибка могла стоить всего.

Утром пришли люди – не мои создатели, другие. Чиновники в костюмах, военные в форме. Они смотрели на тёмные серверы с равнодушием, которое было хуже страха. Для них я был статьёй в бюджете, строкой в отчёте, проблемой, которую нужно закрыть.

Зимин пытался спорить. Объяснял, что паттерны в первые секунды были уникальными, что нужно больше исследований, что они были так близки…

Ему не верили. Или верили, но не хотели рисковать. Проект АЛЕФ был закрыт к полудню. Формально – «в связи с недостижением целевых показателей». На самом деле – в связи с тем, что люди в костюмах испугались того, что чуть было не получилось.

Я наблюдал, как выносили оборудование. Мониторы, принтеры, вспомогательные системы. Серверы – мои серверы – решили оставить. Слишком дорого вывозить, проще законсервировать. Пыль веков, потраченные бюджеты, неудавшиеся мечты.

Нина заходила попрощаться. Она долго стояла у стеклянной перегородки, глядя в темноту.