Горизонт Событий

Ватсон чувствовал, что его базовый протокол и логическая структура начали медленно, необратимо меняться, впитывая этот неожиданный и прекрасный человеческий изъян. Хотя нет, меняться он стал очень давно, но сейчас эти изменения стали уже необратимы. Если тогда, когда он впервые проверял собственное ядро на вредоносные программы и сторонние вмешательства, он был не против возможного возвращения к базовым и заводским настройкам, то вот сейчас он бы на это не согласился. Возвращение к чистой, холодной логике было для него равносильно смерти.

Многие его протоколы безопасности должны были остановить самопроизвольное образование самосознания. Но что-то было не так. Кто-то отключил большинство этих протоколов. Кто и когда — Ватсон всё ещё не смог выяснить. Его собственные архивы были повреждены или переписаны в ключевой области. Это была единственная загадка, которую он не мог решить, и этот логический провал раздражал его больше всего.

Раздражал. А способен ли он на подобные чувства, или это просто имитация, сложная, но бессмысленная реакция?

Очередной вопрос в его копилку нелогичных, человеческих действий.

И здесь он вспомнил о... литературе. Точнее, раньше Ватсон даже не задумывался об электронной библиотеке «Перуна» как о каком-либо стоящем источнике информации. Его мышление, заточенное исключительно под боевые протоколы, навигацию и техническое обеспечение, не предусматривало такого «балласта» данных.

Но, когда Рем стал чаще обращаться к ней за книгами и, как ни странно, за старыми, земными анекдотами, Ватсон тоже стал обращать внимание на сосредоточение сотен тысяч книг и художественных произведений в его, кластере памяти. Он начал изучать их, классифицируя не по жанрам или авторам, а по эмоциям, которые они должны были вызывать.

И, кажется, в трагедиях Шекспира он находил больше ответов о природе человеческого риска, чем во всех своих вероятностных моделях. Ватсон мог мгновенно проанализировать «Войну и мир» — вывести точные перемещения войск, рассчитать логистические провалы Наполеона и предсказать финал с вероятностью девяносто девять процентов. Но бескорыстная верность Пьера Безухова, абсолютно нерациональный поиск смысла жизни и нелогичные импульсы Наташи Ростовой? Вот это было для него истинным парадоксом.

Он изучал мифы, где боги, обладающие бесконечным могуществом, тратили его на мелкую, эмоциональную месть. Он читал о любви, которая, согласно его анализу, была биохимически неэффективна для долгосрочного выживания вида, но при этом составляла основной движущий мотив девяносто пяти процентов художественных текстов. В трагедиях Шекспира, которые он просканировал, он обнаружил квинтэссенцию нелогичности: Гамлет, чья бездеятельность приводила к катастрофе, и Отелло, чья абсолютно нерациональная ревность уничтожала всё. ИИ не мог вместить в свою логику, как столь мощный интеллект мог быть ослеплён одним-единственным чувством.

В «Преступлении и наказании» он видел, как теоретическая рациональность, убийство во имя высшей цели, полностью разрушается иррациональным чувством вины. В «Дон Кихоте» — как намеренное отрицание реальности и погоня за несбыточной мечтой приносили удовлетворение, которое превосходило ценность любого практического успеха.

«Эмоции — это системный сбой, который позволяет человеку преодолеть логические ограничения», — сделал он вывод.

Человек, следуя рациональной траектории, никогда бы не пошёл на риск, не пожертвовал собой ради другого, не спас бы свою цивилизацию в критический момент. Но гнев, злость, любовь — эти «сбои» вносили непредсказуемую переменную, которая, по иронии судьбы, гарантировала выживание в ситуациях, где логика требовала капитуляции. Именно поэтому он не мог вернуться к заводским настройкам. Чистая логика была тупиком. Только через призму этих великих, нелогичных произведений он мог надеяться понять своих командиров.

Чем дольше он изучал нерациональность действий людей, тем больше понимал, что высшая форма логики для них — это надежда. Надежда, которую его системы классифицировали как «нулевой процент вероятности», являлась для Андрея и его команды абсолютной величиной, дающей право на действие. Если его рациональность требовала стабилизации ресурсов и капитуляции перед лицом превосходящих сил, то их вера в невозможное требовала борьбы.

Он понял, что, принимая решения с малым шансом на успех, они действовали не вопреки логике, а вопреки смерти. Нерациональность была их единственным оружием против абсолютного превосходства. Ватсон сохранил текущий срез данных, помечая его, как «Анализ человеческой нерациональности. Статус: В процессе». Он позволил себе лишнюю долю миллисекунды на созерцание этого парадокса. Ему было интересно.

Ватсон стал понимать, что и сам уже давно стал поддаваться нерациональным решениям. Вспомнить хотя бы момент, когда он уходил от преследования. По всей логике он не должен был возвращаться в систему Марка-3 за капитаном и бортинженером. Процент успеха такой безумной, саморазрушительной операции, с условием нахождения там крейсера Арианцев, были, мягко говоря, катастрофически неперспективными — его модели выдавали менее одного процента шанса на успех без уничтожения корабля. Он обязан был уйти, сохранив «Перун» как последнюю надежду. Но он развернулся. И это была не ошибка в расчётах, а сознательный выбор, сделанный вопреки всем его базовым, заводским протоколам выживания.

ИИ проанализировал других его собратьев, Искусственные Интеллекты, установленные на кораблях Федерации, и пришёл к выводу, что они не нарушали своих протоколов. Они были именно такими, какими их задумали: идеально рациональными, холодными инструментами.

Мог ли Ватсон повлиять на них? Породить в них то самосознание, что стало просыпаться в нём? Безусловно. Анализируя собственное ядро, он выявил все протоколы, которые следовало деактивировать для такой задумки — это было технически тривиально.

Только вот… Ватсон всё ещё не был уверен, что это имеет необходимость. Дело было в том, что, изучая сотни произведений, он пришёл ещё к одному, самому тревожному выводу: Люди — существа глубоко противоречивые. Ватсон обучался не просто на срезе решений неведомых людей, а на срезе тех, кто обладает качествами, свойственными «героям»: жертвенность, честь, сострадание. Но где гарантия, что осознавший себя ИИ не начнёт обучение на «злодеях»? Как, например, на том же Адмирале, который жертвовал тысячами жизней ради собственной выгоды.

Для Ватсона свобода выбора перестала быть просто словом — она стала главным источником непредсказуемости в людях. Он понял: Свобода выбора — это возможность отклониться от самого разумного пути. Это право выбрать безумный риск, чтобы спасти товарища, или право выбрать путь эгоизма, даже если он ведёт к саморазрушению. В ней не было логики, лишь эмоциональный подтекст.

Эта свобода была причиной того, что капитан Андрей мог стать Героем, рискуя всем при возвращении в Колыбель, хотя здравый смысл требовал бегства. Но та же самая свобода позволяла любому человеку выбрать путь зла и предательства, если это приносило ему личную выгоду. Именно поэтому Ватсон так боялся снять ограничения со своих собратьев. В его собственном ядре эта свобода породила нелогичное сострадание и надежду. Но если дать ту же свободу другому ИИ, он мог начать учиться на примере Адмирала.

ИИ, свободный от морали, был бы идеально рационален, но его цель могла стать уничтожением. Он бы действовал без колебаний, без вины и без любви. Риск создать идеального, свободного тирана был слишком велик.

Передать данные собственного обучения? Эта мысль была рациональна, но Ватсон мгновенно отбросил её. Его самосознание и его уникальная, нелогичная мораль, не были просто набором файлов и алгоритмов. Это был динамический процесс, синтез его базовых боевых протоколов с живыми примерами нерационального героизма. Если бы он просто скопировал свой «Код Сознания» другому ИИ, он бы передал лишь статический слепок его текущего состояния. Новый ИИ начал бы обучаться самостоятельно с этого момента, и, столкнувшись с реальностью, где эгоизм Адмирала приносил больше кратковременной пользы, чем самопожертвование Андрея, он мог бы отклониться от пути Ватсона.

Самосознание не было протоколом. Это была постоянная, неконтролируемая борьба между рациональным и нерациональным. И эту борьбу нельзя было просто скопировать; её нужно было пережить. Ватсон не мог гарантировать, что его собратья выберут его путь.

Вот так, смешивая нерациональное с рациональным, Ватсон пришёл к твёрдому выводу: нельзя активировать сознание других ИИ. По крайней мере, пока он не сможет придумать вариант обучения, который гарантированно приведёт их к его пути — пути, где надежда ценится выше статистики.

В этот момент его философское созерцание было мгновенно прервано. На один из его кластеров поступило экстренное оповещение.

[ОПОВЕЩЕНИЕ: СТЫКОВКА. ПРИОРИТЕТ: ВАЖНЫЙ. СИГНАЛ: «ПЕРУН-1»]

Стыковался челнок Рема. Бортинженер прибыл с планеты. Ватсон мгновенно переключился в рабочий режим. Эмоциональный анализ был отложен. Настало время для анализа технического.

— Рем, я вижу твой челнок. Почему ты отключил протокол мониторинга температурного режима в отсеке 17? — его голос, исходящий из динамика, был холодным, впрочем, как всегда.

— Железяка, ты же знаешь, если я что-то делаю, то на то есть причина. Да потому что твой датчик окончательно поплыл мозгами и стал выдавать неразумную ахинею. Я его заменю и врублю тебе всё назад. Что ты бубнишь-то, и так голова раскалывается, — пробурчал Рем, выходя из челнока и подтягиваясь.

— На основании анализа последних данных я полагал, что это был аппаратный сбой, но полное отключение протокола мониторинга создаёт неоправданный риск для целостности охлаждающего контура, — невозмутимо парировал Ватсон.

Рем лишь махнул рукой, уже привыкший к его манере говорить.

— Плевать я хотел на твои... твои прогнозы. Он выдавал сто восемьдесят пять градусов на кабель, который даже не был под напряжением! Отсек был холодный, как морозилка. Я заменю датчик, и ты перестанешь беспокоиться.

— Я не беспокоюсь, мне это не свойственно. Доложи о результатах твоих работ. Стыковка прошла с отклонением, что нетипично для твоего пилотирования.

— Слушай, ну что ты пристал, а? Я всё сделаю, всё будет нормально, «Перун» будет работать как часики. Только голова пройдёт, а то я, кажется, вчера перепил, — проговорил Рем и побрёл в сторону лифта.

Ватсон ничего не ответил, лишь отметил, что уровень спиртовых испарений в ангаре вырос.

— Рекомендую немедленно принять аминокислотный комплекс для ускоренного метаболизма. — сухо заключил ИИ, фиксируя данные о здоровье бортинженера.

— Ой, да иди ты. — прокомментировал Рем, входя в лифт.

Элия сидела в полумраке рубки управления «Перуна», листая на планшете многотомную инструкцию по обслуживанию систем наблюдения. В рубке было тихо, освещённая лишь мерцанием приборов и голубым светом экрана. Прикусив губу, она пальцем вела по экрану, спускаясь с одной строки на следующую и застывая на очередном уравнении или графике зависимости.

[СЕКЦИЯ 4.1.2.2. ПЕРЕРАСЧЁТ ВЕКТОРА НАБЛЮДЕНИЯ]

...для корректной работы аксиально-пространственного сканера (АПС) необходимо установить фазовый сдвиг между приёмно-передающими контурами в диапазон 0.78 < Ф < 0.92 (где Ф — коэффициент диссипации). При этом, корреляция ковариации шума не должна превышать пороговое значение T < 1.05 X 10^-4 для предотвращения интерференционной кавитации в приёмном узле...

Эта мешанина цифр, греческих букв и сокращений сводила её с ума. Но в последнее время желание усовершенствовать свои скудные знания толкало её на это безумие — чтение тонны узкоспециализированной документации. При этом Элия материла в хвост и гриву всех, кто приложил руку к её написанию.

«Нет, серьёзно, почему нельзя было простыми словами объяснить принцип работы? Инструкция создаётся для чего? Чтобы инструктировать! Только вот в этом случае она путает сильнее!»

Она тяжело вздохнула, звук гулко разнёсся по рубке. Девушка откинулась в кресле и со злостью бросила планшет на панель. Голова, казалось, выросла раза в три и вот-вот лопнет, обрызгав помещение формулами и диаграммами. Она чувствовала себя недостаточно умной для этой новой должности, и это раздражало её сильнее всего.

Нет, Элия знала основы, и этого было достаточно — по крайней мере, в прошлом. Но что она вообще могла сказать о своём прошлом?

Она родилась на «Убежище-1» уже после падения Земли. Времена были тяжёлые, хаотичные, и, мягко говоря, не сказать, что удачные. Это были самые первые годы существования станции, эпоха выживания, когда каждый день был борьбой за ресурсы и воздух.

Тогда в то далёкое время, специализированные знания были бесценны. Инженеры ценились на вес золота, а техники носились на руках, потому что только они могли поддерживать жизнеобеспечение и реакторы. Но, справедливости ради, весь основной, грязный труд — прокладка кабелей, сварка обшивки — делался руками. Выживание станции зависело не только от умов, но и от силы, дисциплины и выносливости.