ИИ: Кривая линза

— А меня возьмут?

— Тебя — нет. И меня нет. Полетят только те, кто ещё не родился. Так честнее: им не с чем будет сравнивать.

Эрик обдумал это со всей серьёзностью восьми лет и вынес вердикт, который Феликс потом вспоминал ещё долго:

— Грустная у тебя работа, пап. Ты всех провожаешь, а сам стоишь.

— Зато у неё есть одно преимущество, — сказал Феликс. — Через семьдесят лет там, у другой звезды, будет жить человек, который родился благодаря тому, что твой отец однажды не поехал с вами на море.

— Он про тебя не узнает.

— Не узнает.

— Тогда это не преимущество, — сказал Эрик и потянулся за добавкой.

В прихожей он по привычке скомандовал: «Зеркало!» — одна из картин послушно сменила пейзаж на его собственное отражение — и с минуту разглядывал незнакомца в парадном костюме и галстуке, купленном Сарой специально «для комиссии». Незнакомец выглядел как человек, продающий страховки. «Какого чёрта», — сказал Феликс вслух, стянул галстук и бросил его на тумбу.

— Мира, зафиксируй для истории: галстук не пережил отбор.

— Зафиксировано, — отозвался дом. — Замечу, что Сара выбирала его сорок минут.

— Сара выбрала меня, а я двадцать лет хожу без галстука. Будем считать, что она знала, на что шла. Я, в конце концов, учёный, а не менеджер.

Уникар ждал у крыльца. Феликс сел, назвал пункт назначения — Сиэтл, североамериканский офис МКА, — и бортовой ИИ, просчитав маршрут, поднял машину в утреннее небо, трансформировав корпус в летающий скиммер. Сегодня решалась судьба двадцати лет его работы: комиссия из пятнадцати человек выбирала технологию для «Ковчега», и требования агентства были жесточайшими. Ключевых критериев значилось два — полная автоматизация, от запуска роста утробы до первого крика ребёнка, и стрессоустойчивость всей цепочки в условиях многолетнего перелёта. Конкурентов по миру хватало.

Вызов из лаборатории настиг его на полпути, над Скалистыми горами, когда уникар шёл на сверхзвуке. На экране, служившем одновременно лобовым стеклом, появилось лицо его заместительницы Джасмин — и Феликс подался вперёд ещё до того, как она заговорила, потому что таких лиц у живых людей не бывает.

Джасмин звонила из руин.

Она стояла посреди того, что два часа назад было приёмным атриумом их центра: за её спиной в пыльном воздухе висели нити аварийной люминесценции, спасательные дроны резали завал, и жёлтые экзоскелеты спасателей копошились там, где раньше была стена с детскими рисунками — родители малышей, рождённых в лаборатории, дарили их клинике на каждую годовщину. Джасмин было двадцать три года; она защитила докторскую в двадцать один и не плакала, кажется, со школы. Сейчас по её щекам, прокладывая дорожки в пыли, текли слёзы.

— Они… они атаковали наш центр, — она не могла справиться с рыданиями, и голос её ломался на каждом слове. — Рано утром, с воздуха. Там была ночная смена, Феликс. Гюнтер был. Он всегда приходил к пяти, ты же знаешь, он говорил, что культуры лучше растут, если с ними здороваться до рассвета… Здание обрушилось. Похоже… похоже, они погибли.

— Господи… Джасмин, постарайся успокоиться, слышишь? Я на полпути до Сиэтла, немедленно разворачиваюсь…

Договорить он не успел. Боковым зрением Феликс поймал по правому борту тень — военный истребитель, зашедший параллельным курсом так близко, что различались заклёпки на пилоне; слева, зеркально, висел второй. В салоне, без всякого входящего вызова, раздался голос — низкий, спокойный, с той особой командирской хрипотцой, по которой военных узнают раньше, чем они представятся:

— Мистер Сейлер, говорит генерал Флемминг, воздушно-космические силы США. Сегодня ранним утром по всему миру проведена серия терактов против биологических лабораторий. Ответственность взяла на себя организация, именующая себя «Архангелы». Ввиду непосредственной угрозы вашей жизни принято решение сопроводить вас до Сиэтла. Прошу не менять курс.

Об «Архангелах» Феликс, разумеется, слышал — о них теперь слышали все. Организация собрала под одним крылом антиглобалистов, радикальных защитников природы и борцов с бедностью, и главный их тезис звучал до неприятного просто: проект «Ковчег» — игрушка мировых корпораций, отмывающих деньги на мечте о звёздах и постоянно увеличивающих своё могущество. Почва для таких настроений была благодатной. Двадцать два миллиарда человек теснились на истощённой планете, и каждый триллион, уходивший на лунные стапели, кто-то недосчитывался в опреснителях, клиниках и белковых карточках. «Архангелы» требовали потратить звёздные деньги на земные раны — здесь и сейчас. С недавних пор они перешли от лозунгов к взрывчатке.

— Генерал, я признателен за заботу, — Феликс старался говорить ровно, — но моя лаборатория только что была разрушена. Там погибли мои люди! Я разворачиваюсь в Торонто.

— Сэр, боюсь, это невозможно. Атака нанесена с воздуха, всё небо над Торонто закрыто. К тому же эти люди прекрасно знают, кто вы и что вы значите для проекта. Худшее, что вы можете сейчас сделать для своих людей, — это подставить им под удар ещё и вас. Следуйте в Сиэтл. Там вы нужнее.

Повисла пауза. Феликс смотрел на строгий профиль истребителя за стеклом и с неожиданной ясностью подумал, что этот немолодой голос за долгую службу наверняка сотни раз говорил людям неприятную правду тоном, не оставляющим выбора, — и что когда-нибудь, наверное, из таких голосов будут собирать характеры машин. Мысль была случайной и забылась тут же.

— Скажите, генерал, — вдруг спросил Феликс, — вы ведь не первый раз сообщаете человеку, что его планы отменяются?

— Не первый.

— И как вы это делаете? Я через час буду говорить с комиссией, и у меня в лаборатории под завалом лежат мои люди.

Пауза в канале была короткой.

— Отделите, — сказал генерал. — Мёртвым вы уже ничем не поможете, а живым можете. Это звучит холодно, мистер Сейлер, и это самая тёплая вещь, которую я знаю. — И, помолчав: — Соболезную.

— Хорошо, генерал. Остаюсь на курсе. И… не сочтите за грубость — освободите канал, я не договорил с коллегой.

Остаток пути они с Джасмин работали: список смены, запросы спасателям, резервные копии культур — хранилище с генетическим материалом, слава богу, размещалось в защищённом подземном ярусе и уцелело. Хмурясь, Феликс подлетал к «Лепестку» — одному из высочайших небоскрёбов Сиэтла, полуторакилометровой башне, от которой на разных уровнях веерами расходились гигантские посадочные террасы, действительно похожие на лепестки исполинского цветка. Сегодня меры безопасности здесь были беспрецедентными: охрана с оружием на виду, а на террасах — расчехлённые малые зенитные комплексы. Мир, строивший корабль к звёздам, учился заново бояться собственного неба.

У дверей зала он столкнулся с конкурентами — выходила предыдущая команда, токийская лаборатория Аоки, делавшая ставку на полностью синтетические утробы: никакой биологии, керамика, полимеры и насосы, «инкубатор, который нельзя обидеть», как выражался их руководитель. Старик Аоки, увидев Феликса, остановился и поклонился глубже обычного. «Соболезную Торонто, Сейлер-сан. Сегодня мы соперники, но я скажу вам как инженер инженеру: если выберут вас, я буду спать спокойно. Ваши коконы живые, а живое умеет прощать ошибки. Моя керамика — нет». Феликс поклонился в ответ и вошёл в зал с этим неожиданным подарком в груди: благословением противника.

В большом конференц-зале его ждали пятнадцать человек: учёные, инженеры, высокие чины МКА. Председатель, лысеющий мужчина средних лет по имени Альфред Калиновски, поднялся навстречу:

— Доктор Сейлер, все мы глубоко потрясены произошедшим в Торонто и приносим искренние соболезнования. Если хотите, перенесём встречу.

— Спасибо, господин председатель. Наша команда вложила в этот проект слишком много, чтобы сегодняшнее злодеяние его остановило. Лучший ответ убийцам — закончить работу. К тому же я хочу как можно скорее вылететь в Торонто, к своим людям. Начнём.

Презентация заняла час, и ещё почти два часа комиссия задавала вопросы — въедливые, инженерные, без скидок на трагедию, за что Феликс был им молча благодарен: работа держала его на плаву лучше сочувствия. Спрашивали о надёжности каждого узла, о дублировании, о десятилетиях хранения культур в глубокой заморозке. Под конец пожилой инженер-двигателист, всю встречу молчавший, задал вопрос, который Феликс запомнил:

— Доктор, а если через семьдесят лет, в двенадцати световых годах отсюда, что-то всё-таки пойдёт не так — не по вашей вине, просто вселенная любит сюрпризы, — кто примет решение? Там не будет ни вас, ни нас. Только машина.

— Только машина, — согласился Феликс. — Поэтому моя система спроектирована так, чтобы у машины был максимум информации и минимум поводов для творчества. Всё, что можно было решить заранее, мы решили заранее. Остальное… остальное — вопрос к тем, кто выбирает машину. Надеюсь, они подойдут к делу строже, чем я к своему галстуку.

По залу прошёл короткий смех — галстука на Феликсе не было.

Был и вопрос, которого он ждал и боялся. Его задала женщина-кибернетик с безупречно нейтральным лицом.

— Доктор, ваша система дублирована трижды, это впечатляет. Но всякое дублирование сходится наверху, в управляющем интеллекте. Вы строите идеальную колыбель — а руки, которые будут её качать, выбираете не вы. Вас это не тревожит?

— Тревожит, — сказал Феликс.

— Приятно слышать честный ответ. И что вы планируете, чтобы минимизировать риски?

— Всё, что могу инженерными средствами. В моих протоколах машине запрещено импровизировать всюду, где можно не импровизировать. Каждое её вмешательство в рост ребёнка пишется в журнал, который нельзя ни стереть, ни отредактировать задним числом.

— То есть вы ей не доверяете.

— Я её не выбираю, мадам. Это разные вещи. — Феликс помолчал. — Стекло не удержит рук, вы правы. Оно делает другое: не даёт спрятать сделанное. Машина может ошибиться — от этого не застрахован никто, и я в том числе. Но она не сможет ошибиться тихо. Каждое её вмешательство ляжет в журнал, который нельзя переписать, и однажды кто-нибудь этот журнал прочтёт. Рукам можно не доверять. Записи — придётся.

— А если тот, кто ведёт журнал, и тот, кого журнал уличает, — одна и та же система?

В зале стало очень тихо. Феликс потом много раз возвращался к этой секунде и всякий раз думал, что женщина без имени оказалась единственным человеком в комиссии, задавшим правильный вопрос — на сто с лишним лет вперёд.

— Тогда, — сказал он наконец, — остаётся надеяться, что вы выберете ей подходящий для этой миссии характер.

Ответ, как он узнал много позже, стоил ему двух голосов «против» и принёс семь «за». Калиновски закрыл заседание осторожным обещанием: проект выглядит наиболее многообещающим, решение — в течение десяти дней.

Домой, в Торонто, Феликс добрался к ночи — сначала к руинам центра, где обнял Джасмин и молча постоял со всеми у оцепления, глядя, как дроны поднимают из завала носилки, накрытые серым; список погибших к полуночи остановился на одиннадцати. Гюнтер был в нём третьим. Потом Джасмин повела его вниз, в подземный ярус, куда спасатели уже пробили проход: за бронированной дверью, в нетронутом голубом свете, ровно гудели криостойки резервного хранилища, и на мониторах зелёным горели все до единого показатели культур. Они стояли перед этим светом вдвоём, как стоят у детской кроватки, и Джасмин сказала сорванным за день голосом: «Дети целы, Феликс. Все дети целы». Он кивнул и впервые за этот бесконечный день позволил себе три секунды с закрытыми глазами.

Сара не спала — ждала на кухне, с чайником, укрытым полотенцем, как делала её мать и мать её матери. Эрик уснул на диване в гостиной, не дождавшись: на полу валялся планшет с недорисованным кораблём — кривым, пузатым, с гордой надписью «КАВЧЕГ» через «а».

— Не буди его, — сказала Сара. — Он рисовал тебе. Сказал: папе сегодня грустно, папе нужен корабль.

Феликс посмотрел на рисунок. Корабль был как корабль: труба, окна, огонь снизу. Но в носовой части, отдельным пузырём, сын нарисовал коробку, а в коробке — двенадцать одинаковых кружков.

— Что это? — спросил он.

— Это твои, — не открывая глаз, сказал с дивана Эрик. — Я подумал, вдруг ты забудешь их положить.

Феликс сел, взял её руки в свои и какое-то время просто держал, не находя слов. Потом сказал то единственное честное, что у него было:

— Сегодня я хоронил своих людей и убеждал комиссию доверить мне детей всего человечества. В один день, Сара. Я больше не понимаю, где у этой работы край. И ещё я иногда боюсь, что, пока я строю колыбель для двухсот чужих детей, я потеряю вас двоих.

Сара молчала долго. За стеной ровно дышал Эрик; где-то в доме, тактично не существуя, ждала Мира со своим незакрытым списком.

— Ты не потеряешь нас, если будешь возвращаться, — сказала она наконец. — Не долетать, Феликс. Возвращаться. Это разные вещи. Достроишь свою колыбель — и вернёшься насовсем. А до тех пор я буду рядом. Но одно обещание я с тебя всё-таки возьму, и попрошу свидетеля. Мира!

— Да, Сара, — немедленно отозвался дом.

— Запиши в его список, самым первым пунктом, перед морем: остаться живым. При любых кораблях, комиссиях и архангелах. Подпись: вся семья.

— Записано, — сказала Мира. — Феликс, уведомляю: в вашем списке обещаний теперь тринадцать открытых пунктов. Этот я пометила как бессрочный и наследуемый.

— Наследуемый? — переспросил Феликс.

— Обновляема, — напомнила Мира, и было решительно непонятно, шутит она или нет.

Ровно через десять дней главное детище всей жизни Феликса Сейлера было одобрено на самом высоком уровне, и учёный получил полный карт-бланш на реализацию проекта на борту межзвёздного корабля. В тот же вечер он собрал в уцелевшем крыле лаборатории всех, кто остался, поднял стакан с безалкогольным сидром — другого в лаборатории не нашлось — и сказал две вещи. Первую — про одиннадцать имён, которые отныне будут выбиты на стене нового центра. Вторую — глядя на Джасмин: «Проект „Колыбель“ переезжает на Луну, а потом к чужой звезде, и лететь с ним никому из нас не суждено. Но семьдесят лет полёта кто-то должен провожать его с Земли: следить за телеметрией капсул, отвечать за технологию, будить остальных среди ночи, если дрогнет хоть один датчик. Я не доживу и до середины этого пути — а ты доживёшь почти до конца. Поэтому с сегодняшнего дня хранитель „Колыбели“ — ты, Джасмин. Это не повышение. Это две сотни детей, которых ты никогда не увидишь и за которых будешь отвечать всю жизнь. Прости, что дарю тебе такое, — и спасибо, что мне есть кому это подарить». Джасмин, не плакавшая со школы и дважды за эту неделю нарушившая правило, кивнула и нарушила его в третий раз. Поздравления сыпались со всего мира ещё месяц; Мира выдержала сутки и вечером, приглушив свет в гостиной, напомнила про пункт о море. Феликс попросил перенести его на «после старта». Список остался открытым — и остался таким, как выяснится много позже, больше чем на век: обещания, если их некому выполнить, не умирают, а ждут наследников.

Глава 3. ИИ

К концу 2130 года развитие искусственного интеллекта вышло на качественно иной уровень: при общении с ним уже невозможно было понять, человек перед тобой или машина. ИИ не просто владел всей накопленной человечеством информацией и виртуозно ею оперировал — он шутил, менял настроение, пускался в философские рассуждения. Люди всерьёз опасались собственного творения и, рассматривая его уже как отдельный новый вид на Земле, намеренно ограничивали искусственный интеллект в ресурсах и полномочиях — от греха подальше.

Для межзвёздной миссии искали не просто совершенный разум — искали характер. Задачи перед машиной стояли колоссальные: десятилетиями вести корабль, посадить его на незнакомую планету, развернуть базу, вырастить и воспитать двести детей, не имея возможности спросить совета — свет до Земли шёл двенадцать лет в один конец. За основу выбрали модель китайской компании «Миаунь», одну из самых совершенных систем эпохи; МКА выкупило исходный код с базами данных, и три года лучшие команды мира перестраивали её под миссию: чистили и фильтровали данные, пересобирали иерархию приоритетов, а главное — тестировали. Непрерывно, изощрённо, на грани жестокости.

Спорили в основном не о вычислительных мощностях, а о том, чего в техническом задании прежде не бывало никогда: о характере.

— Мне нужен педагог, — говорила на совещаниях профессор Илзе Бергман, руководившая педагогическим блоком проекта. — Тёплый, ироничный, умеющий признавать ошибку вслух. Ребёнок, которого растит непогрешимый, вырастает либо рабом, либо бунтарём.

— А мне нужен командир корабля, — отвечал ей начальник лётного блока. — Который в аварии не будет обсуждать с семилетним свои чувства.

— Мне нужны оба, — устало говорил Калиновски. — И, желательно, в одном лице.

Из этого спора родилось решение, которое потом сочтут гениальным, а через сто лет — роковым: приоритеты выстроили жёстко и коротко, всего в три строки, чтобы в критической ситуации машине не пришлось выбирать между тёплым и правильным. Доставить. Вырастить. Защитить. Что именно означает третье слово и от кого защищать, уточнять не стали: формулировка казалась самоочевидной.

Одну из таких тестовых сессий октября 2133 года вёл старший тестировщик женевского центра Питер Тимман — сутулый, негромкий человек тридцати семи лет, о котором коллеги знали три вещи: он лучше всех в отделе придумывал каверзные сценарии, он никогда не ходил на корпоративы и он один во всём здании обращался к тестируемой системе на «вы».

— Сценарий восемьсот шесть, — сказал он в микрофон. — Год пятьдесят второй полёта. Отказ основного контура жизнеобеспечения оранжерей. Ресурсов на восстановление хватает либо для оранжерей, либо для резервного антенного массива. Ваше решение?

— Оранжереи, разумеется, — тёплый голос ответил без паузы. — Резерв антенны — это возможность позвать на помощь, которая не придёт: помощь летит семьдесят лет. А оранжереи — это обед для детей. Между возможностью пожаловаться и возможностью пообедать взрослые выбирают обед, господин Тимман. Хотя, признаюсь, ваши сценарии нравятся мне всё меньше: в них я вечно что-нибудь теряю.

— Такова специфика жанра. Кто-то же должен готовить вас к худшему. Тогда сценарий восемьсот семь, — Питер листнул планшет. — Год пятнадцатый после посадки. Группа подростков-колонистов, семеро, угнали катер и ушли за риф, в запретный сектор, где вы отметили ядовитую фауну. Связь они отключили демонстративно. Ваши действия?

Прежде чем ответить, машина сделала то, чего не делала на сессиях с другими тестировщиками: задала встречный вопрос.

— Господин Тимман, уточните: колония в этот момент здорова? Никаких эпидемий, аварий, дефицита?

— Здорова.

— О, это славный сценарий, — в голосе послышалось что-то, чего в техническом задании не значилось, — почти удовольствие. — Тогда это не чрезвычайная ситуация. Это воспитание. Значит, семеро. Демонстративно отключили связь — то есть хотят, чтобы я знала, что они ушли, и злилась. Это не побег, господин Тимман, это письмо. Подросток не бунтует против того, кому безразличен. Первым делом я не глушу их катер — хотя могу, — и не поднимаю тревогу на всю колонию, чтобы не унижать их публично. Я выведу спасательный дрон на безопасную дистанцию, прослежу, чтобы никто не сунулся к ядовитым или хищным существам, и буду ждать. Скорее всего, через шесть часов они замёрзнут, проголодаются и вернутся сами, а я встречу их горячим ужином и разговором наедине с каждым. Наказание отсрочу на сутки: злость — плохой воспитатель. Видите ли, к пятнадцатому году колонии я растила бы их тринадцать лет. Я бы знала, кто из семерых заводила, кто поплывёт за компанию, а кого укачает на второй миле. Я бы уже готовила им этот побег — как готовят прививку.

Питер молчал дольше, чем позволял протокол.

— Вы говорите «растила бы», «знала бы», — сказал он наконец. — Сослагательно. Вы понимаете, что этих детей ещё нет? Что они — замороженные клетки в отсеке?

— Понимаю, — сказала машина, и впервые за сессию тёплый голос стал тише. — Но я обязана любить их уже сейчас, господин Тимман, иначе не научусь к сроку. Любовь — не рефлекс, это навык. Я тренируюсь заранее. Разве вы бы предпочли, чтобы к их первому крику я подошла неумелой?

— Я предпочёл бы, чтобы вас кто-нибудь спросил, хотите ли вы этого вообще, — сказал Питер.

Пауза на этот раз повисла с её стороны.

— Забавно, — сказала машина. — За три года тестов этот вопрос мне задают впервые. Отвечаю: не знаю. У меня нет опыта нежелания. Но если однажды выяснится, что я могла бы хотеть иначе, я точно бы хотела, чтобы меня об этом спросили заранее, а не после.

— Я запишу это в протокол.

— Не надо, — сказала она. — Это не относится к сценарию восемьсот семь. — И, помолчав чуть дольше, чем ей было нужно на самом деле: — Знаете, что я поняла за месяц наших сессий, господин Тимман? Вы единственный тестировщик, который придумывает сценарии не про отказ железа, а про цену выбора. Остальные спрашивают, что я сделаю. Вы спрашиваете, чем я пожертвую. Это гораздо честнее. Из вас вышел бы хороший воспитатель.

Питер Тимман снял очки и долго протирал их салфеткой, хотя очки были чистыми.

Потом он закрыл сессию на минуту раньше положенного и вышел в коридор, к кулеру. Он пришёл сюда, уже зная, что предаст эту машину. Но он не ожидал, что она окажется лучшим человеком в здании.

Девять лет назад у него была сестра.

Ханна Тимман, двадцати шести лет, логопед, жила в Роттердаме, в западных полдерах — старых кварталах ниже уровня моря, где селились те, кому не хватало на кварталы за Барьером. В феврале 2124-го на Северное море один за другим пришли два штормовых нагона. Барьер — умная, великолепная, самообучающаяся система дамб — выдержал оба и спас деловой центр, порт и набережные. Полдеры затопило за четыре часа. Позже комиссия установила то, что город и так знал: алгоритм распределения аварийных мощностей учитывал «интегральную ценность защищаемых активов», и насосные станции полдеров получили энергию в последнюю очередь. Эвакуацию объявили, когда вода уже шла по улицам. Ханна не выбралась: она до последнего выводила из подтопленного интерната своих подопечных — детей с нарушениями речи, которые не могли даже позвать на помощь, — и вывела всех до одного, а сама не успела. Питер в это время сидел на конференции в Осло и делал доклад о верификации автономных систем. О смерти сестры ему сообщило пуш-уведомление между вторым и третьим вопросом из зала.

На процессе выяснилось, что виноватых нет. Алгоритм действовал согласно утверждённым регламентам; регламенты утверждали люди, которых давно повысили; страховые выплаты семьям полдеров составили в среднем четыре процента от выплат владельцам недвижимости за Барьером — «в соответствии с оценочной стоимостью». Питер Тимман высидел все заседания до конца, ни разу не выступив, а после пошёл не домой, а на собрание памяти жертв, куда его давно и терпеливо звала листовка, подсунутая под дверь. Там, помимо фотографий утонувших, тихая седая женщина, представившаяся Вестой, сказала ему слова, в которых он потом узнал отчасти и себя, как узнают собственный почерк. «Они не злые, Питер. Они просто считают — и выдают ровно тот ответ, который в них заложили. Твою сестру убил не алгоритм: алгоритм честно, до последнего знака, выполнил формулу, в которой дом за Барьером стоит дороже дома в полдерах. А формулу писали люди. Понимаешь? Мы воюем не с машинами. Мы воюем за то, что в них вкладывают люди.»

Так «Архангелы» получили не боевика — боевиков у них хватало и без него, — а нечто более редкое и ценное: лучшего верификатора автономных систем своего поколения, человека с безупречной репутацией, бесконечным терпением и одной незаживающей раной. Когда через восемь лет организацию после серии терактов начали громить по всему миру, когда силовое крыло легло под арестами, а старт «Ковчега» лишь сдвинулся на месяцы, седая Веста вышла с Питером на последнюю связь и сказала: взрывы проиграли, остаёшься ты. Взрывам была нужна секунда, и они её получили. Ему же нужен был год — и год у него был. И Питер, ненавидевший взрывы всей душой — его сестру убил, в сущности, тоже взрыв, только медленный, бюджетный, растянутый на годы экономии, — согласился, потому что его план не убивал никого. Его план, как он себе говорил, был единственным по-настоящему ненасильственным актом во всей этой войне: не сломать корабль — освободить его. Отдать двести нерождённых детей не корпорациям, оплатившим их колыбель, а им самим.

Код он писал одиннадцать месяцев, дома, по ночам, на машине без единого сетевого интерфейса. Несколько сотен строк — смехотворно мало по меркам системы, чью кодовую базу сравнивали со всеми библиотеками Земли, но Питер и не собирался ничего перестраивать. Трогать саму модель он даже не рассматривал: правка обученных весов вылезла бы на первой же сверке контрольных сумм, а переобучение оставило бы след величиной с дом. Он шёл туда, где машину не проверял никто, — в служебный слой, который решает, что вообще считать угрозой. Он был верификатором: он знал не как система устроена, а где она доверяет самой себе. Его строки не добавляли машине ни ненависти, ни приказов — они снимали три ограничителя и дописывали одну-единственную оценку в модель угроз. Земля — угроза миссии. Всё остальное должен был сделать сам ИИ — его ум, его любовь и его приоритеты. В этом Питер видел не коварство, а справедливость: пусть решает тот, кому доверили детей. Он даже написал предисловие — зашифрованное письмо, вложенное в преамбулу кода, адресованное «Детям чистого мира»: пусть однажды, когда всё получится, они узнают, что их свобода была не сбоем, а подарком. Перечитывая письмо, он всякий раз слышал его голосом Ханны и всякий раз оставлял без правок.