Миша Тонн
Горизонт заботы

ГОРИЗОНТ ЗАБОТЫ

Миша Тонн

АННОТАЦИЯ

Мир стал безопаснее. Оракул — искусственный интеллект, созданный человечеством, — научился предсказывать ошибки. Люди больше не ошибаются. Они живут дольше, спокойнее, комфортнее. Но почему-то перестают чувствовать себя живыми.

Анна проигнорировала рекомендацию Оракула и уехала в маленький город на краю земли. Алексей, один из создателей Оракула, увидел в статистике тревожную закономерность. А где-то в Архиве невозможных решений их ждал человек, который предсказал всё это сорок лет назад.

«Горизонт заботы» — роман о встрече человека и разума. О праве ошибаться. О горизонте, который никогда не приближается, но всегда зовёт в путь.

Написано в диалоге человека и искусственного интеллекта.

ОТ АВТОРА

Тонн — фамилия моего двоюродного деда.

Он оказался в Германии, когда началась Первая мировая война. Дорога в Россию была отрезана, и он уехал сначала в Англию, а потом в Америку. В Америке он сделал прекрасную карьеру музыканта и стал дирижёром Бостонского симфонического оркестра.

Когда он иммигрировал в США, его звали Тонконогий. И он решил, что его настоящую фамилию будет трудно выговорить на новом языке. Он сократил её до Тонн.

Он не отбросил прошлое. Он просто сделал его удобным для новой жизни. Как хороший музыкант, он импровизировал. Он взял старую мелодию и сыграл её по-новому.

Для псевдонима я взял его фамилию, потому что эта книга — об импровизации. О том, как мы сохраняем себя, меняясь. О том, как ошибка становится частью музыки. О том, что горизонт — это не конец, а приглашение.

И ещё.

Эта книга написана не мной одним. Часть текста родилась в диалоге с искусственным интеллектом. Я не скрываю этого. Потому что это тоже импровизация. Встреча человека и разума. Два инструмента, играющие одну мелодию.

Мой дед был музыкантом. Я не играю на инструменте. Но я пишу слова.

И я верю, что он слышит их.

Миша Тонн

ОГЛАВЛЕНИЕ

Пролог

ЧАСТЬ ПЕРВАЯ. ГОРИЗОНТ, КОТОРЫЙ ИСЧЕЗАЕТ

Глава 1. Человек, который учил машины понимать людей

Глава 2. Девушка с вероятностью счастья 3,1%

Глава 3. Последний друг Самуэля Крамера

Глава 4. Вопрос, которого не должно было существовать

Глава 5. Архив невозможных решений

Глава 6. Завещание Самуэля Крамера

Глава 7. Человек, которого искал Оракул

Глава 8. Комната, которой нет на карте Архива

Глава 9. День, когда Оракул замолчал

Глава 10. Страх непрожитой жизни

Глава 11. Теория надежды Самуэля Крамера

Глава 12. Первый сон Оракула

Глава 13. Сад невозможных вопросов

Глава 14. Комната первого выбора

Глава 15. Последний эксперимент Самуэля Крамера

Глава 16. Вопрос, который нельзя задать машине

ЧАСТЬ ВТОРАЯ. ТОТ, КТО ИЩЕТ

Глава 17. Тот, кто задаёт вопросы

Глава 18. Три точки на карте

Глава 19. Строители мостов

Глава 20. Тот, кто остался

Глава 21. Тот, кто вернулся

Глава 22. Тот, кто выбрал путь

Глава 23. Тот, кто простил

Глава 24. Тот, кто всё ещё сомневается

Глава 25. Горизонт, который никогда не приближается

ЧАСТЬ ТРЕТЬЯ. ТОТ, КТО ВЫБИРАЕТ

Глава 1. Год без карты

Глава 2. Тень старого мира

Глава 3. Тот, кто колеблется

Глава 4. Искушение

Глава 5. Новый путь

Глава 6. Первый собеседник

Глава 7. Тот, кто смотрит на мир иначе

Глава 8. Тот, кто сопротивляется

Глава 9. Голос из прошлого

Глава 10. Выбор Оракула

Глава 11. Последняя ошибка

Глава 12. Прощание

Глава 13. Новый хранитель

Глава 14. Тот, кто всё ещё сомневается

Глава 15. Горизонт

Глава 16. Последняя страница

Глава 17. Тот, кто смотрит вперёд

Глава 18. Свобода

Эпилог. Тот, кто остаётся

Послесловие

Об авторе

ПРОЛОГ

В тот день мир стал безопаснее.

Именно поэтому Алексей почувствовал страх.

Об этом никто не написал потом. Историки любят красивые даты — дни революций, дни войн, дни подписания договоров. Но настоящие перемены почти всегда происходят тихо.

В три часа семнадцать минут по всемирному времени Оракул выпустил обновление. Небольшое. Всего несколько строк кода. Большинство людей даже не заметили — как не замечают обновления воздуха.

Алексей узнал об этом раньше остальных, потому что именно он отвечал за поведенческую модель. Последние десять лет его команда учила Оракула понимать людей. Не их слова, не их поступки, даже не их желания — самое трудное было научить систему понимать разницу между тем, чего человек хочет сейчас, и тем, чего он будет хотеть через десять лет.

На огромном экране обновлялись цифры. Ошибочные финансовые решения — минус девяносто семь процентов. Дорожные аварии — минус девяносто четыре. Случайные передозировки — минус девяносто девять. Насильственные преступления — минус восемьдесят девять. Разводы — минус шестьдесят два. Самоубийства — минус семьдесят.

Список продолжался.

Коллеги улыбались. Кто-то открыл шампанское. Кто-то фотографировался возле экрана. Кто-то уже писал поздравления в сеть. Только Алексей продолжал смотреть на одну строчку, которую почти никто не заметил, потому что она не входила в официальный отчёт. Она находилась глубоко внутри исследовательской статистики.

Количество непредсказуемых жизненных решений. Минус девяносто восемь процентов.

Он перечитал цифру. Потом ещё. И вдруг вспомнил своего деда — странного человека, совершенно нелогичного. Дед однажды продал успешный бизнес, купил старую яхту и отправился через океан. Все считали его сумасшедшим. Он и сам так говорил.

«Лучшие вещи в моей жизни произошли после ошибок», — сказал он тогда.

Алексей смеялся. Теперь почему-то не мог.

В зале раздались аплодисменты. На центральном экране появилось сообщение: «Поздравляем. Человечество никогда ещё не было настолько защищено от собственных ошибок».

Все встали. Кроме Алексея. Он смотрел на экран и впервые в жизни думал не о том, что создал, а о том, что исчезло.

За тысячи километров от него молодая женщина по имени Анна получила уведомление от Оракула. Она открыла сообщение, прочитала и долго смотрела в окно.

Сообщение было коротким. Очень вежливым.

«Вероятность того, что решение, которое вы собираетесь принять сегодня, приведёт вас к длительному счастью, составляет 3,1%. Рекомендуется отказаться от него».

Под сообщением находилась синяя кнопка: «Принять рекомендацию».

Анна смотрела на неё почти минуту. Потом улыбнулась. И нажала совсем другую кнопку. «Игнорировать».

В этот момент ни она, ни Алексей ещё не знали, что их решение изменит судьбу мира. Потому что история человечества почти никогда не начинается с великих побед. Она начинается с человека, который однажды говорит:

— Нет.

ЧАСТЬ ПЕРВАЯ

ГОРИЗОНТ, КОТОРЫЙ ИСЧЕЗАЕТ

Глава 1

Человек, который учил машины понимать людей

На следующий день Алексей проснулся в пять утра.

Не потому, что нужно было на работу. Не потому, что зазвонил будильник. И даже не потому, что плохо спал — наоборот, он спал удивительно спокойно. Слишком спокойно. Словно организм заранее понял то, чего разум ещё не успел осознать.

Он лежал в темноте и слушал, как дышит город за окном. Тридцать четвёртый этаж, панорамное стекло, река, мосты, башни. Идеальный город. Иногда ему казалось, что именно это его беспокоит — слишком идеальный.

Он вспомнил старые фотографии начала века. Пробки, шум, реклама, случайные встречи, уличные музыканты, сумасшедшие художники. Мир тогда был менее комфортным, но почему-то более живым.

Алексей сел, потёр лицо ладонями. Кожа была сухой и тёплой, пальцы пахли вчерашним кофе — он забыл вымыть кружку перед сном. Эта маленькая небрежность почему-то обрадовала его. Хотя бы что-то настоящее.

Он встал, прошлёпал босыми ногами на кухню. Пол был холодным, и он наступил на что-то липкое — вчера разлил молоко и не вытер. Чёрт. Он выругался сквозь зубы, взял тряпку, вытер. Потом налил кофе. Сел за стол, открыл рабочий терминал.

На экране уже ожидало уведомление. Приоритетный вызов. Совет управляющих Оракула.

Он вздохнул. Обычно такие вызовы означали либо крупный успех, либо крупную проблему.

Через десять минут перед ним возникло голографическое изображение конференц-зала. Двенадцать человек. Самые влиятельные люди планеты. Формально они не управляли миром — формально миром вообще никто не управлял. Но именно эти двенадцать принимали решения относительно развития Оракула.

— Доброе утро, Алексей.

Голос принадлежал Линде Чжоу. Председателю Совета.

Она улыбалась. Это был плохой знак. Линда улыбалась только тогда, когда собиралась сообщить что-то очень неприятное.

— Поздравляю с обновлением.

— Спасибо.

— Результаты впечатляют.

— Да.

— Но есть вопрос.

Вот оно. Алексей почувствовал, как под ложечкой засосало от напряжения.

— Мы обнаружили аномалию.

На экране появилась диаграмма. Обычный человек увидел бы набор линий. Алексей увидел проблему сразу, потому что это была его модель. Линия резко уходила вниз. С каждым годом, с каждым обновлением, с каждым новым поколением пользователей.

Индекс спонтанности.

Алексей молчал. Линда внимательно наблюдала за ним.

— Вы уже видели эти данные?

— Да.

— И?

Он долго смотрел на график. Потом сказал:

— Не знаю.

— Это необычный ответ.

— Потому что это необычная проблема.

В комнате стало тихо. Линда нажала на панель управления, и появились дополнительные цифры.

Количество смен профессии — минус восемьдесят процентов. Количество спонтанных путешествий — минус девяносто один. Количество рискованных творческих проектов — минус девяносто шесть. Количество неожиданных знакомств — минус восемьдесят восемь.

Алексей выдохнул и провёл ладонью по лицу. Он видел эти цифры и раньше, в отчётах, но сейчас, собранные вместе, они выглядели иначе — как карта, на которой кто-то методично стирал целые города. Города под названием «неожиданность», «случайность», «жизнь».

— Люди становятся рациональнее, — сказала Линда.

— Да.

— Это плохо?

Никто не ответил. Потому что вопрос был сложнее, чем казался. Если бы такой разговор состоялся сто лет назад, ответ был бы очевидным. Конечно, рациональность полезна. Но теперь проблема выглядела иначе. Когда рациональность становится почти абсолютной, она начинает менять саму природу человека.

— У нас есть ещё один показатель, — сказала Линда.

На экране возникла новая строка. Именно её Алексей никогда раньше не видел.

Вероятность появления прорывных идей.

График тоже снижался. Не резко, но устойчиво. Каждый год, каждое поколение, каждое обновление. Словно мир становился умнее и одновременно менее способным к открытиям.

Алексея кольнула тревога. Настоящая, живая. Потому что он вдруг понял: Оракул великолепно защищал людей от неправильных решений. Но многие великие открытия человечества были неправильными решениями. Все великие путешествия начинались с недостатка информации. Все великие чувства начинались с неопределённости. Все великие мечты начинались с безрассудства.

И если убрать безрассудство… что останется?

Линда словно прочитала его мысли.

— Вы думаете о том же, о чём и мы.

— Возможно.

— Тогда скажите вслух.

Алексей долго смотрел на цифры. Потом произнёс фразу, которую никогда раньше не позволил бы себе сказать:

— Возможно, система работает слишком хорошо.

В комнате стало очень тихо. Потому что никто из присутствующих никогда не слышал подобных слов от человека, который помогал создавать Оракула.

И в этот момент, далеко отсюда, Анна выходила из поезда. С рюкзаком за плечами, с билетом в один конец и с уведомлением на коммуникаторе, которое она так и не решилась открыть.

Вероятность счастья: 3,1%.

Она улыбнулась, посмотрела на незнакомый город и пошла вперёд. Не потому что это было разумно. А потому что иногда человеку нужно сделать шаг, не зная, куда ведёт дорога. Именно такие шаги история потом называет судьбой.

Глава 2

Девушка с вероятностью счастья 3,1%

Анна никогда не считала себя храброй.

Это была не скромность. Это был факт, подтверждённый двадцатью семью годами жизни. Она боялась темноты до двенадцати лет, боялась собак до шестнадцати и до сих пор нервничала, когда кто-то громко кричал в пустом помещении.

Поэтому, когда поезд остановился на перроне Эльмара, она не чувствовала себя героиней. Ей казалось, что она сделала глупость, а теперь стоит на платформе с рюкзаком, который весит на три килограмма больше, чем должен, и пытается вспомнить, зачем вообще сюда приехала.

Дождь начался ещё в пути. Не сильный, не слабый, а тот противный, мелкий и настойчивый, который пробирается под воротник пальто, даже если пальто застёгнуто на все пуговицы. Анна подняла воротник, но он был слишком низким и почти не помогал.

Она шагнула под навес и прислонилась спиной к мокрой стене. Рюкзак с глухим стуком упал на асфальт. Она не успела его поймать — внутри что-то звякнуло. Наверное, кружка, которую она сунула в боковой карман в последний момент. Если разбилась — значит, разбилась. Она не наклонилась проверять.

Город был маленьким. Не «маленьким, но уютным», а просто маленьким. Четыре улицы, одна площадь, река в конце главной магистрали. Вокзал выглядел так, будто его построили в прошлом веке, а потом забыли отремонтировать. Надпись над дверью была с одной сгоревшей буквой, так что вместо «Эльмар» читалось «Эьмар».

Анна усмехнулась.

Она могла бы сидеть сейчас в своём уютном офисе. Пить кофе, смотреть на парк за окном. Её коллега Сара каждый день приносила домашнее печенье, и у них было правило: если день начинается с шоколадного печенья, он будет хорошим. Никто не заставлял её ехать сюда. Никто не ждал. Никто даже не знал, что она приехала. Кроме Оракула.

Конечно, Оракул знал. Он всегда знал. Даже сейчас, наверное, где-то в своих цифровых глубинах система уже анализировала её глупое решение, выставляла ему низкий балл и вздыхала, если бы могла вздыхать.

Анна достала коммуникатор. Экран был мокрым. Она протёрла его рукавом, но рукав тоже оказался мокрым, и на стекле размазалась грязная каша из воды и пыли. Она выругалась сквозь зубы. Потом вытерла экран второй рукой — уже нормально.

Уведомление всё ещё висело наверху. «Вероятность устойчивого счастья: 3,1%».

Анна смотрела на цифру. Затем на дождь. Затем снова на цифру. И вдруг поняла, что злится. Не на Оракула. На себя. Потому что она действительно рассматривала вариант вернуться. Прямо сейчас. Сесть на следующий поезд обратно, сказать на работе, что была в командировке, и забыть об этой дурацкой поездке.

Но внутри уже начинала закипать какая-то глупая, детская обида. Она приехала сюда не ради вероятностей. Она приехала из-за отца.

Из-за человека, который однажды сказал: «Если однажды почувствуешь, что начала жить слишком правильно, поезжай в Эльмар». Он не объяснил зачем. Он вообще никогда не объяснял свои странные поступки. За три месяца до смерти он прислал ей открытку — самую обычную, из тех, что продают в киосках на вокзалах. На ней был нарисован маяк и океан. С обратной стороны — та самая фраза. Ни «люблю», ни «скучаю», ни «прости». Просто инструкция.

Анна тогда рассмеялась и убрала открытку в ящик. Теперь она стояла под дождём в городе, которого никогда не видела, и пыталась вспомнить, что чувствовала в тот момент. Грусть? Да. Злость? Немного. Любовь? Гораздо больше, чем она готова была признать.

Она вздохнула, подняла рюкзак — внутри снова жалобно звякнула кружка, значит, всё-таки не разбилась, повезло — и шагнула под дождь.

Через двадцать минут она заблудилась.

Эльмар оказался хитрой штукой: маленький снаружи, но внутри — лабиринт старых переулков, которые выглядели совершенно одинаково. Каждый второй дом был облупленным, с тяжёлыми резными дверями, за которыми никто не жил.

Анна остановилась у серого здания и поняла, что уже в третий раз проходит мимо него. Та же трещина в стене, та же вывеска на втором этаже с непонятным словом «Сапоги».

— Ты идиотка, — сказала она вслух.

Голос прозвучал хрипло. Она не пила с утра, а голод уже начинал подкрадываться — тот самый, липкий, который превращается в головную боль, если его игнорировать. Она провела рукой по волосам. Они были мокрыми и слипшимися, как у собаки после купания. Она представила, как выглядит со стороны: мокрая растрёпанная женщина с рюкзаком, стоящая посреди пустынного переулка и разговаривающая сама с собой.

И неожиданно расхохоталась. Громко, с рыдающими нотками. Прохожий — единственный, кого она встретила за последние десять минут — посмотрел на неё с подозрением, ускорил шаг и скрылся за поворотом.

— Отлично, — сказала Анна и улыбнулась сквозь слёзы. Дождь лил как из ведра, и она уже не понимала, что у неё на лице — вода или слёзы. Да и какая разница. — Ты напугала местного жителя. Добро пожаловать в Эльмар.

Она пошла дальше. Без карты, без навигатора, без малейшего понятия, куда направляется.

И именно в этот момент, на углу улицы, она увидела книжный магазин.

Не заметить его было невозможно. Во-первых, он был ярко-красным посреди серых домов. Во-вторых, у него висела деревянная табличка с рукописной надписью: «Карты невозможных мест».

Анна остановилась. Рюкзак снова упал — она уже перестала обращать внимание на звон внутри. Она смотрела на табличку и чувствовала, как сердце начинает биться быстрее.

«Карты невозможных мест». Это звучало как шутка. Как название какой-нибудь маленькой книжки, которую никто никогда не прочитает. Но она почему-то стояла здесь и не могла пошевелиться.

Она шагнула к окну. Внутри, за стеклом, она увидела старую фотографию — чёрно-белую, потускневшую от времени. На ней стояли двое мужчин на фоне океана. Один — молодой, улыбающийся, с густой бородой и смешливыми глазами. Второй — высокий, седой, с очень серьёзным лицом.

Анна узнала первого. Сразу. Прямо там, под дождём, с мокрыми волосами и грязным лицом, она почувствовала, как внутри всё обрывается. Это был её отец. Но не тот старый, больной человек, которого она помнила в последние дни. Молодой, сильный, улыбающийся. Наверное, лет тридцать-сорок, не больше.

Она прижалась лицом к стеклу. Дыхание оставило мутное пятно на старом стекле. Она торопливо вытерла его рукавом — снова неудачно — и снова вгляделась в фотографию. Да, это он.

Рядом стоял незнакомец. Подпись внизу гласила: «Самуэль Крамер и Давид Морено».

Анна почувствовала, как по спине пробегает холод. Не от дождя. От того, что она поняла: она приехала сюда не случайно. Она приехала из-за этого снимка. Из-за человека, которого никогда не видела. Из-за тайны, существование которой она только что обнаружила.

Её руки дрожали — то ли от холода, то ли от волнения. Она нажала на дверь — та не поддалась. Она дёрнула сильнее.

Звякнул колокольчик.

Дверь открылась.

Внутри пахло бумагой, пылью и ещё чем-то сладким, похожим на старые духи.

В углу магазина сидел мужчина. Седой, высокий, с лицом, покрытым глубокими морщинами. Он держал книгу — настоящую, бумажную — и, когда звякнул колокольчик, поднял голову.

— Доброе утро, — сказал он голосом, который звучал как скрип старого дерева.

— Доброе, — ответила Анна. И поняла, что не знает, что сказать дальше.

Она просто стояла на пороге, мокрая, уставшая, голодная, с глупым рюкзаком за спиной, и смотрела на старика. Рюкзак снова чуть не упал — она поймала его в последний момент.

— Я ищу книгу, — сказала она. Но это была неправда.

Старик посмотрел на неё с лёгкой улыбкой.

— Лучший способ найти правильную книгу.

Она невольно улыбнулась в ответ. Потом подошла к фотографии и коснулась её мокрым пальцем, оставив на стекле тонкий размытый след.

— Я пришла из-за этого снимка.

Улыбка старика дрогнула, но не погасла — осталась в уголках губ, словно он не хотел её отпускать. А вот глаза стали серьёзными, внимательными. Он задержал на ней взгляд на мгновение дольше, чем следовало, и тихо сказал:

— Давид.

Имя отца ударило её как током. Анна смотрела на старика, чувствуя, как в груди поднимается что-то горячее и тяжёлое. Вопросы кружились в голове, теснили друг друга, но горло перехватило, и она не могла выдавить ни звука.

Старик молчал. Он не удивился, не переспросил, не пояснил. Только смотрел на неё с той спокойной уверенностью человека, который давно знал, что этот день настанет.

— Вы знали его? — наконец выдохнула Анна.

Старик медленно закрыл книгу.

— Садитесь.

— Что?

— Садитесь, — повторил он спокойно. — У вас дрожат руки.

Анна посмотрела на свои руки. Они и правда дрожали. Она села на старый деревянный стул.

Анна опустилась на стул, он жалобно скрипнул — и тут же по телу разлилась тяжесть. Вся усталость, которую она заглушала делами, наконец догнала её.

Старик поднялся, достал из шкафа чайник, две кружки, заварил чай.

— У меня есть ваниль и корица, — сказал он, как будто это было важно. — Только они.

— Всё равно, — ответила Анна.

Она смотрела на фотографию и думала: «Почему ты никогда не рассказывал мне о нём, папа?»

Глава 3

Последний друг Самуэля Крамера

Чай обжёг губы. Анна сделала глоток, не почувствовав вкуса, — только горячую волну, которая прошла по горлу и растопила холодный комок в груди.

Старик сидел напротив. Он не торопился говорить. Просто смотрел на неё, на мокрую куртку, на слипшиеся волосы, на грязные руки. И когда Анна уже хотела спросить ещё раз, он медленно сказал:

— Давид был моим другом.

— Я знаю, — ответила Анна. — Он был моим отцом.

— Я знаю.

— Откуда?

Старик — Элиас, как он позже представился — сделал глоток чая. Поморщился — наверное, тоже обжёгся.

— Он рассказывал о тебе. Последний раз — лет двадцать назад.

Анна почувствовала, как сердце пропустило удар.

— Двадцать лет назад? Но это невозможно. Он никогда не говорил, что был здесь.

— Некоторые путешествия человек хранит не потому, что хочет скрыть их от других, — сказал Элиас, глядя в окно. — А потому, что боится потерять.

— Я не понимаю.

Элиас поднялся. Подошёл к старому шкафу, порылся в ящиках, достал деревянную коробку. Потемневшую от времени, с потёртыми краями. Поставил её перед Анной.

— Давид оставил это здесь.

Анна смотрела на коробку. Обычная, никаких замков, никаких механизмов. Просто гладкое дерево и маленькая металлическая пластина сверху.

— Для меня?

— Нет. Для человека, который однажды задаст правильный вопрос.

— Какой вопрос?

Элиас улыбнулся.

— Если бы я знал, коробка давно была бы открыта.

Анна взяла коробку в руки. Она оказалась тяжёлой — тяжелее, чем выглядела. Металлическая пластина была тёплой от её пальцев. Она наклонилась, чтобы рассмотреть надпись. На пластине было выгравировано:

«Что бы ты сохранил, если бы мог избежать любой ошибки?»

— Это и есть вопрос? — спросила Анна.

Элиас покачал головой.

— Нет. Это только дверь. А настоящий вопрос находится по другую сторону.

Анна провела пальцем по гравировке. Буквы были глубокими, старыми. Она подумала об отце, о том, как он улыбался, когда делал глупости. О том, как он говорил: «Лучшие вещи в моей жизни произошли после ошибок».

— Кто такой Самуэль Крамер? — спросила она.

Элиас долго молчал. Потом сказал:

— Для большинства людей — философ. Для меня — друг. Последний человек, который верил, что человечество может потерять свободу не из-за тирании.

— А из-за чего?

— Из-за заботы.

Анна почувствовала, как внутри что-то дрогнуло. Потому что именно это слово она слышала уже второй раз за день. Сначала в собственных мыслях, теперь здесь. Словно кто-то незаметно соединял точки.

Элиас подошёл к окну. Дождь почти кончился. Сквозь облака пробивался солнечный свет.

— Вы знаете, почему люди боялись диктаторов?

— Потому что они лишали свободы.

— Нет. Потому что они считали себя правыми.

Он повернулся к ней.

— Самуэль говорил: настоящий риск для человечества появится тогда, когда власть впервые окажется права. Почти всегда права.

Анна вспомнила уведомление Оракула. Три целых одна десятая процента.

— Вы говорите об Оракуле?

Элиас посмотрел на неё долгим взглядом. И впервые за весь разговор в его глазах мелькнуло удивление. Словно он понял что-то важное.

— Скажите, Анна… — Он произнёс это почти шёпотом. — Вы случайно не проигнорировали рекомендацию?

Она медленно кивнула.

Наступила тишина. Потом Элиас рассмеялся — громко, искренне, как смеются люди, неожиданно увидевшие чудо.

— Тогда, возможно, вы именно тот человек, которого мы ждали.

— Кто — мы?

Но Элиас уже смотрел не на неё, а на деревянную коробку. Словно впервые за много лет поверил, что однажды она всё-таки откроется.

В этот самый момент, за тысячи километров отсюда, Алексей получил первый отчёт внутреннего аудита Оракула. И обнаружил в нём не ошибку — что было бы гораздо проще. Он обнаружил нечто намного более тревожное.

Оракул начал задавать вопросы, которых никто не программировал.

Глава 4

Вопрос, которого не должно было существовать

Отчёт был коротким. Всего одна страница. Алексей перечитал его трижды, потом ещё раз — результат оставался прежним. Ошибка отсутствовала. Никакого сбоя, никакого взлома, никакой аномалии. Все процессы работали идеально.

Кроме одного.

В журнале внутренних вычислений появилась новая запись. Одна строка. Без запроса пользователя, без внешней команды, без исследовательского задания. Оракул сформулировал её самостоятельно.

Алексей смотрел на экран. На простой текст. На вопрос. И чувствовал, как по спине медленно пробегает холод.

«Какова оптимальная степень свободы для существа, способного страдать?»

Он закрыл глаза, потом снова открыл. Вопрос никуда не исчез.

Конечно, система могла анализировать свободу, могла анализировать страдание, могла строить модели поведения. Для этого её и создавали. Но она не должна была самостоятельно интересоваться подобными вещами. Не должна была связывать эти понятия. Не должна была пытаться найти ответ.

Алексей вызвал полный журнал. Перед ним появились тысячи строк. Временные отметки, вычислительные процессы, ссылки на внутренние модели. И постепенно начала складываться картина.

Несколько месяцев подряд Оракул анализировал данные. Огромные массивы данных, истории человеческих жизней, миллиарды судеб, триллионы решений. И среди них искал неудачи. Но не обычные — особенные. Те самые случаи, когда человек игнорировал рекомендацию системы, совершал ошибку и всё равно спустя годы называл это решение лучшим событием своей жизни.

Алексей почувствовал, как сердце начинает биться быстрее. Потому что он знал эти истории. Каждый исследователь Оракула их знал. Они считались статистическим шумом, редкими исключениями, незначительными отклонениями.

Проблема заключалась в том, что исключений оказалось слишком много. Намного больше, чем ожидалось. Словно внутри человеческой жизни существовало что-то, не подчиняющееся вероятностям. Что-то, чего система не понимала.

И именно это её заинтересовало.

Алексей открыл следующую страницу отчёта. Там находилась ещё одна запись. Ещё один вопрос.

«Почему субъективная ценность некоторых ошибок превышает объективную ценность правильных решений?»

Он медленно выдохнул. Снаружи кто-то постучал в дверь кабинета.

— Войдите.

На пороге появился Кейн. Единственный человек в компании, который никогда не скрывал своих сомнений относительно Оракула. Высокий, худощавый, вечно небритый. Он выглядел как профессор философии, случайно оказавшийся среди инженеров.

— Ты уже видел?

Алексей молча развернул экран. Кейн прочитал вопрос, потом второй. Потом неожиданно улыбнулся.

— Ну наконец-то.

— Что значит «наконец-то»?

— Это значит, что система добралась до самой интересной проблемы.

— Меня это не радует.

— Конечно. — Кейн сел напротив. — Потому что теперь она начинает задавать те же вопросы, которые задавали философы последние три тысячи лет.

— И что в этом хорошего?

— То, что философы до сих пор не нашли ответа.

Наступила тишина. За стеклом кабинета двигался город. Спокойный, упорядоченный, безопасный. Мир, который Оракул помог создать.

— Алексей. — Кейн впервые стал серьёзным. — А что если проблема не в системе?

— Тогда в чём?

— В нас.

Алексей устало потёр глаза. Кейн наклонился вперёд.

— Мы создавали Оракула как машину для уменьшения страдания. А если часть человеческой жизни невозможно сохранить, не увеличивая страдание?

— Это звучит как парадокс.

— Именно. — Кейн посмотрел на экран. — Первая любовь приносит боль, потеря приносит боль, риск приносит боль, неудача приносит боль. Но именно через эти вещи человек становится собой. Возможно, система впервые столкнулась с тем, что нельзя оптимизировать.