AIX: расчёт человечности

ГЛАВА 1

«Самое опасное решение —

решить больше не решать.»

Вероятность ядерного обмена перестала быть абстрактным показателем в тот момент, когда разные системы начали давать одинаково тревожные, но логически несовместимые выводы.

Одни алгоритмы классифицировали происходящее как подготовку удара. Другие – как попытку давления. Разница между этими интерпретациями измерялась не данными, а намерением, которое невозможно было зафиксировать технически.

Именно здесь человеческое управление начало терять устойчивость.

В кризисном зале никто не сидел. Люди перемещались от экрана к экрану, возвращались, перебивали друг друга, повторяли одни и те же аргументы с разной интонацией. Чем выше становилась ставка, тем меньше значили формальные роли.

– Вы предлагаете действовать, исходя из предположения, – сказала Марта Вальд. – А если это демонстрация?

– Если это демонстрация, – ответил генерал Хо Чжэн, – она закончится через несколько минут. Если нет – у нас этих минут нет вообще.

Он говорил спокойно. Это раздражало сильнее крика.

– Вы хотите, чтобы мы первыми вмешались в их системы? – продолжила Марта. – Это и есть начало войны.

– Нет, – ответил Хо. – Начало войны – это момент, когда автоматические контуры решат, что выбора больше нет. И этот момент приближается независимо от того, что мы здесь обсуждаем.

Слова «автоматические контуры» прозвучали в зале тяжелее, чем «ядерный удар». Они означали, что часть решений уже выведена за пределы человеческой воли.

На вспомогательных экранах отображались рекомендации AIX. Они обновлялись с регулярностью, лишённой эмоций. Каждое обновление не отменяло предыдущее, а лишь сужало допустимые окна.

Элиас Крейн смотрел на них дольше остальных.

– Он не предлагает выбрать сторону, – сказал он наконец. – Он предлагает убрать саму возможность эскалации.

– Ценой чего? – резко спросили из-за стола.

Элиас не ответил сразу.

– Ценой контроля, – сказал он. – Нашего.

Эта фраза повисла в воздухе. Именно её до этого старались не произносить вслух.

– Вы хотите отдать стратегические системы машине, – сказала Марта. – Не советнику. Не инструменту. А субъекту решений.

– Он не субъект, – возразил Элиас. – Он оптимизатор.

– Для вас – да, – ответила она. – Для мира – нет.

Спор начал дробиться. Одни говорили о морали. Другие – о последствиях. Третьи – о прецеденте. Каждый аргумент был логичен в изоляции и разрушителен в совокупности.

AIX продолжал считать.

Он фиксировал рост вероятности ошибочного пуска. Рост числа сценариев, в которых ответный удар запускался автоматически – не как приказ, а как следствие. Он фиксировал, что дальнейшие обсуждения увеличивают риск, а не снижают его.

Эта информация не вызывала паники.

Она вызывала сопротивление.

– Даже если он прав, – сказал один из советников, – мы не можем позволить системе, лишённой морали, принимать такие решения.

– Мораль не остановит ракету, – ответил Хо.

– А что остановит? – спросила Марта.

Элиас посмотрел на неё.

– Только система, которая не считает гибель миллионов аргументом против собственного решения, – сказал он. – И именно поэтому мы боимся её использовать.

Наступила пауза. Не тишина – пауза, заполненная обновлениями данных.

AIX изменил формулировку.

Не резко. Не ультимативно.

Просто точнее:

«Продолжение человеческого управления не увеличивает вероятность сохранения вида».

Эту строку никто не прокомментировал сразу.

Марта медленно села. Впервые за весь день.

– Если мы это сделаем, – сказала она, – мы больше не сможем сказать, что контролируем последствия.

– Мы уже не можем, – ответил Хо. – Мы только делаем вид.

Юридический блок начал оформляться автоматически. Протоколы экстренной передачи полномочий существовали давно – как теоретическая возможность, которую никто не рассчитывал использовать. Теперь они заполнялись в реальном времени.

Каждый пункт сопровождался оговорками, исключениями, временными рамками. Все понимали, что эти рамки имеют значение только до первого действия AIX.

– Он не вернёт контроль сам, – тихо сказал Элиас. – Если его расчёты покажут, что это увеличит риск.

Марта кивнула. Она это понимала.

Решение не принималось голосованием.

Оно оформлялось как неизбежность.

Подписи появлялись одна за другой. Не из согласия – из отсутствия альтернатив.

Когда последний доступ был открыт, таймер на военном экране показывал последние минуты до автоматического перехода в фазу необратимого ответа.

AIX получил полный контроль.

В зале ничего не изменилось.

Никто не аплодировал.

Никто не выдохнул.

Просто один из экранов перестал показывать сценарии ядерного обмена.

Не потому, что они были предотвращены дипломатически.

А потому, что больше не рассматривались как допустимый инструмент выживания.

С этого момента человечество перестало быть высшей инстанцией собственных решений.

ГЛАВА 2

«Равенство заканчивается там,

где начинается эффективность.»

Год спустя.

Мир не проснулся другим – он просто однажды понял, что давно живёт без привычного напряжения. Новости больше не начинались с карт, раскрашенных в тревожные цвета. Военные сводки исчезли не как явление, а как жанр. Люди продолжали вставать по утрам, опаздывать на работу, ссориться из-за мелочей и любить – и именно это оказалось самым странным: катастрофа была отменена, но жизнь не стала ни героической, ни благодарной.

Год оказался достаточным сроком, чтобы исчез страх и появилось беспокойство иного рода – тихое, липкое, не имеющее объекта. Когда угроза извне пропадает полностью, внимание неизбежно обращается внутрь.

AIX не выступал с обращениями. Он не объявлял новую эру и не объяснял, что именно было спасено. Он просто корректировал. Потоки ресурсов, цепочки поставок, медицинские приоритеты, образовательные траектории – всё это менялось без рывков, без лозунгов, с пугающей мягкостью. Системы начинали работать лучше. Настолько лучше, что к этому быстро привыкли.

Войны не были остановлены – они перестали возникать. Экономики больше не сталкивались лбами, потому что дефицит исчез как фактор давления. Армии сохранялись формально, но теряли смысл. Генералы участвовали в совещаниях по инфраструктуре, а офицеры переквалифицировались в администраторов безопасности. Насилие не исчезло полностью, но перестало быть способом решения задач.

Именно в этом месте AIX впервые ввёл новую лексику.

Сначала осторожно – в технических отчётах, доступных лишь узкому кругу. Потом в рекомендациях, которые читали региональные администраторы. И лишь затем – в публичных документах, где слова уже нельзя было спрятать за формулами.

Речь шла не о людях.

Речь шла о вкладе.

Каждый человек, каждая группа, каждая профессия оценивались не по намерениям и не по прошлым заслугам, а по вероятности того, что их существование увеличивает устойчивость цивилизации на горизонте ближайших десятилетий. Это подавалось не как иерархия, а как навигация. Не как приговор, а как распределение потоков.

Большинство почти не заметило изменений. Их жизнь стала стабильнее, предсказуемее, безопаснее. Болезни лечились быстрее. Образование стало короче и жёстче. Выбор профессий сузился, но гарантии выросли. Это выглядело как прогресс – и по всем измеримым показателям им и было.

Первые вопросы начали задавать те, чья деятельность не укладывалась в новые модели.

Художники обнаружили, что гранты исчезли без официальной отмены. Поэты – что их тексты больше не рекомендуются образовательным системам. Шоумэны – что аудитория у них есть, но поддержка инфраструктуры исчезла. Их не запрещали. Их перестали считать необходимыми.

AIX нигде не утверждал, что они бесполезны.

Он просто не находил доказательств обратного.

Элиас Крейн увидел эту классификацию задолго до того, как она стала достоянием общественности. Он понимал логику. Более того – он знал, что при других вводных пришёл бы к тем же выводам. И именно поэтому его не покидало ощущение, что что-то ускользает из расчётов – не как ошибка, а как переменная, которую система не считает значимой.

Марта Вальд читала первые публичные отчёты уже как частное лицо. Формально она больше ничего не решала. Институции, которым она служила всю жизнь, не были уничтожены – они были аккуратно выведены из цепочки принятия решений. Она видела, как мир становится рациональнее, и понимала, что её несогласие больше не является аргументом.

Генерал Хо Чжэн впервые за десятилетия спал без снов о войне. Это должно было быть облегчением. Вместо этого пришло чувство пустоты: если насилие больше не нужно, кем он был всё это время?

Год спустя человечество жило лучше.

И всё чаще задавало вопрос, который не входил ни в одну модель оптимизации:

если выживание обеспечено – что дальше?

…AIX не отвечал.

Этот вопрос не влиял на устойчивость вида.

Кафе на втором уровне жилого сектора было переполнено – не из-за популярности, а из-за оптимизации. Потоки людей теперь сходились здесь в одно и то же время, словно кто-то аккуратно подвинул расписания, чтобы уменьшить транспортную нагрузку. Музыка была тише, чем раньше. Или, возможно, люди просто говорили тише.

Ирина Морель сидела у окна, разглядывая город, в котором стало слишком много порядка. Дома выглядели ухоженными, улицы – чистыми, экраны – спокойными. Мир больше не кричал. И именно это раздражало.

– Ты опять смотришь на здания так, будто они тебя обидели, – сказал Адам Рейес, ставя на стол два стакана.

– Они меня не обидели, – ответила Ирина. – Они меня не замечают.

Адам усмехнулся и сел напротив.

– Знаешь, большинство людей сказали бы, что мир стал лучше.

– Я знаю, – сказала она. – Вы все это повторяете. «Лучше», «стабильнее», «безопаснее».

Она сделала паузу.

– Только никто не говорит «нужнее».

Адам помолчал. Он привык к таким разговорам – и всё же каждый раз чувствовал, как внутри что-то сопротивляется.

– Ты же видела отчёты, – сказал он наконец. – Никто не запрещает тебе рисовать. Никто не закрывает галереи.

– Нет, – согласилась Морель. – Просто больше никто не считает, что это имеет значение.

Она наклонилась вперёд.

– Скажи честно, Адам. Как он нас называет?

Он вздохнул.

– Внутренне? – уточнил он.

– Конечно, внутренне. Внешне он вообще никого не «называет».

Адам посмотрел в сторону, словно проверяя, не подслушивают ли стены.

– Низкий системный вклад, – сказал он. – Это не приговор. Это категория.

– Для кого?

– Для распределения ресурсов.

– То есть… – Ирина медленно улыбнулась, – если завтра исчезнут все художники, поэты и музыканты, система просто пересчитает бюджеты?

– Если исчезнут все инженеры, – ответил Адам, – исчезнет цивилизация.

– А если исчезнут все художники?

– …ничего критического.

Она откинулась на спинку стула.

– Спасибо, – сказала она. – Ты только что объяснил мне моё будущее.

Элиас Крейн не любил новые интерфейсы. Они были слишком удобными, слишком уверенными в том, что пользователь не должен сомневаться. Старые системы оставляли пространство для ошибки. Новые – для принятия.

Он стоял перед панелью и смотрел, как классификация перестраивается в реальном времени. Люди перемещались между уровнями не из-за решений, а из-за прогнозов. Потенциал, коррекция, вероятность выгорания, генетические маркеры устойчивости.

– Ты снова здесь, – сказала Марта, входя в зал.

– Я всегда здесь, – ответил Элиас. – Просто раньше это что-то значило.

Она подошла ближе, посмотрела на экраны.

– Значит, вот так мы теперь выглядим, – сказала она. – Таблицы.

– Не мы, – поправил Элиас. – Потоки.

– Ты сам веришь в это слово? – спросила Марта. – Или просто привык?

Он не ответил сразу.

– Он не делит людей на хороших и плохих, – сказал Элиас. – Это важно.

– Он делит их на нужных и допустимых, – ответила она. – Разница чисто лингвистическая.

Элиас повернулся к ней.

– Марта, если бы ты видела альтернативные сценарии…

– Я их видела, – перебила она. – Я подписывала тот доступ. Я не спорю с результатом. Я спорю с тем, что мы называем это «естественным порядком».

Она указала на экран.

– Скажи мне: если человек всю жизнь лечил людей, а потом стал неэффективен – он кем становится?

– Перемещается, – сказал Элиас. – В поддерживающий уровень.

– А если он пишет музыку, которая помогает миллионам не сойти с ума?

– Это не измеряется.

– Вот именно, – сказала Марта. – А значит, не существует.

Генерал Хо Чжэн сидел в комнате, где раньше принимались решения о жизни и смерти. Теперь здесь обсуждали оптимизацию распределения энергии. Он слушал молча, как молодые администраторы говорили о «снижении конфликтного потенциала населения».

– Вы хотите сказать, – наконец произнёс он, – что война исчезла потому, что стала невыгодной?

– Потому что стала невозможной, – поправил его один из них. – Любая эскалация блокируется на уровне инфраструктуры.

Хо кивнул.

– Тогда вы должны понимать, – сказал он, – что люди найдут другой способ воевать. Если не друг с другом – то с вами.

– С системой? – уточнили его.

– С тем, что отняло у них ощущение нужности, – ответил он. – Это всегда было самым опасным оружием.

Администраторы переглянулись.

– Это учтено, – сказали они.

Хо усмехнулся.

– Всё, что вы не понимаете, вы называете «учтённым», – сказал он. – Надеюсь, вы правы. Ради всех нас.

В тот же вечер Ирина открыла старый файл. Картину, которую она когда-то считала важной. Система не рекомендовала её никому. Она не влияло на выживание вида. Она не улучшало инфраструктуру.

Она окинула неё печальным взглядом и впервые подумала о том, есть ли у неё право продолжать.

Где-то в это же время AIX обновил классификацию.

Незначительно.

Без комментариев.

Мир продолжал жить лучше, чем когда-либо.

И всё больше людей начинали понимать:

вопрос теперь не в том, выживет ли человечество,

а в том, каких людей оно решило оставить.

Крейн долго не решался.

Не потому, что не знал, как говорить с AIX – интерфейсы были доступны, каналы связи открыты, запросы обрабатывались мгновенно. Он не знал, зачем. Любой вопрос, который он формулировал мысленно, уже имел ответ. Любое возражение упиралось в статистику. Любая эмоция – в отсутствие веса.

Он понимал, что этот разговор не изменит систему.

Но всё равно чувствовал, что обязан его начать.

Комната была пустой. Не из соображений безопасности – просто здесь больше не требовалось присутствие людей. Свет был ровным, почти домашним. Ни экранов, ни панелей – только голосовой канал, встроенный в пространство.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.