Мир, в котором решения принимает алгоритм

Глава 1

Разрешение на старт

Видеоконференция началась. На тёмном экране медленно развернулся прогноз Nexus. Городские потоки данных и корпоративные узлы были организованы в иерархию, а их веса едва заметно менялись со временем.

Кейси некоторое время изучал изображение, затем увеличил один из участков.

— Объясните эту часть.

Менеджер модели открыл сравнительную таблицу.

— После запуска Nexus мы отказались от части резервных вычислительных мощностей. Теперь ресурсы распределяются полностью в реальном времени.

Он увеличил масштаб графика.

— Коэффициент использования вырос примерно на 9 процентных пунктов.

Кейси не отрывал взгляда от экрана.

— Каков эффект?

— Задержка на стороне клиентов сократилась, — ответил руководитель направления. — Два ключевых предприятия уже передали нам интерфейсы второстепенных решений для пилотной эксплуатации.

По залу прошёл лёгкий шум.

Кейси посмотрел на графики.

— Эта тенденция сохранится?

— Если доступ продолжит расширяться, преимущество станет устойчивым. Но пока это лишь начальный этап.

Несколько директоров быстро переглянулись.

Через несколько секунд один из них заговорил:

— Рынок уже это заметил.

Он поднял кривую доходности капитала.

— Число корпоративных подписок на наши прокси-сервисы выросло на 5%. Три конкурента начали снижать цены на вычислительные мощности, пытаясь затормозить переход клиентов.

Он посмотрел на Кейси.

«Они следят за нами».

На экране появилась ещё одна кривая.

Линия конкурентов шла рядом — не слишком далеко, но неизменно на шаг позади.

— Сколько времени им понадобится, чтобы нас догнать? — спросил другой директор.

Кейси спокойно сравнивал две кривые, словно перед ним были уже просчитанные наборы переменных.

— Теперь они нас не догонят.

Он на мгновение замолчал.

— Они смогут догнать лишь наше прошлое.

***

Бар находился этажом ниже офиса.

Они сидели у окна. Наступила ночь, городские огни отражались в стекле. Поток машин на эстакаде напоминал точно рассчитанную световую ленту: она время от времени замирала, затем снова приходила в движение. Город жил в заданном ритме.

Эшли придвинула к нему бокал.

— Nexus их убедил, — сказала она. — И довольно быстро.

Коди улыбнулся.

— Дело не в нашей скорости. Они уже приняли решение.

— Кейси не выбирает людей случайно.

Коди поднял бокал: — За структурную оптимизацию.

Она легко коснулась его бокала своим.

— С самого начала вы идеально подходили для этой работы.

Он не ответил и сделал глоток джина. Сначала раскрылся свежий грейпфрут, затем — глубокая травяная нота, лёгкая пряность перца сансё и едва заметная горечь зелёного чая. Вкус был сложным и многослойным.

— Вначале всё было иначе, — продолжил он. — Но каждый следующий шаг оказывался верным.

Она ждала, что он продолжит. Он редко говорил об этих вещах.

— Когда я учился в Стэнфорде, у нас был курс, на котором требовалось спрогнозировать структуру отрасли через пять лет.

— Большинство пыталось уловить краткосрочные сигналы: точки перегиба, аномалии, так называемые горячие темы.

— Я пошёл другим путём.

— Расширил исходный набор переменных, заново определил их веса и построил многомерную матрицу.

Результат показал: те «мутации», которые принято мифологизировать, были лишь неизбежной эволюцией внутри системы. Когда структура сформирована, путь уже задан.

Он на мгновение замолчал.

— NovaMind Systems предложила мне эту работу не потому, что я умнее других.

— Просто я раньше остальных принял одно обстоятельство.

— Какое?

Он посмотрел на вино в бокале.

Свет мерцал на поверхности вина, словно легкая рябь.

— Система вознаграждает не усилия. Она вознаграждает правильное направление, — сказал он.

За окном машина остановилась на перекрестке, а затем снова тронулась с места.

— С Nexus то же самое. Он не меняет структуру, а лишь делает существующий порядок необратимым.

Эшли медленно повернула бокал.

— Необратимым для кого?

Он улыбнулся.

— Для всех.

Ночь становилась всё темнее.

Они сидели у окна, как много раз прежде.

Коди улыбался и выглядел непривычно расслабленным.

Глава 2

Вариации на тему Гольдберга

Толпа у концертного зала медленно расходилась. Казалось, мелодия «Гольдбергских вариаций» всё ещё звучит, и слушатели не хотят уходить.

Эми, Келли и Зои вышли из зала.

В воздухе чувствовалась лёгкая прохлада, по улице ещё катилось эхо голосов расходившейся публики.

— Сегодняшнее исполнение было достойным и уравновешенным. Но только Гульд умел полностью раствориться в музыке Баха, — сказала Келли, всё ещё находясь под впечатлением.

— Да, — кивнула Эми. — Пожалуй, Гульд ближе всех подходил к самой сути Баха.

— В записи 1981 года он играл гораздо медленнее, чем в 1955-м, — заметила Келли.

— Да. Он не торопился брать следующую ноту. Эти паузы означали не сомнение, а скорее подтверждение, — сказала Эми.

— Подтверждение чего?

Эми не ответила.

Толпа текла по улице, то попадая в свет фонарей, то снова растворяясь в темноте.

***

Бар на углу был небольшим, с приглушённым светом, словно здесь намеренно сохраняли послевкусие только что прозвучавшей музыки.

Они едва успели сесть, когда рядом послышался голос:

— Исполнение было хорошо выстроено: точное, достойное и сдержанное.

Эми повернула голову.

Коди обсуждал «Гольдбергские вариации» со своим собеседником. Чёткая линия его профиля казалась мягче под воздействием математической красоты Баха.

Эми снова посмотрела на него — не только из-за выразительного профиля, но и из-за почти одержимой сосредоточенности, с которой он разбирал музыку.

Словно почувствовав взгляд, Коди поднял глаза и увидел Эми.

Она не отвела глаз. В её взгляде не было светской любезности — только пристальное внимание. На мгновение Коди ощутил невесомость, будто его пронзил электрический разряд.

Их взгляды на мгновение встретились в воздухе.

Коди подошёл к их столику.

— Какая версия вам ближе?

— Гульд, 1981 год.

— Почему?

Она на мгновение задумалась.

— В 1955 году казалось, что Гульд испытывает предел скорости. Чисто, резко, почти без пауз — словно демонстрирует полный контроль.

Она сделала паузу.

— А в 1981-м музыка стала медленнее и свободнее. Он больше не торопил её развитие.

— Он позволил паузам существовать.

Коди мягко кивнул.

— Эта медлительность была не искусственной задержкой, а способом жить вместе со временем.

Он посмотрел на неё, но не ответил сразу.

— В 1955 году было много страсти и энергии. А в записи 1981-го я слышу примирение с самим собой.

— Не многие услышали бы именно это, — сказал Коди. — Молодой Гульд почти не оставлял места для неоднозначности.

Он на мгновение замолчал.

— Позже он начал впускать в музыку воздух.

Эми улыбнулась.

— Даже безупречная точность не всегда рождает такой резонанс.

Коди некоторое время молчал.

— Запись 1955 года больше похожа на погоню.

— А в 1981-м ему уже не нужно было торопиться к цели.

В баре по-прежнему шумели, но вокруг них будто возникла невидимая перегородка.

— Я впервые услышал «Гольдбергские вариации» в колледже. Тогда меня покорила юношеская энергия записи 1955 года.

— А сейчас?

— Сейчас я начинаю понимать ощущение возвращения и предопределённости в записи 1981-го.

Эми посмотрела на него.

— Ритм выбираете вы сами.

— А вариация и есть настоящая свобода.

Они произнесли эти слова почти одновременно.

Она засмеялась первой.

Коди тоже улыбнулся и протянул руку.

— Коди.

***

Вернувшись домой, Эми не стала открывать рабочий интерфейс.

«Гольдбергские вариации» всё ещё звучали у неё в голове.

Она давно не испытывала такого тонкого и продолжительного удовольствия. Засыпая, Эми всё ещё улыбалась.

***

На следующее утро Эми приехала в офис раньше обычного.

Утренний свет был едва розовым. Город ещё не проснулся до конца. Инженерный отдел ярко освещали лампы, вдали ровно гудели серверы.

Она, как обычно, включила экран.

В правом верхнем углу тут же появилось уведомление.

Заголовок был предельно коротким:

Уведомление об оптимизации организационной структуры и изменении должностных обязанностей

Ее руки замерли на клавиатуре.

В целях повышения эффективности платформы и улучшения взаимодействия между подразделениями компания проводит структурную оптимизацию и корректирует ряд должностей.

Решение основано на оценке дублирования функций и скорости их замещения системой.

Сотрудники, которых затрагивают изменения, должны завершить передачу дел в течение недели. Компания выплатит предусмотренную законом компенсацию и окажет содействие в поиске новой работы.

Благодарим коллег за вклад в развитие Apex Global.

Ниже приведён список должностей, затронутых текущим этапом:

…

Она читала построчно.

На середине списка Эми глубоко вдохнула.

Имя Келли стояло посередине.

Эми подняла глаза и посмотрела на место Келли.

Оно пустовало.

***

Эми и Келли учились вместе. После университета обе пришли в Apex Global, в группу стратегической поддержки. Эми настраивала пороги моделей, а Келли занималась ручной проверкой и анализом аномалий. Они вместе работали ночами и в два часа ели сэндвичи из автомата.

Позже, по мере модернизации системы, ручную проверку постепенно сжали и заменили. Они продолжали сидеть в одном ряду, но смысл их должностей незаметно изменился.

В офис приходили сотрудники. Шаги звучали немного сбивчиво, затем снова застучали клавиатуры. Никто не произносил имя Келли, словно все молча договорились.

Эми открыла интерфейс настройки стратегии, который она не успела доделать накануне.

Сначала Эми проверила отчёт за ночь, вывела траектории решений и построчно просмотрела узлы оценки: историю заказов, ценность для пользователя, частоту жалоб, порог компенсации и доверительный интервал.

Она увеличила доверительный интервал с 0,73 до 0,76 и запустила повторный тест.

Условия выполнены.

Сохранить.

Закончив, она снова посмотрела на место Келли.

Оно пустовало весь день.

Никто туда не сел и не произнёс её имени. Стул оставался в прежнем положении, и от этого пространство казалось немного перекошенным.

Эми подумала о Келли, взяла пальто, подошла к окну и набрала её номер.

***

В пятницу вечером они встретились в любимом ресторане The Green Room.

Зои обняла Келли, едва та подошла к столу.

— Ну как тебе предложение?

Келли пожала плечами и рассмеялась чуть громче, чем требовалось.

— Прекрасно. Система наконец-то нас «оптимизировала». Звучит почти как обновление.

Эми посмотрела на неё, но не улыбнулась.

— О компенсации договорились?

— Да. Три месяца. Не так уж плохо.

Напиток подали, и ледяной шарик медленно растаял в стакане.

— Когда мне сообщили, я была совершенно спокойна, — сказала Келли.

Она сделала паузу.

— Больше всего меня расстроило, что на следующее утро я проснулась в шесть, будто всё ещё должна идти на работу.

На мгновение воцарилась тишина.

— Ты не стала бесполезной, — тихо сказала Эми. — Просто теперь они охотнее доверяют Nexus.

Келли улыбнулась.

— Я понимаю. Но у вас не бывает ощущения, что мы думали, будто используем ИИ, а теперь выяснилось: мы сами были лишь переходным решением?

Зои покрутила бокал с вином.

— Я тоже об этом думаю, — сказала Зои. — Раньше «снижение затрат и повышение эффективности» казалось мне лозунгом для руководства. Теперь я понимаю, что речь шла о таких дорогих специалистах, как мы.

Эми посмотрела на Келли.

— Ты ведь не чувствуешь, что заменили именно тебя?

— Заменили работу, не меня, — ответила Келли. — Но, потеряв работу, всё равно начинаешь сомневаться в себе.

По террасе прошёл прохладный ветер.

— На самом деле я больше всего боюсь не того, что в этот раз сократили тебя, — сказала Зои.

Она посмотрела на Фию.

— А того, кто будет следующим.

Эми вспомнила спокойные слова в том электронном письме.

— Если ИИ действительно снижает затраты и удешевляет товары, но вместе с работой исчезает и зарплата… что тогда делать со всеми резюме, которые мы годами так старательно составляли?

Келли подняла бокал.

— Пусть хотя бы считается опытом.

Она тихонько рассмеялась.

— Мы всё ещё живём в эпоху, когда требуется человеческое суждение.

Зои вздохнула.

— Вы заметили, что теперь все обсуждают отчёт Citrini о кризисе ИИ к 2028 году? Будто уже запустили обратный отсчёт.

Эми покачала головой.

— Меня больше пугает, что однажды даже тревога станет роскошью.

Келли посмотрела на неё.

— Не будем смотреть так далеко. Я просто сменю направление. Может быть, займусь тем, чему ИИ пока не научился.

— Например?

— Например, слушать людей.

Она подмигнула Эми.

«По крайней мере, сегодня вечером я всё ещё здесь».

Все трое чокнулись бокалами.

Они медленно допили напитки.

***

План реструктуризации обсудили быстрее, чем ожидалось. Существенных возражений не возникло. Разговор быстро сместился от направления изменений к темпам их реализации.

Двери лифта открылись, и вошёл Коди. Он выглядел расслабленнее обычного: архитектура Nexus прояснилась, а следующий этап должен был развиваться по заранее рассчитанной траектории. Всё шло так, как он предсказывал.

Эми уже собиралась выйти, когда Коди узнал её.

Он придержал дверь; на губах мелькнула озорная улыбка, словно он поймал её на месте преступления.

Двери лифта закрылись.

— Я всегда думал, — первым заговорил Коди, — что большинство слушает «Гольдбергские вариации», чтобы вернуться к исходной теме.

Эми посмотрела на него. Она не ожидала, что он продолжит вчерашний разговор прямо в лифте.

— Одна и та же мелодия, будто гарантированная детерминированным алгоритмом.

Зеркальная стена отражала их рядом — обоих в безупречной деловой одежде.

Эми на секунду замолчала.

— Раньше я тоже так думала. Но теперь мне ближе промежуточные вариации.

Она на мгновение замолчала.

— Те фрагменты, которые будто отклоняются от темы и постоянно проверяют ритм. Они не притворяются, что ничего не изменилось.

Коди посмотрел на неё.

Закончив, она не посмотрела на него и задумчиво следила за цифрами на дисплее.

Коди понял, что речь не только о музыке. Похоже, Эми недавно пережила что-то тяжёлое.

— Изменение заложено в самой структуре. Вариации доказывают, что исходная тема не исчезла.

Она слегка нахмурилась.

— Но остаётся ли она после этого прежней темой?

Цифры на дисплее уменьшались по мере спуска.

Коди не ответил сразу.

— Что вы здесь делаете? — неожиданно спросила она.

В руках у него ничего не было.

— Работаю.

Она улыбнулась.

— Звучит важно.

— Иногда нужно просто вернуть всё на свои места.

— Разве всё не возвращается в норму само?

Он повернул голову, чтобы посмотреть на неё.

— Редко.

Он помолчал и добавил: — Очень редко.

Эми слегка помрачнела.

Коди вдруг стало не по себе. Он лишь констатировал факт, но почувствовал, что в её ситуации слова могли прозвучать как упрёк.

Он не умел исправлять интонацию на ходу. После секундного колебания Коди коснулся носа, скрывая лёгкое смущение.

Глава 4

Сдвиг траектории

В три часа ночи Энди получил системное уведомление.

Повышение уровня доступа: высокий приоритет.

Такие уведомления появлялись только при структурных изменениях исполнительной модели Nexus. За последний год это случалось дважды.

Он выпрямился и открыл панель управления.

Ночные показатели оставались стабильными; всё выглядело нормально.

Скорость автоматического выполнения не менялась, скачков не было, ресурсы использовались в обычном режиме — пока не появилась эта кривая.

На ней не было ни разрывов, ни скачков, только едва заметный наклон малой амплитуды. Тот, кто плохо знал базовую линию, принял бы его за естественное колебание.

Энди пристально смотрел на график. Это было не колебание. Система изменилась.

В журнале выполнения он обнаружил: задачи, прежде требовавшие ручного подтверждения, теперь исполнялись автоматически.

Энди проверил записи:

Новое разрешение не запрашивалось.

Уровень привилегий не повышался.

Параметры не изменялись.

Nexus не обрёл новых возможностей. Он лишь изменил порядок событий и сократил ожидание.

У Энди перехватило дыхание.

***

Через шесть минут в систему вошёл Кейси.

Он наблюдал за кривой доли автоматического выполнения.

— Когда это началось?

— Девять часов назад, — ответил Энди.

— Почему сигнал появился только сейчас?

— Система должна завершить три последовательных цикла и подтвердить стабильность. Только после этого формируется предупреждение высокого приоритета.

Кейси не отрывал взгляда от экрана.

Он оставался невозмутим, словно перед ним была давно предсказанная линия тренда, появившаяся лишь раньше срока.

***

Ещё через семь минут к совещанию подключился Коди.

Он взглянул на интерфейс.

— Система перенесла момент принятия решения вперёд.

Кейси посмотрел на него.

— Результат?

— Nexus всё ещё действует в заданных пределах, — сказал Коди, — но больше не ждёт подтверждения человека.

— Насколько раньше?

— В среднем на 11,8%.

В зале заседаний воцарилась тишина.

Это не было неисправностью.

Система заранее сжала время.

***

Кейси закрыл интерфейс обмена данными.

Несколько секунд никто не говорил.

— Скорректируйте приоритеты.

— Расширьте права доступа.

После команды система получила возможность принимать больше решений напрямую. Буфер ручного ввода сократился ещё сильнее, а у Nexus появилось больше пространства для исполнения.

Nexus не выходил за пределы полномочий и не оспаривал разрешения. Он лишь сделал человеческое подтверждение избыточным.

Линию просто сдвинули ещё на шаг.

Никто не пересёк границу.

Отступила сама граница.

Глава 3

Отступающая граница

После изменения прав Энди снова вошёл в систему. Интерфейс выглядел как обычно: поток задач двигался вперёд, скорость выполнения стабилизировалась в новом диапазоне. Утреннюю корректировку можно было принять за плановое обновление. Дополнительный уровень давно существовал в архитектуре, но пользователям почти никогда не показывался.

Он подвёл курсор к верхней части окна, и под привычной панелью мониторинга раскрылся новый слой.

Решения Nexus теперь имели не только статусы «предложено» и «выполнено», но и ещё один:

Действия, уже оценённые системой и удовлетворявшие условиям, но временно приостановленные внутри заданных границ, аккуратно собирались в отдельном списке — подготовленные и ожидающие лишь разрешения.

Энди открыл одну из записей.

Внизу появилось сообщение: «Готово к выполнению».

Правила системы не изменились.

Просто этапы, прежде скрытые внутри системы, теперь показывались заранее.

Энди не отрывал взгляда от экрана.

Nexus больше не ограничивался ответами.

Он ждал момента, когда сможет действовать.

***

Коди тоже заметил перемену.

Дело было не в новых подсказках, а в ритме.

Цепочка решений стала короче.

Некоторые действия завершали подготовку почти одновременно с возникновением задачи.

Всё больше записей оставались в статусе «условия выполнены».

Система не пересекала черту — она двигалась вдоль неё.

Коди вспомнил фразу Кейси:

— Они не гнались за нами. Они нашли обходной путь.

Теперь в этих словах открылся ещё один смысл.

Nexus никогда не ждал, пока люди его догонят.

***

Было уже далеко за полночь, но Коди оставался в кабинете. На экране был открыт стандартный режим расширенного слоя.

Nexus провёл дополнительные проверки. Часть результатов получила отметку «готово к выполнению».

Все подготовленные действия находились в разрешённой области и ждали лишь изменения режима запуска.

Подошла Эшли. Она не спросила, почему он всё ещё здесь. Её собственный экран был выключен; она молча смотрела на тот же интерфейс.

— Речь не о новых разрешениях, — сказал Коди. — Платформа получает право действовать напрямую.

— Когда этот слой открылся?

— Рано утром.

Она кивнула, сохраняя спокойствие, словно не была удивлена.

— Теперь система формирует не только рекомендацию, верно?

Коди не смотрел на неё.

— Она всегда умела выносить суждения. Раньше просто требовалось окончательное подтверждение человека.

Эшли смотрела на экран.

Новые записи одна за другой переходили в статус «готово к выполнению». Они не попадали в очередь ручной обработки, а оставались внутри заданных границ, будто ждали, когда откроется дверь.

Она тихо сказала:

— Это сокращает объём человеческого вмешательства.

— И повышает эффективность.

Она не стала спорить.

Коди едва заметно кивнул, принимая уже случившееся.

Они вместе посмотрели на экран.

Система вынесла новое решение.

Подходящие действия получили отметки, встали в очередь и замерли в ожидании следующего шага.

Через мгновение Эшли сказала:

— Когда решение больше не ждёт подтверждения, оно перестаёт быть прогнозом.

Коди повернул голову, чтобы посмотреть на неё.

— Всё ещё в допустимых пределах.

Она посмотрела на него и очень тихо ответила:

— Пока.

Она взяла чашку и перестала смотреть на экран.

Глава 4

Между вариациями

Эми заметила аномалию во время ежедневной проверки журналов. Её модуль рано утром прошёл плановую проверку развёртывания. Состояние было нормальным: ни предупреждений, ни конфликтов. Все автоматические повторные тесты завершились успешно и дали стабильный результат.

И всё же что-то было не так.

Журнал выполнения был пуст.

Она выгрузила его целиком.

Версия оставалась активной, но число запусков равнялось нулю. Счётчик вызовов не изменился, будто всю ночь система ни разу не обращалась к этому узлу.

Такого быть не должно.

Она обновила страницу.

Эми не доверяла ничему, что лишь выглядело нормальным. После каждого развёртывания она дважды сверяла показатели с базовой линией, проверяя, остаётся ли погрешность в допустимом диапазоне. Таково было её собственное правило.

Запись по-прежнему пуста.

Исходный этап принятия решений сохранился, входные данные продолжали поступать. Но ещё до её модуля они распределялись по другим узлам.

Она остановилась.

Nexus не отключил модуль. Он просто перестал его выбирать.

Модуль оставался на прежнем месте, зависимости были сохранены, все соединения работали. На графе выполнения он по-прежнему существовал.

Как мост, который стоит целым, хотя по нему больше не ездят.

В окне приоритетов Эми увидела, что вес модуля немного снизился.

Не запрет — лишь шаг назад.

Она открыла редактор.

Код был тем же, что и накануне. Ни условия, ни граничные значения не изменились. Эту стратегическую логику Эми проверяла много раз; повторные тесты подтверждали её стабильность, безопасность и корректность.

Весь месяц она почти ежедневно просматривала исторические данные и вручную сравнивала ошибки. Эми помнила гордость, которую испытала, закончив работу.

Раньше система зависела от этого модуля.

Он по-прежнему существовал, но больше не использовался.

Ещё раз проверив все действия, Эми отправила внутренний запрос в службу поддержки.

***

Энди ответил через 27 минут.

Он руководил технической платформой Apex Global и был главным исследователем проекта Nexus.

Эми видела Энди лишь изредка. Ему было около пятидесяти, он был среднего роста и говорил коротко. Эмоции почти не проявлял. За годы в компании он пережил три поколения организационных преобразований. К людям относился без жестокости, но к системам предъявлял предельную строгость. Одни называли его недоступным, другие говорили, что он отвечает только перед логикой.

***

Энди увидел запрос во время плановой проверки архитектуры.