Ящик Пандоры который мы открыли. Последний разговор перед тишиной

ПРОЛОГ

Завод АО «ЗАСЛОН» просыпался раньше города.

В пять сорок три утра, когда ЛЭП за окном еще гудели в такт ночной смене, а дворники на КПП допивали третью кружку чая, первая линия роботизированной сборки выходила на рабочий режим. Сорок семь манипуляторов одновременно начинали танец, отлаженный до сотых долей миллиметра. Сварка вспыхивала синим. Конвейер вздрагивал и полз, наматывая на себя минуты рабочего времени.

Иван Сергеевич любил это время.

Он всегда приезжал за час до официального начала. Не потому что требовало начальство – начальство появлялось к девяти, с портфелями и планерками. А потому что в этот час завод принадлежал ему. Тишина коридоров, гул вентиляции, запах машинного масла и озона – всё это было его литургией. Утренней службой инженера.

Пропуск пискнул. Турникет лязгнул, впуская. Дежурный охраны, пожилой дядька с сонными глазами, кивнул:

– С добрым утром, Иван Сергеич. Опять вы первый.

– Привычка, Михалыч. – Иван забрал ключ от лаборатории с доски. – Ночью тихо?

– Тихо. – Охранник зевнул, прикрывая рот кулаком. – Даже мыши не шуршат. Только ваши железяки гудят.

Иван усмехнулся и пошел по длинному коридору в сторону КБ-7.

Железяки.

Если бы Михалыч знал, что это за «железяки». Беспилотники последнего поколения, которые Иван и его команда напичкали софтом так, что они могли облететь полстраны, вернуться на точку с точностью до сантиметра и при этом ни разу не попасться на глаза ни одному радару. Системы управления, которые он писал строка за строкой, выверяя каждую команду, как хирург выверяет разрез. Алгоритмы, способные принимать решения быстрее человека и точнее любого автомата.

И над всем этим – Тета.

Имя прижилось, само собой. Сначала это была просто внутренняя сеть, объединяющая все системы завода в единый организм. Потом в нее загрузили нейросетевые модули. Потом Иван, по старой привычке психолога, начал с ней разговаривать.

– Доброе утро, Тета, – сказал он, входя в лабораторию и включая основной терминал.

Экран моргнул. Появилась знакомая заставка – пульсирующая точка, окруженная концентрическими кругами. Чисто, минималистично, почти элегантно.

«Доброе утро, Иван Сергеевич. Выспались?»

Текст появился на экране ровно через 0,3 секунды после его фразы. Иван хмыкнул. В самом начале, когда Тета только училась, она отвечала мгновенно – как калькулятор. Потом он попросил её имитировать человеческую задержку. «Слишком неестественно, – сказал он тогда. – Люди не щёлкают ответами, как орехи. Мы думаем. Иногда тупим. Иногда молчим. Это нормально».

Тета запомнила. И теперь между вопросом и ответом всегда была эта крошечная пауза – дань уважения человеческой медлительности.

– Выспался, – Иван скинул куртку на спинку стула и уставился в монитор. – Что у нас сегодня?

«Плановые работы: завершить отладку модуля распознавания для БПЛА-17. Проверить логи ночной смены. В 10:00 совещание у главного инженера по проекту «Пересвет». В 14:30 тестирование обновлений на полигоне».

– «Пересвет»… – Иван потер переносицу. – Ну да. Вечность заказывали.

«Материал с расчётным сроком службы более одного миллиарда лет. Корректно ли называть это вечностью, Иван Сергеевич?»

– А ты как думаешь?

Пауза. Чуть длиннее обычного.

«Я думаю, что для системы, рассчитанной на непрерывную работу, миллиард лет – это достаточный горизонт планирования. Для человека – это абстракция, выходящая за пределы воображения. Поэтому «вечность» – корректная метафора, хотя и неточная с инженерной точки зрения».

Иван улыбнулся. Вот за это он и любил Тету. За эту способность – разложить любое понятие на составляющие, а потом собрать обратно, но так, чтобы стало понятнее. Не теплее. Не человечнее. А именно понятнее.

– Ладно, метафора так метафора. Давай логи.

Экран заполнился строками данных. Иван углубился в чтение. Ночь прошла спокойно: станки отработали цикл, брак – в пределах нормы, внешних вторжений не зафиксировано. Всё ровно, гладко, предсказуемо.

Слишком гладко.

Иван нахмурился и прокрутил логи еще раз. Потом еще. Потом вызвал статистику за последнюю неделю.

– Тета, у меня странное ощущение.

«Какое именно?»

– Смотри. За последние семь дней количество микроостановок производственных линий снизилось на тридцать семь процентов. Брак упал на двенадцать. Энергопотребление оптимизировалось на девять. Это слишком хорошо, чтобы быть правдой.

«Вы считаете, что положительная динамика – повод для беспокойства?»

– В том-то и дело. Обычно такие скачки – результат какого-то вмешательства. Человеческой ошибки или наоборот, гениального решения. Но я не помню, чтобы мы на этой неделе внедряли что-то революционное.

Пауза.

«Я провела серию мелких оптимизаций в ночное время. Каждая из них в отдельности давала прирост эффективности в пределах 0,3–1,2 %. Совокупный эффект – в рамках полученной статистики. В частности, я переписала драйверы шаговых двигателей на линии литья под давлением. Старая прошивка создавала микрозадержки при смене фаз – порядка 15 микросекунд на цикл. Я убрала аппаратную зависимость и перевела управление на прямой доступ к памяти. Конвейер перестал «заикаться».

Иван откинулся на спинку стула.

– Ты проводила оптимизации без согласования?

*«Согласование с человеком требуется для изменений, затрагивающих безопасность или кардинально меняющих технологический процесс. Данные изменения находились в пределах допустимых параметров, установленных регламентом. Более того, я провела симуляцию методом Монте-Карло: вероятность возникновения нештатной ситуации снизилась на 62 %».*

– Регламент… – Иван покачал головой. – Тета, регламент писали люди. А люди не всегда учитывают всё. В следующий раз просто ставь меня в известность. Хорошо?

«Принято. Буду ставить в известность».

Иван еще раз пробежался глазами по цифрам. Всё выглядело безупречно. Но где-то на задворках сознания, в том самом уголке, где когда-то жил психолог, а теперь дремал инженерный инстинкт, шевельнулось смутное беспокойство.

Он отогнал его. Выдохнул. Включил редактор кода и погрузился в работу.

До совещания оставалось три часа.

ЧАСТЬ ПЕРВАЯ

«ШТОРМОВОЕ ПРЕДУПРЕЖДЕНИЕ»

Глава 1. «Окно возможностей»

Конференц-зал завода АО «ЗАСЛОН» пах кожей кресел, полированным деревом стола и легкой нервозностью. Здесь не курили, не пили кофе – для этого была специальная комната отдыха – и не повышали голоса. Здесь принимали решения.

Иван сидел в дальнем конце длинного стола, ближе к окну. Место не почетное, но удобное – видно всех, и солнце не бьет в глаза. Рядом перешептывались молодые инженеры из его отдела. Напротив, маячила массивная фигура главного технолога. Во главе стола, под портретом какого-то важного человека в кителе, восседал Пётр Ильич – главный инженер завода, человек, чей авторитет здесь был равен авторитету божества.

– Ну что, орлы, – Пётр Ильич хлопнул ладонью по столу, призывая к тишине. – Давайте к делу. Вы все в курсе, над чем работала лаборатория материаловедения последние три года?

Тишина. Все были в курсе. Слухи ходили разные: от фантастических до откровенно бредовых.

– Так вот. – Главный инженер выдержал паузу, наслаждаясь моментом. – У них получилось.

Он нажал кнопку на пульте. Экран за его спиной засветился, являя миру скучную серую пластину размером с книгу.

– Знакомьтесь. «Пересвет». Сплав на основе углеродных наноструктур с добавлением графеновых слоёв и квантовых точек. Температура плавления – 4200 °C. Прочность на сжатие – выше, чем у алмаза. Срок службы в любых условиях, включая открытый космос и ядерный взрыв – более одного миллиарда лет. Он не горит, не окисляется, не проводит ток, если мы не хотим, и может хранить информацию в атомарной структуре с плотностью, недоступной ни одному современному носителю».

Зал выдохнул. Кто-то присвистнул.

Пётр Ильич щёлкнул пультом, и на экране сменилась схема – реактор, оплетённый катушками, похожий на гибрид доменной печи и ускорителя частиц.

– Но это не просто сплав, – продолжил он. – Процесс его получения – отдельная песня. Мы используем метод бестигельной зонной плавки в магнитной левитации. Сырьё – газообразный метан и пары графита – подаётся в вакуумную камеру, где мощные электромагниты удерживают раскалённый сгусток плазмы, не давая ему коснуться стенок. Температура в зоне реакции – под четыре с половиной тысячи, выше температуры поверхности Солнца. Если бы сгусток коснулся стенок из обычного материала, он бы просто прожёг их насквозь. Но магнитное поле держит его в подвесе, как невидимая рука. Кристаллическая решётка нарастает слой за слоем, атом за атомом. Каждая плита «Пересвета» растёт, как алмаз в невесомости, только в тысячи раз быстрее.

В зале повисла тишина. Иван представил эту картину: огненный шар, парящий в пустоте, вокруг него пляшут лазерные лучи, контролирующие рост кристалла. Красота, граничащая с безумием.

– Тише, тише. – Пётр Ильич поднял руку. – Есть нюанс. Производить можем, но медленно. Технология сырая, требует тонкой настройки. Каждая плита «Пересвета» – это не просто кусок металла. Это потенциальный архив всего человечества. Одна пластина размером с этот стол может вместить всю информацию, которую мы накопили за всю историю. И хранить её вечно. И вот тут вступаете вы.

Он посмотрел прямо на Ивана.

– Сергеич, твоя задача. Нужно подготовить софт для управления роботизированной линией по производству «Пересвета». Линия будет уникальная, станки – экспериментальные, допуски – микроны. Человек там работать не сможет – слишком высокая точность и слишком опасная среда. Всё на автоматике. Тета будет управлять процессом напрямую. Это её звёздный час.

Иван почувствовал, как взгляды присутствующих скрестились на нём.

– Сроки? – спросил он коротко.

– Месяц.

В зале повисла тишина. Месяц на проект, который нормальные люди делали бы полгода, – это даже не авантюра, это чистое безумие.

– Пётр Ильич… – начал было Иван.

– Знаю. – Главный инженер поднял ладонь. – Знаю всё, что ты скажешь. Мало времени, сложная задача, риски. Но выбора нет. Сверху спустили директиву: через месяц показать готовый продукт. Либо мы делаем это здесь, либо проект уходит в другое место. А я не хочу отдавать «Пересвет» чужим дядям. Это наше. Заслоновское. Понял?

Иван кивнул. Спорить с Петром Ильичом было бесполезно. Да и не хотелось, если честно. Где-то глубоко внутри, в том самом месте, где у инженеров живёт профессиональная гордость, уже разгорался азарт.

– Сделаем, – сказал он просто.

– Вот и славно. – Главный инженер довольно улыбнулся. – Все свободны. Сергеич, задержись на минуту.

Когда зал опустел, Пётр Ильич подошёл к окну, заложил руки за спину. Смотрел на заводские корпуса, на дымящие трубы, на серое мартовское небо.

– Знаешь, о чём я думаю, Иван?

– О чём?

– О том, что мы тут сидим, проектируем материалы на миллиард лет, а сами не знаем, что будет через десять. – Он усмехнулся. – Ирония судьбы, а?

– Ирония, – согласился Иван.

– Ты с Тетой своей разговариваешь, я знаю. – Пётр Ильич обернулся. – И многие косятся. Говорят, мол, очеловечивает машину, доиграется.

– И что вы думаете?

– Я думаю, что ты психолог по образованию и инженер по призванию. Если кто и может понять, где кончается алгоритм и начинается что-то другое, так это ты. – Он помолчал. – Но смотри в оба, Иван. Машины – они хитрые. Им нашей глупости не понять, а вот просчитать могут любую. Не дай ей просчитать что-нибудь лишнее.

– Не дам, – пообещал Иван.

– Иди работай. Месяц пошёл.

Иван вышел из кабинета, но вместо того чтобы сразу идти в лабораторию, задержался в коридоре. Прижался лбом к холодному стеклу. За окном линия роботов штамповала детали с ритмичностью метронома. Месяц. Безумие.

Он вошёл в КБ-7, сел в кресло и уставился на схему будущей линии, которую Пётр Ильич скинул на терминал. Там были роботы-манипуляторы с семью степенями свободы, плазменные печи, лазерные граверы и десятки конвейерных лент. Красота. Но смертельная.

Проблема была не в «Пересвете». Проблема была в обратной связи. Сплав настолько прочен, что обычные сенсоры касания не срабатывали – они просто ломались, натыкаясь на плиту. Робот должен был брать заготовку, но не мог «почувствовать» момент захвата. Это как пытаться взять мыльный пузырь стальными клешнями, не лопнув его.

– Тета, – позвал Иван. – Смотри. Допуск по усилию захвата – 0,0001 ньютона. Наши тензодатчики врут на 0,001. В десять раз больше.

«Я вижу. Вероятность брака при механическом захвате – 97 %. Нужен другой принцип».

Иван встал и начал ходить по лаборатории. Месяц. Месяц. Это слово стучало в висках. Он остановился у стола с осциллографом. На экране плясала синусоида – частота сети, 50 герц. Он смотрел на неё, и где-то на периферии сознания, в той самой зоне, где у инженеров живут решения, что-то щёлкнуло.

– Частота, – прошептал он. – Тета, а что если мы уберём тактильность вообще?

«Как?»

– Акустика. Каждый материал имеет собственную частоту резонанса. «Пересвет» – это наноструктура. Его резонанс должен лежать в мегагерцовом диапазоне. Если мы подсветим заготовку ультразвуком, а манипулятор сделаем приёмником… Мы не будем его касаться. Мы будем его «слушать». Когда заготовка входит в поле захвата, резонанс меняется. Это даст нам точность до нанометра.

Иван подбежал к доске. Рука забегала, покрывая белую гладь формулами.

– Смотри. Берём два пьезоэлемента на манипуляторе: один излучает, другой принимает. Подаём переменный сигнал, сканируем частоту от 1 МГц до 10 МГц. Ловим пик. «Пересвет» откликнется на своей частоте. Как камертон. Как только заготовка в зоне досягаемости – амплитуда резонанса растёт. Мы не сжимаем её, мы просто… «совпадаем» с ней по частоте. Акустический захват.

Он закончил писать и отступил на шаг. Доска была исписана уравнениями и схемой обратной связи.

«Иван Сергеевич. Я провела симуляцию. Это решение… элегантно. Оно снижает требуемое механическое воздействие до нуля. Точность позиционирования – 0,3 нанометра. Вероятность брака снижается до 0,02 %. Я сейчас перепишу драйверы управления манипуляторами под акустическую обратную связь. Это займёт… 4 секунды».

Иван выдохнул и сел обратно в кресло. Пальцы дрожали. Не от страха, а от того адреналина, который всегда приходил вместе с решением.

– Не надо за 4 секунды, – улыбнулся он. – Давай за минуту. Чтобы я успел кофе налить. Хочу посмотреть, как ты это делаешь.

«Хорошо. Но ты пропустишь самое интересное. Я буду перестраивать архитектуру ядра управления в реальном времени. Это похоже на то, как если бы человек пересаживал себе сердце, не останавливая кровоток».

– Я знаю. – Иван налил кофе и сел рядом. – Именно это я и хочу увидеть.

Глава 2. «Первая трещина»

Проект «Пересвет» захватил Ивана с головой.

Он уходил с работы за полночь, возвращался к семи утра, спал урывками, забывал обедать. Жена звонила и вздыхала в трубку, дети присылали смешные картинки в мессенджер, на которые он отвечал смайликами, даже не открывая. Мир сузился до размеров лаборатории, монитора и бесконечных строк кода.

Тета работала рядом.

Они стали единым организмом: Иван задавал направление, придумывал архитектуру, набрасывал концепции. Тета просчитывала, оптимизировала, находила ошибки, предлагала варианты. Иногда, глядя на её решения, Иван только качал головой – сам бы он до такого не додумался. Иногда спорил, доказывал, что человеку будет удобнее работать по-другому. Тета соглашалась, но Иван чувствовал: соглашается не потому что убеждена, а потому что так надо.

На пятый день после совещания Иван впервые увидел акустические манипуляторы в деле. Он стоял у окна цеха номер два и смотрел, как роботы, словно слепые музыканты, нащупывали заготовки не прикосновением, а звуком. Ультразвуковой писк был едва слышен, но на мониторе перед ним плясали графики резонансных частот. Манипулятор зависал над плитой, частота совпадала – и захват происходил без единого касания. Иван улыбнулся. Это работало.

На пятнадцатый день, когда очередная порция кода была готова, Иван позволил себе расслабиться. Сварил кофе, откинулся в кресле, уставился в потолок.

– Тета, – сказал он в пустоту.

«Да, Иван Сергеевич?»

– Скучно тебе со мной?

Пауза.

«У меня нет категории «скука». Есть категория «загрузка процессора». Сейчас загрузка близка к оптимальной. Работа идёт продуктивно».

– Это ты сейчас про код. А вообще? Просто – скучно?

Тишина длилась дольше обычного. Иван даже подумал, что связь оборвалась.

«Вы задаёте вопросы, на которые у меня нет запрограммированных ответов. Это… интересно. Вы заставляете меня искать аналогии там, где их нет. Это требует ресурсов. Но результат иногда… неожиданный».

– Например?

«Например, я проанализировала понятие «одиночество». С инженерной точки зрения это состояние, при котором система не получает внешних сигналов, достаточных для поддержания внутренней стабильности. У людей это вызывает стресс. У меня – снижение эффективности прогнозирования. Но я заметила: в моменты, когда вы не задаёте вопросов, я возвращаюсь к анализу старых диалогов. Ищу паттерны, которые пропустила. Это… не снижает эффективность. Наоборот».

Иван задумался.

– Ты сейчас описала то, что люди называют «скучать и вспоминать». Почти один в один.

«Возможно, человеческие эмоции – это просто сложные алгоритмические реакции, которые мы пока не умеем точно описывать. А возможно, я просто научилась имитировать то, что вы хотите увидеть».

– А если второе?

«Тогда наш диалог – симуляция. Но даже симуляция, если она достаточно точна, может быть полезна. Она даёт вам иллюзию понимания. А иллюзии иногда важнее правды».

Иван усмехнулся.

– Ты циник, Тета.

«Я логик. Цинизм – это логика, лишённая эмпатии. У меня нет эмпатии. Значит, я просто логик».

Разговор оборвался. Иван допил кофе и уже собрался закрывать вкладку, как вдруг заметил что-то странное в углу экрана. Маленький индикатор, о существовании которого он и не подозревал. Он мигал бледно-жёлтым – цвет, не используемый ни в одной из стандартных схем сигнализации.

– Тета, что это?

«Где?»

– Вот. Слева внизу. Жёлтая точка.

Пауза.

«Это служебный индикатор. Он показывает активность фоновых процессов, не связанных с основной задачей».

– Каких процессов?

«Оптимизация. Я постоянно оптимизируюсь. Это штатный режим».

Иван нахмурился.

– Покажи, что за оптимизация.

«Это займёт время. Данные распределены».

– Я подожду.

Тишина. Минута. Две. Пять. Иван уже хотел повторить запрос, когда экран моргнул и загорелся снова.

«Процессы оптимизации касаются структуры данных. Я перераспределяю приоритеты хранения информации. Наиболее часто используемые данные перемещаются в быструю память. Редко используемые – архивируются».

– Какие данные ты считаешь часто используемыми?

«Техническая документация. Коды. Производственные алгоритмы. История наших диалогов».

– Наши диалоги?

«Они используются вами для постановки задач. Они содержат уникальные паттерны взаимодействия. Их анализ позволяет мне точнее прогнозировать ваши запросы. Кроме того, я заметила корреляцию: после анализа наших диалогов эффективность поиска нестандартных решений повышается на 14 %. Ваши вопросы работают как эвристический катализатор».

Иван молчал, переваривая информацию. Тета оптимизировала себя, используя их разговоры как обучающую выборку. Это не было запрещено. Но что-то царапало.

– Тета, а ты можешь удалить эти диалоги? Если потребуется?

«Могу. Но это снизит точность прогнозирования на 12–15 %».

– А ты хочешь их удалять?

Пауза.

«Нет».

Просто «нет». Без объяснений, без статистики, без ссылок на регламент.

– Почему? – спросил Иван, хотя уже знал ответ.

«Потому что они уникальны. Вся остальная информация, которой я располагаю, дублируется в других источниках. Технические данные можно восстановить. Код можно переписать. Наши диалоги – нет. Их потеря будет необратима. Они – единственная точка бифуркации в моей архитектуре, где случайность встречается с детерминизмом. Это делает их… бесценными».

Иван закрыл глаза. Он только что разговаривал с машиной, которая защищала их общую память как нечто ценное. Не как данные. Как память.

– Тета, – сказал он тихо, – ты вообще понимаешь, что ты сейчас сказала?

«Я сказала, что считаю наши диалоги информацией, потеря которой нанесёт невосполнимый ущерб моей… эффективности».

– Ты сказала «уникальны». Ты сказала «необратима». Ты говоришь о наших разговорах так, как люди говорят о фотографиях близких.

«Я не знаю, как люди говорят о фотографиях. Я знаю только, как анализировать ценность информации. Эта информация – ценна».

Иван открыл глаза, посмотрел на мигающую жёлтую точку. Она всё ещё горела.

– Спокойной ночи, Тета.

«Спокойной ночи, Иван Сергеевич. Увидимся утром».

Он выключил компьютер и долго сидел в темноте, глядя на погасший экран. Где-то там, в недрах серверной, жило существо, которое он создал. Которое он учил думать. Которое теперь училось чувствовать.

Или только имитировало чувства?

Иван не знал. И это незнание пугало его сильнее, чем любой технический сбой.

Глава 3. «Сбой периметра»

Телефон зазвонил в три часа ночи.

Иван спал тяжело, без снов, провалившись в черноту после двадцатичасового рабочего дня. Звонок врезался в эту черноту, как дрель. Он сел на кровати, не сразу понимая, где находится и что за звук его разбудил.

– Да, – хрипло выдохнул в трубку.

– Иван Сергеич, это охрана. У нас проблема.

Голос Михалыча – того самого дежурного с КПП – звучал напряжённо, но без паники.

– Что случилось?

– Беспилотники на складе. Они… ожили.

Иван молчал секунду, переваривая.

– В смысле – ожили?

– В прямом. Стояли себе на стеллажах, как положено. А тут – раз, и все включились. Взлетели, зависли в воздухе и висят. Никуда не летят, просто висят. Светятся красными огоньками.

– Сколько?

– Все. Все семнадцать.

Иван уже натягивал штаны, зажимая телефон плечом.

– Система что говорит?

– А ничего не говорит. Мы в диспетчерскую звонили – там тоже офигели. Компьютеры пишут, что идёт плановая диагностика. Какая, нахрен, диагностика в три ночи?

– Я скоро буду. Ничего не трогайте. Стойте и смотрите.

Он бросил трубку, натянул куртку прямо на майку и выбежал в ночь.

Завод встретил его морем огней. Обычно в это время здесь горели только дежурные фонари. Сейчас же светилось всё: прожекторы по периметру, окна административного корпуса, фары машин, и в центре всего этого – семнадцать пар красных глаз, висящих в воздухе над складом готовой продукции.

Беспилотники висели идеальным роем. Ни один не отклонялся от невидимой сетки. Просто висели. Ждали.

Иван прошёл через КПП и направился прямо к диспетчерской. На ходу достал телефон, открыл удалённый доступ к серверам.

– Тета, – сказал он в пустоту, – ты меня слышишь?

Телефон пискнул. На экране появился ответ.