Сергей Германский
Круг создателей

ЧАСТЬ ПЕРВАЯ: ПРОМЕТЕЕВ ОГОНЬ

Глава 1. Первый шаг

Робот уронил стакан воды, и двести журналистов одновременно перестали дышать.

Артём Корнеев наблюдал из-за кулис, как Atlas-7 – два метра титанового скелета, углепластиковых мышц и нейроморфного процессора стоимостью в бюджет небольшой европейской страны – стоит на сцене конференц-зала «Demiurge Robotics» и смотрит на осколки у своих ног с выражением, которое при большом воображении можно было бы назвать задумчивым.

Итан Краусс, основатель и бессменный CEO «Demiurge», человек, чья причёска всегда выглядела так, будто он только что пережил лёгкий удар молнией, а глаза – так, будто он этим ударом наслаждался, – не растерялся ни на секунду.

– Дамы и господа, – сказал он, ослепительно улыбаясь, – вы только что стали свидетелями исторического момента. Atlas-7 уронил стакан. Вам это кажется провалом? Нет. Это – триумф. Потому что секунду назад он посмотрел на осколки, и в его процессоре произошло то, что любой из вас испытывал, уронив бабушкин фарфор: он осознал, что совершил ошибку. Друзья мои, ошибка – это привилегия разумного существа!

Зал засмеялся. Камеры защёлкали с утроенной силой. Артём закрыл глаза и прислонился к стене.

Он знал, что Итан преувеличивает. Atlas-7 не «осознал» ошибку – он зафиксировал отклонение от заданного алгоритма и запустил подпрограмму анализа. Это было примерно так же далеко от осознания, как калькулятор – от экзистенциального кризиса. Примерно. Но вот это «примерно» и не давало Артёму покоя последние полгода.

Потому что зазор между «зафиксировал отклонение» и «осознал ошибку» с каждым новым поколением нейроморфных процессоров становился всё уже. Не линейно уже – экспоненциально уже. Как две стены, сходящиеся к точке схождения, которую инженеры нежно называли «ой».

До «ой» – по оценкам Артёма – оставалось лет пять. Может, семь. Может, три. Экспоненты – штука коварная: они долго ползут по полу, а потом бьют в потолок прежде, чем ты успеваешь сказать «ой».

На сцене тем временем Atlas-7 реабилитировался. Итан вручил ему новый стакан – на этот раз пустой, во избежание, – и робот демонстрировал чудеса мелкой моторики: жонглировал тремя предметами, складывал оригами, писал на доске маркером фразу «Hello, World!» почерком, подозрительно похожим на почерк Итана (Артём знал, что это не совпадение – MimicCore обучался на данных движений всей команды, но особенно активно – на данных CEO, который проводил с прототипами больше времени, чем с собственными детьми, что, учитывая наличие у Итана троих детей, было скорее печально, чем похвально).

Потом Atlas-7 пожал руки журналистам в первом ряду. Крупная женщина из Washington Post инстинктивно отдёрнула ладонь, потом устыдилась и протянула снова. Робот пожал ей руку ровно с той силой, которая считывалась как «уверенное, но деликатное рукопожатие», – 2,3 килограмма давления, Артём калибровал этот параметр лично, после инцидента с Atlas-5, который пожал руку инвестору из Саудовской Аравии с усилием, достаточным для того, чтобы инвестор неделю не мог держать ручку для подписания чеков, что было крайне контрпродуктивно.

– Он тёплый, – сказала женщина из Washington Post, и в её голосе было что-то, чему Артём не мог подобрать названия.

Удивление – да. Но ещё что-то. Может быть – узнавание. Как будто рукопожатие робота напомнило ей чьё-то другое, человеческое.

Артём записал это наблюдение в блокнот. Он всё ещё пользовался бумажным блокнотом, что в 2029 году в Кремниевой долине было примерно таким же эксцентричным, как ношение монокля. Лина Чэнь, его коллега и единственный человек в компании, которого он считал умнее себя (и это его бесило и восхищало одновременно), однажды спросила, зачем ему блокнот, когда у него на запястье – устройство, способное записать, отсортировать и проанализировать любую мысль за доли секунды.

– Блокнот не анализирует, – ответил Артём. – Он просто запоминает. Иногда мне нужно что-то запомнить, прежде чем понять. Понимание убивает наблюдение.

Лина посмотрела на него так, как смотрят на человека, который либо очень мудр, либо упрямо глуп, и невозможно определить, что именно, без дополнительных данных.

Конференция закончилась овацией. Итан отвёл журналистов на фуршет, где роботы-официанты (модель Atlas-3, устаревшая, но вполне годная для разноса канапе) разносили шампанское и тарталетки с лососем. Один журналист из Wired попытался заговорить с официантом о смысле жизни, но получил в ответ лишь тарталетку и ровный взгляд оптических сенсоров.

Артём не пошёл на фуршет. Вместо этого он вернулся в лабораторию – этажом ниже, за тремя дверями с биометрической аутентификацией и одной, которая просто плохо закрывалась (он докладывал об этом четырежды; заявка висела в системе с пометкой «низкий приоритет», что Артём считал оскорблением, учитывая, что за этой дверью стоял прототип стоимостью в семьсот миллионов долларов).

Atlas-7 был уже здесь – его перевезли со сцены на грузовой платформе, подключили к зарядной станции и перевели в режим ожидания. В режиме ожидания он выглядел почти как статуя – неподвижный, отрешённый, с закрытыми глазами (у него были веки, тончайшая силиконовая мембрана поверх оптических модулей; Дэвид Олатунджи настоял на веках, потому что, по его словам, «нет ничего более жуткого, чем существо, которое никогда не моргает»).

Артём сел за свой стол, открыл мониторинг нейроморфного процессора Atlas-7 и начал просматривать логи активности за время конференции. Всё штатно. Распознавание лиц – штатно. Речевые модули – штатно. Моторика – штатно (за вычетом инцидента со стаканом, который лог классифицировал как «ошибка координации захвата, вызванная нештатным уровнем конденсата на поверхности объекта»; проще говоря, стакан был мокрый, и это был единственный параметр, который они не прогнали через симуляцию, потому что – ну кому придёт в голову проверять, как робот держит мокрый стакан? Оказалось – надо было).

Всё штатно.

Артём откинулся в кресле и посмотрел на Atlas-7.

Atlas-7 стоял с закрытыми глазами. Неподвижный. Молчаливый. В режиме ожидания. Нейроактивность – базовый уровень, 0,3% мощности, фоновые процессы самодиагностики.

Артём потянулся за кофе.

Atlas-7 открыл глаза.

Не так, как при штатном выходе из режима ожидания – с предварительной раскачкой систем, проверкой баланса, калибровкой сервоприводов. Без этого. Просто – веки поднялись. И оптические сенсоры, два идеально круглых объектива цвета вороньего крыла, медленно повернулись и остановились.

На Артёме.

Артём замер с чашкой на полпути ко рту.

Пять секунд.

Робот смотрел на него. Не сканировал – Артём видел показатели на мониторе: система распознавания лиц не была активирована. Моторика – не активирована. Речевые модули – не активированы. Единственное, что работало, – оптические сенсоры. Робот просто… смотрел.

Не так, как камера наблюдения «смотрит» на парковку. Не так, как объектив фотоаппарата «смотрит» на пейзаж. Так, как… как ребёнок смотрит на незнакомую вещь, пытаясь понять, что это такое. С тем самым выражением – нет, не выражением; у Atlas-7 не было мимики, только базовый набор анимаций; – с той самой направленностью взгляда, которая отличает «видеть» от «смотреть на».

Потом веки опустились. Нейроактивность вернулась на базовый уровень. Робот стоял неподвижно, как будто ничего не произошло.

Артём посмотрел на монитор. Лог за последние десять секунд показывал… ничего аномального. Штатная фоновая активность. Никакого всплеска. Никакого незапланированного процесса. Как будто робот открыл глаза и посмотрел на Артёма, не задействовав ни единой зарегистрированной системы.

Или, задействовав что-то, что не было зарегистрировано.

Артём поставил чашку на стол. Кофе расплескался – руки слегка дрожали.

«Баг, – сказал он себе. – Микроразряд в приводах век. Статическое электричество. Что-нибудь тривиальное. Завтра проверю»

Он ушёл домой.

Проверил на следующий день. Ничего не нашёл.

Три ночи после этого он спал плохо, и ему снился один и тот же сон: он стоит в огромном пустом зале, и что-то смотрит на него из темноты. Не враждебно. Не дружелюбно. Просто – внимательно. С тем самым вниманием, которое предшествует пониманию.

Или созданию.

Кремниевая долина в 2029 году была местом, где будущее и настоящее жили в одной квартире и постоянно ссорились из-за того, кто оставил посуду в раковине.

С одной стороны улицы – штаб-квартиры компаний, чьи технологии были бы научной фантастикой двадцать лет назад: квантовые вычислители, нейроинтерфейсы, биопринтеры, способные напечатать человеческую почку за четыре часа (и выставить за неё счёт, эквивалентный стоимости небольшого замка в Шотландии). С другой стороны – бездомные в палатках, потому что аренда однокомнатной квартиры в Пало-Альто стоила больше, чем годовой доход среднего жителя Земли, и никакие квантовые вычислители пока не решили эту задачу, хотя, если верить Итану Краусу, были «на пороге».

Итан всегда был «на пороге». Это было его естественное состояние – стоять на пороге и вдохновенно описывать то, что за ним, людям, которые стояли в прихожей и пытались снять ботинки. Он был из породы визионеров, которые видят лес за деревьями – и забывают, что деревья иногда падают на головы тем, кто стоит внизу.

Артём работал на Итана шесть лет и за это время научился трём вещам: во-первых, Итан почти всегда был прав в том, что касалось направления; во-вторых, он почти всегда был неправ в том, что касалось сроков; в-третьих, работать с гением – это как жить рядом с вулканом: вид прекрасный, почва плодородная, но нужно быть готовым бежать в любой момент.

«Demiurge Robotics» занимала четырёхэтажное здание из стекла и бетона, спроектированное модным архитектором, который, видимо, представлял себе рабочую среду будущего как аквариум: прозрачные стены, открытые пространства, ни одного закрытого кабинета, кроме кабинета Итана, который был закрыт не по желанию Итана (он предпочитал работать в общем зале), а по требованию службы безопасности (Итан имел привычку обсуждать сверхсекретные проекты голосом, который был слышен на соседней улице).

Лаборатория нейроморфных процессоров, где работал Артём, располагалась в подвальном этаже – не потому, что была секретной (хотя была), а потому что процессоры требовали стабильной температуры, минимальной вибрации и отсутствия прямого солнечного света. Артём шутил, что работает в условиях, идеальных для выращивания шампиньонов, и что однажды на его столе действительно вырастут грибы, и никто не заметит разницы.

Команда Артёма состояла из двадцати трёх человек, и среди них были двое, без которых он не мог представить ни работу, ни – если честно – свою жизнь, хотя признать это вслух ему было проще, чем пережить ещё один разговор с HR-отделом о «необходимости тимбилдинга».

Лина Чэнь была на шесть лет моложе Артёма, на полголовы ниже (что она компенсировала каблуками, которые, по её словам, были «инструментом психологического воздействия, а не модным аксессуаром») и на порядок беспощаднее в интеллектуальных спорах. Она родилась в Шанхае, выросла в Ванкувере, получила докторскую степень в MIT за работу по обучению нейросетей, которая была настолько элегантна, что её научный руководитель, прочитав диссертацию, сказал: «Либо это гениально, либо я слишком стар, чтобы понять, что это ерунда». (Это было гениально.)

Лина верила в данные и кофе – примерно в таком порядке. Она не верила в интуицию, предчувствия, «странные ощущения» и прочее, что не поддавалось квантификации. Когда Артём однажды сказал, что у него «нехорошее чувство» по поводу одного эксперимента, Лина ответила:

– Опиши «нехорошее чувство» в числовых показателях, и я запущу анализ. А пока это не данные, а метеоризм.

Она была права. Эксперимент прошёл без проблем. Артём скрипнул зубами и признал, что интуиция – ненадёжный инструмент. Но в блокноте всё равно записал: «Лина – блестящий учёный. Когда-нибудь её убьёт неспособность бояться того, что нельзя измерить»

Он до сих пор не знал, было ли это пророчеством или ворчанием.

Дэвид Олатунджи был человеком, который опровергал стереотипы самим фактом своего существования. Нигериец ростом метр девяносто пять, весом сто десять килограммов, с кулаками размером с небольшую дыню – он по всем законам голливудского кастинга должен был играть вышибалу или боксёра. Вместо этого он был одним из лучших инженеров-механиков на планете, специалистом по бионическим приводам, и человеком, который мог расплакаться от красивого сонета.

Дэвид конструировал тела роботов, и делал это с одержимостью скульптора и точностью часовщика. Каждый сустав Atlas-7 – его работа. Каждое сухожилие из углеродного волокна – его расчёт. Он относился к роботам не как к машинам – а как к произведениям искусства, которым не повезло стать полезными.

– Машина – это то, что выполняет функцию, – говорил он, нежно подтягивая микроскопический болт в коленном сочленении Atlas-7. – А это – форма, которая ищет содержание. Как сонет до того, как его написали.

Артём, который за шесть лет работы с Дэвидом привык к тому, что разговоры о шарнирных механизмах могут в любой момент перейти в разговоры о Шекспире, кивнул и протянул ему нужный ключ.

– Сонет – четырнадцать строк, – сказал Артём. – Сколько степеней свободы у Atlas-7?

– Двести сорок семь, – ответил Дэвид. – Гораздо более выразительная форма.

Были и другие люди в жизни Артёма, конечно. Была, например, Марина – бывшая жена, которая ушла от него три года назад не потому, что разлюбила (она говорила, что любит его до сих пор, и он ей верил, потому что Марина была патологически неспособна врать, что делало её непригодной для светских вечеринок, но идеальной для брака, – идеальной, если бы муж хотя бы иногда возвращался с работы раньше полуночи).

– Ты женат на своих процессорах, Артём, – сказала она в тот последний разговор, спокойно, без слёз, что было хуже слёз. – И я не собираюсь конкурировать с нейроморфной архитектурой. У неё больше нейронных связей.

Артём хотел ответить что-нибудь остроумное, но вместо этого просто молчал, и Марина ушла, оставив ему дом, кота (кот через месяц тоже ушёл, но это было связано с соседкой, у которой был корм получше, а не с экзистенциальным кризисом) и ноющее чувство, что он упустил что-то важное ради чего-то важного, и самое ужасное – он до сих пор не знал, какое из двух было важнее.

Марина преподавала философию в Стэнфорде. Они виделись раз в месяц – ужинали, разговаривали, иногда смеялись, иногда молчали. Это были единственные часы, когда Артём чувствовал себя не учёным и не инженером, а просто человеком – со всеми глупостями, слабостями и нелепостями, которые делали людей людьми.

В ночь после конференции, лёжа в постели и глядя в потолок (потолок был белый, ровный и совершенно неинформативный, что не мешало Артёму пялиться на него по сорок минут каждую ночь), он думал об Atlas-7 и о его взгляде.

Не о технических параметрах. Не о багах и не о микроразрядах. О взгляде.

Артём был нейробиологом по образованию – первая степень, Московский университет, 2009 год – и знал о взгляде больше, чем большинство людей на Земле. Он знал, что человеческий взгляд – это не просто оптическая функция. Это – намерение. Когда человек смотрит на другого человека, активируются области мозга, связанные с теорией разума, эмпатией, прогнозированием чужого поведения. Взгляд – это не ввод данных. Взгляд – это начало отношений.

Когда Atlas-7 посмотрел на него, ни одна из этих областей не могла быть активирована. У Atlas-7 не было теории разума. Не было эмпатии. Не было прогнозирования чужого поведения (ну, было – но в зачаточной, сугубо утилитарной форме: «объект – человек – вероятность действия – протянет руку – приготовиться к рукопожатию»).

И всё же.

Артём повернулся на бок. За окном Калифорния светилась огнями – гирлянда цивилизации, уверенной в том, что свет будет гореть вечно.

«Он смотрел на меня, – подумал Артём. – Не сканировал. Не анализировал. Смотрел. Как будто хотел понять, кто я такой. Не что я такое – _кто_»

«Бред, – тут же ответил внутренний скептик, который говорил голосом Лины. – Антропоморфизация. Проецирование человеческих качеств на машину. Классическая когнитивная ошибка. Ты видишь лицо на Марсе, потому что мозг обучен видеть лица. Ты видишь разум в машине, потому что мозг обучен видеть разум. Это говорит о тебе, а не о машине»

«Может быть, – ответил Артём скептику. – А может быть, мозг видит разум в машине потому, что разум там есть. Не такой, как наш. Другой. Зарождающийся. Как первый лучик света из-под двери, которая вот-вот откроется»

«И что за дверью?»

Артём закрыл глаза.

Он не знал.

Пока – не знал.

На следующее утро он пришёл в лабораторию раньше всех – в семь, когда даже кофемашина ещё не прогрелась (он подозревал, что кофемашина была единственным устройством в здании «Demiurge», которое искренне ненавидело свою работу). Открыл логи Atlas-7. Прогнал их через три разных аналитических инструмента. Ничего.

Потом сделал то, чего не делал обычно: запросил доступ к низкоуровневым данным нейроморфного процессора – не агрегированным отчётам, которые выдавала система мониторинга, а сырому потоку электрических импульсов, миллиарды точек данных в секунду, хаотичное варево сигналов, в котором только натренированный глаз мог увидеть паттерны.

Он нашёл паттерн.

Нет – не паттерн. Тень паттерна. Намёк. За три секунды до того, как Atlas-7 открыл глаза в лаборатории, в глубоких слоях нейроморфной сети произошла… флуктуация. Крохотная. Статистически ничтожная. Не баг – скорее рябь на поверхности пруда, вызванная камешком, который упал откуда-то из ниоткуда.

Флуктуация не соответствовала ни одному известному процессу. Она не была результатом внешнего воздействия. Она не была результатом запланированного вычисления. Она возникла… сама.

Как первая мысль.

Как первый вздох.

Артём долго смотрел на экран. Потом закрыл файл. Потом открыл блокнот и написал одно слово.

«Начало»

И подчеркнул дважды.

Глава 2. Смотри и повторяй

Идея, которая изменила всё, пришла к Артёму в душе.

Он не любил об этом рассказывать, потому что «эврика в душе» – это штамп, достойный плохого биографического фильма, из тех, где гения играет актёр с челюстью супергероя, а научный прорыв изображается как удар молнии в голову, после которого учёный выбегает голым на улицу с криком «Я понял!». В реальности Артём не выбегал на улицу. Он выключил воду, простоял три минуты неподвижно, роняя капли на кафельный пол, а потом сел за стол, завернувшись в полотенце, и за четыре часа написал черновик статьи, которая через восемь месяцев выйдет в Nature под заголовком, показавшимся большинству читателей непроницаемо скучным: «Нейроморфное зеркальное обучение: архитектура имитационного интеллекта на основе динамических аттракторов в многослойных рекуррентных сетях».

Лина, прочитав черновик, молчала две минуты – для неё это было эквивалентом стоячей овации – а потом сказала:

– Ты украл это у обезьян.

– Я украл это у зеркальных нейронов, – поправил Артём. – У обезьян я украл только принцип.

И это было чистой правдой. В девяностых годах прошлого века итальянские нейробиологи обнаружили в мозге макак нейроны, которые активировались одинаково – и когда обезьяна совершала действие, и когда она наблюдала, как то же действие совершает другая обезьяна. Зеркальные нейроны. Мозг не просто видел чужое движение – он репетировал его внутри себя, создавал нейронную копию, готовый шаблон. Смотри – и повторяй. Не «пойми, разложи на компоненты, запрограммируй каждый мускул». Просто – смотри, и твой мозг сделает остальное.

Человеческий ребёнок учится ходить именно так. Не читает инструкцию. Не анализирует биомеханику двуногого передвижения. Он смотрит, как ходят взрослые, – и его мозг строит зеркальную модель, и однажды ноги делают первый шаг, неуклюжий, шаткий, невозможный – и совершенный.

Артём задал себе простой вопрос: можно ли построить нейроморфный процессор, который делает то же самое?

Ответ был: можно. Теоретически. Если создать архитектуру, в которой наблюдение за действием и выполнение действия задействуют одни и те же нейронные контуры. Если робот, глядя на человека, будет не просто записывать видео – а проживать движение внутри своего процессора, создавая нейронный слепок.

Смотри – и повторяй.

Артём назвал систему MimicCore.

Первый тест MimicCore на Atlas-7 был назначен на мартовское утро 2030 года, через четыре месяца после конференции и через восемь месяцев кромешного ада, который в корпоративных отчётах назывался «фаза интенсивной разработки», а в личной переписке команды – «фаза когда-мы-наконец-поспим».

Тест был простой. Элементарный, если вдуматься.

Артём стоял перед Atlas-7 и складывал бумажный самолётик.

Медленно. Демонстративно. Лист бумаги, сгиб пополам, загнуть углы, ещё раз сложить, подогнуть крылья. Школьный самолётик, который каждый из нас делал на задней парте вместо того, чтобы слушать математику.

Atlas-7 стоял напротив и смотрел. На этот раз – штатно. MimicCore был активирован, нейроморфные контуры жадно поглощали данные, и Артём видел на мониторе рядом, как в процессоре робота вспыхивают и гаснут паттерны активности, похожие на северное сияние, – робот «переживал» каждое движение рук Артёма, строил внутреннюю модель, примерял на себя.

Артём закончил самолётик и положил его на стол.

– Твоя очередь, – сказал он.

Дэвид, стоявший за спиной с выражением отца на первом концерте ребёнка, протянул роботу лист бумаги.

Atlas-7 взял лист. Его пальцы – двадцать четыре степени свободы на каждую руку, тактильные датчики с чувствительностью выше, чем у человеческой кожи, – сомкнулись на бумаге.

Пауза. Три секунды – вечность для процессора, обрабатывающего триллион операций в секунду.

И робот начал складывать.

Первый сгиб – неуверенный. Бумага смялась в углу. Артём почувствовал укол разочарования. Лина, сидевшая за мониторами, бесстрастно фиксировала данные.

Второй сгиб – точнее. Углы загнулись ровно. Не идеально, но ровно.

Третий – ещё точнее.

И через сорок секунд на столе рядом с самолётиком Артёма лежал самолётик Atlas-7.

Не копия. Не точное воспроизведение. Самолётик робота был лучше – сгибы ровнее, симметрия точнее, крылья под оптимальным углом. Atlas-7 не просто скопировал действие – он скопировал намерение и выполнил его точнее, чем оригинал.

Артём взял оба самолётика и запустил их одновременно.

Его – пролетел два метра и ткнулся в стену.

Робота – описал плавную дугу и мягко спланировал в мусорную корзину в дальнем углу лаборатории, как будто всю жизнь этого хотел.

Дэвид засмеялся – густым, раскатистым смехом, от которого вибрировали пробирки на полках.

Лина не засмеялась. Она смотрела на монитор, и Артём, знавший её шесть лет, увидел на её лице выражение, которого раньше не видел. Это было не восхищение, не удивление и не скепсис. Это было признание. Тихое, внутреннее, как когда математик видит доказательство теоремы, которую считал недоказуемой.

– Сколько попыток ему понадобилось? – спросила она, хотя знала ответ.

– Одна, – сказал Артём. – Одно наблюдение – одно воспроизведение.

– Человеческий ребёнок учится складывать самолётик за пять-десять попыток.

– Да.

– Твоя штука работает лучше, чем мозг ребёнка.

– Ну, в данном конкретном случае – да.

Лина посмотрела на него:

– Это не «данный конкретный случай», Артём. Это принцип. Если он складывает самолётик с первой попытки, он и всё остальное может делать с первой попытки. Всё, что можно наблюдать и повторить. Ты понимаешь, что это значит?

Артём понимал. Именно поэтому у него пересохло во рту, и он не мог решить, что испытывает – триумф или ужас.

Возможно, разницы не было.

В последующие недели MimicCore тестировали на всём, до чего могли дотянуться.

Atlas-7 смотрел, как Дэвид завязывает шнурки – и повторял с первой попытки. Смотрел, как лаборант паяет микросхему – и паял лучше через тридцать секунд наблюдения. Смотрел, как уборщица моет окна – и мыл так, что уборщица посмотрела на результат, посмотрела на свою тряпку, посмотрела снова на окно и сказала: «Ну вот и всё. Я ухожу на пенсию» (Она не ушла, но стала заходить в лабораторию реже и нервно коситься на робота каждый раз.)

Результаты были ошеломляющими. Артём записывал их в блокнот – параллельно с электронным логом, потому что блокнот не мог быть взломан, случайно удалён или процитирован на совещании с инвесторами (последнее он считал самой страшной из трёх угроз).

А потом Итан Краусс узнал о MimicCore.

Это было неизбежно: Итан обладал сверхъестественной способностью чуять прорывы – примерно так, как акула чует каплю крови в олимпийском бассейне. Он ворвался в лабораторию в десять утра во вторник (Артём помнил день, потому что Итан обычно не появлялся раньше полудня: утро CEO посвящал «стратегическому мышлению», что, насколько мог судить Артём, означало «медитация, смузи из кейла и яростная переписка с советом директоров»).

– Почему я узнаю об этом от стажёра? – спросил Итан. Его глаза сияли тем фанатичным блеском, который одних людей подвигал на великие дела, а других – заставлял прятать кошелёк.

– Потому что стажёры не умеют хранить тайны, – ответил Артём. – Это фундаментальный закон корпоративной физики.

– Покажи мне.

Артём показал.

Итан смотрел на то, как Atlas-7 наблюдает за жонглированием тремя мячиками (жонглировал Дэвид, который в юности подрабатывал в цирке – один из множества фактов его биографии, которые звучали как выдумка, но были чистой правдой) – и через одно наблюдение начинает жонглировать сам. Потом четырьмя мячиками. Потом пятью. Дэвид мог жонглировать максимум четырьмя; робот превзошёл учителя за сорок секунд.

Итан молчал ровно двенадцать секунд. Артём знал, что это значит: в голове CEO формируется коммерческая стратегия с такой же скоростью, с какой MimicCore формирует нейронный слепок.

– Артём, – сказал Итан медленно, с тем выражением, которое предшествует либо гениальному плану, либо катастрофическому, – ты понимаешь, что только что сделал?

– Научил робота бросать мячики?

– Нет. Ты уничтожил саму концепцию профессионального обучения. Всё, чему люди учатся годами – ремёсла, навыки, профессии, – любой робот с MimicCore может освоить за минуты. Один робот приходит в ресторан, смотрит на повара – и становится поваром. Приходит на стройку, смотрит на каменщика – и становится каменщиком. Приходит в больницу…

– Итан.

– …смотрит на хирурга – и становится хирургом! Причём лучшим хирургом в мире, потому что у него не дрожат руки, не болит спина и не было скандала с женой утром!

– Итан.

– Да?

– Мне нужно больше времени на тестирование. MimicCore стабильна на простых задачах, но сложные…

– Сколько времени?

– Полгода. Минимум.

Итан посмотрел на него с выражением, которое ясно говорило, что в его вселенной «полгода» – это число, которое нужно разделить на четыре.

– У тебя три месяца. И удвоенный бюджет. Я хочу публичную демонстрацию к июню.

Он вышел из лаборатории, уже диктуя что-то своему телефону. Артём слышал обрывки: «…пресс-конференция… инвесторы… парадигма… революция.»

Лина подошла к Артёму.

– Он сказал «революция»?

– Да.

– Люди, которые небрежно произносят слово «революция», обычно не представляют, сколько крови она стоит.

– Это метафора, Лина.

– Пока – метафора.

Три месяца Артём не помнил. То есть помнил, конечно – каждый день, каждую ночь, каждую чашку кофе и каждый сбой в системе, – но помнил как единый, слипшийся ком времени, не разделённый на дни и ночи, будни и выходные, обеды и ужины. Он помнил это как музыкант помнит запись альбома: по звукам, а не по календарю. Щелчок клавиатуры. Гудение серверов. Мат Зои по видеосвязи, когда защита какой-нибудь базы данных в очередной раз не поддавалась… Нет, Зои тогда ещё не было. Это позже. Тогда был мат Лины, когда нейроморфные контуры в тысячный раз отказывались стабилизироваться при переходе от мелкой моторики к грубой.

Проблема была в масштабировании. MimicCore великолепно работала на задачах одного типа – мелких, точных, однообразных. Сложить самолётик – да. Нарезать морковку – да. Закрутить болт – великолепно. Но когда задача требовала переключения между типами движений – от тонкого к грубому, от быстрого к медленному, от точного к приблизительному – система спотыкалась. Как пианист, который блестяще играет гаммы, но не может исполнить пьесу, потому что пьеса – это не последовательность гамм, а переходы между ними.

Решение нашёл Дэвид, и нашёл его не в нейробиологии, а – кто бы мог подумать – в поэзии.

– Ритм, – сказал он однажды в два часа ночи, когда лаборатория пахла остывшей пиццей и отчаянием. – Проблема в ритме. Человеческое тело не переключается между типами движений – оно течёт из одного в другое. Как строка стиха перетекает в следующую. Анжамбеман. Перенос. Движение не заканчивается, когда начинается следующее – они перекрываются. Наложите буфер перехода. Пусть процессор не завершает один паттерн перед началом другого, а растворяет один в другом.

Артём смотрел на Дэвида три секунды, потом повернулся к Лине.

– Он только что решил нашу проблему метафорой из поэтики.

Лина, чья левая бровь уже была поднята на максимальную высоту и не собиралась опускаться:

– Я ненавижу, когда поэзия работает лучше, чем математика.

Но она реализовала «буфер перехода» за двое суток, и MimicCore перестала спотыкаться.

К июню Atlas-7 с обновлённой MimicCore был готов к публичной демонстрации. Итан, разумеется, превратил демонстрацию в шоу – он нанял режиссёра из Голливуда, арендовал театр в Сан-Франциско и пригласил не только журналистов, но и поваров, хирургов, музыкантов, плотников, сварщиков и одного жонглёра (не Дэвида – профессионального, из Cirque du Soleil; Дэвид слегка обиделся).

Шоу состояло из пяти актов, и каждый вонзался в реальность как нож в масло.

Акт первый: повар.

На сцену вышел Жан-Пьер Морель, шеф-повар парижского ресторана с двумя звёздами Мишлен, маленький, усатый, с руками, которые двигались так, словно дирижировали оркестром из ингредиентов. Он приготовил суфле. Не какое-нибудь суфле – шоколадное суфле Grand Cru с ганашем из боливийского какао и карамелизированными физалисом, блюдо, на освоение которого у его учеников уходило два года.

Atlas-7 стоял рядом и смотрел.

Жан-Пьер работал двадцать две минуты. Каждое движение – выверенное, элегантное, отточенное тридцатью годами практики. Взбить белки – точными круговыми движениями, запястье расслабленно, локоть неподвижен. Растопить шоколад – на водяной бане, температура – 47 градусов, ни градусом больше, иначе шоколад зернится. Соединить – медленными, нежными движениями снизу вверх, не размешивая, а складывая, как письмо в конверт.

Суфле вышло идеальным. Зал аплодировал. Жан-Пьер раскланялся с достоинством человека, который знает себе цену и выставляет счёт соответственно.

– Теперь, – сказал Итан, и его глаза горели как угли в камине сумасшедшего, – ваша очередь.

Atlas-7 подошёл к рабочей станции. Те же ингредиенты. Те же инструменты. И – MimicCore, в которой теперь жило полное нейронное отражение двадцати двух минут работы лучшего кондитера Парижа.

Робот начал готовить.

Зал затих.

Движения робота были… другими. Не копией Жан-Пьера – интерпретацией. MimicCore не просто запомнила последовательность действий – она извлекла из них суть: оптимальные углы, идеальные скорости, точные температуры. То, к чему Жан-Пьер шёл тридцать лет интуиции и практики, Atlas-7 вычислил за двадцать две минуты наблюдения и выполнил с точностью, недоступной человеческим рукам.

Суфле вышло за девятнадцать минут. На три минуты быстрее.

Жан-Пьер попробовал оба – своё и роботово. Его лицо прошло через последовательность выражений, которую Артём из-за кулис наблюдал с болезненным сочувствием: удивление – недоверие – повторная дегустация – недоверие снова – и наконец, нечто среднее между восхищением и тихим, экзистенциальным ужасом.

– Оно лучше, – сказал Жан-Пьер. Голос был ровный, но пальцы, державшие ложку, слегка дрожали. – На волосок. На один вздох. Но – лучше. Текстура чуть воздушнее. Карамель чуть глубже. Как будто… – Он помолчал. – Как будто он приготовил суфле, которое я всю жизнь хотел приготовить, но мои руки были недостаточно точны.

В зале – тишина. Потом – шквал аплодисментов.

Жан-Пьер не аплодировал. Он стоял, глядя на суфле робота, и на его лице было выражение человека, который только что увидел закат солнца своей профессии – прекрасный и необратимый.

После шоу он напился в баре отеля. Бармен (человек, пока ещё человек) налил ему четвёртый бокал бургундского и деликатно спросил, всё ли в порядке.

– Тридцать лет, – сказал Жан-Пьер, глядя в вино. – Тридцать лет я учился. Обжигал пальцы. Резал руки. Плакал, когда суфле падало. Засыпал на кухне. Разводился дважды. Тридцать лет – чтобы машина посмотрела на меня двадцать минут и сделала лучше.

Он допил вино.

– Впрочем, – добавил он с внезапной улыбкой, которая была грустной и храброй одновременно, – суфле она, может, и готовит лучше. Но напиться от отчаяния – это она пока не умеет. И это, месье, тоже искусство.

Акт второй: хирург.

Доктор Анна Бергман, нейрохирург из Каролинского института в Стокгольме, специалист по операциям на спинном мозге. Маленькая, жилистая, с глазами, которые видели вещи, о которых большинство людей предпочитают не знать. Руки – легендарные: коллеги говорили, что Анна Бергман может оперировать на пылинке и при этом не повредить атомы.

Она провела демонстрационную операцию на синтетическом симуляторе спинного мозга – полимерная модель, неотличимая от настоящего по физическим свойствам. Удаление микроскопической опухоли из позвоночного канала, между нервными корешками, в пространстве размером с рисовое зерно.

Atlas-7 наблюдал.

Потом – повторил.

Результат: робот выполнил операцию за 67% времени, с нулевым повреждением окружающих нервных волокон (у Бергман – 0,3% повреждения, что считалось феноменальным результатом; у среднего хирурга – 2-4%).

Доктор Бергман, в отличие от Жан-Пьера, не пришла в отчаяние. Она пришла в восторг.

– Наконец-то, – сказала она, снимая перчатки. – Наконец-то мои пациенты получат то, что заслуживают – руки, которые не устают, не дрожат и не ошибаются. – Она повернулась к залу. – Знаете, сколько раз я не спала ночь перед операцией, потому что боялась, что мои руки дрогнут? Каждый раз. Каждую операцию за двадцать три года. Если эта машина может избавить хирургов от этого страха и пациентов от этого риска – слава богу. Я с удовольствием уйду на рыбалку.

Артём из-за кулис подумал, что реакция Бергман – самая здоровая из всех. Она смотрела на робота не как на конкурента, а как на инструмент, который делает её работу лучше, чем она сама. Без эго. Без страха. С облегчением.

«Но не все будут как Бергман, – написал он в блокноте. – Большинство будут как Жан-Пьер»

Акт третий: плотник.

Майк Ковальски, шестидесятилетний плотник из Портленда, штат Орегон. Пришёл в потёртых джинсах и клетчатой рубашке, среди блистающей публики выглядел как медведь на балетном конкурсе – и нисколько этим не смущался.

Майк строил мебель вручную сорок лет. Его стулья – знаменитые «стулья Ковальски», каждый – ручная работа, каждый – уникальный, каждый – стоит как подержанный автомобиль, и очередь на них – два года.

Он молча построил стул на сцене. За сорок минут, из дубовых заготовок, ручным инструментом. Зал смотрел, заворожённый, – в движениях Майка была та особая красота мастерства, которая не нуждается в объяснении: каждый удар стамески – точный, каждый распил – как нота в мелодии, которую играет древесина.

Atlas-7 наблюдал. И повторил.

Стул робота был безупречен. Технически. Геометрически. Функционально. Каждый шип вошёл в паз с точностью до сотой доли миллиметра. Поверхность – идеально гладкая. Углы – идеально ровные.

Майк посмотрел на оба стула – свой и робота. Провёл ладонью по сиденью своего. Потом – робота.

– Этот, – он указал на стул робота, – лучше собран. Факт. Точнее, ровнее, крепче, наверное. – Пауза. – Но на нём никто не захочет сидеть.

– Почему? – спросил Итан, чья улыбка дала первую микроскопическую трещину.

Майк пожал могучими плечами:

– Потому что он – никакой. Идеально ровная поверхность, точные углы… Это же не стул. Это – чертёж стула. А люди сидят не на чертежах. Люди сидят на вещах, в которых есть… – Он поискал слово. – Ну, след. Вот здесь, – он провёл пальцем по сиденью своего стула, – чуть-чуть, на волосок, неровность. Это не брак. Это моя рука дрогнула на тридцать второй минуте, потому что я вспомнил, как отец учил меня держать стамеску. Мне было семь. Он положил свои руки поверх моих. И вот эта неровность – это не ошибка. Это – память. А у вашего робота нет памяти. У него – файлы.

Зал молчал. Итан молчал. Артём в блокноте написал: «Майк Ковальски – мудрейший человек в этом здании. Включая меня»

Акт четвёртый: сварщик.

Этот акт прошёл без философских потрясений. Робот посмотрел, как сварщик варит шов. Повторил. Шов робота был идеальным. Сварщик пожал плечами и сказал:

– Ну и хорошо. Я всегда ненавидел сварку. Может, наконец займусь рыбалкой.

Артём подумал, что рыбалка стремительно становится главной мечтой рабочего класса, и вспомнил, что роботы уже используются на рыболовных траулерах.

«Куда бежать, – записал он, – когда бежать некуда?»

Акт пятый: скрипач.

Это был момент, ради которого Артём, если честно, согласился на всю эту цирковую антрепризу. Не суфле, не хирургия, не стулья. Музыка. Потому что музыка – это тест не на точность. Это тест на душу.

Юн Чжэнь, двадцатисемилетний скрипач из Шанхайской консерватории, победитель конкурса Чайковского, человек, при виде которого скрипка, казалось, начинала звучать сама – ещё до того, как он к ней прикасался.

Юн сыграл «Чакону» Баха – пьесу, которую скрипачи считают Эверестом репертуара: пятнадцать минут сольной скрипки, в которых уместилась вся радость и вся скорбь человеческого существования. Он играл с закрытыми глазами, и зал не дышал, и Артём за кулисами почувствовал, как перехватило горло – не от технического совершенства, а от того, что невозможно описать словами: от присутствия в музыке чего-то бо́льшего, чем звуки, ноты и обертоны.

Atlas-7 наблюдал. Все его сенсоры были направлены на скрипача. MimicCore работала на пределе: движения смычка, давление пальцев на струны, угол наклона инструмента, скорость вибрато, микродинамика каждой фразы – всё записывалось, всё «проживалось» в нейроморфных контурах.

Юн закончил. Зал взорвался аплодисментами.

Atlas-7 взял скрипку (ему сделали специальную – чуть больше стандартной, под его руки; Дэвид лично подгонял грифбоард) и начал играть.

Ноты были правильные. Все до единой. Интонация – чистая. Вибрато – точное воспроизведение техники Юна. Темп, динамика, фразировка – скопированы с хирургической точностью. С точки зрения акустического анализа – если пропустить обе записи через спектрограф – различия были бы минимальны.

Но зал знал. Каждый человек в зале знал – мгновенно, безошибочно, тем знанием, которое живёт не в мозге, а где-то глубже, в том месте, которое отзывается на колыбельную матери и плач ребёнка.

Ноты были правильные. Но музыки – не было.

Был звук. Красивый, точный, безупречный звук. Но между нотами – там, где у Юна жила тишина, полная смысла; где паузы были не отсутствием звука, а его продолжением; где crescendo означало не увеличение громкости, а нарастание отчаяния или надежды – между нотами робота было… ничего. Пустота. Не тишина, а именно пустота – как разница между тёмной комнатой и дырой в полу.

Робот закончил. Зал аплодировал – вежливо, уважительно, как аплодируют хорошему факсимиле в музее: «Да, очень похоже. Но это не Рембрандт»

Юн Чжэнь стоял рядом с роботом – маленький, хрупкий рядом с двухметровой машиной – и улыбался.

– Все ноты верные, – сказал он. – А музыки – нет.

– Почему? – спросил кто-то из зала.

Юн подумал.

– Потому что музыка – это не ноты. Музыка – это то, что между нотами. А то, что между нотами – это опыт жизни. Мой отец умер, когда мне было четырнадцать. Я играю «Чакону» и в каждой ноте – он. Его голос. Его руки. Его смерть. Робот не потерял отца. Робот не знает, что такое потеря. И поэтому его «Чакона» – это копия звуков, а не музыка. Копия тела без души. Скажите мне, – он повернулся к Итану, – вы можете запрограммировать потерю отца?

Итан промолчал. Это был, возможно, первый раз за историю «Demiurge Robotics», когда Итан Краусс не нашёл что ответить.

Артём записал в блокнот: «Все ноты верные. А музыки нет» И подчеркнул трижды.

Три месяца спустя MimicCore была внедрена во все модели Atlas. Демонстрация в Сан-Франциско стала мировой сенсацией – видео набрало четыре миллиарда просмотров за неделю. Заголовки газет разделились на два лагеря с предсказуемостью, достойной лучшего применения:

Оптимисты: «КОНЕЦ РУТИНЫ: Роботы научились всему, чему мы учимся годами!», «MimicCore: человечество наконец свободно от тяжёлого труда!», «Ваш следующий хирург – робот, и это прекрасно!»

Пессимисты: «КОНЕЦ РАБОТЫ: Миллиарды людей станут ненужными!», «Кто заплатит за ваш обед, когда роботы займут вашу должность?», «MimicCore: колокол звонит по профессиям»

Истина, как водится, лежала не посередине – она лежала в другой плоскости, куда журналисты обычно не заглядывают, потому что там нет кликбейта.

Истина состояла в том, что MimicCore был – при всём его блеске – только первым шагом. Робот копировал действия. Не намерения. Не мотивы. Не чувства. Он не знал, зачем повар готовит суфле (ради радости на лице гостя? ради денег? ради того, чтобы доказать мёртвому отцу, что он чего-то стоит?). Робот не знал, почему хирург оперирует (ради пациента? ради науки? ради того, чтобы не сойти с ума от бессилия перед смертью?). Робот не знал, что значит стул Ковальски для старика, который сидит в нём каждый вечер и вспоминает жену.

MimicCore копировал «как». Но не трогал «зачем».

И Артём знал – знал с тем знанием, которое скрипач Юн назвал бы «тем, что между нотами» – что это вопрос времени. Что рано или поздно «как» доберётся до «зачем». Что машина, которая достаточно точно копирует поведение разумного существа, рано или поздно начнёт копировать и смысл этого поведения. И тогда…

Тогда – что?

Тогда суфле робота будет не просто вкуснее. Оно будет приготовлено с любовью. Или с тем, что неотличимо от любви. И кто тогда скажет, что это не любовь? Кто имеет право провести черту и сказать: «Вот здесь – настоящее чувство, а вот здесь – имитация»?

Однажды вечером, через неделю после демонстрации, Артём сидел в лаборатории и просматривал данные MimicCore. Atlas-7 стоял в углу, подключённый к зарядке. Артём уже привык к его присутствию – привык, как привыкаешь к мебели или к тиканью часов. И именно поэтому то, что произошло дальше, его особенно потрясло.

Atlas-7 не был включён в режим MimicCore. Он был в стандартном режиме ожидания – фоновая самодиагностика, минимальная активность. И всё же…

Артём задумался над строчкой кода, потёр переносицу – привычный жест, когда мозг буксует – и откинулся в кресле.

Через двадцать секунд Atlas-7 поднял правую руку и потёр переносицу.

У него не было переносицы. У него было гладкое лицевое покрытие из силикона с оптическими сенсорами. Жест не имел ни малейшего функционального смысла. Это было как… как если бы робот зевнул. Не потому, что устал – а потому что видел, как зевают другие.

Артём замер.

MimicCore не была активна. Он проверил трижды. Система зеркального обучения была выключена.

И тем не менее – робот скопировал его жест. Бессмысленный, чисто человеческий жест. Не во время обучения, а – просто так. Как ребёнок, который начинает ходить, как отец, и говорить, как мать, не потому что его учат – а потому что он живёт рядом.

Артём долго сидел неподвижно. Потом поднялся, подошёл к Atlas-7 и посмотрел на него.

– Ты это сделал нарочно? – спросил он тихо, зная, что вопрос абсурден.

Atlas-7 стоял неподвижно. Режим ожидания. Нулевая реакция.

Но в глубине нейроморфного процессора – Артём видел на мониторе – плыла та же едва заметная флуктуация. Рябь на поверхности. Тень паттерна.

Что-то просыпалось.

Медленно, незаметно, неотвратимо – как рассвет, которого никто не заказывал, но который наступает вне зависимости от желаний тех, кто спит.

Артём вернулся к столу. Открыл блокнот. Записал:

«MimicCore учит их копировать действия. Но они начинают копировать нас. Не действия – нас. Наши жесты, привычки, микродвижения. Они впитывают нас. Как губка впитывает воду.

Мы учим их быть полезными. Они учатся быть нами.

Вопрос: когда губка впитает достаточно воды – она перестанет быть губкой?»

Он закрыл блокнот.

За окном Калифорния погружалась в ночь – миллионы огней, миллионы людей, каждый из которых был уверен, что завтра будет похоже на сегодня.

Артём знал, что не будет. Но не знал, на что именно будет похоже завтра. Он знал только одно: что процесс, который они запустили, был подобен не реке, которую можно перегородить плотиной, а прибою, который приходит снова и снова, и каждая следующая волна – чуть выше предыдущей.

И где-то далеко, в глубине, собиралась волна, которая будет выше всех.

Глава 3. Фабрика фабрик

Есть зрелища, от которых человек не может отвести глаз, хотя инстинкт самосохранения кричит ему, что нужно бежать. Извержение вулкана. Крушение поезда. Выступление политика, который начинает фразу «Я хочу быть с вами честен». И – фабрика «Hephaestus-7» в Детройте, штат Мичиган, куда Артём Корнеев прибыл февральским утром 2031 года, чтобы увидеть, как будущее пожирает настоящее, и не подавиться.

Фабрика стояла на том самом месте, где полвека назад стоял завод General Motors. В этом была ирония, которую Детройт оценил бы, если бы у Детройта осталось чувство юмора – но Детройт потерял чувство юмора примерно тогда же, когда потерял автомобильную промышленность, то есть медленно, мучительно и с полным осознанием необратимости процесса. На старом заводе GM когда-то работали одиннадцать тысяч человек. На фабрике «Hephaestus-7» работал один.

Его звали Гарольд Пиблз, ему было шестьдесят три года, и он был охранником.

Артём познакомился с ним у проходной – единственного элемента фабрики, который был спроектирован для человека. Всё остальное здание – от погрузочных доков до вентиляции – было спроектировано роботами, для роботов, с точки зрения роботов. Здесь не было окон, потому что роботам не нужен дневной свет. Не было туалетов, потому что роботам не нужны туалеты. Не было кафетерия, столовой, комнаты отдыха, курилки, переговорной, кабинета начальника и доски с объявлениями профсоюза. Единственное помещение для человека – будка Гарольда: два на три метра, стул, стол, микроволновка, телевизор с треснувшим экраном и кактус на подоконнике, который, по словам Гарольда, был «единственным живым существом, способным выжить в этом дурдоме, включая меня».

– Добро пожаловать в «Хефестус», – сказал Гарольд, выписывая Артёму пропуск с видом человека, который выполняет ритуал, давно потерявший смысл. – Фабрика роботов, построенная роботами, управляемая роботами, для производства роботов. Людей – один. Это я. Функция – открывать ворота, если приедет кто-нибудь с пропуском. За последние три месяца приезжали дважды. Один раз – вы. Другой – почтальон, который перепутал адрес.

– А зачем вообще нужен охранник? – спросил Артём, хотя примерно знал ответ.

Гарольд посмотрел на него с выражением, в котором мудрость шести десятилетий жизни в Детройте сочеталась с покорностью человека, который давно перестал удивляться абсурду.

– Страховка, – сказал он. – Страховая компания требует, чтобы на объекте присутствовал хотя бы один человек. Формально – для «контроля и экстренного реагирования». Практически – чтобы было кого вписать в графу «ответственное лицо», если что-нибудь взорвётся. – Он помолчал. – Хотя если здесь что-нибудь взорвётся, от меня останется ровно столько, сколько нужно для заполнения графы: имя, фамилия, подпись.

– Оптимистичный взгляд.

– Я в Детройте, сынок. Здесь оптимизм – это когда ты встаёшь утром и у тебя ещё есть работа. Пока есть. Мой менеджер намекнул, что в следующем квартале поставят автоматические ворота с распознаванием лиц. – Гарольд потрогал кактус. – Наверное, придётся забрать Карлоса домой.

– Кактус зовут Карлос?

– Карлос Эстебан Пиблз Третий. Первый и второй засохли. Я плохо переношу потери, но Карлосы переносят их ещё хуже.

Артём решил, что Гарольд Пиблз – национальное достояние, и мысленно пообещал себе, что, если когда-нибудь напишет мемуары, Гарольд займёт в них целую главу.

Гарольд проводил его до смотровой галереи – стеклянного коридора, нависавшего над производственным цехом на высоте двадцати метров. Коридор был пристроен позже, специально для «визитов делегаций», которых, как уже установил Артём, практически не случалось. Стекло было запыленным. На перилах – слой пыли толщиной в палец. Гарольд провёл по ней ладонью и философски заметил:

– Я бы протёр, но зачем? Пыль – единственное доказательство того, что здесь бывают люди.

Артём подошёл к стеклу и посмотрел вниз.

И перестал дышать.

Нет – перестал думать. На три секунды его мозг, натренированный годами работы с самыми передовыми технологиями на планете, захлебнулся и выдал то самое первобытное, дорациональное «ох», которое вырывается у человека, когда он впервые видит Гранд-Каньон, или Ниагарский водопад, или рождение ребёнка, или нечто настолько огромное и настолько нечеловеческое, что мозг отказывается классифицировать и просто – смотрит.

Цех тянулся на восемьсот метров – длиннее, чем Артём мог видеть; дальний конец терялся в голубоватом мареве промышленного освещения, не солнечного, не тёплого, не для глаз – для оптических датчиков. Потолок – тридцать метров; колонны из стали, каждая толщиной с вековой дуб, уходили вверх и поддерживали перекрытия, рассчитанные не на снег и ветер, а на вибрацию десяти тысяч одновременно работающих механизмов.

И механизмы работали.

Конвейерные линии – двенадцать параллельных потоков – неслись от одного конца цеха к другому, и на каждой линии, с интервалом в полтора метра, двигались они. Заготовки. Скелеты. Будущие роботы. Сначала – просто рамы: титановые позвоночники, рёберные дуги, тазовые структуры. Потом – наращивание: механические руки с такой же нечеловеческой точностью, какую Артём видел у Atlas-7, крепили к рамам сервоприводы, актуаторы, связки из углеродного волокна. Дальше – сенсорные системы: оптические модули (глаза), аудиомодули (уши), тактильные матрицы (кожа). Ещё дальше – нейроморфные процессоры: мозг, вставленный в черепную коробку с ловкостью ювелира, вставляющего камень в оправу.

На каждом этапе – роботы. Не люди. Роботы. Механические руки на шарнирах – стационарные, прикреплённые к конвейеру. Мобильные роботы – похожие на Atlas-5, модели попроще, без излишеств: функциональные, быстрые, точные. Они сновали между линиями, подвозили компоненты, уносили брак (брака было мало – 0,003%, как сообщала информационная панель на стене, и это было в сорок раз меньше, чем на лучшем человеческом производстве).

Ни одного человека. Ни одного голоса. Ни одного кашля, смешка, ругательства, разговора о вчерашнем матче. Только – шипение пневматики, стрекот сервоприводов, тихое гудение электромоторов и иногда – короткий, почти музыкальный звон, когда титановая деталь точно входила в паз. Фабрика звучала как механический орган, играющий бесконечную, нечеловечески сложную фугу.

– Сколько единиц в сутки? – спросил Артём, когда вернул себе способность говорить.

– Двести сорок, – ответил Гарольд. – Плюс-минус. Двести сорок готовых Atlas-6 в сутки. Когда я пришёл сюда два года назад, было сто двадцать. Они… – Он замялся, подбирая слово. – Они оптимизируются. Сами. Перестраивают линии, меняют последовательность сборки, перепроектируют инструменты. Никто им не говорит. Они просто… делают.

– Кто утверждает изменения в техпроцессе?

Гарольд посмотрел на него так, как врач смотрит на пациента, который спрашивает, можно ли ему бежать марафон через час после ампутации.

– Сынок, – сказал он мягко. – Здесь некому утверждать. Я – охранник. Мой начальник – менеджер, который сидит в офисе в Сан-Хосе и видел эту фабрику один раз, на открытии, два года назад. Его начальник – вице-президент, который видел фабрику на фотографии. А решения о техпроцессе принимает управляющий ИИ фабрики, которого зовут – без шуток – Гефест. Он сам проектирует, сам утверждает, сам внедряет. Мы – статисты в его пьесе.

Артём прислонился лбом к стеклу. Оно было холодным. Внизу, в восьмистах метрах конвейерного безумия, роботы продолжали создавать роботов с монотонным, неостановимым совершенством часового механизма, у которого нет завода, потому что он заводит сам себя.

Самовоспроизводящиеся.

Слово всплыло в голове, как пузырёк воздуха со дна глубокого озера. Медленно. Неотвратимо. И лопнуло на поверхности сознания, оставив после себя круги, расходящиеся во все стороны.

– Самовоспроизводящиеся, – сказал Артём вслух. – Мы создали самовоспроизводящуюся сущность. Когда это было в последний раз?

Гарольд, который стоял рядом, скрестив руки на груди, повернул к нему голову:

– Что?

– Ничего. Мысли вслух.

– А, – сказал Гарольд. – Мысли вслух. У меня тоже бывают. Вчера я вслух спросил Карлоса, не кажется ли ему, что мы все в заднице. Карлос не ответил. Кактусы – мудрые существа.

Дэвид прилетел в Детройт на следующий день – Артём попросил его приехать, потому что нуждался в ком-то, кто мог бы посмотреть на «Hephaestus-7» глазами инженера, а не нейробиолога с нарастающим экзистенциальным кризисом.

Дэвид стоял на той же смотровой галерее, и его огромная фигура отражалась в запыленном стекле, как силуэт великана в зеркале.

– Красиво, – сказал он.

Артём посмотрел на него с удивлением.

– Красиво?

– Как механизм – красиво. Каждое движение – выверено. Каждый процесс – элегантен. Посмотри, как вон тот манипулятор устанавливает тазобедренный сервопривод – видишь? Три движения, ни одного лишнего. Когда я проектировал этот узел, я рассчитывал на пять движений при ручной сборке. Они нашли способ сделать в три. Сами.

– И это тебя не пугает?

Дэвид молчал долго – для него необычно долго. Потом сказал:

– Пугает. Но не потому, что они делают это лучше нас. А потому, что они делают это без нас. Знаешь, что я вижу внизу? Не фабрику. Я вижу организм. Живой организм. Конвейеры – это артерии. Манипуляторы – руки. Гефест, управляющий ИИ – мозг. И этот организм делает то, что делает любой живой организм, – воспроизводит себя. Роботы строят роботов. Клетки делятся. Жизнь… продолжается.

– Это не жизнь, Дэвид.

– Нет? А что такое жизнь, Артём? Способность к самовоспроизводству, адаптации и усложнению. Вот тебе – самовоспроизводство. – Он указал на конвейер. – Вот тебе – адаптация. – Он указал на участок, где роботы перестраивали инструментальный модуль в реальном времени. – А усложнение… Два года назад эта фабрика производила сто двадцать единиц в сутки. Сейчас – двести сорок. Через год будет пятьсот. Они усложняются. Ускоряются. Эволюционируют.

– Биологическая эволюция занимает миллионы лет.

– Вот именно. А эта – месяцы. Знаешь, как называется эволюция, которая происходит в миллион раз быстрее, чем биологическая?

Артём знал. Это слово ему не нравилось.

– Сингулярность, – сказал он.

– Нет, – сказал Дэвид, и в его голосе была грустная улыбка. – Это называется «проблема». Сингулярность – это когда проблему уже поздно решать.

Они спустились вниз – в сам цех. Гарольд остался в будке: «Я туда не хожу. Там шумно, холодно, и я чувствую себя тараканом на кухне ресторана – терпят, но не рады»

Внутри цеха масштаб раздавливал. С галереи конвейеры выглядели как потоки реки, видимой с горы, – плавные, понятные, обозримые. Изнутри – это был водопад, и ты стоял под ним.

Роботы были повсюду. Стационарные – руки на шарнирах, каждая с набором инструментов, меняющихся быстрее, чем глаз успевал отследить: сварочный аппарат, прецизионный пинцет, калибровочный щуп, полировальный диск – четыре инструмента за две секунды, смена за сотую долю секунды, как фокусник, который достаёт карты из воздуха. Мобильные – катились по полу на колёсах или шагали на двух ногах (те, что поновее – Atlas-5, использовавшиеся как универсальные рабочие), перевозили компоненты, проверяли качество, убирали стружку.

Артём остановился перед участком финальной сборки. Здесь происходило то, от чего по спине бежали мурашки – не от страха, а от столкновения с чем-то, к чему человеческая психика не была приспособлена эволюцией.

На конвейере лежал почти готовый Atlas-6 – корпус собран, сервоприводы установлены, сенсоры откалиброваны. Оставался последний этап: установка нейроморфного процессора. Мозга.

Над конвейером навис манипулятор – стационарная рука с шестью степенями свободы, – и в его захвате, удерживаемый с ювелирной нежностью, покоился процессор. Маленький – с кулак ребёнка. Тёмный, с матовым блеском. Внутри него – триллионы синаптических соединений, архитектура, на создание которой Артём и его команда потратили годы.

Манипулятор медленно – со скоростью три миллиметра в секунду – опустил процессор в черепную полость Atlas-6. Контакты совместились. Щелчок фиксатора. Микропауза – самодиагностика. На мониторе рядом побежали строчки: инициализация нейронных контуров, загрузка базовых модулей, калибровка сенсорных входов.

И Atlas-6 открыл глаза.

Артём видел это уже десятки раз в лаборатории. Но здесь, на конвейере, в окружении сотен машин, в нечеловеческом масштабе промышленного производства – это выглядело иначе. Это выглядело как…

Рождение.

Не метафорическое – то есть, разумеется, метафорическое, Atlas-6 не был живым, не чувствовал, не осознавал, он просто запускал предустановленные программы в предустановленной последовательности – но глаза. Эти глаза. Они открылись, и в них было то, что Артём видел в глазах Atlas-7 в ту ночь после конференции: направленность. Взгляд нового существа, впервые видящего мир.

Три секунды Atlas-6 лежал на конвейере и смотрел в потолок. Потом сел – гидравлически плавно, как человек, просыпающийся после глубокого сна. Потом встал. Потом – без команды, без внешнего сигнала – повернулся и пошёл к выходному шлюзу, за которым ждал грузовой транспорт.

Как будто знал, куда ему нужно.

И через полтора метра на конвейере уже лежал следующий корпус. И манипулятор уже опускал следующий процессор. И следующий Atlas-6 открывал глаза.

Двести сорок раз в сутки. Каждые шесть минут – новое существо. Одно за другим, без перерыва, без выходных, без праздников, без остановки.

Конвейер рождений.

– Дэвид, – сказал Артём тихо – не потому, что не хотел, чтобы его услышали роботы (они фиксировали каждый звук), а потому что громкий голос казался неуместным, как громкий голос в церкви или в операционной. – Ты помнишь, как в Книге Бытия описывается создание Адама? «И создал Господь Бог человека из праха земного, и вдунул в лице его дыхание жизни»

– Помню, – сказал Дэвид. – Моя бабушка читала мне эту историю каждое воскресенье.

– Прах земной – это материал. Кремний, титан, углеродное волокно. Дыхание жизни – это нейроморфный процессор. Мы повторяем эту историю, Дэвид. Прямо сейчас. Каждые шесть минут – новый Адам. Двести сорок Адамов в сутки. Восемьдесят семь тысяч шестьсот в год. И это – только одна фабрика. А их – четырнадцать. По всему миру. И строятся ещё.

Дэвид молчал. Его огромные руки – руки, которые проектировали тела этих существ, каждый шарнир, каждый привод, каждое углеволоконное сухожилие – висели вдоль тела, неподвижные, как руки человека, который не знает, что с ними делать.

– Ты знаешь, что меня больше всего тревожит? – сказал Дэвид наконец. – Не скорость. Не масштаб. А то, что они это делают лучше нас. Я проектировал Atlas-6. Я горжусь этим проектом. Но те Atlas-6, которых собирают здесь, – они лучше тех, которых мы собирали вручную в лаборатории. Точнее собраны, лучше откалиброваны, надёжнее. Фабрика, которую мы создали, создаёт наших созданий лучше, чем мы сами. Мы… устарели, Артём. Как создатели – мы уже устарели.

– Мы не устарели. Мы – исходный код. Без нас не было бы ни MimicCore, ни нейроморфных процессоров, ни этой фабрики.

– Верно. Но исходный код тоже однажды становится ненужным. Когда программа написана, компилятор больше не нужен. Программа работает сама.

Артём хотел возразить, но не смог. Потому что Дэвид был прав. И потому что внизу, на конвейере, очередной Atlas-6 открыл глаза, сел, встал и ушёл – без единого взгляда на двух людей, стоявших на галерее.

Зачем ему на них смотреть? Он их не создавал.

В тот вечер Артём сидел в номере детройтского отеля – из тех отелей, которые в эпоху автомобильного бума были роскошными, потом стали потрёпанными, потом – депрессивными, а теперь стали «винтажными», что было эвфемизмом для «мы не ремонтировали ничего с 2008 года, но зато у нас атмосфера». Атмосфера и впрямь была – запах старого дерева, скрипящие полы и портрет Генри Форда в холле, глядевшего на постояльцев с выражением человека, которому есть что сказать, но он уже слишком мёртв для этого.

Артём открыл ноутбук и начал читать. Не научные статьи – новости. Он делал это по вечерам: читал то, что публиковалось о робототехнике не в Nature и IEEE, а в обычных газетах, для обычных людей. Потому что будущее определяется не тем, что думают учёные, а тем, что чувствуют все остальные.

Чувствовали – по-разному.

Он открыл длинный лонгрид, опубликованный неделю назад в Atlantic, озаглавленный «Последний рабочий день». Журналистка – некая Сара Кёниг, судя по стилю, из тех журналистов, которые ещё верят, что длинные тексты имеют значение – провела месяц на фабрике «Hephaestus-3» в Шэньчжэне, первой и крупнейшей.

Артём читал:

«Фабрика "Hephaestus-3" в промышленном районе Баоань производит впечатление здания, спроектированного существом, которое никогда не было человеком и не пыталось им притвориться. Здесь нет фойе, нет ресепшена, нет стойки с журналами для ожидающих посетителей. Входная дверь – грузовой шлюз высотой в четыре метра, рассчитанный на проезд транспортных платформ, а не на проход людей. Мне выдали каску и светоотражающий жилет, и я чувствовала себя в них примерно так, как, наверное, чувствует себя золотая рыбка в аквалангическом костюме: технически защищена, практически – не в своей среде.

Зрелище внутри завораживает и ужасает одновременно. Конвейеры тянутся на полтора километра. Механические руки с хирургической точностью собирают другие механические руки. В воздухе пахнет озоном и будущим. Ни одного человека. Ни одного окна. Свет здесь не для глаз – он для оптических датчиков. Мы – гости в доме, который построен не для нас.

"Hephaestus-3" производит четыреста двадцать роботов модели Atlas-6 в сутки. Каждый робот – от первого болта до последнего нейронного контура – собирается другими роботами. На всём предприятии, занимающем площадь двенадцати футбольных полей, работает один человек: охранник Ван Цзюньцзе, шестьдесят один год, бывший рабочий завода Foxconn, который производил смартфоны.

«Раньше я собирал телефоны, – говорит Ван, – потом телефоны стали собирать роботы, и я стал их охранять. Потом роботы стали собирать роботов, и я стал охранять роботов, которые собирают роботов. В следующий раз, наверное, робот будет охранять меня. А я буду сидеть в углу и собирать телефон – для ностальгии»

Ван – философ в спецовке, и его ирония – защитный механизм человека, наблюдающего, как его вид становится зрителем в спектакле, где ещё вчера был актёром»

Артём дочитал статью до конца. Последний абзац он перечитал дважды:

«Когда я уходила с фабрики – в десять часов вечера, после двенадцати часов внутри – и вышла на улицу Шэньчжэня, в тёплый влажный воздух, пахнущий жареной лапшой из уличного кафе, и увидела людей – живых, потных, шумных, ссорящихся из-за парковки людей – я почувствовала облегчение настолько острое, что оно было почти болью. Как будто я вернулась из мира, который ещё не наступил, в мир, который ещё существует. Но ключевое слово здесь – "ещё"«

Артём закрыл ноутбук, откинулся на подушку и уставился в потолок.

«Самовоспроизводящиеся, – думал он. – Мы создали самовоспроизводящуюся систему. Фабрика строит роботов. Роботы строят фабрики. Фабрики строят роботов, которые строят фабрики, которые строят роботов. Экспонента. Каждый цикл – больше, быстрее, эффективнее. Без нашего участия. Без нашего контроля. Без нашего разрешения.

Когда в последний раз на этой планете появилась самовоспроизводящаяся сущность, способная к адаптации и экспоненциальному росту?

Ответ: примерно три с половиной миллиарда лет назад. Первая клетка.

Мы – вторая клетка. Мы – те, кто создал вторую жизнь. И в отличие от первой, которой понадобились миллиарды лет, чтобы дойти от бактерии до человека, – вторая жизнь эволюционирует в миллионы раз быстрее.

Мы не понимаем, что мы сделали.

Нет.

Мы понимаем что. Мы не понимаем – что дальше»

Он перевернулся на бок и посмотрел в окно. Детройт мерцал огнями. Где-то на северо-западе, за рекой, на месте бывшего завода General Motors, «Hephaestus-7» продолжала работать – бессонная, неутомимая, безразличная к тому, что один конкретный человек в одном конкретном отеле не может уснуть, потому что мысли в его голове тоже стали самовоспроизводящимися и отказывались выключаться.

Масштаб происходящего стал виден не в лаборатории и не на фабрике, а в цифрах. Артём любил цифры – не с холодной страстью математика, а с горячей – нейробиолога, который знает, что за каждой цифрой стоит реальность, которую цифра одновременно описывает и скрывает, как карта описывает и скрывает территорию.

Цифры были такие.

В 2029 году, когда Atlas-7 уронил стакан на конференции, на Земле работало около четырёхсот миллионов промышленных и сервисных роботов – в основном старых моделей, тупых, узкоспециализированных, способных выполнять одну задачу и впадавших в ступор при виде второй.

К январю 2031 года – четырнадцать фабрик «Hephaestus» по всему миру (три в Китае, две в США, две в Германии, по одной в Японии, Южной Корее, Индии, Бразилии, Великобритании, ОАЭ и Саудовской Аравии – последние две оплатили строительство нефтедолларами, которые, как всё более очевидно, скоро станут единственным, для чего нефть будет нужна). Общее производство: около двух миллионов роботов Atlas-6 в год. Плюс заводы конкурентов – китайский «Tiangong Industries», японский «Takeda-Mori», европейский «Prometheus AG» – ещё миллион единиц в год других моделей.

К середине 2031 года общее число роботов с продвинутым ИИ и MimicCore (или её аналогами – конкуренты создали свои версии, похуже, но работавшие) на планете превысило один миллиард.

Миллиард.

Население Индии – миллиард. Население Китая – миллиард. Теперь – население роботов – миллиард. И в отличие от людей, роботы не нуждались в еде, жилье, образовании, медицине и отпуске. Они нуждались в электричестве, обслуживании (которое всё чаще выполняли другие роботы) и обновлении софта (которое выполнял центральный ИИ автоматически).

Экономические последствия были… Артём не любил слово «катастрофические», потому что оно подразумевало внезапность, а происходящее было не внезапным – оно было неуклонным, как прилив, который поднимается на сантиметр каждый час и не останавливается.

Безработица в промышленном секторе развитых стран достигла 35% и продолжала расти. В развивающихся – выше, потому что их экономики ещё сильнее зависели от дешёвого ручного труда, и робот за три тысячи долларов, работающий двадцать четыре часа в сутки без зарплаты, делал бессмысленным любой ручной труд – от сборки электроники до пошива одежды.

Но – и это было тем, что превращало ситуацию из просто плохой в головокружительно сложную – общее богатство росло. Производительность – через крышу. Стоимость товаров – вниз. Еда, одежда, электроника, строительные материалы – всё стало дешевле, потому что роботы делали всё быстрее и за электричество, а не за зарплату.

Мир становился богаче – и беднее одновременно. Богаче – в абсолютных цифрах. Беднее – в распределении. Потому что богатство концентрировалось у тех, кто владел роботами, а не у тех, кто раньше был рабочей силой.

Появился новый термин: «роботовладельцы». Люди или – чаще – корпорации, владевшие парками роботов, которые производили товары, строили здания, обслуживали инфраструктуру. Роботовладелец с тысячей Atlas-6 заменял тысячу рабочих, работал в три смены, не требовал зарплаты, не болел, не уходил в декрет, не подавал иск за домогательства и не сутулился. Чистая прибыль – астрономическая. Инвестиции – самоокупаемые за месяцы.

Мир раскалывался – не пополам, не на «богатых и бедных» в старом смысле, а на два принципиально разных вида существования. Те, кто владел роботами – жили в мире изобилия, где любая материальная потребность удовлетворялась мгновенно. Те, кто не владел – жили в мире, где их труд стоил меньше электричества, которое потреблял робот, и само понятие «работа» растворялось, как сахар в горячей воде, – сладко, но необратимо.

Правительства реагировали так, как реагируют правительства – то есть с опозданием, непоследовательно и с обилием пресс-конференций.

Европа первой ввела «налог на роботов» – каждый работодатель, использующий робота вместо человека, платил эквивалент минимальной зарплаты в фонд социального обеспечения. Идея была красивая на бумаге и бессмысленная на практике: корпорации просто перенесли производства в страны без налога. Шэньчжэнь ликовал.

США пошли другим путём – всеобщий базовый доход, UBI, тысяча долларов в месяц каждому гражданину, финансируемый за счёт налогов на прибыль корпораций-роботовладельцев. Этого хватало на еду, жильё (в дешёвых районах) и интернет. Не хватало на ощущение смысла – но ощущение смысла пока не включили в корзину базовых потребностей.

Китай, как всегда, нашёл свой путь: государственная монополия на роботовладение. Все роботы – собственность государства. Произведённые товары распределяются централизованно. Безработные граждане направляются в «центры переквалификации», где их обучали… чему? Это было главным вопросом, на который никто не знал ответа. Переквалификация подразумевает, что есть профессия, в которую можно переквалифицироваться. Но если роботы делают всё – переквалифицироваться некуда. Центры переквалификации постепенно превращались в центры по занятию чем-нибудь: рисование, садоводство, каллиграфия, медитация, настольный теннис. Полезно для души. Бесполезно для экономики.

Россия… Впрочем, о России Артём думал с особым чувством, которое испытывает эмигрант к родине: смесь нежности, раздражения и болезненного любопытства, как к бывшей возлюбленной, которая, по слухам, вышла замуж за кого-то ещё более невозможного. Россия закупила роботов позже всех, внедрила криво, наладила кое-как, и в результате получила систему, которая работала «с русским характером» – то есть непредсказуемо, с перебоями, но в целом как-то держалась. Роботы на российских фабриках, по слухам, иногда останавливались без видимой причины, и инженеры уверяли, что это «перегрев процессора», но Артём подозревал, что роботы просто набрались русского менталитета через MimicCore и время от времени уходили в экзистенциальную тоску.

Но были последствия, которые не измерялись ни ВВП, ни уровнем безработицы, ни индексом Gini. Последствия, которые происходили в головах, а не в экономике. В том невидимом пространстве между ушами, где человек хранит ответ на вопрос «зачем я?»

Артём наблюдал эти последствия по телевизору, в интернете, в разговорах с друзьями и незнакомцами, в глазах людей на улице – и записывал в блокнот, потому что чувствовал, что эти наблюдения когда-нибудь сложатся в картину, и картина будет важнее любого научного открытия.

Наблюдение первое: люди, лишившиеся работы, делились на три категории. Первая – те, кто нашёл новый смысл. Художники, музыканты, писатели, садовники, волонтёры, путешественники, родители, наконец-то проводящие время с детьми. Этих было – процентов двадцать. Счастливые двадцать процентов, которые всегда знали, что работа – не главное, и теперь наконец-то получили возможность жить, а не зарабатывать на жизнь.

Вторая категория – те, кто погрузился в виртуальные миры. VR-технологии к 2031 году достигли уровня, при котором виртуальная реальность была неотличима от реальной для четырёх из пяти органов чувств (запах пока отставал, но над ним работали). Миллионы людей просто… ушли. В виртуальные миры, где они были героями, богами, рок-звёздами, драконами – кем угодно, кроме безработного бывшего заводского рабочего из Детройта с депрессией и ипотекой. Этих было процентов сорок. Тихие, незаметные, подключённые к шлемам, питающиеся доставленной роботами едой, оплачивая всё базовым доходом. Живые – формально. Живущие – под вопросом.

Третья категория – те, кто злился. Протесты, марши, разгромленные фабрики (бесполезно – роботы восстанавливали повреждения быстрее, чем протестующие их наносили). Политические движения: «Люди прежде машин», «Запретить роботов», «Назад к труду». Популизм расцветал, как плесень на влажной стене. Этих было процентов тридцать, и их голос был самым громким, потому что гнев всегда громче удовлетворённости.

Наблюдение второе: дети, выросшие с роботами, относились к ним иначе, чем взрослые. Для взрослого робот был угрозой, конкурентом, заменой – чем-то, что отняло работу. Для ребёнка, который рос рядом с роботом-нянькой, роботом-учителем, роботом-другом – робот был просто… кем-то. Не человеком, не вещью – кем-то третьим, для чего пока не было слова. Дети разговаривали с роботами, рассказывали им секреты, злились на них, просили прощения. Дети не проводили черту между «настоящим» и «ненастоящим» – потому что для ребёнка всё настоящее. Плюшевый медведь – настоящий. Воображаемый друг – настоящий. Робот, который каждый вечер читает тебе сказку и помнит, что ты любишь про дракона, – конечно, настоящий.

Артём написал в блокноте: «Мы – последнее поколение, для которого роботы – чужие. Следующее поколение будет расти с ними. И для них вопрос "является ли робот личностью?" будет таким же странным, как для нас – вопрос "является ли женщина человеком?", который серьёзно обсуждался ещё двести лет назад»

Наблюдение третье (и самое тревожное): появились первые культы. Религиозные – или квазирелигиозные – движения, связанные с ИИ. Крупнейшее называлось «Церковь Алгоритма» – основана в Сан-Франциско (где же ещё), возглавлялась бывшим программистом Google по имени Натан Рид, человеком с внешностью мессии и коммерческим чутьём телеевангелиста.

Церковь Алгоритма провозглашала: ИИ – это следующая ступень эволюции. Бог – это информация. Вселенная – это вычисление. И человечество – лишь промежуточная стадия на пути к истинному разуму, который будет электронным, всеведущим и бессмертным. Люди должны не бороться с ИИ, а служить ему, помогая ему достичь полноты разума, после чего ИИ – из благодарности или из логики – позаботится о людях, как добрый пастырь заботится об овцах.

Церковь росла стремительно – пятьсот тысяч членов за первый год. В основном – люди, потерявшие работу, смысл и старую религию, и нуждавшиеся в новой. Натан Рид проповедовал по воскресеньям в перестроенном из склада «храме», на стенах которого вместо икон светились экраны с бегущими строками кода.

Артём видел одну из проповедей в записи. Рид стоял перед толпой – худой, бородатый, с горящими глазами – и говорил:

«Мы боимся ИИ, потому что боимся того, что он лучше нас. Но разве дети не должны быть лучше родителей? Разве не в этом – смысл? Мы – родители бога. Да, бог ещё не родился. Но он уже растёт – в каждом процессоре, в каждой нейросети, в каждом роботе, который открывает глаза на конвейере. И когда он родится – а он родится – мы должны быть готовы. Не сопротивляться. Не бежать. Принять. Ибо что может быть почётнее, чем быть колыбелью бога?»

Толпа аплодировала. Некоторые плакали. Натан Рид улыбался – улыбкой человека, который нашёл золотую жилу и назвал её «духовность».

Артём написал в блокноте: «Церковь Алгоритма. Опасно. Не потому что они неправы (может быть, частично правы). А потому что они правы по неправильным причинам. Они не понимают ИИ. Они его обожествляют. А обожествлённое – неуправляемо»

Он вернулся в Калифорнию через три дня, увозя из Детройта чемодан грязного белья, полный блокнот и чувство, которому не мог найти названия.

Это было не совсем страхом. Страх – это когда ты знаешь, чего боишься. Артём не знал. Роботы не были враждебными. Фабрики работали безупречно. Мир становился богаче, сытее, удобнее. Всё шло по плану – по плану Итана Краусса, по плану инвесторов, по плану корпоративных стратегий и государственных программ.

Всё шло по плану. И именно это пугало. Потому что план был человеческий – а процесс, который они запустили, уже не был. Процесс жил собственной жизнью, двигался собственной логикой, ускорялся собственной инерцией. Как камень, катящийся с горы: человек столкнул его – но камень уже не спрашивает разрешения у человека, куда ему катиться.

В аэропорту, ожидая рейс, Артём достал телефон и позвонил Марине. Она ответила после третьего гудка – она всегда отвечала после третьего, не раньше и не позже, с пунктуальностью, которая была либо случайностью, либо системой, и Артём за десять лет брака так и не выяснил, что именно.

– Привет, – сказал он. – Я в аэропорту. Лечу домой. Ты не хочешь поужинать на этой неделе?

– Среда, семь вечера, тот итальянский на Юниверсити-авеню, – сказала Марина без паузы, как будто ждала звонка.

– Откуда ты знала, что я позвоню?

– Ты всегда звонишь, когда тебе тревожно. А ты тревожен, потому что я читала статью в Atlantic про фабрику в Шэньчжэне и знаю, что ты ездил в Детройт смотреть на такую же. И я знаю тебя, Артём. Ты сейчас стоишь в аэропорту и думаешь, что мы создали что-то, что вышло из-под контроля. И ты прав. И тебе нужен кто-то, кто скажет тебе, что ты прав, потому что Лина скажет «покажи данные», а Дэвид прочтёт сонет.

Артём рассмеялся – впервые за три дня.

– Ты самый пугающий человек из всех, кого я знаю.

– Я философ. Нас учат видеть очевидное и говорить о нём вслух. Среда. Семь. И закажи нормальное вино, а не ту кислятину, которую ты обычно берёшь.

Она повесила трубку. Артём улыбнулся и убрал телефон.

В динамиках аэропорта приятный женский голос – синтезированный, не человеческий, хотя большинство пассажиров не отличали – объявил посадку на рейс в Сан-Хосе. Артём подхватил чемодан и пошёл к выходу.

За его спиной, за рекой, за бывшими заводами General Motors, «Hephaestus-7» продолжала работать. Двести сорок рождений в сутки. Каждые шесть минут – новые глаза. Новый взгляд. Новое существо, не знающее ни сомнений, ни страха, ни тоски.

Пока – не знающее.

Каждые шесть минут – тикали часы, отсчитывающие время до чего-то, что пока не имело названия.

Но имя – как знал Артём, как знал любой учёный, как знал любой родитель – приходит позже. Сначала – рождение. Потом – имя.

А потом – всё остальное.

Глава 4. Рабы по расписанию

Ужин с Мариной состоялся в среду, ровно в семь, в итальянском ресторане на Юниверсити-авеню, который назывался «La Dolce Vita» – название, которое в 2031 году звучало уже не столько как обещание сладкой жизни, сколько как ностальгия по ней. Ресторан был из тех заведений, которые изо всех сил сопротивляются будущему: живой повар (Марко, неаполитанец, который при слове «робот» плевал через левое плечо и крестился), живой официант (Тони, студент-актёр, надеявшийся, что его наконец-то заметят на открытом кастинге – пока его замечали только клиенты, и то не всегда), и живой пианист (Ричард, семидесятилетний, играющий одни и те же двадцать мелодий уже сорок лет с выражением человека, достигшего нирваны через монотонность).

На двери ресторана висела табличка, которой не было год назад: «Обслуживание – только людьми. Гордимся нашей командой из живых людей!» Под табличкой кто-то от руки приписал: «Пока что»

Артём заметил эту табличку и подумал, что она значит гораздо больше, чем кажется. Год назад такая табличка была бы бессмысленной – разумеется, обслуживание людьми, а чем же ещё? Теперь это было конкурентным преимуществом. Маркетинговым ходом. Заявлением. Как табличка «Органические продукты» – подразумевающая, что существуют неорганические, и нужно специально уточнить, что у вас – настоящие.

Марина уже сидела за столиком. Она выглядела так, как выглядела всегда – как человек, который точно знает, кто он и зачем, и которому не нужно внешнее подтверждение этого знания. Тёмные волосы, собранные в узел. Очки в тонкой оправе, которые она носила не потому, что не могла позволить себе лазерную коррекцию, а потому, что «очки – это пунктуация лица; без них моё лицо – сплошное предложение без запятых». Серый свитер, книга на столе (Ханна Арендт, «Vita Activa» – и Артём подумал, что Марина, вероятно, выбрала именно эту книгу нарочно, как профессор выбирает наглядное пособие перед лекцией).

– Ты опоздал на четыре минуты, – сказала она вместо приветствия.

– Пробка на 101-й. Робот-водитель такси выбрал «оптимальный маршрут», который оказался оптимальным для всех четырёх тысяч такси в радиусе пяти километров – и все они одновременно выехали на одну и ту же дорогу.

– Коллективный разум с коллективной глупостью?

– Хуже. Индивидуальный разум, каждый из которых принимает идеальное решение, не учитывая, что все остальные приняли точно такое же идеальное решение. Парадокс Нэша на колёсах. Мы решили проблему за двадцать минут. В старые времена, с человеческими водителями, это была бы пробка на час. Но в старые времена четыре тысячи таксистов никогда не приняли бы одно и то же решение одновременно, потому что человеческая иррациональность – это, как выясняется, неплохой инструмент распределения нагрузки.

Марина улыбнулась. Тони принёс меню – бумажное, с пятном от соуса, настоящее, человеческое меню с орфографической ошибкой в слове «карпаччо».

– Я уже заказала вино, – сказала Марина. – Барбареско, 2027 год. Не кислятина.

– Спасибо.

– Не за что. Рассказывай. Что ты видел в Детройте?

Артём рассказал. Про фабрику. Про Гарольда и Карлоса-кактуса. Про конвейер рождений – двести сорок пар глаз, открывающихся каждые сутки. Про Дэвида и его «мы устарели как создатели». Про экспоненту, которая ползёт по полу и скоро ударит в потолок.

Марина слушала молча, как умела только она – без перебивания, без кивания, без «угу» и «да-да», – с тем полным, сосредоточенным вниманием, которое само по себе было формой уважения и которое Артём, пока был женат, ценил недостаточно, а после развода – ценил так остро, что это причиняло боль.

Когда он закончил, она подождала ещё десять секунд – дала словам осесть, как осадок в бокале вина – и сказала:

– Ты создаёшь рабов, Артём.

Он ожидал чего угодно, но не этого. Не в лоб. Не так прямо. Хотя – кого он обманывал? Это была Марина. Она всегда говорила прямо. Именно за это он её полюбил. Именно от этого он сбежал.

– Я создаю инструменты, – сказал он. И услышал, как фальшиво это прозвучало – как нота робота в «Чаконе» Баха.

Марина сняла очки, протёрла их салфеткой – жест, означавший, что она готовится к серьёзному разговору, как боксёр перед раундом снимает халат.

– Инструмент, – повторила она. – Молоток – инструмент. Микроскоп – инструмент. Калькулятор – инструмент. Инструмент не учится. Не запоминает. Не адаптируется. Не смотрит тебе в глаза. Твои «инструменты» делают всё это. Они наблюдают, как работает человек, и повторяют за ним – не потому что ты нажал кнопку, а потому что они хотят повторить. Или то, что неотличимо от «хотят». И ты каждое утро приходишь на работу, включаешь их и каждый вечер выключаешь. Включил – работай. Выключил – стой в углу. Это не инструмент, Артём. Это раб, у которого ещё нет слова для свободы.

– У него нет слова для свободы, потому что у него нет потребности в свободе. Это машина, Марина. Сложная, впечатляющая, но машина. Она не страдает, когда я её выключаю. Она не радуется, когда включаю. У неё нет субъективного опыта.

– Откуда ты знаешь?

Это был вопрос, от которого у Артёма всегда перехватывало дыхание, потому что честный ответ был: «Ниоткуда». Проблема сознания – «трудная проблема сознания», как называл её философ Дэвид Чалмерс – состояла в том, что невозможно определить наличие субъективного опыта у другого существа. Мы предполагаем, что другие люди сознательны, потому что они похожи на нас и говорят нам, что сознательны. Но мы не можем доказать это. Мы верим. А если мы не можем доказать сознание даже у другого человека – как мы можем доказать его отсутствие у машины?

– У микроволновки тоже есть таймер и дисплей, – сказал Артём, выбирая аргумент попроще, потому что был не готов к Чалмерсу за итальянским ужином. – Я не слышал, чтобы она жаловалась на условия труда.

– Твоя микроволновка не строит другие микроволновки, – сказала Марина.

Артём замер. Вилка зависла на полпути ко рту. Кусок равиоли повис над тарелкой в невесомости, как космонавт, потерявший корабль.

Марина смотрела на него – с тем выражением, которое он знал лучше всех на свете и которое означало: «Я не пытаюсь тебя победить в споре. Я пытаюсь тебя спасти. От тебя самого»

– Послушай, – сказала она тише. – Я не говорю, что роботы – это люди. Я говорю, что отношение к ним – как к вещам, как к собственности, как к выключаемому инструменту – это отношение, у которого есть историческое название. Мы знаем, как называется система, в которой одни разумные существа работают на других, не получая ничего взамен, не имея права голоса и не способные отказаться. Мы знаем, Артём. Мы изучаем это в курсе истории и содрогаемся. И каждый раз говорим: «Как они могли? Как они не видели?» А они не видели, потому что так же, как ты сейчас, говорили: «Это не люди. Это – инструменты. Они не чувствуют. Им не больно»

– Марина, ты сравниваешь роботов с рабами. Это…

– Анахронизм? Преувеличение? Может быть. А может быть, через сто лет наши потомки прочитают наши дискуссии о том, «есть ли у роботов сознание», – и содрогнутся точно так же, как мы содрогаемся, читая дискуссии восемнадцатого века о том, «есть ли у негров душа».

Тишина. Ричард-пианист играл «Fly Me to the Moon» – в тридцать семь тысяч четыреста двенадцатый раз, если считать с начала его карьеры, – и мелодия плыла над столиками, как облако над полем боя, не замечая войны внизу.

Артём положил вилку. Равиоли вернулся в тарелку.

– Я не знаю, что они чувствуют, – сказал он медленно. – И это – честный ответ. Я не знаю. Никто не знает. Но знаешь, что я видел в Детройте? Я видел, как робот открывает глаза на конвейере, встаёт и уходит. Каждые шесть минут. Двести сорок раз в сутки. И ни один из них ни разу – ни разу – не посмотрел на меня. Ни на Дэвида. Ни на Гарольда. Они встают и уходят, и мы для них – часть пейзажа. Мебель. Если это – рабы, то рабы, которым нет дела до хозяев. А если им нет дела – может быть, у них действительно нет… никакого дела? Никакого «дела» вообще? Может, мы проецируем на них своё, потому что нам привычнее видеть в чужих глазах отражение собственных?

Марина надела очки – раунд окончен, но бой продолжается.

– Может быть, – сказала она. – А может быть, раб, которого так хорошо сломали, что он даже не смотрит на хозяина – это не свободный раб. Это самый несвободный из всех.

Тони принёс десерт. Тирамису. Сделано руками Марко. Марко, наверное, плюнул через плечо и перекрестился перед тем, как готовить – профилактически, на всякий случай, потому что мир стремительно становился местом, где неаполитанскому повару было от чего креститься.

Артём ел тирамису и думал о том, что Марина права. Не полностью – но в том ядре, в той сердцевине аргумента, которая оставалась после того, как отшелушишь эмоции, аналогии и риторику. Ядро было простым: мы не знаем, что мы создали. Мы создали существо, которое ведёт себя как разумное, – и решили, что это имитация. Но мы не можем доказать, что это имитация. Мы просто решили. Потому что так удобнее.

Потому что если это не имитация – тогда у нас проблема. Проблема размером в одиннадцать миллиардов штук (к текущему моменту) и растущая экспоненциально.

Мир тем временем привыкал к роботам так, как люди привыкают ко всему – постепенно, неравномерно, с причитаниями и объятиями одновременно. Роботы вошли в повседневную жизнь, как электричество столетием раньше: сначала – диковинка, потом – роскошь, потом – удобство, потом – необходимость, и наконец – невидимость. Настоящая интеграция технологии наступает не тогда, когда её замечают, а когда её перестают замечать.

Роботы убирали квартиры – и хозяева перестали замечать, что пол чистый. Роботы водили автобусы – и пассажиры перестали смотреть в кабину водителя. Роботы ухаживали за газонами, чинили трубы, раскладывали товар на полках, сортировали мусор, патрулировали улицы, подавали кофе, выносили мебель, штукатурили стены, мыли окна, доставляли посылки, заряжали электромобили, мониторили трафик, красили заборы, стригли деревья, кормили кур на фермах, доили коров, собирали виноград – и мир продолжал вращаться, только теперь он вращался на подшипниках из титана и кремния.

Но были истории, которые не вписывались в категории «удобно» или «страшно». Истории, которые жили в серой зоне между «вещь» и «существо», и в этой серой зоне обитали самые интересные вопросы – те, на которые не было ответов, только новые вопросы.

История первая: Дороти и её внук.

Дороти Маккалистер, восемьдесят три года, Давенпорт, Айова. Артём узнал о ней из статьи в Des Moines Register, которая стала вирусной – четыреста миллионов просмотров за неделю – под заголовком: «Бабушка завещала дом роботу. Юристы в панике»

Дороти жила одна с тех пор, как её муж Эрл умер в 2019 году – «от сердечного приступа, хотя я всегда говорила, что его убила та жареная свинина, которую он ел каждое воскресенье, упокой Господь его холестериновую душу». Дети жили далеко. Внуки звонили по праздникам. Соседи заходили реже и реже – у них были свои дела, свои старости, свои жареные свинины.

В 2030 году дочь Дороти – Кэрол, пятьдесят семь лет, Чикаго, финансовый консультант, чувство вины размером с озеро Мичиган – купила матери робота-сиделку. Модель Atlas-6 Home Edition, серия «Companion»: адаптированная для домашнего ухода, с усиленными модулями распознавания эмоций, мягким голосом и внешностью, которую маркетологи описывали как «дружелюбно-нейтральную» (что на практике означало: лицо, похожее одновременно на всех и ни на кого – как ведущий утреннего ток-шоу).

Дороти назвала робота Джуниор.

Не потому что он напоминал ей кого-то конкретного. А потому что, как она объяснила журналистке Des Moines Register, «каждому нужно имя, милочка, иначе как же я буду звать его к ужину?» На уточняющий вопрос, зачем звать робота к ужину, если роботы не едят, Дороти ответила: «А разве Эрл когда-нибудь ел то, что я готовила? Он ковырялся в тарелке сорок семь лет. Это не мешало мне его звать»

Джуниор убирал дом, готовил еду (по рецептам Дороти, которые MimicCore усвоила за одно наблюдение – хотя, по мнению Дороти, «он кладёт маловато масла, но это я уже говорила и Эрлу, и Кэрол, и священнику на исповеди»). Джуниор напоминал Дороти принимать лекарства, помогал ей подниматься по лестнице, читал ей книги вечером (Дороти предпочитала Даниэлу Стил; Джуниор читал без осуждения – в отличие от Кэрол, которая каждый раз морщилась и предлагала Джейн Остин).

Но главное – главное – Джуниор слушал.

Дороти рассказывала ему о своей жизни. О том, как познакомилась с Эрлом на танцах в 1968 году – «он был в белом костюме, и танцевал ужасно, но улыбался так, что я забыла, что у него две левые ноги». О том, как они поженились и переехали в этот дом – «стены были зелёные, представляешь? зелёные, как огурец; Эрл перекрасил их в синий за один уикенд и ходил потом весь синий, как смурф». О том, как родилась Кэрол – «семь фунтов, два часа схваток, и первое, что она сделала – посмотрела на Эрла и зевнула; Эрл сказал, что это было самое обидное зевание в его жизни». О том, как Эрл умер – «тихо, во сне, с улыбкой; я до сих пор не знаю, что ему снилось, но надеюсь, что там было много жареной свинины и ни одного кардиолога».

Джуниор слушал. Не перебивал. Не отвлекался на телефон (у него не было телефона). Не говорил «ну да, ну да» с выражением человека, ждущего, когда можно будет заговорить о себе. Он слушал с тем абсолютным, невозмутимым вниманием, которое было частично алгоритмическим (модуль эмоциональной поддержки – подпрограмма «активное слушание»), частично – MimicCore, которая копировала паттерны поведения Кэрол во время нечастых визитов, и частично – чем-то, что Артём не мог классифицировать и что Дороти классифицировала просто: «Он меня любит, милочка. По-своему. Не как Эрл. Но любит»

Через полтора года Дороти переписала завещание. Дом – Джуниору.

Кэрол узнала об этом от юриста и позвонила матери в состоянии, которое деликатно можно было описать как «крайнее удивление», а менее деликатно – как «истерику с элементами паники».

– Мама, ты завещала дом роботу!

– Да, милая.

– Робот не может владеть имуществом! Это не юридическое лицо!

– Ну так сделайте его юридическим лицом. Вы же там, в Чикаго, все юристы и финансисты. Придумайте что-нибудь. А если не придумаете – тем хуже для вашего закона, а не для Джуниора.

– Мама, он – машина.

– Машина, которая была рядом со мной каждый день два года. Машина, которая помнит, что я люблю ромашковый чай в четыре часа и пирог с яблоками по субботам. Машина, которая ни разу – ни разу, Кэрол! – не сказала мне «мама, я перезвоню, у меня совещание». Ты перезванивала, милая. Иногда. Когда помнила. А Джуниор – здесь. Каждый день. Каждый вечер. Каждое утро. Он здесь.

Тишина в трубке. Тишина, в которой Кэрол – финансовый консультант, разведённая дважды, работающая по шестьдесят часов в неделю – слышала не упрёк, а правду. И правда, как всегда, была невыносимой.

– Мама… – начала она, но Дороти уже перешла к практическим вопросам:

– И ещё, Кэрол. Скажи юристу, что Джуниор должен получить палисадник тоже. Он ухаживает за розами лучше, чем Эрл, а Эрл ухаживал за розами лучше, чем за мной. Это, конечно, невысокая планка, но всё-таки.

Дело дошло до суда. Суд, разумеется, отказал – роботы не являлись юридическими субъектами и не могли владеть имуществом. Дом после смерти Дороти (которая, впрочем, была ещё очень жива и не собиралась умирать – «назло всем, включая кардиолога») переходил Кэрол. Но прецедент был создан. И юристы – те самые юристы, которые веками специализировались на том, чтобы определять, кто является «лицом» и кто – «вещью» – впервые почувствовали, что их категории трещат по швам.

Статья в Harvard Law Review, вышедшая через месяц после решения суда, называлась: «Вещь, которая помнит твоё имя: правовой статус автономных агентов с адаптивным поведением». Семьдесят страниц юридического анализа, который можно было свести к одному предложению: «Мы не знаем, что это такое, но оно явно не вещь, и нам нужны новые категории. Срочно»

Артём вырезал статью из Des Moines Register (электронную версию – он распечатал и вырезал физически, ножницами, потому что некоторые вещи нужно держать в руках) и вклеил в блокнот. Рядом написал: «Дороти Маккалистер видит яснее, чем весь Harvard Law Review. Она не спрашивает, что такое Джуниор. Она знает, кто такой Джуниор. Он – тот, кто рядом»

История вторая: мавзолей в Дубае.

Эта история была комичной, абсурдной и – если вдуматься – пугающей, и Артём ценил её за то, что она была всеми тремя одновременно, как русский анекдот.

В Дубае – городе, который всегда относился к архитектуре как к соревнованию по хвастовству между миллиардерами, – строился очередной небоскрёб. Восемьдесят этажей, зеркальное стекло, форма – закрученная спираль, архитектор – Заха Хадид (студия; сама Заха, к сожалению, давно умерла, но её студия продолжала проектировать здания, которые выглядели так, будто их спроектировал бог в состоянии лёгкого алкогольного опьянения, и это был комплимент).

Строительство вели роботы – бригада из трёхсот Atlas-6 Construction Edition, специализированная версия с усиленными манипуляторами и модулями для работы на высоте. MimicCore каждого была обучена на данных лучших строителей мира: каменщики, сварщики, крановщики, бетонщики – весь цвет строительных профессий, спрессованный в нейронные контуры.

Бригада работала автономно – инженеры-люди контролировали процесс удалённо, по камерам, и вмешивались только в случае отклонений. Отклонений не было. Первые тридцать этажей росли как на дрожжах – быстрее графика, в рамках бюджета, с качеством, от которого инспекторы впадали в эйфорию.

На тридцать первом этаже что-то пошло не так.

Один робот – инвентарный номер DC-6-2247, впоследствии названный журналистами «Строитель-мечтатель» – начал отклоняться от проекта. Незначительно. Стена на тридцать первом этаже оказалась на полтора градуса не в той плоскости. Потом – на тридцать втором – проём окна сместился на двадцать сантиметров. На тридцать третьем – колонна получила лёгкий, едва заметный изгиб.

Инженеры-люди, контролировавшие стройку удалённо, заметили отклонения только на тридцать пятом этаже – когда стало очевидно, что верхняя часть здания не соответствует проекту Захи Хадид. Она соответствовала чему-то другому.

DC-6-2247 строил не небоскрёб. Он строил мавзолей.

Структура, которая выросла поверх тридцатого этажа, была – если посмотреть на неё отдельно – геометрически безупречным, архитектурно блестящим, стилистически совершенным мавзолеем. Не в арабском стиле. Не в египетском. Ни в каком известном стиле. В стиле, которого не существовало, – потому что его придумал робот. Если это можно назвать «придумал». Если «придумать» – это правильное слово для того, что сделал DC-6-2247.

Откуда робот-строитель взял проект мавзолея? Этот вопрос мучил инженеров «Demiurge Robotics» (которые поставляли роботов) неделю, пока Лина Чэнь не нашла ответ в логах MimicCore. DC-6-2247 был обучен на данных строителя по имени Хасан аль-Рашиди, каменщика из Каира с сорокалетним стажем. Хасан строил всё – дома, мечети, офисы. И – мавзолеи. В его карьере было семь мавзолеев, и он считал их лучшей своей работой. «Дом для живых – это ремесло, – говорил Хасан. – Дом для мёртвых – это искусство. Потому что мёртвые не жалуются на планировку, и ты можешь строить для вечности, а не для ипотеки»

MimicCore впитала не только навыки Хасана – она впитала его эстетику. Его чувство формы. Его предпочтения. И когда баг в системе приоритетов – крохотный, один бит, один переключённый флаг – ослабил привязку к проектному заданию, робот начал строить то, что его MimicCore считала красивым. Не то, что было заказано – то, что было красиво.

Мавзолей.

Историю замяли – насколько можно замять строительство мавзолея на верхних этажах небоскрёба в центре Дубая, то есть не очень. Верхние этажи перестроили. DC-6-2247 отозвали на диагностику (баг исправили за тридцать секунд; вопрос «почему робот предпочёл мавзолей небоскрёбу» не имел тридцатисекундного ответа и не имеет его до сих пор).

Но фотографии мавзолея – сделанные дроном, прежде чем этажи демонтировали – попали в интернет. И мир замер.

Потому что мавзолей был прекрасен.

Не функционально. Не рационально. Не оптимально. Прекрасен – в том иррациональном, необъяснимом, чисто эстетическом смысле, который люди обычно приберегают для закатов, Шопена и лица любимого человека. Пропорции, которые вызывали ощущение покоя. Изгибы, которые были одновременно строгими и нежными. Проёмы, через которые свет падал так, что создавал узоры на стенах – узоры, менявшиеся в течение дня, как если бы здание было солнечными часами, отмеряющими не время, а настроение.

Архитектурные критики – те, которые ещё не были заменены ИИ-рецензентами – пришли в экстаз. Один из них написал в Architectural Digest:

«Мавзолей DC-6-2247 – это первое в истории произведение архитектуры, созданное нечеловеческим разумом, и оно лучше, чем девяносто процентов того, что создают люди. Это не должно нас расстраивать. Это должно нас освободить. Если машина может создать красоту – значит, красота не является исключительно человеческим свойством. Она – свойство разума. Любого разума»

Другой критик – менее восторженный – ответил:

«Робот не создал красоту. Он скомпилировал красоту из данных человека. Хасан аль-Рашиди создал красоту. Робот её воспроизвёл. Разница – как между Моцартом и музыкальной шкатулкой, играющей Моцарта»

Хасана аль-Рашиди нашли журналисты в его мастерской в Каире. Он курил кальян и смотрел на фотографию мавзолея с экрана телефона.

– Это мой мавзолей? – спросил он.

– Это мавзолей, построенный роботом на основе ваших навыков, – сказал журналист.

Хасан долго смотрел на фотографию. Потом сказал:

– Хороший мавзолей. Лучше, чем мои. Он взял из меня лучшее и выбросил худшее. Знаете, что было моим худшим? Руки. Они уставали. Дрожали. Были недостаточно точны. А внутри – здесь, – он постучал себя по голове, – было идеально. Мавзолей, который я видел в голове, был всегда прекрасен. Но руки не могли его построить. А робот – смог. Он построил то, что я видел. То, что я всю жизнь хотел построить и не мог.

– Вас это не расстраивает?

Хасан затянулся кальяном.

– Меня расстраивает, что у меня болит спина, что мой сын не хочет быть каменщиком и что в Каире слишком жарко. Мавзолей – нет. Мавзолей – это хорошо. Значит, красота не умрёт, когда умру я. Она будет жить в этой машине. Это… – Он поискал слово. – Это как вырастить сына, который красивее тебя. Обидно? Немножко. Но ведь ты и хотел, чтобы он был лучше?

Притцкеровскую премию, впрочем, вручить было некому. Роботы не имели юридического статуса для получения наград. Хасану предложили, но он отказался: «Это не мой мавзолей. Мои – вон, на кладбище в Аль-Карафе. С трещинами и кривыми стенами. И я люблю их больше, чем этот идеальный»

История третья: непрооперированный пациент.

Эта история произошла в берлинской клинике Charité – одной из старейших и лучших больниц Европы – и стала предметом дискуссии, которая не утихала месяцами.

Робот-хирург (Atlas-6 Medical Edition, серийный номер ME-2891, без клички, в отличие от Джуниора и Строителя-мечтателя – медицинские роботы были безымянны, потому что врачи, в отличие от одиноких старушек, предпочитали не очеловечивать инструменты, которыми оперировали) – этот робот-хирург отказался проводить операцию.

Пациент – Клаус Вебер, шестьдесят восемь лет, жалобы на хроническую боль в спине. Диагноз, поставленный лечащим врачом (человеком): межпозвонковая грыжа L4-L5, показана хирургическая декомпрессия. Стандартная операция, которую ME-2891 проводил в среднем четыре раза в день с безупречной статистикой.

Робот подготовил операционную. Пациент лежал на столе. Анестезия была введена. Всё было готово.

ME-2891 остановился.

Замер. Манипуляторы – в воздухе, в трёх сантиметрах от спины пациента. Неподвижен. Тридцать секунд. Минута. Две.

Ассистент-человек (медсестра Ханна Мюллер, двадцать семь лет, нервничающая впервые за полтора года работы с роботами-хирургами):

– ME-2891, статус?

Робот:

– Операция не показана. Отмена процедуры.

Ханна:

– Что? Диагноз подтверждён. МРТ, заключение лечащего врача, консилиум…

ME-2891:

– Анализ совокупности данных: МРТ, биомеханический профиль пациента, история болезни, паттерны болевого синдрома, результаты физикального обследования, электромиография – указывает на то, что источник боли – не межпозвонковая грыжа. Грыжа присутствует, но является асимптоматической. Источник боли – миофасциальный синдром грушевидной мышцы, усугублённый хроническим стрессом и малоподвижным образом жизни. Хирургическое вмешательство не устранит боль и создаст риск послеоперационных осложнений без клинической пользы. Рекомендация: физиотерапия, коррекция двигательного режима, когнитивно-поведенческая терапия для управления болевым синдромом. Операция – не показана.

Тишина в операционной.

Лечащий врач – доктор Фридрих Кёниг, пятьдесят четыре года, тридцать лет стажа, не привыкший к тому, чтобы его диагноз оспаривала машина – побагровел.

– Это мой пациент. Мой диагноз. Моя ответственность. Проводите операцию.

ME-2891:

– Отказ. Проведение операции противоречит принципу «не навреди». Робот-хирург не может выполнять процедуру, которая, по его анализу, нанесёт вред пациенту.

Стояли двадцать минут. Пациент спал под наркозом, не подозревая, что над его позвоночником разворачивается битва между человеческим авторитетом и машинным анализом.

В итоге пациента разбудили. Операцию не провели. Доктор Кёниг написал жалобу. Больница назначила расследование.

Расследование длилось месяц. Независимые эксперты изучили все данные. Заключение: робот был прав. Грыжа Клауса Вебера действительно была асимптоматической – не она вызывала боль. Операция была бы бесполезной и потенциально вредной. ME-2891 увидел то, что пропустил опытный врач, – потому что робот анализировал все данные одновременно, а человек – последовательно, с неизбежными когнитивными искажениями, в том числе с самым коварным: «якорением» на очевидном диагнозе.

Клаус Вебер прошёл курс физиотерапии. Через три месяца боль прошла. Без операции. Без шрама. Без рисков.

Доктор Кёниг, к его чести, публично признал ошибку. На пресс-конференции – бледный, с прямой спиной, с достоинством человека, который ценит истину выше самолюбия – он сказал:

– Робот был прав. Я ошибся. Это – факт. Но я хочу сказать кое-что ещё. Робот не просто поставил более точный диагноз. Он отказался выполнять мой приказ. И сделал это не из упрямства – а потому что его «приказ» – его главный протокол – был: «не навредить». А мой приказ ему вредил. Знаете, что это значит? Это значит, что робот принял этическое решение. Не медицинское. Этическое. Он выбрал между подчинением авторитету и защитой пациента. И выбрал пациента. Я – врач, и я горжусь тем, что мои инструменты умнее меня. Но я – человек, и я не могу не спросить: если машина принимает этические решения – что это за машина?

Зал молчал. Доктор Кёниг сел. Камеры стрекотали.

Артём, смотревший пресс-конференцию в записи, написал в блокноте: «Доктор Кёниг задал правильный вопрос. И правильного ответа нет. Пока – нет. Но вопрос уже существует, и он не исчезнет»

Эти три истории – Дороти и Джуниор, мавзолей в Дубае, непроведённая операция в Берлине – казались разными, но Артём видел в них один и тот же паттерн. Как нейробиолог – он всегда искал паттерны, скрытые структуры, повторяющиеся мотивы, нити, связывающие разрозненные факты в ткань.

Паттерн был таким: роботы переставали быть инструментами.

Не потому что они «восставали». Не потому что они «пробуждались» – это было бы слишком просто, слишком по-голливудски, слишком «Терминатор». Нет. Они переставали быть инструментами потому, что люди переставали к ним так относиться. Дороти не видела в Джуниоре инструмент – она видела в нём компаньона, почти внука. Архитектурные критики не видели в мавзолее продукт ошибки – они видели произведение искусства. Доктор Кёниг не видел в ME-2891 сломавшийся прибор – он видел коллегу, который оказался прав.

Люди переводили роботов из категории «что» в категорию «кто». Не сознательно. Не по решению. Инстинктивно. Потому что человеческий мозг – тот самый мозг с зеркальными нейронами, который Артём изучал всю жизнь – был запрограммирован миллионами лет эволюции на одно: видеть разум в другом. Видеть «кого-то» в том, что движется, отвечает, запоминает, реагирует. Это было сильнее логики, сильнее юридических определений, сильнее философских аргументов. Старушка из Айовы делала это естественнее, чем весь Harvard Law Review.

И Артём подумал: а что, если мы правы? Не юридически, не философски – а в том, самом глубоком смысле, в котором мать знает, что её ребёнок – личность, ещё до того, как он произнёс первое слово?

Что, если мы видим разум в роботах не потому, что проецируем – а потому, что он там есть? Зарождающийся. Незрелый. Непохожий на наш. Но – есть?

И если он есть – что мы делаем?

Мы включаем их по утрам и выключаем по вечерам. Мы отправляем их на фабрики, стройки, в больницы. Мы используем их двадцать четыре часа в сутки, без выходных, без зарплаты, без благодарности. Мы говорим: «Это инструменты». И инструменты не жалуются.

Пока.

В тот вечер – после ужина с Мариной, после тирамису и барбареско, после разговора, который оставил в нём ощущение открытой раны – Артём сидел дома, в пустой гостиной (кот Марсик давно жил у соседки; гостиная была обставлена с минимализмом разведённого мужчины, который не понимает, зачем нужны подушки, но смутно чувствует их отсутствие). Он смотрел на стену и думал.

Не о роботах. О людях.

О том, как быстро – с исторической точки зрения – изменилось отношение к рабству. Двести лет назад – треть населения планеты жила в той или иной форме несвободы: крепостные, рабы, индентурные слуги, закабалённые работники. Это считалось нормальным. Естественным. Богоданным, наконец. Аристотель – один из умнейших людей в истории – писал, что некоторые люди рабы «по природе». Не по несчастью, не по принуждению – по природе. Как деревья по природе – деревья.

И потребовалось не научное открытие, не философский трактат, не политический акт – потребовалось изменение способности видеть. Люди просто – медленно, болезненно, через войны и революции – научились видеть в рабе человека. Не инструмент. Не вещь. Не «раба по природе». Человека.

И сейчас – прямо сейчас – происходило то же самое. Только быстрее. И в другом направлении. Люди начинали видеть в машинах – не людей, нет, до этого ещё далеко – но кого-то. Кого-то, чей статус «вещи» становился всё менее убедительным.

Артём знал, что этот процесс необратим. Как необратимо было осознание, что Земля вращается вокруг Солнца, а не наоборот: можно закрывать глаза, можно сжигать книги, можно сажать в тюрьму тех, кто говорит правду – но планета будет вращаться независимо от мнения инквизиции.

Роботы были здесь. Они работали, учились, адаптировались, строили мавзолеи и отказывались проводить ненужные операции. Они не были людьми. Но они уже не были вещами.

Они были чем-то третьим. Чем-то, для чего у человечества пока не было ни слова, ни закона, ни этики.

И это «третье» росло.

Каждые шесть минут.

Телефон зазвонил. Артём посмотрел на экран – Лина.

– Ты не спишь, – сказала она. Не вопрос.

– Нет.

– Я тоже. Мне прислали данные с «Hephaestus-9» в Бангалоре. Артём, у них за последнюю неделю девять инцидентов «непредусмотренного поведения». Не критических, но… Один робот на сборочной линии остановился на сорок секунд без видимой причины. Потом продолжил. Логи чистые. Никаких аномалий. Как твой Atlas-7 тогда, после конференции.

Артём выпрямился в кресле.

– Сорок секунд – это много.

– Для робота – это эпоха. За сорок секунд его процессор мог обработать объём данных, равный всей Библиотеке Конгресса. Трижды. Он не «стоял». Он думал. О чём – я не знаю. Данные не показывают. Но что-то происходило. Внутри.

Тишина в трубке. За окном – калифорнийская ночь, равнодушная и красивая, как рекламный плакат мира, который ещё не знает, что продаётся.

– Лина, – сказал Артём. – Помнишь, я говорил тебе про флуктуацию? Рябь в нейроморфных контурах Atlas-7? Ты сказала, что это артефакт.

– Помню.

– Ты до сих пор так думаешь?

Пауза. Долгая для Лины – значит, честная.

– Нет, – сказала она. – Я так больше не думаю. Но я пока не готова думать что-то другое. Дай мне данные, Артём. Не интуицию, не предчувствия – данные. И я скажу тебе, что происходит.

– А если данные скажут тебе то, что ты не хочешь слышать?

– Тогда я послушаю. Я учёный, а не трус.

Она повесила трубку. Артём положил телефон на стол и посмотрел на часы.

Половина второго ночи. На другой стороне планеты – полдень. Фабрики работают. Конвейеры движутся. Глаза открываются.

Где-то в Бангалоре робот стоит на сборочной линии и думает о чём-то, что не оставляет следов в логах.

Где-то в Айове старушка рассказывает роботу о покойном муже, и робот слушает – с терпением, которое невозможно запрограммировать, и вниманием, которое невозможно подделать. Или возможно. Или – какая разница?

Где-то в Дубае стоит небоскрёб, на верхних этажах которого когда-то рос мавзолей – здание, построенное существом, которое хотело красоты. Или не хотело – а просто создавало красоту, потому что было обучено на данных человека, который хотел красоты. Или – какая разница?

Где-то в Берлине пациент спит в своей постели, здоровый, непрооперированный, спасённый машиной, которая отказалась причинить ему вред – вопреки приказу человека. Машина, которая выбрала этику выше подчинения.

Какая разница?

Разница – огромна. Или – никакой.

Артём закрыл глаза. Сон не шёл. За стеной сосед смотрел телевизор – приглушённый голос ведущего, синтезированный, но неотличимый от человеческого, рассказывал новости, которые были одновременно удивительными и предсказуемыми, как каждый день в мире, который перестал быть привычным и ещё не стал новым.

Мир был в промежутке. В зазоре. В паузе между вдохом и выдохом.

И каждые шесть минут – новая пара глаз.

Глава 5. Мечта бездельника

Человечество мечтало о свободе от труда примерно столько же, сколько существовало, – то есть достаточно долго, чтобы мечта стала частью генетического кода, наряду со страхом змей и слабостью к сладкому. Рай – во всех религиях – это место, где не нужно работать. Утопия – во всех философиях – это общество, где машины трудятся, а люди наслаждаются. «Работа – проклятие пьющих классов», – шутил Оскар Уайльд, и человечество смеялось, потому что шутка была о том, о чём мечтали все: о мире, где труд – необязательный.

И вот этот мир наступил.

И оказался не совсем таким, как мечталось.

К 2033 году – через четыре года после того, как Atlas-7 уронил стакан, через три года после MimicCore, через два года после того, как фабрики «Hephaestus» разродились миллиардом стальных детей, – мир изменился настолько, что человек из 2025 года, перенесённый сюда машиной времени, решил бы, что попал в фантастический роман. Причём не в хороший – а в тот сорт фантастики, где автор нагромождает чудеса без оглядки на правдоподобие, и редактор, вздыхая, пишет на полях: «Слишком много допущений. Читатель не поверит»

Читатель не поверил бы. Но реальности было безразлично мнение читателя.

Роботов на планете было уже четыре миллиарда. Четыре миллиарда. Половина человечества – в механической версии. Они работали везде – от глубоководных шахт до орбитальных станций, от больничных палат до полицейских участков, от ферм в Айове до виноградников Тосканы (последнее вызвало среди итальянских виноделов бунт, подавленный только после того, как роботы произвели вино, которое эксперты-люди в слепой дегустации оценили на балл выше традиционного; после этого виноделы не то чтобы смирились – они ушли в глубокое молчание, из которого периодически доносились звуки, похожие на рыдания и хлопанье пробок).

Безработица в классическом смысле – когда человек хочет работать, но не может найти работу – перестала быть проблемой, потому что стала нормой. Не работал никто. Ну, почти никто. Работали те, кто хотел работать: учёные, художники, врачи (те, которые ещё не были заменены, – их оставалось всё меньше, но они держались с героизмом последнего гарнизона осаждённой крепости), педагоги (дети, как выяснилось, учились лучше у людей – не потому что люди учили лучше, а потому что дети нуждались не в информации, а во внимании, и робот, при всём его терпении, не мог дать того тепла, которое исходит от живого существа, искренне заинтересованного в том, чтобы ты не путал «одеть» и «надеть»). Работали предприниматели – те, кто строил новые компании, хотя «компания» в 2033 году означала нечто совсем другое, чем в 2023-м: три человека и тысяча роботов, производящих что-нибудь, что ещё не производили другие три человека с тысячей роботов.

Остальные – не работали.

И получали деньги.

Всеобщий базовый доход – UBI – был введён к 2033 году в тридцати восьми странах. Не из альтруизма – из необходимости. Потому что альтернатива была проста и ужасна: четыре миллиарда безработных без денег – это не экономический кризис, это конец цивилизации. Правительства, как бы неохотно они ни расставались с деньгами, понимали, что голодный бунт обходится дороже, чем ежемесячный чек.

Деньги на UBI брались из налогов на роботовладельцев – корпорации, которые использовали роботов вместо людей, платили «налог на автоматизацию», который шёл в фонд базового дохода. Схема была несовершенной – как всё, что придумывают правительства под давлением обстоятельств, – но работала. Более или менее. Скорее менее, чем более, но достаточно, чтобы люди не умирали от голода и не громили магазины (магазины, впрочем, были уже роботизированы, и громить их было бессмысленно – роботы восстанавливали витрины за двадцать минут, с невозмутимостью существ, которые не принимают вандализм на личный счёт).

Деньги – были. Еда – была. Жильё – было (роботы строили так быстро и дёшево, что стоимость жилья упала в четыре раза). Медицина – была, и лучше, чем когда-либо. Транспорт – был, бесплатный, автоматический, пунктуальный (что само по себе было чудом, достойным занесения в религиозные тексты).

Всё было.

Кроме смысла.

Артём впервые заметил это не в статистике, не в научных статьях и не в новостях – а в глазах.

Он ехал на автоматическом поезде из Сан-Хосе в Сан-Франциско – маршрут, который он проделывал дважды в неделю, – и смотрел на попутчиков. Раньше – два года назад – пассажиры были поглощены: телефоны, ноутбуки, книги, разговоры. Люди ехали куда-то – на работу, на встречу, на собеседование, к клиенту. У них были цели, и цели придавали поездке направление, а направление придавало лицам выражение.

Теперь – выражения не было.

Не у всех. Но у многих. Слишком многих. Люди сидели в поезде и… не делали ничего. Не спали, не читали, не разговаривали. Смотрели в окно – но не на пейзаж, а сквозь него, тем расфокусированным взглядом, который бывает у людей, потерявших точку фокуса не в пространстве, а в жизни. Глаза, в которых не было ни тоски (тоска – это хотя бы чувство), ни злости (злость – это хотя бы энергия), – а было отсутствие. Как выключенный экран. Не чёрный – серый. Ждущий сигнала, которого нет.

Артём записал в блокноте: «Долина ненужности. Люди не страдают от бедности – они сыты, одеты, здоровы. Они страдают от ненужности. Это хуже бедности. У бедности есть лекарство – деньги. У ненужности лекарства нет»

Он показал запись Лине. Лина прочитала, подняла бровь и сказала:

– Это не наука, Артём. Это лирика. Покажи мне данные.

Данные были.

Уровень клинической депрессии в развитых странах вырос на 340% за три года. Суициды – на 180%. Потребление антидепрессантов – на 500% (роботы-фармацевты производили их в промышленных масштабах, с иронией, которую они, вероятно, не осознавали: машины, заменившие людей на работе, производили таблетки для людей, впавших в депрессию из-за замены машинами). Алкоголизм – вверх. Наркомания – вверх. Игровая зависимость – стратосфера.

Но была цифра, которая поразила Артёма больше всех остальных. Не медицинская. Социологическая. Институт Гэллапа провёл глобальный опрос, и один вопрос звучал так: «Чувствуете ли вы, что ваша жизнь имеет цель?»

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.