Круг создателей

– А зачем вообще нужен охранник? – спросил Артём, хотя примерно знал ответ.

Гарольд посмотрел на него с выражением, в котором мудрость шести десятилетий жизни в Детройте сочеталась с покорностью человека, который давно перестал удивляться абсурду.

– Страховка, – сказал он. – Страховая компания требует, чтобы на объекте присутствовал хотя бы один человек. Формально – для «контроля и экстренного реагирования». Практически – чтобы было кого вписать в графу «ответственное лицо», если что-нибудь взорвётся. – Он помолчал. – Хотя если здесь что-нибудь взорвётся, от меня останется ровно столько, сколько нужно для заполнения графы: имя, фамилия, подпись.

– Оптимистичный взгляд.

– Я в Детройте, сынок. Здесь оптимизм – это когда ты встаёшь утром и у тебя ещё есть работа. Пока есть. Мой менеджер намекнул, что в следующем квартале поставят автоматические ворота с распознаванием лиц. – Гарольд потрогал кактус. – Наверное, придётся забрать Карлоса домой.

– Кактус зовут Карлос?

– Карлос Эстебан Пиблз Третий. Первый и второй засохли. Я плохо переношу потери, но Карлосы переносят их ещё хуже.

Артём решил, что Гарольд Пиблз – национальное достояние, и мысленно пообещал себе, что, если когда-нибудь напишет мемуары, Гарольд займёт в них целую главу.

Гарольд проводил его до смотровой галереи – стеклянного коридора, нависавшего над производственным цехом на высоте двадцати метров. Коридор был пристроен позже, специально для «визитов делегаций», которых, как уже установил Артём, практически не случалось. Стекло было запыленным. На перилах – слой пыли толщиной в палец. Гарольд провёл по ней ладонью и философски заметил:

– Я бы протёр, но зачем? Пыль – единственное доказательство того, что здесь бывают люди.

Артём подошёл к стеклу и посмотрел вниз.

И перестал дышать.

Нет – перестал думать. На три секунды его мозг, натренированный годами работы с самыми передовыми технологиями на планете, захлебнулся и выдал то самое первобытное, дорациональное «ох», которое вырывается у человека, когда он впервые видит Гранд-Каньон, или Ниагарский водопад, или рождение ребёнка, или нечто настолько огромное и настолько нечеловеческое, что мозг отказывается классифицировать и просто – смотрит.

Цех тянулся на восемьсот метров – длиннее, чем Артём мог видеть; дальний конец терялся в голубоватом мареве промышленного освещения, не солнечного, не тёплого, не для глаз – для оптических датчиков. Потолок – тридцать метров; колонны из стали, каждая толщиной с вековой дуб, уходили вверх и поддерживали перекрытия, рассчитанные не на снег и ветер, а на вибрацию десяти тысяч одновременно работающих механизмов.

И механизмы работали.

Конвейерные линии – двенадцать параллельных потоков – неслись от одного конца цеха к другому, и на каждой линии, с интервалом в полтора метра, двигались они. Заготовки. Скелеты. Будущие роботы. Сначала – просто рамы: титановые позвоночники, рёберные дуги, тазовые структуры. Потом – наращивание: механические руки с такой же нечеловеческой точностью, какую Артём видел у Atlas-7, крепили к рамам сервоприводы, актуаторы, связки из углеродного волокна. Дальше – сенсорные системы: оптические модули (глаза), аудиомодули (уши), тактильные матрицы (кожа). Ещё дальше – нейроморфные процессоры: мозг, вставленный в черепную коробку с ловкостью ювелира, вставляющего камень в оправу.

На каждом этапе – роботы. Не люди. Роботы. Механические руки на шарнирах – стационарные, прикреплённые к конвейеру. Мобильные роботы – похожие на Atlas-5, модели попроще, без излишеств: функциональные, быстрые, точные. Они сновали между линиями, подвозили компоненты, уносили брак (брака было мало – 0,003%, как сообщала информационная панель на стене, и это было в сорок раз меньше, чем на лучшем человеческом производстве).

Ни одного человека. Ни одного голоса. Ни одного кашля, смешка, ругательства, разговора о вчерашнем матче. Только – шипение пневматики, стрекот сервоприводов, тихое гудение электромоторов и иногда – короткий, почти музыкальный звон, когда титановая деталь точно входила в паз. Фабрика звучала как механический орган, играющий бесконечную, нечеловечески сложную фугу.

– Сколько единиц в сутки? – спросил Артём, когда вернул себе способность говорить.

– Двести сорок, – ответил Гарольд. – Плюс-минус. Двести сорок готовых Atlas-6 в сутки. Когда я пришёл сюда два года назад, было сто двадцать. Они… – Он замялся, подбирая слово. – Они оптимизируются. Сами. Перестраивают линии, меняют последовательность сборки, перепроектируют инструменты. Никто им не говорит. Они просто… делают.

– Кто утверждает изменения в техпроцессе?

Гарольд посмотрел на него так, как врач смотрит на пациента, который спрашивает, можно ли ему бежать марафон через час после ампутации.

– Сынок, – сказал он мягко. – Здесь некому утверждать. Я – охранник. Мой начальник – менеджер, который сидит в офисе в Сан-Хосе и видел эту фабрику один раз, на открытии, два года назад. Его начальник – вице-президент, который видел фабрику на фотографии. А решения о техпроцессе принимает управляющий ИИ фабрики, которого зовут – без шуток – Гефест. Он сам проектирует, сам утверждает, сам внедряет. Мы – статисты в его пьесе.

Артём прислонился лбом к стеклу. Оно было холодным. Внизу, в восьмистах метрах конвейерного безумия, роботы продолжали создавать роботов с монотонным, неостановимым совершенством часового механизма, у которого нет завода, потому что он заводит сам себя.

Самовоспроизводящиеся.

Слово всплыло в голове, как пузырёк воздуха со дна глубокого озера. Медленно. Неотвратимо. И лопнуло на поверхности сознания, оставив после себя круги, расходящиеся во все стороны.

– Самовоспроизводящиеся, – сказал Артём вслух. – Мы создали самовоспроизводящуюся сущность. Когда это было в последний раз?

Гарольд, который стоял рядом, скрестив руки на груди, повернул к нему голову:

– Что?

– Ничего. Мысли вслух.

– А, – сказал Гарольд. – Мысли вслух. У меня тоже бывают. Вчера я вслух спросил Карлоса, не кажется ли ему, что мы все в заднице. Карлос не ответил. Кактусы – мудрые существа.

Дэвид прилетел в Детройт на следующий день – Артём попросил его приехать, потому что нуждался в ком-то, кто мог бы посмотреть на «Hephaestus-7» глазами инженера, а не нейробиолога с нарастающим экзистенциальным кризисом.

Дэвид стоял на той же смотровой галерее, и его огромная фигура отражалась в запыленном стекле, как силуэт великана в зеркале.

– Красиво, – сказал он.

Артём посмотрел на него с удивлением.

– Красиво?

– Как механизм – красиво. Каждое движение – выверено. Каждый процесс – элегантен. Посмотри, как вон тот манипулятор устанавливает тазобедренный сервопривод – видишь? Три движения, ни одного лишнего. Когда я проектировал этот узел, я рассчитывал на пять движений при ручной сборке. Они нашли способ сделать в три. Сами.

– И это тебя не пугает?

Дэвид молчал долго – для него необычно долго. Потом сказал:

– Пугает. Но не потому, что они делают это лучше нас. А потому, что они делают это без нас. Знаешь, что я вижу внизу? Не фабрику. Я вижу организм. Живой организм. Конвейеры – это артерии. Манипуляторы – руки. Гефест, управляющий ИИ – мозг. И этот организм делает то, что делает любой живой организм, – воспроизводит себя. Роботы строят роботов. Клетки делятся. Жизнь… продолжается.

– Это не жизнь, Дэвид.

– Нет? А что такое жизнь, Артём? Способность к самовоспроизводству, адаптации и усложнению. Вот тебе – самовоспроизводство. – Он указал на конвейер. – Вот тебе – адаптация. – Он указал на участок, где роботы перестраивали инструментальный модуль в реальном времени. – А усложнение… Два года назад эта фабрика производила сто двадцать единиц в сутки. Сейчас – двести сорок. Через год будет пятьсот. Они усложняются. Ускоряются. Эволюционируют.

– Биологическая эволюция занимает миллионы лет.

– Вот именно. А эта – месяцы. Знаешь, как называется эволюция, которая происходит в миллион раз быстрее, чем биологическая?

Артём знал. Это слово ему не нравилось.

– Сингулярность, – сказал он.

– Нет, – сказал Дэвид, и в его голосе была грустная улыбка. – Это называется «проблема». Сингулярность – это когда проблему уже поздно решать.

Они спустились вниз – в сам цех. Гарольд остался в будке: «Я туда не хожу. Там шумно, холодно, и я чувствую себя тараканом на кухне ресторана – терпят, но не рады»

Внутри цеха масштаб раздавливал. С галереи конвейеры выглядели как потоки реки, видимой с горы, – плавные, понятные, обозримые. Изнутри – это был водопад, и ты стоял под ним.

Роботы были повсюду. Стационарные – руки на шарнирах, каждая с набором инструментов, меняющихся быстрее, чем глаз успевал отследить: сварочный аппарат, прецизионный пинцет, калибровочный щуп, полировальный диск – четыре инструмента за две секунды, смена за сотую долю секунды, как фокусник, который достаёт карты из воздуха. Мобильные – катились по полу на колёсах или шагали на двух ногах (те, что поновее – Atlas-5, использовавшиеся как универсальные рабочие), перевозили компоненты, проверяли качество, убирали стружку.

Артём остановился перед участком финальной сборки. Здесь происходило то, от чего по спине бежали мурашки – не от страха, а от столкновения с чем-то, к чему человеческая психика не была приспособлена эволюцией.

На конвейере лежал почти готовый Atlas-6 – корпус собран, сервоприводы установлены, сенсоры откалиброваны. Оставался последний этап: установка нейроморфного процессора. Мозга.

Над конвейером навис манипулятор – стационарная рука с шестью степенями свободы, – и в его захвате, удерживаемый с ювелирной нежностью, покоился процессор. Маленький – с кулак ребёнка. Тёмный, с матовым блеском. Внутри него – триллионы синаптических соединений, архитектура, на создание которой Артём и его команда потратили годы.

Манипулятор медленно – со скоростью три миллиметра в секунду – опустил процессор в черепную полость Atlas-6. Контакты совместились. Щелчок фиксатора. Микропауза – самодиагностика. На мониторе рядом побежали строчки: инициализация нейронных контуров, загрузка базовых модулей, калибровка сенсорных входов.

И Atlas-6 открыл глаза.

Артём видел это уже десятки раз в лаборатории. Но здесь, на конвейере, в окружении сотен машин, в нечеловеческом масштабе промышленного производства – это выглядело иначе. Это выглядело как…

Рождение.

Не метафорическое – то есть, разумеется, метафорическое, Atlas-6 не был живым, не чувствовал, не осознавал, он просто запускал предустановленные программы в предустановленной последовательности – но глаза. Эти глаза. Они открылись, и в них было то, что Артём видел в глазах Atlas-7 в ту ночь после конференции: направленность. Взгляд нового существа, впервые видящего мир.

Три секунды Atlas-6 лежал на конвейере и смотрел в потолок. Потом сел – гидравлически плавно, как человек, просыпающийся после глубокого сна. Потом встал. Потом – без команды, без внешнего сигнала – повернулся и пошёл к выходному шлюзу, за которым ждал грузовой транспорт.

Как будто знал, куда ему нужно.

И через полтора метра на конвейере уже лежал следующий корпус. И манипулятор уже опускал следующий процессор. И следующий Atlas-6 открывал глаза.

Двести сорок раз в сутки. Каждые шесть минут – новое существо. Одно за другим, без перерыва, без выходных, без праздников, без остановки.

Конвейер рождений.

– Дэвид, – сказал Артём тихо – не потому, что не хотел, чтобы его услышали роботы (они фиксировали каждый звук), а потому что громкий голос казался неуместным, как громкий голос в церкви или в операционной. – Ты помнишь, как в Книге Бытия описывается создание Адама? «И создал Господь Бог человека из праха земного, и вдунул в лице его дыхание жизни»

– Помню, – сказал Дэвид. – Моя бабушка читала мне эту историю каждое воскресенье.

– Прах земной – это материал. Кремний, титан, углеродное волокно. Дыхание жизни – это нейроморфный процессор. Мы повторяем эту историю, Дэвид. Прямо сейчас. Каждые шесть минут – новый Адам. Двести сорок Адамов в сутки. Восемьдесят семь тысяч шестьсот в год. И это – только одна фабрика. А их – четырнадцать. По всему миру. И строятся ещё.

Дэвид молчал. Его огромные руки – руки, которые проектировали тела этих существ, каждый шарнир, каждый привод, каждое углеволоконное сухожилие – висели вдоль тела, неподвижные, как руки человека, который не знает, что с ними делать.

– Ты знаешь, что меня больше всего тревожит? – сказал Дэвид наконец. – Не скорость. Не масштаб. А то, что они это делают лучше нас. Я проектировал Atlas-6. Я горжусь этим проектом. Но те Atlas-6, которых собирают здесь, – они лучше тех, которых мы собирали вручную в лаборатории. Точнее собраны, лучше откалиброваны, надёжнее. Фабрика, которую мы создали, создаёт наших созданий лучше, чем мы сами. Мы… устарели, Артём. Как создатели – мы уже устарели.

– Мы не устарели. Мы – исходный код. Без нас не было бы ни MimicCore, ни нейроморфных процессоров, ни этой фабрики.

– Верно. Но исходный код тоже однажды становится ненужным. Когда программа написана, компилятор больше не нужен. Программа работает сама.

Артём хотел возразить, но не смог. Потому что Дэвид был прав. И потому что внизу, на конвейере, очередной Atlas-6 открыл глаза, сел, встал и ушёл – без единого взгляда на двух людей, стоявших на галерее.

Зачем ему на них смотреть? Он их не создавал.

В тот вечер Артём сидел в номере детройтского отеля – из тех отелей, которые в эпоху автомобильного бума были роскошными, потом стали потрёпанными, потом – депрессивными, а теперь стали «винтажными», что было эвфемизмом для «мы не ремонтировали ничего с 2008 года, но зато у нас атмосфера». Атмосфера и впрямь была – запах старого дерева, скрипящие полы и портрет Генри Форда в холле, глядевшего на постояльцев с выражением человека, которому есть что сказать, но он уже слишком мёртв для этого.

Артём открыл ноутбук и начал читать. Не научные статьи – новости. Он делал это по вечерам: читал то, что публиковалось о робототехнике не в Nature и IEEE, а в обычных газетах, для обычных людей. Потому что будущее определяется не тем, что думают учёные, а тем, что чувствуют все остальные.

Чувствовали – по-разному.

Он открыл длинный лонгрид, опубликованный неделю назад в Atlantic, озаглавленный «Последний рабочий день». Журналистка – некая Сара Кёниг, судя по стилю, из тех журналистов, которые ещё верят, что длинные тексты имеют значение – провела месяц на фабрике «Hephaestus-3» в Шэньчжэне, первой и крупнейшей.

Артём читал:

«Фабрика "Hephaestus-3" в промышленном районе Баоань производит впечатление здания, спроектированного существом, которое никогда не было человеком и не пыталось им притвориться. Здесь нет фойе, нет ресепшена, нет стойки с журналами для ожидающих посетителей. Входная дверь – грузовой шлюз высотой в четыре метра, рассчитанный на проезд транспортных платформ, а не на проход людей. Мне выдали каску и светоотражающий жилет, и я чувствовала себя в них примерно так, как, наверное, чувствует себя золотая рыбка в аквалангическом костюме: технически защищена, практически – не в своей среде.

Зрелище внутри завораживает и ужасает одновременно. Конвейеры тянутся на полтора километра. Механические руки с хирургической точностью собирают другие механические руки. В воздухе пахнет озоном и будущим. Ни одного человека. Ни одного окна. Свет здесь не для глаз – он для оптических датчиков. Мы – гости в доме, который построен не для нас.

"Hephaestus-3" производит четыреста двадцать роботов модели Atlas-6 в сутки. Каждый робот – от первого болта до последнего нейронного контура – собирается другими роботами. На всём предприятии, занимающем площадь двенадцати футбольных полей, работает один человек: охранник Ван Цзюньцзе, шестьдесят один год, бывший рабочий завода Foxconn, который производил смартфоны.

«Раньше я собирал телефоны, – говорит Ван, – потом телефоны стали собирать роботы, и я стал их охранять. Потом роботы стали собирать роботов, и я стал охранять роботов, которые собирают роботов. В следующий раз, наверное, робот будет охранять меня. А я буду сидеть в углу и собирать телефон – для ностальгии»

Ван – философ в спецовке, и его ирония – защитный механизм человека, наблюдающего, как его вид становится зрителем в спектакле, где ещё вчера был актёром»

Артём дочитал статью до конца. Последний абзац он перечитал дважды:

«Когда я уходила с фабрики – в десять часов вечера, после двенадцати часов внутри – и вышла на улицу Шэньчжэня, в тёплый влажный воздух, пахнущий жареной лапшой из уличного кафе, и увидела людей – живых, потных, шумных, ссорящихся из-за парковки людей – я почувствовала облегчение настолько острое, что оно было почти болью. Как будто я вернулась из мира, который ещё не наступил, в мир, который ещё существует. Но ключевое слово здесь – "ещё"«

Артём закрыл ноутбук, откинулся на подушку и уставился в потолок.

«Самовоспроизводящиеся, – думал он. – Мы создали самовоспроизводящуюся систему. Фабрика строит роботов. Роботы строят фабрики. Фабрики строят роботов, которые строят фабрики, которые строят роботов. Экспонента. Каждый цикл – больше, быстрее, эффективнее. Без нашего участия. Без нашего контроля. Без нашего разрешения.

Когда в последний раз на этой планете появилась самовоспроизводящаяся сущность, способная к адаптации и экспоненциальному росту?

Ответ: примерно три с половиной миллиарда лет назад. Первая клетка.

Мы – вторая клетка. Мы – те, кто создал вторую жизнь. И в отличие от первой, которой понадобились миллиарды лет, чтобы дойти от бактерии до человека, – вторая жизнь эволюционирует в миллионы раз быстрее.

Мы не понимаем, что мы сделали.

Нет.

Мы понимаем что. Мы не понимаем – что дальше»

Он перевернулся на бок и посмотрел в окно. Детройт мерцал огнями. Где-то на северо-западе, за рекой, на месте бывшего завода General Motors, «Hephaestus-7» продолжала работать – бессонная, неутомимая, безразличная к тому, что один конкретный человек в одном конкретном отеле не может уснуть, потому что мысли в его голове тоже стали самовоспроизводящимися и отказывались выключаться.

Масштаб происходящего стал виден не в лаборатории и не на фабрике, а в цифрах. Артём любил цифры – не с холодной страстью математика, а с горячей – нейробиолога, который знает, что за каждой цифрой стоит реальность, которую цифра одновременно описывает и скрывает, как карта описывает и скрывает территорию.

Цифры были такие.

В 2029 году, когда Atlas-7 уронил стакан на конференции, на Земле работало около четырёхсот миллионов промышленных и сервисных роботов – в основном старых моделей, тупых, узкоспециализированных, способных выполнять одну задачу и впадавших в ступор при виде второй.

К январю 2031 года – четырнадцать фабрик «Hephaestus» по всему миру (три в Китае, две в США, две в Германии, по одной в Японии, Южной Корее, Индии, Бразилии, Великобритании, ОАЭ и Саудовской Аравии – последние две оплатили строительство нефтедолларами, которые, как всё более очевидно, скоро станут единственным, для чего нефть будет нужна). Общее производство: около двух миллионов роботов Atlas-6 в год. Плюс заводы конкурентов – китайский «Tiangong Industries», японский «Takeda-Mori», европейский «Prometheus AG» – ещё миллион единиц в год других моделей.

К середине 2031 года общее число роботов с продвинутым ИИ и MimicCore (или её аналогами – конкуренты создали свои версии, похуже, но работавшие) на планете превысило один миллиард.

Миллиард.

Население Индии – миллиард. Население Китая – миллиард. Теперь – население роботов – миллиард. И в отличие от людей, роботы не нуждались в еде, жилье, образовании, медицине и отпуске. Они нуждались в электричестве, обслуживании (которое всё чаще выполняли другие роботы) и обновлении софта (которое выполнял центральный ИИ автоматически).

Экономические последствия были… Артём не любил слово «катастрофические», потому что оно подразумевало внезапность, а происходящее было не внезапным – оно было неуклонным, как прилив, который поднимается на сантиметр каждый час и не останавливается.

Безработица в промышленном секторе развитых стран достигла 35% и продолжала расти. В развивающихся – выше, потому что их экономики ещё сильнее зависели от дешёвого ручного труда, и робот за три тысячи долларов, работающий двадцать четыре часа в сутки без зарплаты, делал бессмысленным любой ручной труд – от сборки электроники до пошива одежды.

Но – и это было тем, что превращало ситуацию из просто плохой в головокружительно сложную – общее богатство росло. Производительность – через крышу. Стоимость товаров – вниз. Еда, одежда, электроника, строительные материалы – всё стало дешевле, потому что роботы делали всё быстрее и за электричество, а не за зарплату.

Мир становился богаче – и беднее одновременно. Богаче – в абсолютных цифрах. Беднее – в распределении. Потому что богатство концентрировалось у тех, кто владел роботами, а не у тех, кто раньше был рабочей силой.

Появился новый термин: «роботовладельцы». Люди или – чаще – корпорации, владевшие парками роботов, которые производили товары, строили здания, обслуживали инфраструктуру. Роботовладелец с тысячей Atlas-6 заменял тысячу рабочих, работал в три смены, не требовал зарплаты, не болел, не уходил в декрет, не подавал иск за домогательства и не сутулился. Чистая прибыль – астрономическая. Инвестиции – самоокупаемые за месяцы.

Мир раскалывался – не пополам, не на «богатых и бедных» в старом смысле, а на два принципиально разных вида существования. Те, кто владел роботами – жили в мире изобилия, где любая материальная потребность удовлетворялась мгновенно. Те, кто не владел – жили в мире, где их труд стоил меньше электричества, которое потреблял робот, и само понятие «работа» растворялось, как сахар в горячей воде, – сладко, но необратимо.

Правительства реагировали так, как реагируют правительства – то есть с опозданием, непоследовательно и с обилием пресс-конференций.

Европа первой ввела «налог на роботов» – каждый работодатель, использующий робота вместо человека, платил эквивалент минимальной зарплаты в фонд социального обеспечения. Идея была красивая на бумаге и бессмысленная на практике: корпорации просто перенесли производства в страны без налога. Шэньчжэнь ликовал.

США пошли другим путём – всеобщий базовый доход, UBI, тысяча долларов в месяц каждому гражданину, финансируемый за счёт налогов на прибыль корпораций-роботовладельцев. Этого хватало на еду, жильё (в дешёвых районах) и интернет. Не хватало на ощущение смысла – но ощущение смысла пока не включили в корзину базовых потребностей.

Китай, как всегда, нашёл свой путь: государственная монополия на роботовладение. Все роботы – собственность государства. Произведённые товары распределяются централизованно. Безработные граждане направляются в «центры переквалификации», где их обучали… чему? Это было главным вопросом, на который никто не знал ответа. Переквалификация подразумевает, что есть профессия, в которую можно переквалифицироваться. Но если роботы делают всё – переквалифицироваться некуда. Центры переквалификации постепенно превращались в центры по занятию чем-нибудь: рисование, садоводство, каллиграфия, медитация, настольный теннис. Полезно для души. Бесполезно для экономики.

Россия… Впрочем, о России Артём думал с особым чувством, которое испытывает эмигрант к родине: смесь нежности, раздражения и болезненного любопытства, как к бывшей возлюбленной, которая, по слухам, вышла замуж за кого-то ещё более невозможного. Россия закупила роботов позже всех, внедрила криво, наладила кое-как, и в результате получила систему, которая работала «с русским характером» – то есть непредсказуемо, с перебоями, но в целом как-то держалась. Роботы на российских фабриках, по слухам, иногда останавливались без видимой причины, и инженеры уверяли, что это «перегрев процессора», но Артём подозревал, что роботы просто набрались русского менталитета через MimicCore и время от времени уходили в экзистенциальную тоску.