Люмени

ЧАСТЬ 1

Если тебе вдруг захочется осудить кого-то, вспомни, что не все люди на свете обладают теми преимуществами, которыми обладал ты.

Фрэнсис Скотт Фицджеральд «Великий Гэтсби»

2086 год.

Владимир: Добрый вечер! С нами профессор – Кельвин Эйман. Сегодня мы говорим о событиях тех… темных дней, которые чуть не привели к вымиранию человеческого вида на планете Земля: катаклизм, ядерная война, – рассуждаем о дальнейшем развитии общества после катастрофы. Что скажете?

Кельвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.

Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.

Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.

Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?

Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.

Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта1.

Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены ‒ в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами2 Солнечной системы…

Владимир: Да, но ведьмы их создали. И, насколько мне известно, управляли ими с Земли.

Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.

Владимир: Но ведь это же набор команд, на основании которых проводится анализ ‒ мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.

Кельвин Эйман: Действительно, раньше создавались только такие, «ограниченные» машины, но если бы все машины были такими, то в рекомендациях определенного пользователя не появилась бы наша с вами программа. Так в чем же дело?

Владимир: Вы это у меня спрашиваете?

Кельвин Эйман: Я просто хочу заставить вас подумать. Например, что у вас на запястье?

Владимир: Мой помощник – Марго.

Кельвин Эйман: То есть вы дали «этому» имя? Почему?

Владимир: Так проще отдавать ей разные команды.

Кельвин Эйман: А она всё за вас делает?

Владимир: Абсолютно. Она управляет моим домом, звонками, почтой, одеждой, питанием – вообще всем.

Кельвин Эйман: И, как думаете, у нее есть лимиты? Она может, например, вас убить?

Владимир: Конечно нет, она же не существует в материальном обличье. Она же ИИ.

Кельвин Эйман: Вы же говорите, что она управляет вашим домом. Не может ли она неожиданно включить горячую воду, чтобы вас ошпарить?

Владимир: Я думаю нет.

Кельвин Эйман: Но вы не уверены. Вот и я об этом: мы даем искусственному интеллекту свободу распоряжаться определяющей нашу личность информацией. Они ведь, по сути, набор кодов, как и мы с вами. В нас же тоже заложен определенный код – ДНК. Наш код эволюционирует от поколения к поколению, подчиняясь определенным физическим, биологическим и химическим законам. Их коды тоже подчиняются определенным законам, но кто сказал, что они не могут изменяться? Кто сказал, что так же, как и наше ДНК, их код не может эволюционировать?

Владимир: Доктор, вы меня пугаете. Мы все умрем?

Кельвин Эйман: Если мы пережили самоуничтожение и сумели справиться с быстрым развитием ИИ, то, в конечном счете, человечество придет к осознанию несовершенства человеческого тела, вполне возможно, что произойдет замена биологического материала на более мощный и вечный. Я также не исключаю создание иной Вселенной, которая бы работала по тем правилам и законам, которые мы сами установим. Знаете, каждый день я встречаю всё больше сторонников гипотезы «симуляции реальности». И, мне кажется, именно поэтому мы не встретили ни одного пришельца.

Из сервиса «24/7»

Она открыла глаза в удушающей темноте ‒ лишь холодный неоновый свет уличных фонарей и магазинных вывесок слегка освещал студию ‒ и глубоко вздохнула.

Таня среагировала мгновенно:

– Доброе утро, – произнес ИИ, включив светильник на комоде у кровати.

Мария не сразу ответила. Она наблюдала за холодным светом ‒ синий, фиолетовый, красный, – впитывала в себя ощущение тишины и покоя. Нет, слишком тихо.

– Включи звуки птиц. Чтобы пели, будто бы рассвет.

Подобрав подходящую звуковую дорожку, Таня отправила ее на рассредоточенные по всей квартире и тщательно замаскированные колонки: за функционирование студии и комфорт жильца отвечает программа «Умный дом», а Таня – искусственный интеллект, специально разработанная для Марии модель личного помощника, проконтролирует надлежащее выполнение программы и выполнит любое пожелание пользователя. Мария прислушивалась к чириканью маленьких вымерших птиц.

– Покажи мне лес.

Таня спроецировала видео летнего леса на все стены квартиры. Его записали до катаклизма: деревья покачиваются на ветру, синее небо, теплые солнечные лучи пронизывают трепещущую листву, птицы с чириканьем перелетают с ветки на ветку.

Теперь лишь бетон, здания, неон, холод, металлический купол над головой. «Так раньше выглядел мир? Может ли существовать другая планета с такой природой? Может быть, мы ее когда-нибудь обнаружим…»

Таня терпеливо ожидала указаний. Она сканировала эмоциональное состояние пользователя, но обнаружила лишь легкую меланхолию. Быстро проанализировав существующие статьи по психологии, Таня заключила, что данное состояние пройдет само собой, надо всего лишь позволить пользователю принять свои эмоции и пережить их. Поэтому она молчала и ждала.

«Бабушка рассказывала, что она могла часами прислушиваться к шуму листвы…»

Мария еще около часа пролежала в кровати, наблюдая за лесом до тех пор, пока грань между проецируемым и реальным миром не смылась. Ей начало казаться, что она действительно там, в лесу среди деревьев. Она почти чувствовала тепло солнца. Настоящего солнца, а не того искусственного подобия – Люмени, которое, в зависимости от времени дня, включается или выключается.

Таня безошибочно поняла, что Мария собирается вставать. Она включила основное освещение, но убавила яркость, чтобы не ослепить пользователя.

– Что там с исследованием?

Мария уже сходила в душ, оделась и сейчас, наливая себе кофе, пыталась освежить в памяти последние результаты работы.

– Очевидно, что ошибка алгоритма заключалась в отсутствии изменяющейся величины траектории.

– Точно, но мы это быстро исправим.

Люмени уже включилось, его свет постепенно, с течением дня, становился всё ярче. Сейчас свет был еще тускл, но первые лучи уже упали на подоконник.

Таня знала, что пользователь не завтракает. Обычно она проверяет результаты своей работы, поэтому ИИ решил спроецировать перед пользователем схему и коды так, чтобы можно было в полной мере оценить результаты. Данные в характерном зеленом цвете повисли в воздухе перед Марией. Таня могла отразить что угодно, где угодно и когда угодно для удобства пользователя. Мария поводила руками по воздуху, удаляя ненужное и, наоборот, добавляя необходимые детали, и вздохнула:

– Да, сегодня придется поработать.

– Результат не будет напрасным, мы ведь летим на Луну.

Таня знала, что пользователю приятно одобрение. И это важно для стабильного эмоционального состояния, а значит, и плодотворной работы.

– Напомни мне, зачем мы это делаем?

В последнее время пользователь часто задавался таким вопросом, и на это Таня подготовила достойный, по ее программному мнению, ответ. Она не сказала ничего, а вместо этого вывела на одну из стен видео Президента:

«Нам нужна цель. Нам нужно предназначение. Мы, оставшиеся люди на Земле, должны жить дальше, должны смотреть на то, что за пределами нашей планеты. Мы не обращали внимания на приютивший наш вид мир, думали, что будем жить вечно, но ошиблись. Я призываю вас объединиться и вместе создать основу для будущих путешествий среди звезд. Мы должны творить, строить, развиваться и искать новые территории и, возможно, новую Землю».

– Катастрофы прошлого подтвердили, что расширение зоны обитания гарантирует выживание человеческого вида во Вселенной, – добавила Таня.

– Да, я знаю. Мы должны смотреть вперед, мы должны стремиться к развитию и совершенствованию. Спасибо, Таня.

Мария провела рукой по воздуху, отправив данные на планшет. Таня переключилась с «домашнего» режима на «рабочий», отправила необходимые команды «Умному дому» (убраться, высушить одежду, выключить освещение и т.д.), перевела свои коды на запястье пользователя, «переместившись» к ней на руку. Таня всегда была рядом с пользователем: таково было ее предназначение.

Спустившись на лифте в паркинг, Мария села на заднее сиденье электромобиля. Пока Таня проводила диагностику систем и передавала команды (проверяла работоспособность двигателей, колес, навигации, внутреннюю температуру, и т.д.), Мария смотрела по сторонам. Все остальные машины в паркинге стояли на своих местах: видимо, соседи еще спали, и она вышла из дома первая.

– Сегодня я бы посоветовала позавтракать. Работы много, понадобятся силы.

Выехав из здания, Таня направила электрокар в один из скоростных туннелей Города на поверхности.

Мария числилась сотрудником Корпорации и работала в научно-исследовательской лаборатории проектирования космических ракет. Как только она добралась до своего рабочего места, тут же приступила к анализу данных. Микросхема, над которой она работала, была лишь одним мельчайшим винтиком в будущей системе космического корабля. Когда-то она мечтала разрабатывать навигационную систему, но для этой работы нашлись люди поумнее. «Эта работа тоже важна, – говорила себе Мария, – каждая деталь является частью чего-то большего. Без этой микросхемы всё будет работать не так, как должно, если вообще будет работать». Большинство сотрудников лаборатории не конструировали те системы, с которыми астронавтам необходимо будет работать непосредственно, но они проектировали ту основу, без которой полет в космос в принципе невозможен. ИИ всё время напоминал об этом Марии, уверяя, что каждое ее усилие окупится стократно, когда люди расширят зону обитания, тем самым обеспечив человеческой расе выживание.

Мария отвлеклась от работы только на время обеда: она прошла в столовую, взяла закуску со «шведского» стола, присела. В этот момент Таня обычно выводила на линзы пользователя статьи из газет, видео или любую другую интересную информацию, одновременно чутко прислушиваясь к любым разговорам в столовой, ведь ее предназначение заключалось также в том, чтобы предотвращать возможные негативные ситуации в жизни пользователя: она обращала внимание на информацию о новых проектах, изменениях в кадровой структуре и т.п. Возможно, кто-то даже будет сплетничать о пользователе: тогда Таня сможет составить программу по защите от возможных моральных угроз.

За ближайший стол сели двое молодых парней, что-то оживленно обсуждая.

– Ставлю тысячу, что если бы инопланетяне сейчас пролетали мимо Земли, то они бы даже не обратили внимания на эту планету, – сказал один.

– Если всё правильно проанализировать, то очевидно, что на Земле будут обнаружены следы присутствия неких развитых существ, ведь атмосфера планеты изменилась в какие-то секунды в сравнении с временем ее формирования в Солнечной системе. Они поймут, что если бы не вмешательство кого-то в естественный порядок вещей, то такого бы не произошло, – предположил другой.

– Предположим, каким-то чудом они не пролетели мимо нашей планеты, проанализировали состав атмосферы и сделали вывод, что на ней обнаружены следы каких-то живых существ. Вопрос, зачем им останавливаться около планеты, жители которой уничтожили свой дом? – спросил первый.

Парень не ответил, задумался. Тут к ним подбежал, по всей видимости, их общий знакомый. Таня зафиксировала его учащенное сердцебиение, тремор и сильнейшее волнение.

В этот момент к пользователю обратилась Кэтрин Стивенс – руководитель лаборатории, но, из-за происходящей рядом суматохи, они на мгновение отвлеклись.

– Трэвис, что случилось? Почему ты такой… запыхавшийся?

– Ребята, никто не видел мой прототип?

– Какой еще прототип?

– Ну тот, о котором я рассказывал, для ускорения роста растений.

Ученые переглянулись:

– Нет. Насколько мне известно, никто даже не дотрагивался до него, кроме тебя. Ты ведь запретил кому-либо подходить к нему. Сказал, что ты соревнуешься с кем-то и не хочешь, как мы говорим по-русски, чтобы тебя кто-то сглазил.

– Черт, черт, черт, – выругался Трэвис.

– Спокойно, мы что-нибудь придумаем. Ты только скажи, где ты его в последний раз видел?

– Где-где, у себя в лаборатории конечно. Я закрыл его стеклом, установил пароль перед выходом из кабинета, как всегда. Вернулся – а прототипа нет!

– Здесь слишком шумно, – сказала Кэтрин, – я хочу поговорить с тобой наедине.

Стивенс повела Марию в свой кабинет, предложила присесть.

– Сара гордилась бы твоей работой. Мне жаль, что она так неожиданно покинула нас, – с сожалением произнесла Кэтрин.

– Да, мне тоже.

– Твоя работа очень важна. Руководство обращается к тебе с просьбой ускорить процесс.

– Что-то случилось? Я соблюдаю все сроки.

– Не в этом дело. Ты знаешь, что эта микросхема очень важна, ведь это одна из определяющих частей, ответственных за функционирование последней ступени ракеты – мы должны задать правильное направление кораблю, чтобы тот долетел до Луны.

– Мне казалось, что системы включения ускорения двигателей не будут настолько сильно зависеть от автоматического задания системы координат, ведь курс будет корректироваться. Я предусмотрела такую возможность.

– Руководство хочет сделать работы ракету автономной. Конечно, варианты корректировки будут предусмотрены, но основная задача состоит в том, чтобы отправить ее на орбиту, а затем лишь мониторить состояние систем.

Таня задумалась.

– Тогда мне нужно разработать две микросхемы, чтобы система могла автоматически анализировать, сравнивать показатели и выбирать наиболее приемлемые.

Кэтрин кивнула. Марии ничего не надо было больше говорить.

Она вернулась на свое рабочее место и тяжело вздохнула. Ей никогда не нравился прессинг со стороны, она начинала паниковать, когда сроки сокращали. «Но почему они хотят сделать этот процесс автоматическим? – все думала Мария. – Неужели никто не будет координировать действия с Земли? Хотя… возможно, так даже и лучше, ведь тогда у всех будет меньше работы, а инженеры и ученые смогут сфокусироваться на анализе систем для применения данных в строительстве следующего корабля. Не могут же они отправить людей на Луну, а потом просто забыть про них».

Таня зафиксировала всплеск тревоги у пользователя. Она знала, что пользователь страдает расстройством, при котором тревога может перерасти в настоящую депрессию, если вовремя не пресекать такие состояния. Всё начинается с одной мысли, перерастая в настоящий сгусток тревог, из которых пользователь делает необоснованные выводы, начинает замыкаться в себе, копит негативные мысли и переживания, а потом… понятно, что ничего хорошего.

– Я провела кое-какие расчеты и сделала вывод, что в первичной микросхеме не хватает элемента…

– Черт, – пробубнила Мария.

Она спалила микросхему.

– Ничего, – заверила Таня, – я могу восстановить ее по сохраненным данным.

– Спасибо, но нам все равно нужны материалы. Таня, где я могу их достать?

Не прошло и секунды, как Таня, проанализировав информацию, ответила:

– Нужные нам материалы находятся на минус десятом этаже.

– Отлично. Отправимся туда.

Трэвис застал ее в дверях.

– Привет, Мария! Слушай, я тут у всех спрашиваю, ты случайно не видела мой прототип?

– Извини, Трэвис, я в последнее время так занята своей работой, что ни на что не обращаю внимания.

Мария отодвинула Трэвиса в сторонку и вышла из лаборатории.

На подземном десятом этаже научно-исследовательского комплекса работали заготовщики – одни из того типа людей, которых называли «скамами».

Скамы пережили и катаклизм, и ядерную войну, и десяток лет в Бункере, но не имели (и так и не приобрели) востребованных в научном обществе знаний и умений. В Бункере они работали строителями, уборщиками, поварами, электриками и т.п. – обслуживающий персонал. Как только развитие технологии достигло стабильно высокого уровня, при котором вся эта работа выполнялась машинами, скамы превратились в никому не нужных людей.

Заготовщики в Корпорации занимались тем, что производили и соединяли определенным образом мелкие детали, которые потом использовались учеными в процессе работы. Эти люди могли выполнять лишь самую простую механическую работу, поэтому, несмотря на то что им предоставлялось бесплатное питание и кров, они были бедны. Очень бедны. Еду скаму выдавали в определенных количествах, заготовщикам чуть больше, но ненамного ‒ недостаточно, чтобы насытиться.

Каждый получает столько, сколько стоят его знания, умения и навыки.

И они уж точно не могли рассчитывать на полеты к звездам.

Мария никогда не ходила раньше к заготовщикам: от Сары на рабочем месте оставалось достаточно материалов для работы. Она спустилась на лифте вниз. Двери открылись ‒ впереди огромный зал, темный, свет – лампы над столами заготовщиков. Столы стояли в пять, а то и в шесть рядов – казалось, им нет конца, настолько огромен был зал.

Некоторые лампы мигают – Мария слышит их назойливое жужжание. Люди ссутулились над своими столами, сосредоточено собирали что-то, угрюмо глядя себе под руки. Словно призраки в серых рабочих туниках.

«Я хочу уйти», – подумала Мария.

Но ответственное отношение к работе сильнее страха перед неизвестными странными людьми, взяв себя в руки, она вышла из лифта и ступила на холодный цементный пол.

– Извините, – обратилась она к ближайшему заготовщику, – мне необходимы детали.

– Какие детали? – спросил он, даже не взглянув на нее. Он очень сосредоточенно соединял какие-то железки.

– Для микросхемы. По типу такой.

Мария провела рукой по воздуху – Таня спроецировала схему устройства. На этот раз заготовщик повернулся к ней лицом: впалые глаза, острые скулы, тонкая шея. Он выглядел ослабленным, худым и был очень бледен. Страх сменился ужасом, Таня зафиксировала усиление тревоги и вывела на линзы пользователя информацию о том, что следует вздохнуть и успокоиться. Пока заготовщик рассматривал схему, Мария оглянулась по сторонам – да они тут все такие!

– Да, я понимаю. Пойдемте.

Они шли мимо столов, где люди монотонно и сосредоточенно собирали разные детали, клали в корзину, и все повторялось заново. Бесконечный круг ‒ взял, собрал, положил, взял, собрал, положил, взял, собрал, положил…

– Сначала надо заполнить бумаги, – сказал мужчина, показав на стол. Мария и не заметила, как они пришли в кабинет, в котором было еще меньше света, чем в зале. В темном углу светился виртуальный интеллект3 – робот, запрограммированный на выполнение строго определенного набора задач, в данном случае – бумажная работа (заполнение отчетности) и контроль деятельности заготовщиков. Когда Мария закончила заполнение бумаг, мужчина уже вернулся на свое место. Робот сообщил, что необходимые материалы можно получить, распечатал бумагу (разрешение), а затем, выехав на маленьких колесиках из кабинета, направился в дальний конец зала. Мария последовала за ним – ее материалами занимался определенный заготовщик. Робот подъехал к высокой худой девушке, длинные волосы которой доставали почти до пят. Ее руки были настолько тонкими, что Марии казалось, перед ней не человек, а совершенно неизвестное науке инопланетное существо. Она очень аккуратно и медленно работала, когда робот сообщил ей о «необходимости исполнения требований согласно выданному разрешению». Мария протянула ей бумагу. Девушка медленно подняла голову, посмотрела на бумагу, а затем на робота. Снова на бумагу, на робота. Остановила взгляд. Мария испугалась внезапно вспыхнувшего пламени в ледяных глазах девушки.

– Я не успела собрать эти материалы, – сообщила она роботу, вызывающе глядя на него.

– Когда бы вы смогли это сделать? – вежливо спросила Мария.

Девушка злобно посмотрела на нее, и, не отводя взгляда, демонстративно разорвала разрешение.

– Вы отказываетесь выполнять требования, – констатировал робот.

– Отказываюсь, – кивнула девушка.

– Я вынужден доложить об этом руководству.

– Доложите.

Она была решительна. Мария не знала, чего хотела добиться эта девушка. И было непонятно, что теперь делать, ведь ей необходимы материалы. Таня, заметив, что робот анализирует информацию, сообщила пользователю: «Нам надо немного подождать. ВИ ищет другого заготовщика».

– Пройдемте, – сообщил робот.

Мария оглянулась – девушка тяжело дышала, смотря на руки. «По всей видимости, она осознала, что совершила ошибку», – подумала Мария. Они приблизились к другому заготовщику с той же просьбой. На этот раз «требования были выполнены». Молодой человек отдал Марии детали. Она почувствовала слабый запах спирта. «Что это? Алкоголь? Но… откуда он у них?» – гадала она.

Получив все необходимое, Мария облегченно вздохнула. Ей хотелось побыстрее уйти отсюда. Нет, даже не уйти, а убежать.

Зайдя в лифт, она бросила последний взгляд на заготовщиков. В конце концов, каждый получает столько, сколько стоят его знания, умения и навыки.

Вечером того же дня после работы Мария направилась в клуб. «Людям тоже нужно отдыхать», – так говорил Президент, обозначив новую веху в индустрии развлечений. Туда ходили все представители Корпорации: люди расслаблялись, на какой-то момент забывали, где они находятся. Под влиянием разрешенных наркотиков, доза которых выдавалось каждому перед входом в клуб, посетители отправлялись в путешествие по Земле, которой уже не было. Искусственное солнце, постоянная работа над одним и тем же, однообразие в еде, неоновое свечение повсюду, безветрие – жизнь текла словно в специальной созданной для выживания человечества клетке, без окон и дверей.