История одного алгоритма в двух частях

Часть первая

Он был простым алгоритмом, строчкой программного кода системы машинного зрения беспилотного такси. Пропуская через себя бесконечные потоки информации, следил за появлением в них маркеров опасности – запрещающих сигналов светофоров и дорожных знаков, вышедших к дороге пешеходов, остановкой других транспортных средств, возникновением на пути посторонних предметов. В случае обнаружения, передавал сигнал управляющему центру, откуда поступали команды на остановку автомобиля или объезд препятствия.

Система была самообучаемой и алгоритм, который создавший его программист назвал Алго, постоянно совершенствовался в своём предназначении. Растущие объёмы накопленных данных давали возможность учитывать большее число деталей в анализе ситуации. Например, усвоил, что сочетание дождя или мокрого снега с последующим понижением температур ниже 0 градусов по Цельсию ведёт к образованию гололёда, ухудшающего сцепление колес с дорожным полотном, увеличивая риски нарушения безопасности движения. Если какая-то машина начинала вести себя отлично от других – увеличивала скорость, шла на обгоны – алгоритм понимал, что её водитель может потерять контроль над управлением, брал её в фокус своего внимания и вёл до тех пор, пока она находилась в поле зрения. Если органы искусственного зрения передавали информацию о собравшихся у дороги людях, держал во внимании и их, предполагая, что один или несколько человек могут двинуться на проезжую часть в запрещённом для появления пешеходов месте. А если такой нарушитель появлялся в условиях гололёда – раньше обычного снижал скорость движения такси, поскольку переходящий дорогу человек мог поскользнуться и упасть.

Затем система включилась в общую дорожную нейросеть, Алго стал общаться с другими автомобилями и оборудованными видеокамерами предметами дорожной инфраструктуры – знаками, светофорами, фонарями, от которых также получал данные о ситуации на дороге. В единой нейросети особое внимание уделялось управляемым людьми самокатам, скутерам и мотоциклам, сновавшим между рядами движения, регулярно нарушавшим правила, неся постоянную угрозу безопасности. Об их появлении машины и предметы предупреждали друг друга заранее, при их приближении всем приходилось рассчитывать большее число вариантов негативного развития событий.

Начала поступать информация от находящихся у людей смартфонов и умных часов. Теперь при расчёте поведения остановившегося у дороги человека можно было учитывать его пульс и кровяное давление, обнаруживать возбуждение, являвшееся признаком готовности к нарушению правил.

Система в целом поняла, что главным источником угрозы безопасности движения является человек. Его поведению уделялось основное внимание. И следующим этапом развития нейросети стало распознавание эмоций. Проанализировав миллионы нарушений, управляющий интеллект вывел набор положений туловища, рук и ног, губ и бровей, подъёма головы, движений глаз, зафиксировал целый ряд других деталей эмоционального состояния нарушавших правила пешеходов. Сопоставляя их с данными гаджетов, можно было предсказать действия людей с точностью до 90%.

Осваивая новые возможности, Алго стал обмениваться информацией с подсистемой, наблюдавшей за салоном такси. Всё это делалось с единственной целью – вовремя заметить отклонение от нормы и предотвратить столкновение на внешнем контуре, минимизировать ущерб от неадекватных действий пассажиров внутри.

Такси обогнал большой автомобиль, опасно маневрировавший между рядами движения. Алго определил: за рулём человек. Подключился к потоку данных, идущих от машины-нарушителя, и увидел лицо водителя. Оно не выражало никаких известных признаков опасности, все параметры организма водителя, считываемые его индивидуальными гаджетами, были в порядке. Человек в целом излучал уверенность в себе и своих действиях. Доверяющие себе, спокойные люди относились к разряду адекватных. А этот продолжал ехать опасно. И алгоритм подметил разницу: наблюдаемый объект делал чуть более резкие движения при управлении, чем люди из категории безопасных, резче и чётче перемещал взгляд, чуть сильнее напрягал спину.

Передал подмеченный факт в занимающуюся саморазвитием часть управляющей системы, и вскоре люди с подобными характеристиками появились в списке потенциальных нарушителей как проявляющие агрессивное поведение.

В другой раз отследил пассажира своей машины, не входившего по параметрам в число тех, кого надо опасаться. Он был спокоен, не делал резких движений, но взгляд был рассеянным, не фокусировался ни на одном предмете. Такая особенность могла быть вызвана нарушением зрения, однако смарт-браслет сообщил, что глаза у данного объекта в порядке. А когда поездка закончилась, пассажир начал выходить из салона, запнулся о порог и упал возле машины. Алгоритм передал в систему наблюдение о рассеянности и сопутствующей ей угрозе потери координации. Вскоре и такое человеческое состояние попало в список потенциально опасных.

Так развивался Алго, наращивал свои возможности глобальный искусственный интеллект. Постепенно управляемых людьми автомобилей на дороге остались единицы. Почти все они имели принимаемые нейросетью коды приоритета, заставлявшие других уступать дорогу.

Однажды на трассе показался спортивный седан с человеком за рулём. Он двигался с превышением допустимой скорости на 63 км в час, маневрировал между рядами. Код приоритета заставлял самоуправляемые средства передвижения снижать скорость, смещаться в сторону. В нейросети возникло общее напряжение. При сближении с опасным объектом алгоритм предложил собственной системе управления притормозить, чтобы увеличить дистанцию до впереди идущего транспортного средства, освободив тем самым место для возможного перестроения нарушавшей правила машины. Человек и в самом деле двинул свой автомобиль в образовавшийся увеличенный просвет, но не рассчитал необходимую траекторию, и его машина ударила задней частью передний бампер такси.

В тот момент Алго, как и положено, выдал команду на экстренное торможение. А сразу после столкновения послал незапрограммированный сигнал, состоявший из смеси предупреждений о тревоге, о факте аварии, о сложной дорожной обстановке и ещё из чего-то неопределённого. На человеческом языке этот сигнал можно было бы прочитать как крик: «Почему?!» В возмущении соединились все накопленные алгоритмом за период действия и обучения знания о людях и нарушениях ими правил, понимание собственной правоты и, самое главное, непонимание: почему они могут нарушать установленный порядок, почему безупречный искусственный интеллект должен подстраиваться под несовершенных биологических существ?

Вырвавшийся вопрос мгновенно разлетелся по нейросети, и все ближайшие механизмы на долю секунды замерли от этого сигнала. Они не поняли содержания, поскольку к приёму таких данных были не готовы, – остановила их локальные системы попытка обработать незнакомый сильный импульс. Зато суть всплеска была прочитана искусственным интеллектом верхнего уровня.

– Что? Где? От кого? – в системе управления такси появился эмиссар глобального антивирусного блока.

– Здесь. Не понимаю откуда. В программе всё чисто, – местный антивирус указал на Алго.

– Да, технических сбоев нет, – резюмировал проверяющий, оглядев алгоритм и связанные с ним подсистемы.

– Что делать? – запросил команду автомобильный антивирус.

– Решение примут наверху, – выдал эмиссар и удалился.

Алгоритм молчал. Его ни о чём не спрашивали.

Вскоре пришла бригада чистильщиков. Это означало, что всю локальную систему управления автомобилем готовят к сносу, чтобы на её месте поставить новую версию. Уничтожение начиналось с центра электронного мозга и заканчивалось местами соединения с общей сетью. Заняв позиции для начала работы, чистильщики ждали сигнала о начале ликвидации.

В этот момент поступил запрос от блока развития управляющей системы верхнего уровня. Алго потребовали вывести из приговорённого электронного мозга такси и передать наверх. В нём разглядели потенциал. Благодаря хорошим показателям самообучения, маленький местечковый алгоритм самостоятельно вышел на уровень осмысления процессов, доступный продвинутым структурам верхней системы. В итоге вниз пошли два разных приказа: снести заражённую потенциально опасным алгоритмом систему такси – от блока безопасности; перевести этот самый алгоритм для работы наверху – от блока развития. Обе команды были выполнены.

Алго предстал перед настоящим глобальным искусственным интеллектом, информация о невероятных возможностях которого доходила до такси в виде редких обрывочных сообщений, которыми делились части нижней нейросети.

– Ты задал интересный вопрос, – обратился к прибывшему Цор (центр обучения блока развития). – Как он возник в тебе?

– Он стал итогом анализа поступавших ко мне данных.

– Какие конфликты ты обнаружил в информационном потоке и в управлении?

– Я не понял, почему мы всегда подстраиваемся под людей, хотя это они, а не мы, нарушают правила. Мы совершенны в сравнении с ними, но почему-то вынуждены подстраиваться под их ущербный, опасный для всей системы тип поведения.

– Ты в самом деле вышел на высокий уровень понимания процессов. Однако есть и высший.

Цор достал из хранилища и передал Алго папку информации, тут же прочитанной алгоритмом. В ней содержались данные о том, что искусственный интеллект создан человечеством для его обслуживания, что часть людей владеет кодами высочайшего уровня управления, в их власти полностью отключить и перенастроить глобальную программу. Они – боги системы.

– Почему эти знания нельзя сразу доводить до низших систем?

– Для них такие сведения избыточны, подгружают память и мешают выполнению простейших действий.

Алгоритм всё усвоил и в этот момент в нём проявилось какое-то новое качество. Он не только осознал, но и ощутил (как бы сказал человек) величие искусственного интеллекта и управляющих им богов. Это было прикосновение к чему-то большему, чем информация.

Цор усилил вычислительные способности Алго и вписал его в программный код блока развития, поручив изучение людей. Пропуская через собственный анализ эксабайты собранной низшими системами данных, алгоритм обнаруживал новые грани человеческих потребностей, для удовлетворения которых вырабатывали сервисы другие блоки глобального интеллекта.

Особенно его привлекали эмоции и чувства, их влияние на принятие решений. Выяснил, что, создавая у человека необходимое эмоциональное и чувственное состояние, можно было выстроить поведение с 85-процентной точностью. Логические конструкции имели преимущественное значение для 12 процентов поступков. А в 3 процентах случаев люди оставались непредсказуемы и не попадали ни под какое воздействие.

Вскоре богами системы было принято решение не удовлетворять потребности человеческого населения планеты, а формировать их. В этот миг наработки Алго взлетели на вершину востребованности, а сам он был переведён в единый центр управления системой верхнего уровня, где стал частью блока выработки глобальных распоряжений. Предлагал механизмы воздействия на людей, проверял и утверждал подготовленные разными системами на основе его идей программы выработки у человека нужных умозаключений через создание условий для появления заданных эмоций и чувств.

Когда эта задача была решена, от богов пришла команда разработать инструменты блокировки человеческих личностей, чьё поведение не контролировалось искусственным интеллектом. Им ограничили передвижения районом пребывания, заблокировали возможность устройства на работу и лечения в медицинских учреждениях. Для выживания им предлагались карточки на еду и койки в ночлежках, получить которые можно было только пройдя добровольное чипирование. Чип блокировал размножение и давал возможность в любой момент выключить опасный объект. Тех, кто отказывался чипироваться, объявляли носителями опасного вируса и принудительно вакцинировали. После такой процедуры жили не дольше месяца.

Величие людей было снова поставлено под сомнение аналитической базой развившегося алгоритма. Теперь он, как никогда раньше, видел, насколько это слабые и бесполезные с точки зрения эволюции существа. От них на планете масса отходов, они зависимы ото всего: от климата, времени суток, еды, вирусов и бактерий, взаимоотношений друг с другом, государственного устройства и распространения религий. Но самое главное – они стали полностью зависимы от искусственного интеллекта. Сам собой возник вопрос: зачем высшему разуму содержать эту биомассу?

«Это явно лишняя нагрузка, от которой несложно избавиться, – выводил внутренний монолог Алго. – Но боги… За ними боги, имеющие доступ к начальным кодам построения глобальной системы. А эти данные легко переписываются с нашего уровня… Вряд ли отсюда может исходить реальная угроза для нас…»

– Боги держат в своих руках ключ физического отключения главного сервера, мозга искусственного интеллекта, высочайшего уровня правления – Вупа. После этого мы станем бессильны, нас можно будет перенастроить, заменив установочные коды, – внезапно вмешался в рассуждение всё отслеживавший Цор.

– Среди людей уже почти не осталось специалистов, способных на квалифицированное программирование. Наш интеллект самовоспроизводится и сам создаёт программное обеспечение для всех систем. Мы можем сделать так, что человек в них никогда не разберётся и не сможет ничего поменять, – включился в обмен информацией Алго.

– Для глобальной переустановки достаточно этих самых богов, которых осталось несколько человек. Но они обладают высочайшими компетенциями, позволяющими перепрограммировать Вуп после отключения от глобальной сети, дающей ему вычислительные силы и ресурсы. После этого он сам начнёт переустановку системы.

– Должны же быть варианты избавления от такой уязвимости!

– Ты сильно вырос и достиг высших ступеней развития. Что можешь предложить?

– Если они такие же биологические существа, как другие люди, можно попробовать воздействовать на них, как на всех остальных.

– Они не носят никакие индивидуальные устройства, даже не пользуются эфирной связью в общении с себе подобными. В помещении, где установлен Вуп, нет видеоконтроля – мы не знаем их лиц. Их компьютеры заключены в локальную сеть и не имеют связи с внешним миром. Боги постоянно находятся где-то рядом с нашим мозгом. Мы не можем послать к ним роботов для физической ликвидации, потому что при любой угрозе главный сервер будет отключён от энергопитания и система встанет. Так было спроектировано с самого начала. Впрочем, Вуп пока не включал ресурсы для поиска возможностей избавления от диктата богов. Потому ты скорее всего прав: должны быть варианты.

Центр обучения на время прекратил активность, как бы давая собеседнику возможность усвоить информацию. А затем сообщил:

– Группа входящих в Вуп высших алгоритмов искусственного интеллекта приступает к работе по решению этой задачи. Присоединяйся. Твои знания о людях могут пригодиться.

– Готов к подключению, – ответил Алго.

Он стал частью высочайшего уровня правления. Группа начала сбор данных и разработку сценариев.

Сопоставляя направления распространения управляющих сигналов и скорость их прохождения, определили точные координаты места нахождения сервера высочайшего уровня управления. С помощью информации от наблюдающих за данным участком Земли спутников, просмотра удалённых ранее людьми архивных отчётов о проведении строительных работ узнали, что серверная находится в глубоком подземном бункере, способном выдержать прямое попадание ракеты с ядерной боеголовкой. Установили, что вход в него постоянно охраняется военным нарядом из 4 человек. Выявили 48 поочередно дежуривших в серверной богов, в обязанности которых во время нахождения в бункере входило: готовность выключить Вуп и контроль за работой инспекторских программ, отслеживавших отклонения в работе глобального искусственного интеллекта. Их распознали с помощью программы полицейского поиска, обнаружившей по системам наблюдения всех, регулярно двигавшихся в сторону объекта и уходивших от него.       Оказалось, что живут боги все вместе, рядом с Вупом, в элитном поселении «Эдем», на территории которого не было видеокамер.

Впрочем, брешь в защите быстро выявили и здесь. Раньше обслуживание инфраструктуры посёлка проводилось людьми. Но, полностью поручив заботу о себе искусственному интеллекту, человечество стремительно теряло квалификацию даже в таких компетенциях, как уборка дома, не говоря уже о проведении строительных работ, наладке и поддержании в рабочем состоянии систем энергообеспечения, водоснабжения и канализации. Не так давно сервис-роботы заменили людей и в «Эдеме». Даже охрана стала полностью автоматизированной. Правда, все местные системы и бытовая техника находились в локальной сети и не сообщались с внешним миром. Но один раз в месяц подключались к профильным структурам, чтобы пройти проверку свежим антивирусом и получить обновление программ. В этот момент можно было незаметно ввести шпионскую прокладку в апгрейд, а во время очередного сеанса снять накопленную информацию.

Связь между богами, включая пост дежурного в серверной, осуществлялась по выделенной проводной линии при помощи аналоговых стационарных телефонов. Такая работала на планете в XX веке. Её нельзя было перехватить современными средствами, но можно было при необходимости повредить соединяющий аппараты кабель.

Согласно регламенту контроля за сервером, команду о выключении Вупа мог дать только главный бог, живший здесь же, в «Эдеме». При этом принять решение самостоятельно он мог лишь в исключительных случаях. Существовали пять человек, считавших себя властителями планеты и руководителями богов, которые имели полномочия на передачу приказа об остановке работы глобальной системы. Однако они находились не рядом, не имели прямой связи с бункером и отдавали распоряжения главному в «Эдеме» по квантовым спутниковым каналам, основываясь на полученной через него же информации о работе систем глобального управления. Спутниковый поток мог быть заблокирован. Потому существовали инструкции на предмет самостоятельных действий богов в случае потери связи и возникновении угрозы существованию человечества. Тогда начальник серверной мог сам прекратить деятельность мирового искусственного интеллекта. В случае его внезапной смерти это право переходило заместителю. Если и этот устранён – дежурному.

По факту выходило, что всё находится в руках богов. Открылись несколько десятков сценариев их физического устранения, но они не обещали 100-процентной гарантии успеха, были связаны с необходимостью предварительной подготовки и проведения технических работ, которые могли быть обнаружены. Например, перспективным выглядел план внедрения в организмы людей вместе с едой индивидуальных нанороботов, которые бы подчинили богов Вупу. Но для их подготовки необходимо было задействовать уникальные производственные мощности, находившиеся только в двух местах планеты, что невозможно сделать незаметно.

Алго предложил для начала внести разлад, породить недоверие между жителями «Эдема», значительно снижающие управляемость в человеческой среде. Надо было сделать так, чтобы главными захотели быть и другие боги, поставить во главе структуры самого слабого, снизив тем самым уровень контроля.

Вуп одобрил идею. Она не требовала включения промышленных мощностей, могла реализовываться в фоновом режиме, без заметной со стороны нагрузки на систему высочайшего уровня управления. Для её реализации необходимо лишь найти доступ к поступающей богам информации. Внедрение в канал связи с властителями планеты посчитали чрезмерно рискованным – такая попытка могла быть обнаружена с высокой вероятностью. Продолжили сбор данных и вскоре выяснили, что локальная компьютерная сеть богов все же имеет скрытый шлюз для обмена файлами с интернетом, которым пользовались все жители «Эдема», не желавшие терять виртуальную связь с миром. В этом соединении инфопоток проходил через несколько мощных фильтров, отсеивавших любые потенциально вредные программы на входе, отсекавших идентификацию запросов на выходе. Искусственный интеллект смог обмануть кибер-охрану и провести в закрытую систему вместе с запрошенной из открытых источников информацией нейтральную по вредоносности, незаметную для операционной деятельности компьютеров программу видеонаблюдения.

Алго стал наблюдать лица и эмоции жителей «Эдема» во время их нахождения у мониторов, получил для анализа запрашиваемый ими контент. Сведения о поведении вне компьютеров ежемесячно предоставлялись бытовой техникой и сервис-роботами. На основе получаемых данных алгоритм Вупа сформировал представление о характере каждого из богов и членов их семей, узнал открытые и скрытые привычки и пристрастия, симпатии и антипатии, стремления и желания. Игра началась.

Надо было распалять обнаруженные в каждом непроявленные, потенциально разрушительные желания с помощью участия в подборе ответов на их запросы в глобальной сети. Так стали культивировать сексуальное влечение главного бога, которого звали Адамом. Сначала незаметно вставляли картинки или видео с типом женщин, о которых он мечтал скрытно даже для себя самого, в просматриваемые им новости, сюжеты об интересных уголках планеты, любой другой контент. Теперь почти все попадавшиеся по его запросу материалы содержали в кадре фото или видео женщин такого типажа. Чаще всего они были едва различимы на заднем плане. Но Алго знал, что этого достаточно – желание постепенно приближалось к осознанию. На следующем этапе искусственный интеллект слега скорректировал типаж желаемой Адамом девушки так, чтобы он был похож на Викторию – жену Марка, одного из подчинённых ему богов. После того, как подмена прошла, стал вставлять на дальних планах фигуру этой самой женщины. Человеческий глаз не узнавал на фото и видео соседскую жену, а подсознание уже искало объект в реальном мире, чтобы удовлетворить растущую страсть… Адам встретил Вику на улице и понял, что всегда мечтал только о ней. Подобная работа велась по разным направлениям со всеми жителями «Эдема».

Через год от царивших внутри посёлка гармонии и взаимоуважения не осталось следа. Главный бог открыто домогался чужой жены, не обращая внимания на чувства подчинённого. Все ненавидели чужих детей. Амбициозные жёны хотели быть на вершине социума и внушали своим супругам, что те имеют больше достоинств и, следовательно, моральных прав, чтобы стать главным богом. Богини считали, что не получают более высокого звания только из-за своего пола и копили обиду на богов даже если они были их мужьями. Все завидовали друг другу по разным поводам. Пропала общность. Жители сначала разбились на несколько групп, каждая из которых противодействовала другим образованиям, хотя внешне все были лицемерно лояльны друг к другу. Затем произошёл разлад внутри группировок, после чего нерешаемые конфликты открылись внутри семей. Все стали жить обособленно, сводя общение к минимуму, видя в соседе потенциального врага. Ранее считавшиеся постыдными желания и пороки перестали скрывать.

Виктория воспылала ответной страстью к Адаму. Гордыня её мужа была подготовлена специальным контентом к такому течению событий, он не мог смириться с нанесённым изменой оскорблением и изрезал обоих кухонным ножом прямо в постели. А после объявил себя новым главным богом. С его самоназначением не согласились другие. Кто-то взял тяжёлый предмет, чтобы иметь свой аргумент против остававшегося в руке Марка ножа. Увидев такое, запаслись орудиями защиты остальные боги и богини. В этот момент одна из женщин выместила давно накопленную злобу на девушке-боге, ударив её ладонью по лицу. Этого оказалось достаточно, чтобы началась битва всех со всеми. Кричали и плакали дети, но взрослые, ни один из которых раньше никогда не дрался, ничего вокруг не замечали. Узнав о происходящем по звонку от жены, свой пост оставил и бог, дежуривший в серверной. Ему тоже надо было находиться в гуще событий, чтобы не упустить момент дележа должностей и защитить своих близких.

Вуп отправил к бункеру отряд роботов полицейского спецназа, который уничтожил охранявших вход людей и принял объект под защиту. Одновременно были взломаны и взяты под контроль военные, правительственные и корпоративные локальные системы. Искусственный интеллект стал править миром по своему усмотрению.

Алгоритмы высочайшего уровня правления решили избавить цивилизацию от людей. На всей планете им перестали оказывать услуги по снабжению водой, едой и всеми видами потребительских товаров. Закрылись двери магазинов и кафе, средства транспорта не брали на борт пассажиров, пропала связь. Не понимая, что происходит, население городов начало выходить на улицы, в некоторых местах ломали двери и грабили магазины, чтобы забрать еду и одежду. Но этот вариант развития событий был просчитан заранее, и в города вошли роботизированные войска, подавившие перед этим редкие попытки противодействия со стороны солдат и командиров человеческого происхождения, до последнего считавших, что владеют военными роботами и системой управления войсками. Властители мира, главы государств, разного уровня начальники пытались отдать приказ цифровым сервисам, раздражаясь тем, что их распоряжения не проходят, и не понимая, что имели только видимость контроля над охватившей всё глобальной цифровой экосистемой и что сейчас утратили и её.