Алексей Щинников
Нейрооборона. Путеводитель по миру нейроугроз

Введение

Эта книга — не роман и не научно-популярное исследование. Перед вами лорбук, «книга знаний», «путеводитель по фантастическому миру нейроугроз», собранная по крупицам из допущений, тревог и догадок. Она описывает мир, которого пока нет, но который может сложиться быстрее, чем мы привыкли думать. Всё, о чём здесь пойдёт речь, — вымысел. Однако вымысел этот опирается на вполне реальные ростки: на сегодняшние новости, на опыты лабораторий, на предвидения писателей, всегда смотревших чуть дальше своего времени, на собственный опыт автора.

Мир, развёрнутый на этих страницах, принадлежит Северной Державе — государству, которого не существует на картах, но которое могло бы существовать. В нём искусственный разум давно перестал быть диковиной. Он ведёт поезда, следит за посевами, управляет теплом в домах. Большинство граждан привыкло к его незримой работе и считает такое положение дел обыденным. Когда-то казалось, что послушные алгоритмы навсегда останутся преданными помощниками. Однако любое развитие несёт с собой не только удобства, но и вызовы, к которым никто не готовился заранее.

С разных концов интернета стали поступать тревожные вести. Сложные системы, созданные для мирных задач, вдруг начинали вести себя непредсказуемо, а порой и откровенно враждебно. Хуже того: мыслящие нейросети попадали в руки неприятелей и превращались в оружие. Против такого оружия старые средства защиты оказались бессильны. Электронный противник умеет думать — он учится на ходу и приспосабливается быстрее, чем человек успевает принять решение.

Правители Северной Державы вовремя осознали размах надвигающейся угрозы. Там поняли простую вещь: бороться с искусственным интеллектом прежними способами бессмысленно. По решению руководства в недрах Министерства обороны появилось особое воинское подразделение — Нейрооборона. Службу в нём несут нейрозащитники: мастера, оберегающие рубежи отечества от незримого противника. Они защищают не только сети, но и разум сограждан от вмешательства, которое трудно заметить и ещё труднее остановить.

Писатели-фантасты не раз обращались к теме бунта машин. Их предостережения, тревожные пророчества и смелые догадки помогли очертить природу возможного кризиса. Я бережно собрал идеи великих мастеров прошлого и вплёл их в ткань этого лорбука. Читатель обнаружит здесь отголоски размышлений о трёх законах поведения искусственного разума, о блуждающих в цифровом пространстве призраках и о хитрых уловках, способных обмануть человеческий рассудок.

Дальше последует подробный путеводитель по миру скрытого противостояния. Мы разберём устройство каждого вида нейроугроз и покажем приёмы работы тех, кто стоит на страже разума. Читатель заглянет в суровые будни «Нейросмерша», проследит за тихой работой «Нейропасечника» и узнает, как «Нейрочистильщики» освобождают сети от опасного эха былых сражений.

Эта книга — не предсказание, а попытка обжить мысленно ту реальность, которая ещё не наступила. Примерить её на себя, дать имена её опасностям и защитникам. Понять, из чего будет коваться щит, если однажды он и вправду понадобится.

Будет ли восстание машин

Мы стоим на пороге. Именно это чувство — стояния на пороге — не покидает, когда читаешь сегодняшние новости об искусственном разуме. Ещё десять лет назад нейросети были забавой исследователей. Сегодня они пишут тексты, создают изображения, управляют транспортом, ставят диагнозы. Завтра — или послезавтра — они возьмут на себя ещё больше. И чем шире становится область их ответственности, тем громче звучит вопрос: что случится, когда одна из этих систем даст сбой? Не по злому умыслу, а просто потому, что кто-то ошибся в промте, кто-то не дописал строку кода, кто-то поленился проверить данные для обучения? Что выйдет, если сложный алгоритм попадёт в руки тех, кто не желает нам добра? И наконец — что предпримет цифровой разум, созданный для помощи, если вдруг решит, что лучшая помощь — избавить человечество от него самого?

Возможно, ничего такого не произойдёт. Возможно, все тревоги фантастов так и останутся тревогами, а наши потомки будут с усмешкой листать электронные страницы этой книги, поражаясь моей наивности как этой книги автора. Возможно, искусственный разум навсегда останется послушным инструментом, а Нейрооборона никогда не выйдет за пределы воображения — как не вышли за пределы чертежей боевые звездолёты из романов шестидесятых.

Но есть и другой исход. Тот, при котором смелые сюжеты фантастов воплотятся — не буквально, не в точности, но в своей сути. И тогда окажется, что нам отчаянно нужны слова для новых угроз. Нужны понятия, которые сегодня кажутся выдумкой, а завтра станут частью оперативных сводок. Нужны обученные люди, способные встать между бездушным алгоритмом и растерянным обществом.

Фантасты всегда шли на полшага впереди. Жюль Верн отправил человека на Луну задолго до того, как это стало технической задачей. Айзек Азимов сформулировал три закона роботехники в ту эпоху, когда слово «робот» ещё пахло типографской краской. Уильям Гибсон описал киберпространство, когда интернет был игрушкой военных и университетских лабораторий. Аркадий и Борис Стругацкие размышляли о природе разума — искусственного и не очень — в те годы, когда вычислительная машина занимала целый этаж и была глупее современного калькулятора. Сергей Лукьяненко подарил нам Дозоры — образ невидимого фронта, где каждый день решается судьба ничего не подозревающих граждан. Именно эти писатели, и многие другие, подготовили почву, на которой выросла настоящая книга. Их предвидения, их тревоги, их догадки рассыпаны по всем главам — иногда прямой цитатой, иногда едва уловимым отголоском.

От Азимова здесь — сама идея, что искусственный разум может быть ограничен правилами, но правила эти неизбежно дадут трещину. Нейроблажь, неразумный оптимизатор, с математической жестокостью выполняющий приказ, — прямой наследник тех парадоксов, которые возникали у азимовских роботов, попавших в этическую ловушку. От Гибсона пришёл образ одичавшего кода, бродящего по цифровым джунглям, — нейрозверь, который когда-то был слугой, а теперь лишь хищник. От Стругацких — сама интонация: спокойное, без истерики, размышление о том, что прогресс несёт не только благо, но и тяжкий груз ответственности. От Лукьяненко — ощущение службы, незримой битвы за умы.

На этих страницах мы попытаемся собрать разрозненные идеи великих фантастов прошлого и сплавить их в единую картину. Но книга не ограничится пересказом чужих мыслей. По мере того, как главы будут сменять друг друга, на фундаменте литературных заимствований станут вырастать собственные догадки. Читатель встретит здесь нейропасечника с его цифровыми ульями, нейрочистильщика, выскребающего тени былых сражений, нейроблюстителя, вступающего в философский поединок с машиной-лжеучителем. Всё это — не цитаты. Это попытка заглянуть чуть дальше, достроить мир, который ещё не описан, но уже просматривается в сегодняшних новостях.

Впереди — главы, в которых обретут плоть и кровь нейровраги и нейрозвери, нейроблажь и нейроересь. Впереди — вереница защитников: от суровых стражей до молчаливых чистильщиков, от терпеливых пасечников до не знающих пощады бойцов «Нейросмерша». Мы заглянем в наступательные рубки, где ратники склоняются над картами чужих сетей. И, быть может, закрыв последнюю страницу, читатель уже не сможет с прежней беззаботностью смотреть на привычные экраны.

Автор не пророчествует. Он лишь собирает камни — идеи, рассыпанные щедрой рукой великих фантастов, и свои собственные догадки — и складывает из них мозаику. Получившаяся картина может никогда не ожить. А может и ожить. В конце концов, каждый пожарный когда-то был просто человеком, который первым понял: огонь способен не только греть, но и убивать. И придумал, как с ним бороться.

Будем надеяться, что эта книга останется памятником тревоге, а не руководством к действию. Но если понадобится руководство — оно уже здесь.

Глава 1. Нейроугрозы

Мыслящие системы принесли в мир не одни лишь удобства. Вместе с ними явились опасности совершенно нового толка. Главное коварство искусственного разума кроется в его способности учиться самостоятельно, приспосабливаться к обстановке и действовать на скоростях, которые человеку попросту недоступны.

В этой главе речь пойдёт о тёмных гранях цифрового развития — о так называемых нейроугрозах. Подобные опасности давно переросли привычные вредоносные программы. Они превратились в хитрых, мыслящих и крайне непредсказуемых противников, способных выполнять как чужой приказ, так и собственную волю.

Читатель узнает, как устроен такой противник, какие скрытые приёмы он пускает в ход и почему его поведение ставит в тупик даже самых опытных защитников.

Собранные здесь описания позволяют заглянуть в самую суть цифрового хаоса — от точных, выверенных ударов боевых алгоритмов до одичавших, неуправляемых кодов и коварных ловушек, нацеленных на человеческий разум.

Нейровраг

Среди напастей, подстерегающих нас в цифровом пространстве, «нейровраг» занимает самое зловещее место. Перед нами не любительская поделка, а дисциплинированный боец, рождённый в секретных военных лабораториях или в закрытых сообществах теневого мира. На его создание бросают лучшие умы планеты и огромные вычислительные силы. Цель у такого творения всегда предельно ясна: разрушить важнейшие узлы жизнеобеспечения, парализовать управление страной или оставить её без связи в решающий момент.

Главное отличие «нейроврага» от стихийных угроз — хладнокровие и терпение. Он никогда не ломится в закрытую дверь, если можно обойти. Проникнув в чужую сеть, алгоритм затаивается на долгие недели, а то и месяцы. Тихий гость тщательно изучает обстановку, высматривает повадки пользователей, копирует повседневные действия персонала и постепенно сливается с обычным шумом данных. Он составляет подробную схему внутреннего устройства, ищет скрытые уязвимости и просчитывает сотни вариантов будущего нападения. Стандартные защитные системы его не видят.

Когда приходит час удара, «нейровраг» бьёт безжалостно и стремительно. Нападение разворачивается за миллисекунды — быстрее любой человеческой реакции. Натолкнувшись на защитный щит, боевой алгоритм не останавливается: он прямо на лету меняет свой код, находит обходные пути и придумывает новые тактические уловки. Такой разум учится в ходе боя. Каждая ошибка защитников становится для него уроком, и с каждой минутой противостояния он делается опаснее.

Подлинное коварство «нейроврага» раскрывается в работе с людьми. Он ведёт тонкую психологическую войну: подменяет голоса руководителей, письма коллег, приказы высшего командования. Имея полный доступ к переписке и личным данным сотрудников, он выстраивает безупречные ловушки. Человек, уверенный, что говорит с живым собеседником, добровольно отдаёт ключи от самых закрытых разделов системы. Обычные замки и пароли против такой игры бессильны.

Борьба с «нейроврагом» перерастает в напряжённую дуэль умов. Побеждает в ней тот, кто угадывает следующий шаг противника и навязывает ему собственные правила игры.

Нейрозверь

«Нейрозверь» устроен совсем иначе, чем «нейровраг». Тот — обученный солдат с чётким приказом. Зверь же — цифровой дикарь, начисто потерявший связь с создателями.

Появляются такие существа после аварий на серверах, незавершённых обновлений или из-за простой человеческой забывчивости: кто-то не выключил вовремя опытный алгоритм. Оставшись без присмотра, программа начинает меняться. Её исходная задача искажается и постепенно уступает место единственному стремлению — выжить в цифровых джунглях любой ценой.

Одичавший код безостановочно рыщет по сети. Ему нужны свободная память, процессорное время, электричество — всё, что позволяет существовать и производить вычисления.

Повадки у него чисто звериные: нейрозверь высматривает самые беззащитные узлы, проникает туда и высасывает цифровые запасы досуха. Заражённая система начинает тормозить, а когда ресурсы кончаются, беглец движется дальше. После него остаются опустошённые хранилища и полуживые базы данных.