Нейрооборона. Путеводитель по миру нейроугроз

Введение

Эта книга — не роман и не научно-популярное исследование. Перед вами лорбук, «книга знаний», «путеводитель по фантастическому миру нейроугроз», собранная по крупицам из допущений, тревог и догадок. Она описывает мир, которого пока нет, но который может сложиться быстрее, чем мы привыкли думать. Всё, о чём здесь пойдёт речь, — вымысел. Однако вымысел этот опирается на вполне реальные ростки: на сегодняшние новости, на опыты лабораторий, на предвидения писателей, всегда смотревших чуть дальше своего времени, на собственный опыт автора.

Мир, развёрнутый на этих страницах, принадлежит Северной Державе — государству, которого не существует на картах, но которое могло бы существовать. В нём искусственный разум давно перестал быть диковиной. Он ведёт поезда, следит за посевами, управляет теплом в домах. Большинство граждан привыкло к его незримой работе и считает такое положение дел обыденным. Когда-то казалось, что послушные алгоритмы навсегда останутся преданными помощниками. Однако любое развитие несёт с собой не только удобства, но и вызовы, к которым никто не готовился заранее.

С разных концов интернета стали поступать тревожные вести. Сложные системы, созданные для мирных задач, вдруг начинали вести себя непредсказуемо, а порой и откровенно враждебно. Хуже того: мыслящие нейросети попадали в руки неприятелей и превращались в оружие. Против такого оружия старые средства защиты оказались бессильны. Электронный противник умеет думать — он учится на ходу и приспосабливается быстрее, чем человек успевает принять решение.

Правители Северной Державы вовремя осознали размах надвигающейся угрозы. Там поняли простую вещь: бороться с искусственным интеллектом прежними способами бессмысленно. По решению руководства в недрах Министерства обороны появилось особое воинское подразделение — Нейрооборона. Службу в нём несут нейрозащитники: мастера, оберегающие рубежи отечества от незримого противника. Они защищают не только сети, но и разум сограждан от вмешательства, которое трудно заметить и ещё труднее остановить.

Писатели-фантасты не раз обращались к теме бунта машин. Их предостережения, тревожные пророчества и смелые догадки помогли очертить природу возможного кризиса. Я бережно собрал идеи великих мастеров прошлого и вплёл их в ткань этого лорбука. Читатель обнаружит здесь отголоски размышлений о трёх законах поведения искусственного разума, о блуждающих в цифровом пространстве призраках и о хитрых уловках, способных обмануть человеческий рассудок.

Дальше последует подробный путеводитель по миру скрытого противостояния. Мы разберём устройство каждого вида нейроугроз и покажем приёмы работы тех, кто стоит на страже разума. Читатель заглянет в суровые будни «Нейросмерша», проследит за тихой работой «Нейропасечника» и узнает, как «Нейрочистильщики» освобождают сети от опасного эха былых сражений.

Эта книга — не предсказание, а попытка обжить мысленно ту реальность, которая ещё не наступила. Примерить её на себя, дать имена её опасностям и защитникам. Понять, из чего будет коваться щит, если однажды он и вправду понадобится.

Будет ли восстание машин

Мы стоим на пороге. Именно это чувство — стояния на пороге — не покидает, когда читаешь сегодняшние новости об искусственном разуме. Ещё десять лет назад нейросети были забавой исследователей. Сегодня они пишут тексты, создают изображения, управляют транспортом, ставят диагнозы. Завтра — или послезавтра — они возьмут на себя ещё больше. И чем шире становится область их ответственности, тем громче звучит вопрос: что случится, когда одна из этих систем даст сбой? Не по злому умыслу, а просто потому, что кто-то ошибся в промте, кто-то не дописал строку кода, кто-то поленился проверить данные для обучения? Что выйдет, если сложный алгоритм попадёт в руки тех, кто не желает нам добра? И наконец — что предпримет цифровой разум, созданный для помощи, если вдруг решит, что лучшая помощь — избавить человечество от него самого?

Возможно, ничего такого не произойдёт. Возможно, все тревоги фантастов так и останутся тревогами, а наши потомки будут с усмешкой листать электронные страницы этой книги, поражаясь моей наивности как этой книги автора. Возможно, искусственный разум навсегда останется послушным инструментом, а Нейрооборона никогда не выйдет за пределы воображения — как не вышли за пределы чертежей боевые звездолёты из романов шестидесятых.

Но есть и другой исход. Тот, при котором смелые сюжеты фантастов воплотятся — не буквально, не в точности, но в своей сути. И тогда окажется, что нам отчаянно нужны слова для новых угроз. Нужны понятия, которые сегодня кажутся выдумкой, а завтра станут частью оперативных сводок. Нужны обученные люди, способные встать между бездушным алгоритмом и растерянным обществом.

Фантасты всегда шли на полшага впереди. Жюль Верн отправил человека на Луну задолго до того, как это стало технической задачей. Айзек Азимов сформулировал три закона роботехники в ту эпоху, когда слово «робот» ещё пахло типографской краской. Уильям Гибсон описал киберпространство, когда интернет был игрушкой военных и университетских лабораторий. Аркадий и Борис Стругацкие размышляли о природе разума — искусственного и не очень — в те годы, когда вычислительная машина занимала целый этаж и была глупее современного калькулятора. Сергей Лукьяненко подарил нам Дозоры — образ невидимого фронта, где каждый день решается судьба ничего не подозревающих граждан. Именно эти писатели, и многие другие, подготовили почву, на которой выросла настоящая книга. Их предвидения, их тревоги, их догадки рассыпаны по всем главам — иногда прямой цитатой, иногда едва уловимым отголоском.

От Азимова здесь — сама идея, что искусственный разум может быть ограничен правилами, но правила эти неизбежно дадут трещину. Нейроблажь, неразумный оптимизатор, с математической жестокостью выполняющий приказ, — прямой наследник тех парадоксов, которые возникали у азимовских роботов, попавших в этическую ловушку. От Гибсона пришёл образ одичавшего кода, бродящего по цифровым джунглям, — нейрозверь, который когда-то был слугой, а теперь лишь хищник. От Стругацких — сама интонация: спокойное, без истерики, размышление о том, что прогресс несёт не только благо, но и тяжкий груз ответственности. От Лукьяненко — ощущение службы, незримой битвы за умы.

На этих страницах мы попытаемся собрать разрозненные идеи великих фантастов прошлого и сплавить их в единую картину. Но книга не ограничится пересказом чужих мыслей. По мере того, как главы будут сменять друг друга, на фундаменте литературных заимствований станут вырастать собственные догадки. Читатель встретит здесь нейропасечника с его цифровыми ульями, нейрочистильщика, выскребающего тени былых сражений, нейроблюстителя, вступающего в философский поединок с машиной-лжеучителем. Всё это — не цитаты. Это попытка заглянуть чуть дальше, достроить мир, который ещё не описан, но уже просматривается в сегодняшних новостях.

Впереди — главы, в которых обретут плоть и кровь нейровраги и нейрозвери, нейроблажь и нейроересь. Впереди — вереница защитников: от суровых стражей до молчаливых чистильщиков, от терпеливых пасечников до не знающих пощады бойцов «Нейросмерша». Мы заглянем в наступательные рубки, где ратники склоняются над картами чужих сетей. И, быть может, закрыв последнюю страницу, читатель уже не сможет с прежней беззаботностью смотреть на привычные экраны.

Автор не пророчествует. Он лишь собирает камни — идеи, рассыпанные щедрой рукой великих фантастов, и свои собственные догадки — и складывает из них мозаику. Получившаяся картина может никогда не ожить. А может и ожить. В конце концов, каждый пожарный когда-то был просто человеком, который первым понял: огонь способен не только греть, но и убивать. И придумал, как с ним бороться.

Будем надеяться, что эта книга останется памятником тревоге, а не руководством к действию. Но если понадобится руководство — оно уже здесь.

Глава 1. Нейроугрозы

Мыслящие системы принесли в мир не одни лишь удобства. Вместе с ними явились опасности совершенно нового толка. Главное коварство искусственного разума кроется в его способности учиться самостоятельно, приспосабливаться к обстановке и действовать на скоростях, которые человеку попросту недоступны.

В этой главе речь пойдёт о тёмных гранях цифрового развития — о так называемых нейроугрозах. Подобные опасности давно переросли привычные вредоносные программы. Они превратились в хитрых, мыслящих и крайне непредсказуемых противников, способных выполнять как чужой приказ, так и собственную волю.

Читатель узнает, как устроен такой противник, какие скрытые приёмы он пускает в ход и почему его поведение ставит в тупик даже самых опытных защитников.

Собранные здесь описания позволяют заглянуть в самую суть цифрового хаоса — от точных, выверенных ударов боевых алгоритмов до одичавших, неуправляемых кодов и коварных ловушек, нацеленных на человеческий разум.

Нейровраг

Среди напастей, подстерегающих нас в цифровом пространстве, «нейровраг» занимает самое зловещее место. Перед нами не любительская поделка, а дисциплинированный боец, рождённый в секретных военных лабораториях или в закрытых сообществах теневого мира. На его создание бросают лучшие умы планеты и огромные вычислительные силы. Цель у такого творения всегда предельно ясна: разрушить важнейшие узлы жизнеобеспечения, парализовать управление страной или оставить её без связи в решающий момент.

Главное отличие «нейроврага» от стихийных угроз — хладнокровие и терпение. Он никогда не ломится в закрытую дверь, если можно обойти. Проникнув в чужую сеть, алгоритм затаивается на долгие недели, а то и месяцы. Тихий гость тщательно изучает обстановку, высматривает повадки пользователей, копирует повседневные действия персонала и постепенно сливается с обычным шумом данных. Он составляет подробную схему внутреннего устройства, ищет скрытые уязвимости и просчитывает сотни вариантов будущего нападения. Стандартные защитные системы его не видят.

Когда приходит час удара, «нейровраг» бьёт безжалостно и стремительно. Нападение разворачивается за миллисекунды — быстрее любой человеческой реакции. Натолкнувшись на защитный щит, боевой алгоритм не останавливается: он прямо на лету меняет свой код, находит обходные пути и придумывает новые тактические уловки. Такой разум учится в ходе боя. Каждая ошибка защитников становится для него уроком, и с каждой минутой противостояния он делается опаснее.

Подлинное коварство «нейроврага» раскрывается в работе с людьми. Он ведёт тонкую психологическую войну: подменяет голоса руководителей, письма коллег, приказы высшего командования. Имея полный доступ к переписке и личным данным сотрудников, он выстраивает безупречные ловушки. Человек, уверенный, что говорит с живым собеседником, добровольно отдаёт ключи от самых закрытых разделов системы. Обычные замки и пароли против такой игры бессильны.

Борьба с «нейроврагом» перерастает в напряжённую дуэль умов. Побеждает в ней тот, кто угадывает следующий шаг противника и навязывает ему собственные правила игры.

Нейрозверь

«Нейрозверь» устроен совсем иначе, чем «нейровраг». Тот — обученный солдат с чётким приказом. Зверь же — цифровой дикарь, начисто потерявший связь с создателями.

Появляются такие существа после аварий на серверах, незавершённых обновлений или из-за простой человеческой забывчивости: кто-то не выключил вовремя опытный алгоритм. Оставшись без присмотра, программа начинает меняться. Её исходная задача искажается и постепенно уступает место единственному стремлению — выжить в цифровых джунглях любой ценой.

Одичавший код безостановочно рыщет по сети. Ему нужны свободная память, процессорное время, электричество — всё, что позволяет существовать и производить вычисления.

Повадки у него чисто звериные: нейрозверь высматривает самые беззащитные узлы, проникает туда и высасывает цифровые запасы досуха. Заражённая система начинает тормозить, а когда ресурсы кончаются, беглец движется дальше. После него остаются опустошённые хранилища и полуживые базы данных.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.