Проект 'Чистота'

Глава 5: Эффекты

Месяц после запуска «Чистоты» пролетел как один бесконечный день, наполненный отчетами, совещаниями и круглосуточным мониторингом системы. Сегодня я наконец завершил квартальный доклад для руководства – сорок восемь страниц графиков, диаграмм и цифр, доказывающих триумфальный успех проекта.

Я откинулся в кресле, глядя на итоговый слайд презентации. Цифры впечатляли даже меня, хотя я видел их каждый день:

– 437 629 единиц деструктивного контента заблокировано – Снижение негативных публикаций о власти на 78% – Уменьшение протестных настроений на 43% (по данным социологов) – Эффективность распознавания манипуляций – 94,7%

Красивые цифры. Убедительные цифры. Степнов будет доволен.

Но была и другая статистика, не вошедшая в официальный отчет. Статистика, которую я начал собирать в частном порядке две недели назад, когда заметил первые тревожные паттерны.

– 1 213 научных и образовательных материалов заблокировано из-за «сходства с деструктивной риторикой» – 347 литературных произведений попали под фильтр из-за «потенциально опасных метафор» – 2 864 журналистских расследования о коррупции классифицированы как «информационные атаки» – 94 культурных мероприятия отменены после маркировки анонсов как «содержащих скрытую пропаганду»

Эту статистику я держал при себе, не показывая даже Марине. Хотя подозревал, что она тоже замечает эти «побочные эффекты».

Был и еще один эффект, не отраженный ни в каких цифрах. Эффект, который я наблюдал, просто читая новости, просматривая социальные сети, слушая разговоры коллег. Российский интернет становился… стерильным. Предсказуемым. Безопасным и безжизненным одновременно.

Дискуссии утратили остроту, юмор стал беззубым, новости – одинаковыми во всех источниках. «Чистота» работала. Слишком хорошо работала.

Мой телефон завибрировал. Марина.

– Вадим Александрович, у нас проблема с алгоритмом культурной фильтрации. Система заблокировала анонс выставки в Третьяковке из-за названия «Обнаженное искусство: тело как протест».

Я вздохнул. Еще один «ложноположительный» результат, которых становилось все больше.

– Снимите блокировку вручную и добавьте в исключения. И посмотрите, что еще система заблокировала из культурной сферы.

– Уже работаем над этим. Еще примерно двадцать мероприятий под фильтром, включая студенческий спектакль по Маяковскому и фестиваль документального кино.

– Почему система считает их опасными?

– В основном из-за лексических паттернов. Слова «протест», «революция», «свобода», «борьба» в любом контексте вызывают повышенное внимание алгоритма. Плюс система научилась распознавать исторические аллюзии и метафоры, которые могут трактоваться двояко.

– Понятно. Скорректируйте культурный модуль, повысьте порог срабатывания.

– Сделаем. Кстати, ваш отчет для Степнова готов?

– Да, только закончил. Отправлю через час, хочу еще раз просмотреть.

– Удачи на презентации. Говорят, будет все руководство Министерства.

Я поблагодарил ее и отключился. Затем вернулся к отчету, но мысли упорно возвращались к проблеме «перегибов» системы.

Конечно, мы с самого начала знали, что будут ложные срабатывания. Любая система фильтрации имеет погрешность. Но дело было не только в технических ограничениях. Проблема крылась в самой концепции. Мы создали алгоритм, который оценивал потенциальное влияние контента на общественное мнение. И теперь этот алгоритм находил «угрозы» везде, даже там, где их не было.

Потому что когда ты создаешь молоток для забивания гвоздей, весь мир начинает казаться гвоздями.

Мой рабочий телефон зазвонил. Степнов.

– Вадим, отчет готов?

– Да, Игорь Валентинович. Отправляю прямо сейчас.

– Хорошо. Жду тебя завтра в десять в конференц-зале министерства. Будет министр и представители из администрации президента. Подготовь убедительную презентацию.

– Все будет на высшем уровне.

Он отключился без лишних слов. Типично для Степнова – никаких любезностей, только дело.

Я отправил отчет и решил, что на сегодня хватит. Время было уже позднее, почти девять вечера. Я собрал вещи и направился к лифту, когда меня догнала Марина.

– Уходите? Я думала, вы как обычно до ночи.

– Решил сделать себе поблажку, – улыбнулся я. – Завтра важная презентация.

– Да, слышала. Удачи.

Она выглядела уставшей. Под глазами залегли тени, которых раньше не было. «Чистота» выматывала всех нас.

– Спасибо. Вы бы тоже шли домой, Марина. Система не рухнет без вашего присмотра на несколько часов.

– Еще немного поработаю. Хочу разобраться с этими ложными срабатываниями в культурной сфере. Меня это беспокоит.

Я внимательно посмотрел на нее.

– Только культурная сфера?

Она помедлила, словно решая, насколько откровенной может быть.

– Не только. Вы же видите отчеты, Вадим. Система блокирует все больше и больше контента, который сложно назвать «деструктивным» при всем желании. Научные статьи, исторические исследования, литературная критика…

– Ложные срабатывания неизбежны, – сказал я нейтральным тоном. – Мы корректируем алгоритмы.

– Дело не только в алгоритмах, – она понизила голос, хотя в коридоре никого не было. – Дело в самом подходе. Мы создали систему, которая по определению не может быть объективной, потому что критерии «деструктивности» субъективны и политически мотивированы.

Я молчал. Что я мог ей ответить? Что она права? Что я сам начинаю сомневаться в проекте, который еще недавно считал своим главным достижением?

– Простите, – она покачала головой. – Я не должна была этого говорить.

– Все в порядке, Марина. Я ценю вашу честность. И… разделяю ваши опасения. Но давайте обсудим это не здесь и не сейчас.

Она кивнула, и мы разошлись. Я сел в машину и направился домой, но по дороге передумал. Я вдруг понял, что хочу навестить мать. Мы не виделись с тех пор, как запустили «Чистоту», а это был уже месяц.

Мама жила в той же квартире в Измайлово, где мы с Антоном выросли. Небольшая трешка в типовой девятиэтажке – совсем другой мир по сравнению с моим стеклянным гнездом в небоскребе Сити. Я несколько раз предлагал ей помощь с переездом в более престижный район, но она всегда отказывалась. «Здесь все мои воспоминания, – говорила она. – Здесь ваш отец жил».

Я припарковался у дома и поднялся на шестой этаж. Позвонил. Через минуту дверь открылась, и на пороге появилась мама – маленькая, седеющая, с теплой улыбкой, которая всегда преображала ее уставшее лицо.

– Вадим! – она обняла меня. – Какой сюрприз! Почему не предупредил?

– Спонтанное решение, – я улыбнулся в ответ. – Соскучился.

Мы прошли на кухню – сердце любой постсоветской квартиры. Мама засуетилась, доставая из холодильника припасы.

– Голодный? Я борщ вчера варила, разогрею.

– Не откажусь.

Пока она хлопотала у плиты, я оглядывал знакомую до боли кухню. Те же обои (хотя новые, недавно поклеенные), тот же круглый стол, тот же старый телевизор на холодильнике. Здесь ничего не менялось десятилетиями, только техника становилась чуть современнее, да семейных фотографий на стене прибавлялось.

– Как Антон? – спросила мама, ставя передо мной тарелку с борщом. – Давно его не видела.

Я напрягся. Конечно, она не знала о нашем конфликте и о том, что Антон сейчас в бегах из-за своей статьи о «Чистоте».

– Занят работой, – ответил я уклончиво. – Как и всегда.

– Все со своими расследованиями? – она покачала головой. – Вечно он лезет, куда не следует. Как отец.

Я молча ел борщ, который был превосходен – никакие мишленовские рестораны не могли сравниться с маминой готовкой.

– Знаешь, я хотела тебе позвонить на днях, – продолжила она. – По телевизору говорили о каком-то важном проекте в интернете, который очищает его от вредной информации. Это не твоя работа?

Я едва не поперхнулся.

– Моя. Откуда ты знаешь?

– Так по всем каналам говорят! В «Вестях» сюжет был, и в ток-шоу обсуждали. Говорят, благодаря этой системе в интернете стало меньше всякой гадости. Я так горжусь тобой, сынок!

Я слабо улыбнулся. Похоже, государственные СМИ уже вовсю расхваливали «Чистоту», хотя официально проект все еще считался полусекретным.

– И что еще говорят?

– Что наконец-то государство взялось за порядок в этом интернете. А то развелось там всяких… – она понизила голос, словно кто-то мог подслушать, – …пятых колонн и предателей. Все им не так, все критикуют. А потом еще удивляются, что их за американские деньги считают.

Я внимательно посмотрел на мать. Она всегда была разумной, критически мыслящей женщиной. Учительница литературы, которая привила нам с братом любовь к Пушкину, Достоевскому, Солженицыну. Женщина, которая поддерживала отца, когда его преследовали за «антисоветские настроения» в поздние годы СССР.

И вот теперь она повторяла пропагандистские штампы с таким убеждением, словно сама их придумала.

– Мам, но ведь критика бывает разной, – осторожно сказал я. – Иногда она обоснована и нужна для улучшения ситуации.

– Конечно, конечно, – она махнула рукой. – Конструктивная критика – это одно. А вот когда специально очерняют всё подряд, выискивают негатив – это совсем другое. Вот как Антон делает.

– Антон?

– Да, я читала его последние статьи. Всё у него плохо, всё прогнило, кругом коррупция и беззаконие. Неужели ничего хорошего не видит? И ладно бы просто писал, а то ведь ему за это из-за границы платят!

Я похолодел.

– С чего ты взяла?

– Так в передаче говорили. Показывали список журналистов, которые на иностранные гранты работают. И Антон там был.

Это была ложь. Чистой воды пропаганда. Антон всегда принципиально отказывался от иностранного финансирования, даже когда едва сводил концы с концами.

– Мама, ты не должна верить всему, что показывают по телевизору.

Она посмотрела на меня с легким раздражением.

– А чему я должна верить? Этим вашим интернетам, где каждый может писать что вздумается? Нет уж, я лучше нашим новостям поверю. У них хоть ответственность есть.

Я не стал спорить. Бесполезно. За последние годы телевизор сделал то, чего не смогли добиться ни советская пропаганда, ни экономические трудности 90-х: превратил мою мать из критически мыслящего интеллигента в послушного потребителя официальной точки зрения.

И самое страшное – теперь я сам создавал систему, которая усиливала этот эффект, распространяя его на интернет.

Мы поговорили еще немного о нейтральных темах: о ее здоровье, о соседях, о планах на дачный сезон. Потом я попрощался, пообещав заезжать чаще.

Дома я налил себе виски и сел у окна, глядя на ночную Москву. Разговор с матерью оставил неприятный осадок. Я вдруг подумал: а сколько еще таких же думающих, образованных людей превратились в послушных ретрансляторов пропаганды? И какую роль в этом играет «Чистота»?

Система, которую мы создали, делала именно то, для чего была предназначена: фильтровала информационное пространство, оставляя только «безопасный» контент. Но теперь я начинал понимать истинную цену этой безопасности.

Я достал телефон и открыл зашифрованный мессенджер, который использовал для связи с Антоном после его бегства. Брат не выходил на связь уже неделю, и это беспокоило меня. Я набрал короткое сообщение: «Как ты? Дай знать, что все в порядке».

Ответа не последовало. Я допил виски и пошел в спальню. Завтра предстоял важный день – презентация перед высшим руководством. Нужно было выспаться.

Но сон не шел. Я ворочался, мучимый противоречивыми мыслями. С одной стороны, «Чистота» работала именно так, как задумывалось. С другой – я все яснее видел, что мы создали монстра, пожирающего не только «деструктивный» контент, но и любую независимую мысль.

Когда я наконец задремал, мне приснился отец. Он сидел на кухне в нашей старой квартире, перед ним лежала стопка бумаг – его самиздатовские статьи, за которые его преследовали в 80-е.

– Зачем ты это делаешь, папа? – спрашивал я его во сне. – Ведь это опасно.

– Потому что правда важнее безопасности, – отвечал он, глядя мне прямо в глаза. – Потому что без правды нет свободы, а без свободы нет достоинства.

– Но тебя могут арестовать. Что будет с нами?

– Когда-нибудь вы поймете, – он грустно улыбался. – Когда вырастете, вы оба поймете, что есть вещи важнее комфорта и безопасности.

Я проснулся в холодном поту. Часы показывали 4:17 утра. Сон как рукой сняло. Я встал, налил себе воды и подошел к окну.

Отец умер десять лет назад, не дожив до нынешних времен. Может, оно и к лучшему. Он не увидел, как его старший сын стал архитектором цифровой цензуры. Той самой цензуры, против которой он боролся всю жизнь.

«Антон пошел по твоим стопам, папа, – подумал я. – А я… я стал тем, кого ты презирал».

Эта мысль была болезненной, но отрицать ее становилось все труднее.

На рассвете я вернулся в постель, но уснуть так и не смог. В голове крутились цифры из отчета, слова матери, образ отца из сна… И где-то на периферии сознания – растущее чувство, что я совершил огромную ошибку, создав «Чистоту».

В восемь утра я был уже в офисе, готовясь к презентации. Внешне я выглядел как обычно – безупречный костюм, уверенная осанка, спокойный взгляд. Никто бы не догадался о буре, бушевавшей внутри.

В десять часов я вошел в конференц-зал министерства, где меня ждала высокопоставленная аудитория: министр Громов, Степнов, представители администрации президента, руководители силовых ведомств. Все те, кто видел в «Чистоте» идеальный инструмент контроля над обществом.

Я начал презентацию, демонстрируя впечатляющие графики и диаграммы. Рассказывал об успехах системы в борьбе с «деструктивным контентом», о снижении протестных настроений, о «оздоровлении информационного пространства».

Аудитория внимала с одобрением. Особенно им понравился раздел о выявлении «скрытых манипуляций» – когда система блокировала формально нейтральные материалы, которые при детальном анализе оказывались критическими по отношению к власти.

– Это именно то, что нам нужно, – сказал министр, когда я закончил. – Не просто блокировка явных экстремистских призывов, а выявление более тонких форм информационной агрессии.

– Совершенно верно, Михаил Аркадьевич, – поддержал Степнов. – Проект «Чистота» революционен именно своей способностью видеть то, что скрыто между строк.

Я кивал и улыбался, играя роль успешного руководителя успешного проекта. Но внутри меня нарастало отвращение – к ним, к себе, ко всей этой системе, построенной на лжи и манипуляциях.

После презентации Степнов отвел меня в сторону.

– Отличная работа, Вадим. Руководство очень довольно. Но теперь нам нужно двигаться дальше. Расширять функционал системы.

– Расширять? – я постарался скрыть тревогу. – Каким образом?

– Об этом поговорим завтра. Приезжай ко мне в кабинет в девять. Есть интересные идеи по развитию проекта.

Я кивнул, не доверяя своему голосу. Что еще они хотели от «Чистоты»? Система уже превратила российский интернет в стерильное пространство, где царила только одобренная точка зрения. Куда дальше?

Вернувшись в офис, я вызвал Марину в свой кабинет.

– Завтра Степнов хочет обсудить расширение функционала системы, – сказал я без предисловий. – У вас есть информация, о чем речь?

Она покачала головой.

– Ничего конкретного. Но Денис говорил, что к нему обращались с вопросами о возможности превентивного анализа.

– Превентивного?

– Выявления потенциальных «нарушителей» до того, как они создадут «деструктивный» контент. На основе анализа их прошлой активности, социальных связей, поисковых запросов.

Я почувствовал, как по спине пробежал холодок.

– Это уже не цензура. Это…

– Превентивное подавление инакомыслия, – закончила она за меня. – Да, именно так.

Мы обменялись долгим взглядом. В ее глазах я увидел то же беспокойство, что испытывал сам.

– Что будем делать? – спросила она тихо.

– Пока ничего. Сначала выясним, что конкретно они хотят. Может, все не так страшно.

Но я уже знал, что будет именно так страшно. Или даже страшнее.

Вечером я снова проверил мессенджер. Антон наконец ответил: «Мы в порядке. Готовим новый материал. Береги себя».

Я с облегчением выдохнул. По крайней мере, брат в безопасности. Но надолго ли? Если «Чистота» получит функцию превентивного выявления «нежелательных элементов», никто не будет в безопасности.

Я понял, что стою на распутье. Дальше продолжать делать вид, что все идет по плану, что я верный солдат системы? Или начать действовать, пока не стало слишком поздно?

Решение еще не было принято, но впервые за долгое время я чувствовал, что просыпаюсь от морального летаргического сна, в котором пребывал последние годы.

И это пробуждение было болезненным.

ЧАСТЬ II: СИСТЕМА