Правовые механизмы противодействия деструктивному контенту и вовлечению в противоправную деятельность через онлайн-сообщества. Монография

§ 1.1. Семантическое поле деструктивного контента в нормативных правовых актах Российской Федерации

Понятие «деструктивный контент» не закреплено в действующем российском законодательстве, хотя и прижилось в доктрине и в практической деятельности. Тем не менее, различные словосочетания, связанные с деструктивным контентом и деструктивным информационно-психологическим воздействием, уже содержатся в ряде документов стратегического планирования и иных документов:

– Стратегия национальной безопасности Российской Федерации[23];

– Основы государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей[24];

– Стратегии комплексной безопасности детей в Российской Федерации на период до 2030 года[25];

– Стратегия реализации молодежной политики в Российской Федерации на период до 2030 года[26];

– Комплексный план противодействия идеологии терроризма в Российской Федерации на 2024–2028 годы[27];

– Распоряжение Правительства РФ «Об утверждении Перечня иностранных государств, реализующих политику, навязывающую деструктивные неолиберальные идеологические установки, противоречащие традиционным российским духовно-нравственным ценностям»[28];

– и др.

Стратегией национальной безопасности Российской Федерации развитие безопасного информационного пространства, защита российского общества от деструктивного информационно-психологического воздействия определены в числе национальных интересов государства. Указанная Стратегия также констатирует, что основным объектом деструктивного воздействия является молодежь, а развитие таких идей создает условия для саморазрушения российского общества[29].

В соответствии со ст. 2 Федерального закона от 30 декабря 2020 г. № 489-ФЗ «О молодежной политике в Российской Федерации»[30] молодежь – это социально-демографическая группа лиц в возрасте от 14 до 35 лет включительно, т. е. в том числе несовершеннолетние.

В Стратегии реализации молодежной политики в Российской Федерации на период до 2030 года к вопросам, связанным с государственной и общественной безопасностью, отнесено «распространение … деструктивных материалов (контента), причиняющих вред здоровью и (или) физическому, психическому, духовному, нравственному развитию детей и молодежи, в том числе распространяющих идеологию терроризма и экстремизма, пропаганду антисемейных ценностей, нетрадиционных сексуальных отношений, потребления психоактивных веществ…»[31]. Данной Стратегией закреплены меры по противодействию деструктивному поведению молодежи.

Стратегией комплексной безопасности детей в Российской Федерации на период до 2030 года[32] определены задачи по формированию безопасной информационной среды для детей, среди которых определена «защита детей от внешнего деструктивного информационно-психологического воздействия, внешней идейно-ценностной экспансии, совершенствование механизмов выявления и пресечения распространения противоправного контента в информационном пространстве».

В Стратегии противодействия экстремизму в Российской Федерации указывается: «В целях дестабилизации общественно-политической и социально-экономической обстановки в Российской Федерации специальные службы и организации иностранных государств наращивают деструктивное информационно-психологическое воздействие на население России, прежде всего на молодежь»[33].

В Концепции информационной безопасности детей в Российской Федерации указывается, что детская аудитория «является крайне уязвимой с точки зрения информационной безопасности. В связи с высокой степенью анонимности интернет-пространства и возможностью выстраивания общения с использованием нескольких профилей и псевдонимов риск проявления асоциальных форм поведения в цифровой среде увеличивается»[34].

В п. 12 Доктрины информационной безопасности Российской Федерации указано, что на данный момент «расширяются масштабы использования специальными службами отдельных государств средств оказания информационно-психологического воздействия, направленного на дестабилизацию внутриполитической и социальной ситуации в различных регионах мира и приводящего к подрыву суверенитета и нарушению территориальной целостности других государств. В эту деятельность вовлекаются религиозные, этнические, правозащитные и иные организации, а также отдельные группы граждан, при этом широко используются возможности информационных технологий <…> Наращивается информационное воздействие на население России, в первую очередь на молодежь, в целях размывания традиционных российских духовно-нравственных ценностей»[35].

В Комплексном плане противодействия идеологии терроризма в Российской Федерации на 2024–2028 годы[36] поставлена задача в рамках «… реализации индивидуальных профилактических мероприятий в отношении подростков и детей, находившихся под влиянием украинских националистических и неонацистских структур, а также проявляющих в социальных сетях и мессенджерах активный интерес к террористическому и деструктивному контенту радикальной, насильственной и суицидальной направленности».

В Концепции формирования и развития культуры информационной безопасности граждан Российской Федерации констатируется, что «… травля в цифровом пространстве, пропаганда насилия, национализма, распространение недостоверной информации и другой вредоносный контент… оказывают деструктивное влияние на все сферы жизни граждан Российской Федерации и государства в целом»[37].

Распоряжением Правительства Российской Федерации от 17 сентября 2024 г. № 2560-р[38] определен перечень иностранных государств, политика которых направлена на навязывание деструктивных установок, противоречащим традиционным российским духовно-нравственным ценностям. К таким государствам отнесены: Австралия, Австрия, Албания, Андорра, Багамские острова, Бельгия, Болгария, Великобритания (включая коронные владения Британской короны и Британские заморские территории), Германия, Греция, Дания, Ирландия, Исландия, Испания, Италия, Канада, Кипр, Латвия, Литва, Лихтенштейн, Люксембург, Мальта, Микронезия, Монако, Нидерланды, Новая Зеландия, Норвегия, Польша, Португалия, Республика Корея, Румыния, Сан-Марино, Северная Македония, Сингапур, Словения, Соединенные Штаты Америки, Тайвань (Китай), Украина, Финляндия, Франция, Хорватия, Черногория, Чехия, Швейцария, Швеция, Эстония и Япония. Список перечисленных государств, за некоторым исключением, содержится в другом Распоряжении Правительства Российской Федерации от 5 марта 2022 г. № 430-р (ред. от 29.10.2022)[39], определяющим государства, осуществляющим недружественные действия по отношению к Российской Федерации.

В разделе II Основ государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей (далее – Основы)[40] неоднократно упоминается понятие деструктивной идеологии, под которой, в соответствии с п. 14 Основ, понимается идеологическое и психологическое воздействие, ведущее к насаждению чуждой российскому народу и разрушительной для российского общества системы идей и ценностей. В п. 16 Основ подчеркивается, что распространение деструктивной идеологии «представляет объективную угрозу национальным интересам Российской Федерации».

По данным Роскомнадзора, за 2024 год на долю заблокированных или удаленных материалов пришлось около более 800 тысяч материалов, что на 19 % больше, чем в 2023 году[41]. За первое полугодие 2025 года по требованиям Роскомнадзора удалено более 425 тысяч противоправных материалов, содержащих детскую порнографию, пропаганду наркотиков и экстремизма, а также фейки[42]. В рамках реализации государственной политики и нормативно-правового регулирования в установленной сфере деятельности Министерство просвещения РФ и Министерство образования и науки РФ регулярно выпускают рекомендации для педагогов по профилактике деструктивных социальных явлений, контента и так далее[43].

Вопросы противодействия деструктивному информационно-правовому воздействию в контексте обеспечения национальной безопасности затронуты, например, в Модельном законе ОДКБ «Об обеспечении национальной безопасности» под деструктивным информационным воздействием понимается «осуществление информационного влияния на политические и социально-экономические процессы, происходящие в государстве, на государственные органы, на физических лиц и юридические лица государства в целях ослабления обороноспособности, общественной безопасности государства, принятия заведомо невыгодных для него решений, заключения заведомо невыгодных для него международных договоров, ухудшения отношений государства с другими странами, создания социально-политической напряженности внутри государства, формирования угрозы возникновения чрезвычайных ситуаций, разрушения духовных и нравственных ценностей, создания препятствий для нормальной деятельности государственных органов, а также причинения иного ущерба национальной безопасности государства…»[44].

Сопоставительный анализ документов стратегического планирования, а также Модельного закона ОДКБ показывает, что понятия «деструктивный контент», «деструктивное поведение», «деструктивная идеология», «деструктивное информационное воздействие» используются в контексте проблем противодействия распространению информации, причиняющей вред здоровью или развитию. Между тем в российском законодательстве отсутствует определение или даже упоминание понятия «деструктивный контент» («деструктивная информация»), на страницах юридической литературы до сих пор не сформировалось единых подходов к пониманию категории «деструктивный контент». Более того, наряду с понятием «деструктивный контент» исследователи используют понятия «вредная/вредоносная информация», «токсичный контент» и т. п.

Рис. 1. Соотношение понятий «деструктивный контент» и «противоправный контент»

В настоящее время российское законодательство использует только понятие «информации, ограниченной или запрещенной к распространению», что не охватывает всю сущность деструктивного характера контента в сети «Интернет» и исключает его из правовой квалификации (не все виды деструктивной информации подпадают под запрет в рамках действующего законодательства), что позволяет лицам, сознательно распространяющим вредоносную информацию в цифровой среде, уходить от юридической ответственности. Кроме того, законодательство устанавливает запреты (ограничения) на распространение информации, не только деструктивно влияющей на мировоззрение граждан, склоняющей их к делинквентному поведению и т. п., но и на распространение информации, распространяемой с нарушением авторских и (или) смежных прав; информации, распространяемой с нарушением требований законодательства о выборах и референдумах и др.[45]

Соответственно, понятия «деструктивный контент» и «противоправный контент» являются именно пересекающимися по объему и содержанию понятиями.

§ 1.2. Зарубежный и международный опыт противодействия деструктивному контенту

В Рекомендации Еврокомиссии о мерах по эффективной борьбе с незаконным контентом в Интернете «незаконный контент означает «любую информацию, которая не соответствует законодательству Союза или законодательству соответствующего государства-члена»[46]. Термин «деструктивный контент» в актах Еврокомиссии не используется, однако встречается понятие «защита от жестокого (агрессивного, оскорбительного) поведения» (Protection against abusive behaviour).

Действующий в Европейском Союзе Акт о цифровых услугах определяет «незаконный контент» как «любую информацию, которая распространяется самостоятельно или в рамках деятельности по продаже товаров и оказанию услуг и не соответствует законодательству». К такому виду информации потенциально могут относиться «язык вражды», пропаганда терроризма, дискриминации или любая другая информация, которая в законодательстве определена в качестве незаконной. Указанный Акт призван обеспечить предотвращение распространения незаконной информации и дезинформации за счет расширения контроля пользователей над информацией, распространяемой в сети «Интернет», и повышения уровня информированности о содержащихся материалах. Пользователям гарантируется возможность помечать противоправный и дезинформирующий контент для его последующего удаления (блокировки). Акт запрещает распространение рекламы и использование алгоритмических технологий при распространении контента, ориентированного на детей[47]. Функции по осуществлению контроля и надзора за оборотом незаконной информации возложена на государства-члены, причем во избежание противоречивой правоприменительной практики популярна практика создания координирующих органов на федеральном уровне[48].

Однако государства – члены Европейского Союза оказались не вполне готовы выполнять требования Акта, поскольку в большинстве своем имеют национальную законодательную базу, регламентирующую требования к провайдерам по борьбе с распространением незаконного контента, дезинформации и социально негативных явлений. Технологические организации не только не готовы к выполнению требований прозрачности рекламы, отказу от актов саморегулирования, удалению незаконной информации, в том числе пропагандирующей насилие над детьми, принудительного сбора «чувствительных данных», но и затрудняются технологически обеспечить требования конфиденциальности и прозрачности[49].

Кроме того, с 2021 года в Европейском Союзе действует Закон по борьбе с распространением террористического контента в Интернете (Regulation (EU) 2021/784 of the European Parliament and of the Council of 29 April 2021 on addressing the dissemination of terrorist content online)[50], в соответствии со ст. 3 которого получатель предписания об удалении контента (removal order) должен удалить террористический контент или отключить доступ к террористическому контенту во всех государствах-членах в течение одного часа с момента получения предписания. Систематическое невыполнение указанного обязательства влечет ответственность в виде штрафа в размере до 4 % от глобального оборота провайдера хостинговых услуг за предыдущий финансовый год. Кроме того, в соответствии со ст. 6 указанного акта провайдер обязан хранить данные об удаленном (ограниченном) контенте в течение шести месяцев или, по запросу компетентных органов или судов, в течение большего периода времени.

В Германии в 2017 году принят Закон об улучшении правоприменения в социальных сетях[51], который не содержит дефиниции или перечня противоправного деструктивного контента, однако предусматривает возложение определенных обязанностей на администрации социальных сетей в случае жалоб интернет-пользователей на информацию, распространение которой образует состав преступления в соответствии с Уголовным кодексом ФРГ. В соответствии с указанным законом онлайн-платформа (социальная сеть с не менее чем 2 млн зарегистрированных пользователей), получающая более 100 жалоб на незаконный контент в течение календарного года, обязана публиковать дважды в год отчеты о принятых мерах по ограничению противоправного контента. Администратор онлайн-платформы обязан незамедлительно принимать поступившую жалобу к рассмотрению и проверять информацию на предмет соответствия/несоответствия законодательно установленным запретам, а при установлении соответствия – обеспечить в течение 24 часов с момента получения жалобы удаление или блокировку такой информации. Если онлайн-платформа не обеспечивает установленную процедуру рассмотрения жалоб компетентных органов или пользователей, не контролирует рассмотрение жалоб или контролирует не в полной мере, не устраняет организационные недоработки, на платформу может быть наложен штраф в размере до 5 000 000 евро.

Во Франции в 2020 году принят Закон о противодействии разжиганию ненависти в Интернете[52], который регламентирует отношения, связанные с запретом распространения «языка вражды», включая упрощение механизмов уведомления о содержании ненависти в Интернете, обязанность операторов платформ сотрудничать в борьбе с ненавистническим контентом в Интернете, регламентирует деятельность Высшего совета по аудиовизуальным средствам в борьбе с ненавистническим контентом в Интернете, усиление борьбы с распространением материалов, разжигающих ненависть, в Интернете, повышение эффективности уголовного преследования в отношении авторов материалов, разжигающих ненависть, а также предотвращение распространения материалов, разжигающих ненависть, в Интернете. Принятый в 2024 году Закон о безопасности и регулировании цифрового пространства[53] вводит правила противодействия деструктивному контенту, схожие с германской правовой моделью. Так, провайдеры обязаны в течение суток со дня получения предписания со стороны контролирующего органа удалить или заблокировать незаконный контент. При этом необходимо незамедлительно подтвердить получение уведомления и в течение того же периода времени проинформировать административный орган о принятых мерах. Ранее французским законодательством уже были предусмотрены удаление или блокировка информации, содержащей пропаганду употребления запрещенных веществ, призывы к совершению самоубийства и так далее. Между тем, нормативно не получили закрепление унифицированное определение и признаки незаконного или деструктивного контента. Таким образом, французский законодатель идет по пути фрагментарного, несистемного ограничения (запрета) распространения деструктивной информации отдельных видов, и противодействие распространению новых информационных угроз, как правило, требует законодательных изменений.

В Великобритании разработан и принят Закон о безопасности в Интернете[54], вступивший в силу в 2023 году, целью которого является создание безопасных условий для пользования интернет-сервисами на всей территории государства. Устанавливаются обязанности провайдеров по предотвращению и выявлению незаконного контента и деятельности, в том числе наносящего вред детям. Законодательно гарантируется, что интернет-услуги априори должны быть безопасными и варьироваться в зависимости от возрастной категории пользователей, а поставщики обязаны оценивать вероятность доступа к таким услугам детей и поддерживать эффективность и актуальность таких прогнозов.

Закон не вводит унифицированного понятия незаконного деструктивного контента, а лишь категорирует контент по определенным квалифицирующим признакам, которые могут иметь значение для юридической квалификации: незаконный контент (illegal), вредный для детей (harmful to children), вредный для взрослых (harmful to adults). Так, вводятся следующие три категории контента, представляющего вред для детей (harmful to children): основной приоритетный контент (primary priority content), приоритетный контент (priority content) и необозначенный вредный контент (non-designated harmful content). К содержанию первой категории относятся пропаганда самоубийства, порнографические материалы, материалы, способные побудить различные расстройства. Ко второй – вариации издевательского контента, в котором содержатся оскорбления или дискриминация по признакам расы, пола, сексуальной ориентации, инвалидности, смены пола; тем или иным образом разжигается ненависть, пропагандируется насилие над людьми, показывается выполнение определенных трюков, способных причинить вред здоровью; содержится насилие по отношению к людям, животным, вымышленным существам; поощряется употребление вредных веществ. К третьему – контент, который потенциально создает риск причинения вреда большому числу детей.

В КНР разработана и действует специальная система фильтрации интернет-контента. По данным исследователей, существенная доля заблокированного контента приходится на ресурсы развлекательного характера, игровой индустрии, средства массовой информации с вредной информацией, а также сервисы рекомендательных технологий[55]. Государственным управлением по делам телевидения и радиовещания КНР в целях пресечения распространения недостоверного и вредного контента, формирования «чистого киберпространства» подготовлены Подробные правила по стандартам проверки онлайн-контента коротких видео[56], ориентированные на регулирование распространения коротких видеороликов, текста, субтитров, изображений, музыки, звуковых эффектов, комментариев, смайликов и т. д. Правила разработаны на основе имеющихся в КНР регуляторных актов (Положение об администрировании услуг аудио- и видеопрограмм в Интернете, Общие принципы проверки контента онлайн-программ аудио/видео) и включают в себя более 100 позиций, в том числе контент, подрывающий мировой авторитет Китая, государственный режим, нарушающий социалистические ценности, содержащий сведения, составляющие государственную тайну, информацию о личной жизни лиц, занимающих государственные должности, и членах их семей, разжигающий национальную и религиозную рознь, информирующий о местных террористических организациях, демонстрирующий повреждение, осквернение, сожжение, фальсификацию государственных символов, мародерство, разрушение памятников, суицидальное поведение, проституцию, призывы к физическому и психологическому насилию, совершению правонарушений, упаднические взгляды на жизнь, вызывающий влечение к азартным играм, распространяющих недостоверную информацию о благотворительных сборах и т. д.[57] За нарушение указанных правил распространения контента предусмотрена уголовная и административная ответственность.

Политика по защите культурной онлайн-среды последовательно проводится Китаем с 2016 года[58] и корректируется в соответствии с социалистическими ценностями и целями развития. В последнее время получила распространение практика модерации нежелательного контента, ориентированного на ценности, в частности по удалению и блокировке контента, содержащего неэкономное и неразумное расходование денежных средств, расточительство, демонстрацию богатства и поклонение деньгам[59]. Так, с начала 2024 года Weibo удалила 1100 материалов и заблокировала 27 аккаунтов, Douyin – 4701 сообщение и 11 аккаунтов, Xiaohongshu – 4273 сообщения и 383 аккаунтов[60].

В рамках функционирования государственной системы «Золотой щит» используются следующие методы фильтрации контента в Интернете: DNS-блок, поэтапное соединение, блокировка URL по ключевым словам, а также сканирование содержания страниц[61].

Статья 34 Закона КНР «О защите несовершеннолетних» предусматривает уголовную ответственность за производство, публикацию или распространение среди несовершеннолетних материалов, которые являются вредоносными для физического или психологического здоровья детей. Запрещен контент, включающий, в том числе, пропаганду непристойности, порнографию, насилие, культы, суеверия, азартные игры, призывы к самоубийству, терроризму, сепаратизму или экстремизму[62].

Также в КНР действуют Рекомендации по дальнейшей консолидации ответственности субъекта по регулированию информационного контента для сайтов и платформ[63], введенные в действие в 2021 году. Данный акт возлагает на онлайн-платформы обязанность по продвижению социалистических ценностей, выявлению и пресечению распространения вредной и недостоверной информации, платформы обязуются совершенствовать внутренние политики сообществ, систематически повышать качество предоставляемого контента, устанавливать перечни вредного контента, своевременно удалять такой контент. Пользователи соответствующих платформ должны в надлежащем порядке пройти регистрацию, а платформы, в свою очередь, должны контролировать корректность введенных данных и контент, размещаемый пользователями. Платформы следят за качеством контента, создают образцы запрещенного контента. В части работы с несовершеннолетними пользователями платформы ведут политику по минимизации их чрезмерного влечения к использованию сетей и ориентации на контент, положительно влияющий на их психологическое и физическое здоровье.

В Японии в 2008 году был принят Закон о поддержке здоровой Интернет-среды для молодежи.

Закон вводит следующие категории опасной информации:

– информация, доступная для публичного просмотра с помощью сети «Интернет» и существенно препятствующая здоровому развитию несовершеннолетних (п. 3 ст. 2);

– информация, которая прямо или косвенно побуждает к действиям, нарушающим уголовное законодательство (подстрекательство к совершению преступлений, описание средств и деталей совершения преступлений) или прямо и явно провоцирует самоубийство;