Человек как ценность: новая теория безопасности в эпоху искусственного интеллекта
- -
- 100%
- +
Именно здесь становится особенно важной связь между субъектностью и человечностью. Человечность не может удерживаться только на уровне индивидуального намерения. Ей необходимы коллективные формы поддержки: языки солидарности, практики взаимного признания, нормы ограничения власти, культура уважения к достоинству другого. Но человечность не может быть полностью делегирована и коллективу. История показывает, что именно коллективные структуры — при определённых условиях — способны наиболее эффективно нормализовать дегуманизацию, если в них исчезает пространство личного морального отказа. Следовательно, субъектность как «я + мы» предполагает постоянную проверку: поддерживает ли конкретное «мы» человечность «я», или оно требует её жертвы.
В современном мире эта проблема приобретает новые формы под влиянием цифровой среды. Алгоритмически организованные платформы создают сообщества, которые по внешним признакам напоминают традиционные коллективы: они дают ощущение принадлежности, совместной эмоции, разделяемого языка и общего врага. Однако эти цифровые «мы» обладают особенностями, радикально меняющими условия формирования субъектности. Во-первых, они масштабируются практически мгновенно. Во-вторых, их динамика управляется не только участниками, но и архитектурой платформы, оптимизирующей вовлечённость. В-третьих, они часто существуют в условиях анонимности, сниженной ответственности и высокой аффективной насыщенности. Это означает, что субъект попадает в коллективную среду, где давление группы усиливается алгоритмически, а внутренние тормоза ослабляются.
Такая среда создаёт двойную угрозу. С одной стороны, она может давать человеку иллюзию усиленной субъектности: участие в цифровом коллективе переживается как обретение голоса, видимости и политической значимости. С другой стороны, именно в этой среде возрастает вероятность слияния личности с групповым аффектом. Индивид начинает говорить и действовать от имени «мы», не проходя путь внутренней проверки сказанного или сделанного. Это особенно заметно в ситуациях цифровой травли, массового возмущения, коллективного унижения и символического исключения. В подобных эпизодах коллективная динамика часто организована так, что личное сомнение воспринимается как слабость, а нравственная пауза — как отказ от солидарности. Следовательно, цифровое «мы» может не усиливать субъектность, а растворять её.
Для теории безопасности человека это имеет фундаментальное значение. Если автономия описывает внутреннюю способность субъекта к различению и выбору, то субъектность как «я + мы» показывает, в каких социальных формах эта способность поддерживается или подтачивается. Человек не может быть защищён только через индивидуальные механизмы, если окружающие его коллективные структуры систематически воспроизводят насилие, конформизм и расчеловечивание. В то же время он не может быть защищён и через абстрактное коллективное благо, если ради него уничтожается личная совесть. Следовательно, безопасность человека требует таких социальных условий, при которых «мы» не отменяет «я», а делает его более устойчивым и ответственным.
Отсюда вытекает и важное политическое следствие. Любой порядок, претендующий на защиту человека, должен оцениваться не только по степени своей эффективности, стабильности или способности обеспечивать лояльность, но и по тому, создаёт ли он пространство для личного морального суждения. Государство, организация, цифровая платформа или идеологическое движение могут быть высоко интегрированными и функциональными, но при этом разрушать субъектность, если их внутренняя логика требует от личности полного совпадения с коллективной линией. В таком случае речь идёт уже не о поддержании общего, а о структурном подавлении человечности через коллективные формы.
Поэтому сохранение субъектности предполагает выполнение как минимум трёх условий. Во-первых, коллективные структуры не должны уничтожать автономию личности. Во-вторых, они не должны требовать систематического участия в бесчеловечных практиках. В-третьих, они не должны объявлять отказ от таких практик признаком измены, девиации или социальной неполноценности. Эти условия уже намечены в исходной логике текста и образуют минимальный нормативный порог, ниже которого «мы» перестаёт быть человеческим сообществом в полном смысле слова.
В итоговом смысле субъектность как «я + мы» следует понимать как динамическое единство внутренней ответственности и социальной укоренённости. Человек становится субъектом не тогда, когда полностью отказывается от коллективной принадлежности, и не тогда, когда без остатка растворяется в ней. Он становится субъектом тогда, когда способен оставаться частью «мы», не теряя права на внутреннее «нет»; когда коллектив поддерживает, а не отменяет совесть; когда принадлежность усиливает человечность, а не подменяет её дисциплиной и страхом. В эпоху ИИ и алгоритмически управляемых сред эта задача становится особенно трудной, поскольку новые формы коллективности всё чаще формируются не вокруг длительных институтов, а вокруг управляемых цифровых потоков аффекта. Именно поэтому защита субъектности должна рассматриваться как один из центральных элементов новой теории безопасности человека.
Глава 2. Исторический анализ деградации человечности: уроки для современности
2.1. Логика деградации: парадигматический случай
Исторический опыт Германии 1930–1940-х годов занимает в настоящем исследовании особое место не потому, что он может быть механически перенесён на современные процессы, а потому, что он предоставляет наиболее ясно документированный пример того, как общество с высокой культурной, научной и институциональной сложностью способно пройти путь от формальной цивилизованности к систематическому расчеловечиванию. Именно поэтому данный случай следует рассматривать не как исключение, успокаивающее современность своей якобы уникальностью, а как аналитический образец, позволяющий выявить внутреннюю логику деградации человечности в общественном масштабе.
Принципиально важно подчеркнуть, что деградация не произошла одномоментно. Она не свелась к внезапному всплеску насилия и не была результатом действия лишь небольшой группы фанатиков. Напротив, её историческая опасность состоит в том, что разрушение человечности разворачивалось постепенно, этап за этапом, приобретая характер социальной нормы, институционального порядка и морально оправданной необходимости. Именно эта постепенность и делает данный случай парадигматическим: он позволяет увидеть, как недопустимое становится допустимым, затем привычным, а затем — обязательным.
Первый этап можно определить как формирование враждебного мировоззрения. Речь идёт не просто о появлении политических врагов или о жёсткой идеологической полемике. На этом этапе создаётся целостная картина мира, в которой определённые группы людей представляются не как оппоненты, а как экзистенциальная угроза существованию «своих». В подобной картине мира «чужой» перестаёт быть человеком, обладающим равной ценностью, и превращается в носителя опасности, порчи, заговора, разложения или биологической угрозы. Это критический момент, потому что именно здесь начинается когнитивное разрушение человечности: прежде чем человека можно будет исключить, ограничить в правах или уничтожить, его необходимо поместить за пределы нравственного сообщества.
Формирование такого мировоззрения требует систематической работы с языком, символами и интерпретациями. Дегуманизация не начинается с лагеря или расстрела; она начинается с устойчивого повторения понятий, метафор и сюжетов, в которых одни представлены как подлинные носители порядка, культуры и будущего, а другие — как паразитарный элемент, как разрушительная сила, как нечто избыточное или вредное. Тем самым закладывается основа моральной асимметрии: сострадание к «своим» усиливается, тогда как эмпатия к «чужим» объявляется слабостью, наивностью или изменой.
Второй этап — институциональное закрепление неравенства. Как только враждебная картина мира получает достаточную социальную легитимацию, она переводится в язык институтов. Дискриминация перестаёт быть частным предрассудком и начинает закрепляться в правовых, административных и политических формах. Изменяются правила участия в общественной жизни, доступ к профессиям, образованию, собственности, правосудию. Важно, что на этой стадии насилие ещё может не носить тотального физического характера. Однако именно здесь происходит один из ключевых сдвигов: исключение перестаёт быть стихийной практикой и становится порядком, санкционированным властью.
Значение этого этапа трудно переоценить. Пока неравенство существует как социальное предубеждение, оно может встречать сопротивление со стороны права и институтов. Когда же сами институты начинают оформлять неравенство как норму, человек лишается не только общественного признания, но и механизмов защиты. Более того, институционализация создаёт для большинства эффект морального успокоения: если дискриминация закреплена законом, распоряжением, процедурой, она перестаёт восприниматься как произвол и начинает казаться элементом «законного порядка». В этом состоит один из глубочайших механизмов деградации: зло облекается в форму администрирования и тем самым утрачивает для многих свой очевидно бесчеловечный характер.
Третий этап — социальная сегрегация и экономическое вытеснение. После того как различие между «своими» и «чужими» оформлено идеологически и закреплено институционально, начинается реальная перестройка социального пространства. Целые группы вытесняются из сфер труда, образования, публичного участия и символической видимости. Их присутствие в обществе сокращается не только физически, но и культурно: они перестают восприниматься как полноправные участники общей жизни. Сегрегация выполняет здесь двоякую функцию. С одной стороны, она делает уязвимую группу материально зависимой и бесправной. С другой — она приучает большинство к её отсутствию, а затем и к мысли, что это отсутствие естественно и справедливо.
На данной стадии особенно важен процесс привыкания. Деградация человечности не требует, чтобы большинство активно желало крайнего насилия с самого начала. Достаточно, чтобы оно шаг за шагом адаптировалось к возрастающему уровню исключения и утраты прав другой группы. Привыкание к несправедливости является одним из центральных механизмов исторической деградации. Каждый новый шаг может восприниматься как временный, технический, вынужденный или не столь уж значительный по сравнению с предыдущим. Но именно последовательность таких «не слишком значительных» шагов и создаёт возможность для следующей, более радикальной стадии.
Четвёртый этап — нормализация и индустриализация насилия. Когда образ врага сформирован, неравенство институционально оформлено, а общество привыкло к изоляции и обесцениванию определённых групп, массовое насилие перестаёт восприниматься как моральный разрыв. Оно включается в систему управления как функция. Насилие становится не исключением, а рутиной; не вспышкой, а процедурой; не актом личной жестокости, а элементом организованного механизма. Именно в этом смысле можно говорить об индустриализации расчеловечивания: уничтожение людей подчиняется логике учёта, транспортировки, распределения ролей, нормативов эффективности и управленческой координации.
История редко входит в дом через парадную дверь. Чаще она просачивается через привычку. Сначала меняется интонация. Потом одно слово становится позволительным, другое — смешным, третье — опасным. Затем человек привыкает не замечать унижения, если оно касается не его. Ещё немного — и вчерашняя жестокость начинает выглядеть как порядок, а вчерашний ужас — как необходимость. Так разрушается человечность: не мгновенно, а ступенчато, через тысячи малых уступок, каждая из которых кажется частной, случайной, временной. В этом и состоит страшный урок Европы 1930–1940-х годов. Массовое зло редко начинается с фабрик смерти. Оно начинается с того дня, когда один человек перестаёт видеть в другом равного себе и находит для этого удобное объяснение — политическое, научное, экономическое или нравственное. После этого машины истории начинают работать с пугающей исправностью.
Суть этой стадии состоит не только в масштабе убийства, но и в характере его организации. Массовое насилие становится возможным тогда, когда множество участников включены в систему частичных функций и не переживают себя как носителей полной моральной ответственности. Один оформляет документы, другой организует логистику, третий осуществляет охрану, четвёртый исполняет приказ, пятый обосновывает происходящее идеологически. В результате каждый отдельный участник может воспринимать собственную роль как техническую, второстепенную или вынужденную. Так возникает одна из самых опасных форм деградации: человек участвует в бесчеловечной системе, не считая себя субъектом зла.
Следовательно, логика деградации работает одновременно в двух направлениях. Во-первых, она уничтожает человечность жертв, лишая их статуса полноправных людей в глазах окружающих. Жертва всё меньше воспринимается как носитель достоинства, всё больше — как категория, проблема, риск, препятствие. Во-вторых, она разрушает человечность самих исполнителей и соучастников, поскольку те утрачивают способность воспринимать собственные действия как морально значимые. Они перестают спрашивать не только о том, кто перед ними, но и о том, кем становятся они сами. Эта двойная деградация особенно важна для настоящего исследования, поскольку показывает: расчеловечивание направлено не только против уничтожаемого другого, но и против структуры субъекта как таковой.
Парадигматичность германского случая состоит также в том, что он разрушает удобную иллюзию о том, будто масштабное зло возможно лишь в условиях «варварства» или институциональной отсталости. Напротив, трагедия развернулась в обществе с высоким уровнем образования, развитой бюрократией, научной инфраструктурой и культурной традицией. Это означает, что сами по себе образованность, технологическое развитие и административная эффективность не являются гарантией человечности. Более того, при определённых условиях они способны стать инструментами её разрушения, если включаются в систему, где нравственный статус человека уже подорван.
Именно поэтому рассматриваемый случай принципиально важен для анализа современности. Его значение не сводится к морализирующему напоминанию о прошлом. Он демонстрирует структурную закономерность: массовое расчеловечивание требует сочетания идеологической подготовки, институционального оформления, социальной адаптации и функционального распределения ответственности. Эта закономерность не принадлежит только одному времени или одному режиму. Она указывает на универсальную уязвимость человеческих обществ, особенно в ситуациях кризиса, поляризации и технологического усиления механизмов управления.
В рамках настоящей монографии данный анализ нужен не для проведения прямых исторических аналогий, а для выявления операциональной модели. Если в прошлом дегуманизация распространялась через печатную пропаганду, административное давление и физическую сегрегацию, то в современную эпоху сходная логика может быть усилена и ускорена цифровыми платформами, алгоритмической фильтрацией контента и ИИ-системами, способными масштабировать враждебные нарративы и управлять коллективными аффектами. Исторический пример, таким образом, служит не аргументом по аналогии, а методологическим инструментом: он показывает, какие именно признаки следует считать ранними индикаторами деградации человечности.
Поэтому «логика деградации» в данном разделе должна пониматься как аналитическая последовательность. Сначала меняется язык. Затем меняются нормы. Затем меняется структура участия в общей жизни. Затем насилие входит в режим повседневности и функциональной необходимости. Именно этот переход от слов к институтам, от институтов к исключению, от исключения к рутинному насилию и делает парадигматический случай столь важным для новой теории безопасности человека. Он показывает, что защита человечности должна начинаться задолго до крайних форм разрушения — на тех стадиях, когда общество ещё убеждено, что ничего необратимого не происходит.
2.2. Психологические механизмы
Если предыдущий подраздел описывал институциональную и историческую логику деградации человечности, то теперь необходимо обратиться к тем психологическим механизмам, которые делают эту деградацию возможной на уровне повседневного поведения обычных людей. Историческая катастрофа не возникает только из идеологии, приказа или административного устройства. Она требует внутренней перестройки способов восприятия, подчинения, оправдания и эмоциональной адаптации. Именно поэтому анализ психологических механизмов имеет не вспомогательное, а центральное значение: он позволяет объяснить, каким образом человек, не являющийся изначально носителем радикального зла, может оказаться включён в бесчеловечные практики и начать воспринимать их как допустимые, неизбежные или даже должные.
Принципиально важно, что речь идёт не о «патологических» индивидах в узком клиническом смысле. Наиболее тревожный вывод социальной психологии XX века состоял именно в том, что участие в разрушительных действиях часто обеспечивается не исключительной жестокостью, а обычными механизмами человеческой адаптации к социальной среде. Человек стремится согласовывать себя с авторитетом, избегать изоляции, снижать внутреннее напряжение, рационализировать собственное участие в коллективном действии и переносить ответственность на внешние инстанции. Эти тенденции сами по себе не являются отклонением. Более того, в обычной социальной жизни они могут выполнять интегративную функцию. Опасность возникает тогда, когда именно они включаются в структуру, где бесчеловечное становится нормой.
Первый механизм — подчинение авторитету. Его значение состоит не только в том, что люди склонны выполнять указания вышестоящих инстанций. Более существенно другое: авторитет обладает способностью перераспределять моральную ответственность. Когда действие исходит как приказ, инструкция, профессиональное требование или государственная норма, субъект начинает воспринимать себя не как источник решения, а как передаточное звено. Это снижает внутреннее напряжение, связанное с причинением вреда другому, и облегчает участие в действиях, которые в иных условиях могли бы быть отвергнуты как недопустимые. Психологическая функция авторитета заключается, таким образом, не только в принуждении, но и в предоставлении морального алиби.
Именно поэтому подчинение авторитету следует понимать аналитически шире, чем простое послушание. Авторитет структурирует пространство допустимого. Он определяет, что считается обязанностью, нормой, служебной функцией, долгом перед коллективом или государством. Если такая инстанция легитимирует бесчеловечное действие, значительная часть людей перестаёт оценивать его по внутреннему нравственному критерию и начинает оценивать по критерию соответствия ожиданию власти. Субъект не обязательно перестаёт чувствовать внутренний дискомфорт, но он учится интерпретировать этот дискомфорт как слабость, ошибку или издержку исполнения более высокой необходимости. Тем самым моральный конфликт не исчезает, а подавляется через переопределение его смысла.
Второй механизм — конформизм по отношению к группе. Человек является существом социальным не только в смысле потребности в принадлежности, но и в смысле глубокой зависимости от коллективного подтверждения реальности. Группа даёт не просто поддержку; она подтверждает, что именно следует считать нормальным, допустимым, очевидным и заслуживающим одобрения. Поэтому расхождение с группой воспринимается не как абстрактное интеллектуальное несогласие, а как риск утраты принадлежности, признания и безопасности. Даже тогда, когда индивид внутренне сомневается, он может предпочесть внешнее согласие, чтобы избежать социального исключения.
С аналитической точки зрения конформизм важен тем, что он связывает когнитивный и аффективный уровни поведения. Человек не только внешне соглашается с группой, но и постепенно начинает видеть ситуацию её глазами. Повторяющееся присутствие в среде, где определённые оценки нормализованы, снижает интенсивность внутреннего сопротивления. Морально сомнительное начинает казаться менее сомнительным просто потому, что оно многократно подтверждается значимым окружением. Именно поэтому конформизм является не вторичным, а структурным механизмом деградации: он обеспечивает переход от внешнего приспособления к внутреннему привыканию.
Третий механизм — постепенная адаптация к возрастающему уровню жестокости. Одним из самых опасных свойств психики является способность приспосабливаться к тому, что первоначально вызывает шок, отторжение или стыд. Если бесчеловечное не вводится одномоментно в крайней форме, а разворачивается через последовательность малых сдвигов, сопротивление ослабевает. Каждый следующий шаг оценивается уже не по первоначальной моральной норме, а по отношению к предыдущему шагу. То, что ещё недавно казалось немыслимым, начинает восприниматься как продолжение уже принятого курса. Так работает психологическая логика нормализации.
Смысл этого механизма состоит в смещении порога чувствительности. На ранней стадии человек ещё способен распознавать происходящее как недопустимое. Однако если он не сопротивляется первому шагу, а затем второму, то постепенно утрачивает сам критерий, на основе которого мог бы отвергнуть третий. Возникает своеобразная моральная эрозия: не разовый отказ от человечности, а постепенное привыкание к её сокращению. В этом отношении психологическая адаптация тесно связана с институциональной логикой предыдущего подраздела. Институты задают последовательность сдвигов, а психика обеспечивает возможность жить внутри них, не разрушаясь от постоянного когнитивного конфликта.
Четвёртый механизм — диффузия ответственности. В сложных социальных системах действие почти никогда не осуществляется одним субъектом от начала до конца. Оно распределено между множеством ролей, функций, процедур и уровней принятия решений. Такая распределённость повышает эффективность системы, но одновременно снижает интенсивность личного переживания ответственности. Каждый участник может считать свой вклад минимальным, техническим или заменимым. Один принимает решение, другой формализует его, третий передаёт дальше, четвёртый обеспечивает исполнение, пятый лишь «не вмешивается». В результате общее бесчеловечное действие осуществляется коллективно, но не переживается никем как целиком принадлежащее ему.
Психологически это один из наиболее устойчивых механизмов самооправдания. Человек не отрицает факт происходящего, но дистанцирует себя от него посредством формулы: «от меня ничего не зависело», «я лишь исполнял роль», «решение принималось выше», «если бы не я, сделал бы кто-то другой». Подобные формулы особенно характерны для административных и технологически опосредованных систем, где прямая связь между действием и его последствием скрыта множеством процедурных звеньев. Диффузия ответственности тем сильнее, чем более обезличенным, бюрократизированным и технологизированным является контекст действия.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.