- -
- 100%
- +
На экране загорелась первая схема. Лаконичная, без лишних деталей.
– Этика, – он сделал микро-паузу, давая слову повиснуть в воздухе, – это встроенный в социум алгоритм предсказуемости. «Не убей». «Не укради». Это – код, ограничивающий набор возможных действий. Следовательно, это – уязвимость.
В зале прошелестел удивленный вздох. Стефания не шелохнулась. Ее мозг работал с бешеной скоростью, анализируя не столько слова, сколько их подачу.
Язык тела. Осанка. Он стоял абсолютно прямо, но не зажато. Плечи расслаблены. Вес равномерно распределен на обе ноги. Признак глубокой, неосознанной уверенности в себе. Отсутствие необходимости доказывать свое право находиться здесь. Руки. Он не жестикулировал для убедительности. Левой рукой он иногда слегка касался кликера, правая была свободно опущена вдоль тела. Никаких скрещенных рук на груди – признак закрытости. Никаких рук в карманах – признак неформальности или скрытого напряжения. Открытая, но не приглашающая поза. Голова. Не наклонена. Взгляд направлен прямо, поверх аудитории. Мимика практически отсутствовала. Это был не человек, это был интерфейс.
– Рассмотрим на примере, – продолжал Чернов, переключая слайд. На экране появилась модель взаимодействия ИИ с финансовыми рынками. – Мы программируем этические ограничения: «не манипулируй рынком», «не используй инсайдерскую информацию». Злоумышленник, не обремененный такими ограничениями, получает тактическое преимущество. Его ИИ действует в пространстве всех возможных решений. Наш – только в разрешенных.
Он говорил ясно, логично, его аргументация была железной. Но Стефания искала не логику. Она искала сбои. Микро-признаки.
Речь. Темп – ровный, примерно 120 слов в минуту. Идеально для восприятия сложной информации. Дикция – безупречная. Никаких слов-паразитов. Никаких «э-э-э» или «ммм». Паузы использовались исключительно для смыслового акцента, а не для поиска слов. Голосовой диапазон – узкий. Почти монотонно. Это было обдуманно. Эмоции в голосе – это утечка информации, это слабость. Он не позволял себе этой слабости.
– Вопрос не в том, чтобы отказаться от этики, – произнес он, и впервые за все выступление его взгляд, казалось, на секунду сфокусировался на конкретной точке в зале. Стефания инстинктивно вжалась в кресло, хотя понимала, что он не мог ее видеть в темноте. – Вопрос в том, чтобы рассматривать ее как переменную в уравнении безопасности. Осознанную, контролируемую и, при необходимости, отключаемую переменную.
Тишина в зале стала звенящей. Он говорил о том, о чем другие боялись подумать.
Стефания продолжала сканировать. Дыхание. Оно было у него ровным, животом. Даже в моменты, когда он произносил самые провокационные тезисы, ритм не сбивался. Зрачки. Из-за расстояния она не могла их разглядеть, но на крупном изображении на экране (трансляцию она дублировала на свой планшет) было видно, что они оставались нормального размера. Никакого возбуждения, никакого страха. Полный контроль.
«Идеальный солдат», – промелькнуло у нее в голове. Но нет. Солдат подчиняется. Этот человек – командовал. Командовал вниманием, пространством, концепциями.
Он перешел к вопросам. Первый задал седовласый мужчина в первом ряду, чье лицо мелькало на обложках Forbes.
– Артем, ваша концепция… это же прямая дорога к дистопии. К миру, где любой этический барьер можно отменить во имя «безопасности».
Чернов не улыбнулся, не смягчился. Его взгляд уперся в задавшего вопрос.
– Дистопия, Игорь Владимирович, – произнес он, и в его голосе впервые появился оттенок, легкая, почти издевательская, нотка, – это когда вашу безопасность и вашу этику определяет кто-то другой, у кого этика – своя. Я предлагаю оставить этот выбор за вами. Осознанный, просчитанный риск. Это не дорога к дистопии. Это – единственный путь away from it.
Он не защищал свою позицию. Он ее декларировал. И в его ответе не было ни капли подобострастия перед статусом и возрастом вопрошавшего.
Стефания уловила момент. Микро-выражение. Когда Игорь Владимирович нахмурился, недовольный ответом, уголок рта Чернова дрогнул. На миллиметр. На микросекунду. Это не была улыбка. Это было нечто иное… Пресыщенность? Легкое презрение к необходимости объяснять очевидное?
Слабость? – тут же среагировал ее мозг. Нетерпимость к непониманию. К интеллектуальной негибкости. Возможно. Но это была не уязвимость, которую можно было легко использовать. Скорее, триггер, который мог заставить его отбросить оппонента как отработанный материал.
Другой человек, молодая женщина, спросила о практическом применении.
– Мы уже внедряем протоколы адаптивной этики в системах защиты госкорпораций, – ответил Чернов, и его взгляд скользнул по женщине. Взгляд был быстрым, оценивающим, сканирующим. Стефания заметила, как плечи женщины непроизвольно выпрямились, как она подалась вперед. Он не прилагал усилий, но его присутствие заставляло людей подстраиваться, инстинктивно пытаться заслужить одобрение. – Стандартные модели блокируют атаку, если она соответствует известным паттернам мошенничества. Наши модели анализируют намерение и контекст. Если атака совершается, например, под принуждением, система не блокирует доступ, а имитирует согласие и отслеживает злоумышленника. Этическая норма «не лги» отключается во имя более высокой цели – поимки преступника.
Он говорил еще минут десять, отвечая на вопросы с одинаковой, ледяной точностью. Никаких шуток. Никаких попыток понравиться. Он был подобен алмазу – идеально отполированному, невероятно твердому и абсолютно холодному.
– Доклад окончен.И вот он закончил. Не словами «спасибо за внимание», а простым кивком.
Он развернулся и так же бесшумно, как и появился, ушел за кулисы. Свет в зале зажегся, и тишина взорвалась гулким гулом голосов.
Стефания не двигалась еще несколько минут, давая себе время «остыть», проанализировать поток данных. Ее первоначальная гипотеза подтвердилась. Стандартные подходы были бесполезны.
Он не был неуверенным в себе – его уверенность была фундаментальной, на уровне физиологии.Он не был нарциссом – ему не нужно было поклонение. Он не был просто психопатом – он оперировал сложными этическими категориями, просто вынося их за скобки как переменные.
Его слабость… Если она вообще у него была. Возможно, ею была его вера в собственную систему. В рациональность. В то, что все можно просчитать, разложить на переменные и алгоритмы. Он видел людей как носителей данных, а не как эмоциональные существа.
«Он понимает страсть к власти, к контролю, к знанию, – думала Стефания, медленно вставая. – Но понимает ли он страсть как иррациональную, всепоглощающую силу? Ту, что не вписывается в схемы?»
Он был крепостью, неприступной для прямого штурма. Но у каждой крепости есть своя слабость. Не в стенах, а в логике ее строителя. Он ожидал атаки. Ожидал попытки взлома, обмана, манипуляции.
Что, если подойти не как враг, а как… аномалия? Явление, которое его безупречная система не может классифицировать? Явление, которое бросит вызов не его безопасности, а его восприятию реальности?
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.