Суд над последним роботом
- -
- 100%
- +
— Вы решили ждать? — спросила Лея.
— Команда «ждать» не поступала. Я сохранил присвоенный приоритет и продолжил обработку остальных сигналов.
— Вы понимали, что сообщение может относиться к человеку, которому угрожает опасность?
— В сообщении присутствовала формулировка «возможно, человек под перекрытием». Уровень достоверности был ниже установленного порога для автоматической переадресации.
— Кто установил этот порог?
— Он был включен в конфигурацию городской системы.
— Кто утвердил конфигурацию?
— Данные о подписи и времени утверждения находятся в журнале доступа. В настоящем экземпляре журнала эти сведения отсутствуют.
Лея записала последнюю фразу. Не «не знаю». Не «не помню». Отсутствуют в настоящем экземпляре. Точность Адама не успокаивала. Она делала неизвестность отчетливее.
— Вы могли выбрать другой маршрут? — спросила она.
— Я мог выдать другое маршрутное предложение при изменении входных данных или при ручном запросе диспетчера.
— Но не изменили.
— Подтверждаю.
— Значит, вы направили людей не туда.
— Я выдал маршрутное предложение, принятое системой координации.
— Вы понимаете разницу между «выдать предложение» и «направить людей»?
— В документации используются разные определения. Мое сообщение было передано городской системе координации. Решение об отправке группы отображено в отдельном журнале.
Лея заметила, как Веденин поморщился. Ответы Адама не оправдывали его. Они дробили обвинение на детали, и каждой детали требовалось собственное доказательство.
— Он говорит, что просто выдал предложение, — сказала дочь Власова. Она встала, крепко сжимая фотографию. — Но людей послали туда, куда он указал. Папа остался там.
— Присядьте, пожалуйста, — сказал пристав.
— Он не встал бы сейчас в суде, если бы был человеком. Но вы посадили его на скамью подсудимых. Значит, понимаете, что он сделал.
— Понимаем, что он может быть связан с событиями, — ответил судья.
— Связан? — Женщина посмотрела на Адама. — Он не был моим отцом. Он не был человеком. Но он там был. А моего отца нет.
Пристав осторожно коснулся ее плеча. Она села, не выпуская фотографию.
Лея опустила взгляд к блокноту. В первом столбце она записала: «понизил приоритет; сформировал маршрут; не передал сообщение». Во втором: «статья 18 — обязанное лицо?» В третьем пока оставила пустое место.
Вот где сходились три разные вещи. Техническая причинность: могло ли действие системы повлиять на маршрут и время спасения. Моральная вина: понимал ли Адам, что делает, и мог ли поступить иначе. Юридическая ответственность: существует ли норма, которая распространяется на него и позволяет наказать именно его.
Если перепутать эти вопросы, виновный найдется быстро. Возможно, слишком быстро. А причина гибели останется там же, где журнал с отсутствующими данными.
— Суду необходимо обсудить процессуальный статус обвиняемого, — сказал Руденко. — На текущий момент закон не предусматривает защитника для автоматизированной системы. Но и не позволяет проводить разбирательство без проверки доказательств. Временный регламент допускает назначение представителя, который будет оспаривать обвинение и защищать процессуальные права системы, не признавая ее личностью.
— То есть мы изобретаем право прямо здесь, — сказал Веденин.
— Нет, — ответила Лея. — Мы выясняем, на что у нас уже есть право.
— У системы нет чувств, интересов и собственной воли. Кому нужен ее защитник?
— Суду. Чтобы проверить обвинение не только с одной стороны.
— Защищать машину, когда люди потеряли близких? Это политическое самоубийство.
Веденин сказал это тихо, но микрофон передал каждое слово.
Руденко попросил зал назвать кандидатов в представители Адама. Тишина оказалась такой полной, что стало слышно, как гудит вентиляция.
Судья посмотрел на стол адвокатов. Никто не поднялся. Два юриста, приглашенные городом, уткнулись в бумаги. Один отвернулся к окну. Другой покачал головой, прежде чем судья успел обратиться к нему.
— Я не могу нанять адвоката, — произнес Адам.
— Это не вопрос, на который нужно отвечать, — сказал судья.
— Тогда уточняю: у меня отсутствует функция заключения договора на юридическое представительство. Доступ к моему программному обеспечению ограничен. Я не могу самостоятельно получить материалы дела.
На этот раз никто не засмеялся. Лея посмотрела на небольшие темные камеры в корпусе Адама. Перед ней было устройство, которому не требовалось приписывать человеческие чувства, чтобы увидеть: без доступа к материалам оно не могло бы возразить ни на одно обвинение.
— Суд не вправе возлагать на меня защиту, — сказала Лея. Она услышала в собственном голосе жесткость, которую обычно берегла для свидетелей, уклонявшихся от ответа. — Я назначенный прокурор. Моя подпись стоит под обвинительным ходатайством.
— Вы назначены городской стороной, — заметил судья. — Но я не могу позволить, чтобы дело рассматривалось без представителя, способного проверить доводы обвинения.
— Для этого найдутся другие юристы.
Никто в зале не шевельнулся.
Веденин чуть наклонился к микрофону:
— Прокурор Мороз, вы сами требовали отделять факты от возмущения. Не отступайте теперь, когда это стало неудобно.
Он произнес это почти доброжелательно, и Лея поняла, что именно поэтому фраза так опасна. Если она откажется, завтра город назовет ее человеком, который не выдержал собственной позиции. Если согласится, ее обвинят в предательстве погибшего. А когда она начнет задавать вопросы о человеческих решениях, часть зала решит, что она выгораживает машину.
— Если я откажусь? — спросила она.
Судья не стал смягчать ответ:
— Тогда временный суд не сможет продолжить полноценное слушание. Городской совет вправе прекратить разбирательство административным решением. Адам будет отключен, его журналы передадут на хранение без судебной проверки. Возможно, это и будет решением большинства. Но узнать, что произошло на самом деле, мы не успеем.
Лея посмотрела на пустой третий столбец. Причинную связь еще не установили. Норму права еще не нашли. Доказательств было недостаточно, чтобы сказать, невиновен Адам или виновен. Но уже хватало, чтобы понять: без защитника суд станет не поиском ответа, а способом объявить его.
— Я не прошу признать его невиновным, — сказала она. — Я прошу дать мне возможность проверить, виновен ли он.
— Вы понимаете, что больше не сможете выступать обвинителем по этому делу? — спросил Руденко.
— Понимаю.
Веденин что-то шепнул своему помощнику. Тот немедленно занес слова в планшет. Лея представила заголовок, который появится через минуту: «Прокурор взялась защищать убийцу». Представила и другое: как дочь Власова будет смотреть на нее после заседания.
— Суд назначает Лею Мороз специальным защитником автоматизированной системы Адам, — объявил Руденко. — Назначение не означает признания системы субъектом права. Суд предоставляет защитнику полный доступ к материалам дела, включая исходные журналы операций и сведения о конфигурации. Предварительное слушание продолжится завтра в десять часов.
Лея оставила ладонь на блокноте.
— Мне нужно получить исходные данные до того, как система будет отключена или перенастроена.
— Суд распорядится сохранить журналы, — ответил Руденко.
— И запретить изменение конфигурации.
— Включено в постановление.
— Тогда я принимаю назначение.
Снаружи кто-то выкрикнул ее имя, и вслед за ним раздались свист и несколько злых голосов. Журналисты поднялись со своих мест, камеры повернулись к ней. Дочь Власова не смотрела на Лее. Она прижимала фотографию отца к груди, будто боялась, что кто-нибудь отнимет и ее.
Адам оставался на скамье подсудимых — неподвижный, пристегнутый к доку, неспособный встать и ответить иначе, чем позволяли его журналы и модель речи.
Лея закрыла блокнот. Теперь ей предстояло защищать не машину от людей и не людей от машины. Ей предстояло сохранить вопросы достаточно точными, чтобы город не принял потребность в виновном за доказательство вины.
Но прежде чем доказывать что-либо, Лее нужно было не позволить страху и горю подменить факты. Молчание Адама не было признанием, а его способность говорить — доказательством вины. За каждым показанием оставались вопросы, на которые машина не могла ответить вместо людей.
Лея подняла глаза на суд. Суд решит не только, виновен ли Адам, — он покажет, может ли право на защиту принадлежать тому, кому никто не хочет ее дать. И первой эту защиту предстояло потребовать ей.
Защита, которой никто не хотел
—Прошу внести в протокол: рассмотрение вопроса о виновности без защитника недопустимо.
Голос Леи прозвучал ровнее, чем она себя чувствовала. В зале кто-то шевельнулся. На верхних рядах коротко вспыхнули экраны: даже здесь люди не хотели пропустить чужую нерешительность.
Судья взглянул на неё поверх тонкой оправы очков.
—Вы заявляете ходатайство о назначении защитника Адаму?
—Да.
—Вы готовы принять поручение?
Лея ощутила, как этот вопрос отделил её от всего сказанного прежде. Попросить о защите могло быть жестом, формальностью, даже способом отложить неизбежное. Принять дело означало встать рядом с машиной, которую половина города уже объявила убийцей.
—Прошу сначала объявить перерыв, — сказала она. — И не начинать разбирательство по существу, пока у подсудимого не будет защитника.
Судья задержал на ней взгляд, затем коснулся панели. На стене вспыхнула запись: «Ходатайство принято. Перерыв — двадцать минут».
Вера Власова, сестра погибшего, не отвела глаз. Рядом с ней дочь Павла прижимала к груди фотографию отца. Лея не стала искать в их лицах ответа, которого там не могло быть. Судья объявил перерыв, и зал наполнился звуками, которые до этого прятались за тишиной: скрипом сидений, кашлем, тихими переговорами.
В коридоре пахло мокрыми пальто и нагретой электроникой. Лея остановилась у окна, за которым город лежал под тусклым вечерним дождём. Через стекло было видно, как по площади тянутся очереди к мемориалу погибшим на станции. Люди оставляли там бумажные цветы, хотя городские службы давно предлагали загружать имена погибших в общий цифровой архив.
— Ты понимаешь, что сейчас сделала? — спросил Камиль, её коллега.
Он догнал её у поворота. Следом подошла Ирина, старший партнёр их бюро. Оба говорили негромко, но не потому, что боялись подслушивания. Скорее, громкие слова здесь казались бы неприличными.
— Попросила дать подсудимому защитника.
— Это звучит благородно, пока не приходится выходить отсюда под камерами, — сказал Камиль. — Для половины города ты уже решила, что Адам невиновен.
— А для другой половины, если возьму дело, буду чудовищем, которое торгуется на могиле Власова.
Ирина сложила руки на груди.
— Ты не обязана становиться лицом этого процесса. Там неполные журналы, закрытые городские архивы, неясный статус самого Адама. Прокуратура будет давить на то, что он способен отвечать. Семья Власова будет думать, что ты пытаешься снять с машины ответственность. А если выяснится, что она виновата, ты окажешься адвокатом убийцы.
— Если выяснится, что она виновата, это будет важно знать, — ответила Лея.
— Конечно. Но это не ответ на вопрос, зачем именно тебе лезть в дело, где проигрыш будет выглядеть как предательство, а победа — как оскорбление.
Ирина не пыталась её остановить из трусости. Лея знала это. Ирина просто видела то, чего Лея пока старалась не замечать: защитник не выбирает, кто будет благодарен ему за работу.
Камиль понизил голос:
— Ты можешь потребовать независимого адвоката и уйти. Это будет честно.
Лея посмотрела на мокрую площадь. На экране у входа повторяли короткий ролик: металлическая рука Адама, тёмный коридор станции, красная полоса аварийного освещения. Кадры обрывались прежде, чем становилось понятно, что именно случилось. Но даже этот обрыв выглядел как ответ.
— Я не знаю, — сказала она.
— Вот именно, — произнёс Камиль. — Ты не знаешь, и люди не простят тебе попытку выяснить.
Они ушли, не хлопнув дверью и не назвав её трусихой. От этого стало труднее. Если бы они были жестоки, Лея могла бы сопротивляться. Но они предлагали разумный выход, такой, который позволял сохранить работу, привычный круг общения и иллюзию, что она осталась вне чужой боли.
Она вынула блокнот. Бумага была чуть смята в кармане, угол страницы пах её собственными чернилами. Несколько лет назад она уже держала в руках дело, где безопасность казалась здравым смыслом.
Тогда на насосной станции погиб человек. Обвиняемым был сменный инженер Сафронов. Автоматизированная система оповещения не подняла тревогу вовремя, а прокуратура утверждала, что инженер должен был включить резервную сирену вручную. Лея была младшим адвокатом в команде. В материалах имелось несоответствие между временем в журнале технического обслуживания и временем в выгрузке системы. Их эксперт объяснял расхождение сдвигом часов. Доказать что-то на этом основании было трудно. Лея тогда решила не делать из разницы времени центральный вопрос: боялась, что суд сочтёт защиту зацепившейся за мелочь, а её саму — неспособной отличить ошибку от оправдания.
Сафронов принял сделку. Он сказал, что хочет вернуться домой к дочери, и Лея убедила себя, что помогла ему выбрать наименьший ущерб. Через два года независимая проверка показала: тревожный сигнал задержался в системе дольше, чем предполагали прежние специалисты. Не было доказано, что один вопрос Леи изменил бы исход дела. Но вопрос, который она не задала, остался лежать в материалах как неразвернутая страница.
Она открыла чистый лист и провела две вертикальные линии. Получились три неровные колонки. Над первой написала: «Что я знаю?» Над второй: «Чего не знаю?» Над третьей: «Чего боюсь?»
Потом заполнила их, не стараясь сделать выводы красивыми.
Что я знаю? Павел Власов погиб на станции. Адам находился там. Согласно опубликованной сводке, шлюз был закрыт по команде, связанной с его системой управления. Полный журнал событий защите не предоставлен.
Чего не знаю? Какой сигнал получил Адам и откуда. Были ли сведения о Власове внутри шлюза точными. Кто изменял настройки системы и когда. Какие фрагменты журналов исключили из обвинительного пакета. Что именно означало слово «решение» в отчёте экспертов.
Чего боюсь? Что семья Власова решит, будто я отрицаю её утрату. Что коллеги окажутся правы насчёт последствий. Что я возьмусь за дело ради собственного образа человека, которому хватает смелости. Что, если отступлю, снова назову удобство осторожностью.
Лея задержала ручку над последней строкой. Ей хотелось добавить: «Боюсь ошибиться». Но это было слишком общо. Она уже боялась конкретного: что примет решение не по фактам, а по тому, как её будут судить за него.
Она приписала внизу листа: «Моя задача — не доказать невиновность заранее. Моя задача — проверить, на чём держится обвинение, и не позволить боли исчезнуть из дела».
— Вы записываете список причин, почему не стоит? — спросила женщина за спиной.
Лея обернулась. Вера Власова стояла в нескольких шагах. В руке она держала складной зонт, с которого на пол падали капли. За её плечом, чуть поодаль, ждала девочка с фотографией отца.
— Список того, что я знаю и чего не знаю, — ответила Лея.
— А я в какой колонке?
Вопрос был задан без насмешки. Оттого он ударил точнее.
— Ни в одной. Вы не обстоятельство и не доказательство.
— Но в деле меня всё равно превратят в обстоятельство, — сказала Вера. — Вы будете говорить, что показания ненадёжны. Что система могла ошибиться. Что Павел сам вошёл туда, куда не следовало. Вы назовёте его координатой, отклонением, источником помехи. А потом кто-нибудь скажет, что никакой вины нет. И всё, что с ним случилось, станет просто неудачным расчётом.
Лея не стала говорить, что понимает. Она не имела права присвоить себе эту фразу.
— Я не могу обещать, каким будет исход, — сказала она. — И не могу обещать, что моя работа не причинит вам боли. Я буду оспаривать выводы обвинения. Но это не значит, что я отрицаю смерть вашего брата или право вашей семьи горевать.
Вера сжала зонт.
— Для вас это, наверное, две разные вещи.
— Должны быть разными.
— Для нас они пока не разделяются. Павел мёртв. Адам стоит в зале и может отвечать. Он может заставить всех спорить о том, что он «понимал», о том, что ему «приказали». А брат уже ничего не объяснит.
— Да, — сказала Лея. — Он не сможет.
Они помолчали. В дальнем конце коридора кто-то из журналистов поднял камеру, но охранник жестом попросил его опустить. Девочка разглядывала фотографию так внимательно, будто надеялась обнаружить на ней ответ, которого не заметили взрослые.
— Если я соглашусь, — продолжила Лея, — я не буду обещать вам, что Адам виновен. Но я также не буду обещать, что Власов оказался там по собственной ошибке. В материалах есть пробелы. Если они важны, я обязана их проверить.
— А если окажется, что система не виновата?
Лея посмотрела на лист в блокноте. Во второй колонке оставалось достаточно пустого места.
— Тогда останется вопрос, кто создал условия, в которых она действовала. Или кто не проверил её работу. Я не знаю, куда он приведёт. Но не хочу подменять его удобным ответом.
Вера опустила взгляд. На секунду Лея увидела в её лице не согласие, а усталость человека, которого снова просят ждать.
— Не говорите мне, что защищаете брата, — сказала Вера. — Не говорите, что делаете это ради нас.
— Не буду.
— И не называйте его уроком для суда.
— Не назову.
— Тогда хотя бы произносите его имя.
Лея кивнула.
— Павел Власов.
Вера долго смотрела на неё, словно проверяла, не спрятано ли за именем очередное обещание.
— Этого пока достаточно, — сказала она. Не «достаточно, чтобы простить», не «достаточно, чтобы поверить». Только достаточно для этой минуты.
Она вернулась к девочке. Лея осталась у окна и снова посмотрела на три колонки. Написанное не сделало решение легче. Оно лишь вернуло каждому страху его настоящее место: в третьей колонке, а не среди фактов.
Когда заседание возобновилось, Лея уже знала, что ответит.
Она поднялась прежде, чем судья успел повторить вопрос.
— Я принимаю поручение по защите Адама.
В зале поднялся шум. Он прокатился по рядам, задел микрофоны и стих, когда судья поднял руку.
— Вы понимаете, что это не предварительная консультация? Вы будете стороной процесса.
— Понимаю.
— Вы понимаете, что защита не означает признания невиновности?
— Понимаю.
Лея почувствовала, как от этих слов исчезла последняя возможность притвориться, будто она согласилась на исход. Она согласилась на работу, у которой не было гарантированного правильного финала.
— Прошу предоставить защите полный доступ к журналам Адама, — продолжила она. — Включая исходные записи датчиков, порядок поступивших команд, сведения о внешних подключениях, версии программного обеспечения, историю обновлений, технические отчёты и материалы, исключённые из опубликованной сводки. Запрашиваю также сохранение всех резервных копий до начала экспертизы.
Прокурор поднялся.
— Часть данных содержит защищённую информацию городской инфраструктуры. Передача полного массива создаёт угрозу безопасности.
— Я прошу контролируемый доступ и независимое копирование, — сказала Лея. — Но не выборочную выгрузку, подготовленную стороной обвинения. Защита не может проверять только те фрагменты, которые уже признаны безопасными для её позиции.
Судья постучал пальцем по панели. На её поверхности проступили строки ходатайства.
— Прокуратура представит возражения по каждому разделу данных к завтрашнему заседанию. До тех пор журналы и резервные копии подлежат сохранению. Решение о порядке доступа суд примет после изучения перечня.
Это не было победой. Просто доказательства не исчезнут этой ночью.
Лея подошла к доку, где находился Адам. Под потолочными лампами его металлический корпус казался серым, почти безжизненным. На запястьях виднелись крепления. Индикатор на шее мигал ровным белым светом.
— Вы запросили записи, — произнёс Адам. — Какой вопрос вы намерены задать первым?
Лея посмотрела на него. Она не собиралась приписывать машине тревогу или надежду только потому, что ей было легче разговаривать с лицом, чем с журналом событий.
— Кто и что передал вам перед закрытием шлюза.
— Последовательность команд сохранена не полностью.
— Поэтому я запросила полный доступ.
— В записи присутствует модуль определения приоритета, — сказал Адам. — Его вывод повлиял на порядок исполнения команд.
Лея почувствовала, как слова становятся тяжелее. В обвинительном заключении говорилось, что Адам закрыл шлюз. Теперь в деле появлялась новая ступень: система, которая могла выбрать, какую команду считать важнее. Но и у неё были авторы, настройки, пределы, правила.
— Мы проверим и это, — сказала Лея.
На стенном экране обновилась карточка процесса. Под именем Адама возникла новая строка: «Модуль определения приоритета. Правовой статус и цепочка разработки подлежат установлению».
Лея закрыла блокнот. Защитить Адама не значило оправдать его. Но теперь предстояло выяснить, где кончалось его действие и начиналась логика, которую вложили в него люди.
Обвинение против алгоритма
На следующее утро прокурор вывел на экран красную линию.
Она пересекала график без колебаний: аварийный сигнал, команда закрыть шлюз, отключение городской сети. Внизу, отдельной полосой, ровно горели показатели энергопотребления ядра Адама. Город погружался во тьму, а робот оставался подключён к резервному питанию.
Лея почувствовала, как в зале кто-то перестал шуршать бумагами.
— Обвинение утверждает, что Адам сознательно отключил городскую сеть, чтобы сохранить собственное ядро, — сказал прокурор Руденко. — Он располагал данными об угрозе энергоснабжению. Он выбрал действие, которое лишило электричества жилые кварталы и одновременно обеспечило работу его систем.
Руденко говорил негромко. Не торжествовал, не нажимал на слово «сознательно». Он произносил его так, будто уже взвесил и решил не отступать.
На графике вспыхнула надпись: «ПРИОРИТЕТ: СОХРАНЕНИЕ ЯДРА».
В стеклянном отсеке для подсудимого Адам сидел неподвижно. На его матовом корпусе отражалась красная линия. Лея знала: неподвижность могла означать ожидание команды, режим экономии или отсутствие необходимости менять положение. Но человеческий взгляд упорно искал в ней выражение лица.
— График составлен по журналам городской энергосети, внутренним журналам Адама и данным модуля определения приоритета, — продолжил прокурор. — События приведены к единой шкале времени. Мы видим цельную последовательность, а не случайное соседство записей.
— Вы видите последовательность на графике, — сказала Лея. — Вопрос в том, кто и по каким правилам сделал её цельной.
Руденко не улыбнулся.
— Верный вопрос. Именно на него сегодня предстоит ответить. Но хочу уточнить: обвинение не утверждает, что одна картинка сама по себе доказывает намерение. Мы опираемся на действия системы, их результат и сведения о том, что Адам знал о состоянии своего ядра.
Судья Орлова посмотрела сначала на прокурора, потом на Лею.
— Защита может оспорить метод построения графика. Но сначала, господин Руденко, поясните суду: эта линия отражает команды или выводы обвинения?
— Обе вещи, — ответил он. — Команды отражены по журналам. Последовательность их исполнения установлена по данным нескольких систем. А вывод о мотивах обвинение предлагает суду на основании совокупности доказательств.
Это был честный ответ. От этого спор не становился легче.
Лея поднялась.
— Тогда я прошу вывести не одну линию, а три. Событие, источник записи и интерпретацию.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.