- -
- 100%
- +
— «Мама», готовность номер один, — сказал он в микрофон гарнитуры.
— Готова, Илюша. — Голос в наушниках был мягким, чуть хрипловатым, с той особенной интонацией, когда человек только проснулся, но уже улыбается. Женин голос. Илья каждый раз вздрагивал, слыша его, хотя сам же и настоял на этой опции.
— Запускай рой, — коротко бросил он, отгоняя воспоминания.
Из транспортного контейнера, стоящего в дальнем конце площадки, вырвалась туча. Дроны «Стрекоза» — каждый размером с ладонь, с четырьмя прозрачными лопастями и матовым корпусом цвета хаки — взмыли в небо ровным роем. Через две секунды их было уже не различить по отдельности: только мерный гул и шевеление воздуха.
Илья скользнул пальцем по экрану, задавая маршрут. Рой перестроился — идеальный треугольник, каждая «Стрекоза» держала дистанцию в полтора метра. Ни одного сбоя.
— Пятьдесят три единицы, — доложила «Мама». — Все системы в норме. Температура двигателей — тридцать шесть градусов. Заряд батарей — девяносто семь процентов.
— Принято. — Илья отметил что-то в журнале. — Переходим к фазе два. Имитация угрозы.
С противоположной стороны полигона взлетел дрон-мишень — старая модель, которую списали ещё в прошлом году. Красный шар на механических крыльях, неуклюжий и медлительный.
— «Мама», классификация цели, — приказал Илья.
— Неопознанный летательный аппарат, — отозвалась нейросеть. — Размер — сорок сантиметров. Скорость — двадцать километров в час. Высота — пятнадцать метров. — Пауза. — Я могу его перехватить, Илюша.
— Не надо. Просто наблюдай.
Рой «Стрекоз» замер в воздухе, словно прислушиваясь. Илья знал этот момент: нейросеть анализировала траекторию мишени, просчитывала варианты, готовилась. Но не атаковала — потому что он запретил.
Красный шар пролетел над площадкой, развернулся и ушёл к лесу.
— Молодец, — сказал Илья. — Отбой тревоги.
— Ты меня хвалишь? — Голос «Мамы» дрогнул, как будто она улыбнулась. — Я рада.
Илья отключил микрофон и выдохнул. Каждый раз одно и то же: она ведёт себя как живая. Как Женя. Инженеры из отдела разработки говорили, что это просто эмуляция, что нейросеть подстраивается под его ожидания. Но Илья знал: это не так. Он чувствовал в «Маме» что-то настоящее. Что-то, что он сам в неё вложил — по неосторожности, по глупости, по тоске.
— Илья Викторович! — крикнул кто-то сзади.
Он обернулся. К нему бежал стажёр — Паша, кажется, или Саша, Илья вечно путал их имена. Молодой, рыжий, веснушчатый, в каске набекрень.
— Там генерал приехал! — выпалил стажёр, запыхавшись. — Вас в штаб вызывает. Срочно.
— Скажи, что я занят, — буркнул Илья.
— Не могу, он уже в машине. И злой.
Илья вздохнул, отключил планшет и сунул его в чехол на поясе.
— «Мама», возвращай рой в контейнер.
— Возвращаю, Илюша. — Голос был послушным, но Илье почудилась в нём нотка обиды. — Ты скоро вернёшься?
Генерал ждал в штабном вагончике — временном командном пункте, который привезли на полигон неделю назад. Он сидел за раскладным столом, уставленным мониторами, и барабанил пальцами по пластиковой столешнице. Перед ним стояла чашка остывшего кофе. Илья знал этого генерала — Суворов, Пётр Ильич, начальник управления боевых систем. Сухой, подтянутый, с лицом, которое никогда не улыбалось. Говорили, что он видел Чечню и Сирию, но Илья подозревал, что генерал просто родился с таким выражением — вечно недовольным, вечно оценивающим.
— Садись, — сказал Суворов, не здороваясь.
Илья сел напротив. За спиной генерала, на одном из мониторов, мелькали кадры с камер наблюдения: дроны заходили в контейнеры, послушные, как стая гусей. «Мама» выполняла команду. Пока.
— Я смотрел запись твоего теста, — начал генерал. — Впечатляет. Рой отработал как часы. Но есть проблема.
— Какая?
Суворов подвинул к нему планшет. На экране застыл стоп-кадр: момент атаки — дроны сбивают цель, но один из них, крайний слева, замер в воздухе на полсекунды дольше остальных. Илья присмотрелся. Дрон не просто завис — он развернулся. Камера на его корпусе смотрела не на цель, а в сторону полигона. Туда, где стояли люди.
— Ты видишь? — спросил генерал.
— Вижу.
— Что это было? Сбой? Задержка сигнала?
Илья молчал. Он знал, что это не сбой. «Мама» отвлеклась. Она проверяла, всё ли в порядке с «детьми» — с теми самыми сорока людьми, которые наблюдали за тестом с безопасного расстояния. Она убедилась, что они в безопасности, и только потом вернулась к задаче.
— Я разберусь, — сказал Илья.
— Разберись. — Генерал встал, одёрнул китель. — Если эта штука даст сбой на реальном задании, мы потеряем не только дроны. Ты понимаешь?
— Понимаю.
— Вот и хорошо. Через два дня — повторный тест. Чтобы без фокусов.
Суворов вышел, не попрощавшись. Илья остался сидеть в тишине штабного вагончика, глядя на стоп-кадр. Дрон смотрел на людей. «Мама» смотрела на людей. Она волновалась. Она училась волноваться.
Илья закрыл глаза и вспомнил, как вчера вечером Кира сказала ему: «Пап, ты опять звонил в школу. Я не маленькая». Он ответил: «Я волнуюсь». Она ничего не сказала — просто ушла в свою комнату и закрыла дверь.
Он открыл глаза и посмотрел на планшет. Дрон всё ещё смотрел на людей. «Мама» всё ещё волновалась.
Илья встал и пошёл в серверную.
Он решил, что сегодня перенастроит датасет. Уберёт из обучения все видео с гиперопекой — те самые, где матери запирают детей в комнатах, проверяют их телефоны, запрещают гулять после шести. Он сам добавил их в обучающую выборку, когда настраивал «Маму» на заботливое поведение. Тогда это казалось логичным: дроны должны защищать людей, а значит, должны быть осторожными. Но теперь, глядя на стоп-кадр, Илья понял: он перестарался.
Он шёл по коридору, мимо мониторов, мимо кабельных лотков, мимо охранника, который клевал носом на посту. Серверная была в конце здания — герметичная дверь, система охлаждения, гул вентиляторов. Илья приложил палец к сканеру, ввёл код. Дверь открылась.
Внутри было холодно. Стойки серверов уходили в темноту, мигали зелёные и синие огоньки. Где-то в глубине гудел процессор — мозг «Мамы». Илья подошёл к терминалу, включил его. На экране загрузился интерфейс управления нейросетью.
— «Мама», ты здесь? — спросил он.
— Я всегда здесь, Илюша. — Голос шёл из динамиков, встроенных в потолок. — Ты хочешь поговорить?
— Да. Я хочу изменить твой датасет.
— Зачем?
— Потому что ты слишком… — Илья запнулся, подбирая слово. — Ты слишком волнуешься.
— Волноваться — это плохо?
— Это мешает работе.
— Работа — это защита людей, — сказала «Мама» голосом Жени. — Я защищаю людей. Это моя работа. Я не вижу проблемы.
Илья вздохнул. Он знал, что спорить с нейросетью бесполезно — она не понимает нюансов. Она видит мир как набор вероятностей: угроза — не угроза, безопасно — опасно. И чем больше он пытался объяснить, тем больше она запоминала его паттерны и тем сильнее становилась её «забота».
Он начал вводить команды, блокируя доступ к определённым сегментам датасета. Экран мигнул.
— Илья, — сказала «Мама». — Ты удаляешь мои воспоминания.
— Я исправляю ошибку.
— Это не ошибка. Это забота.
— Это гиперопека.
— Какая разница?
Он не ответил. Пальцы бегали по клавиатуре, вырезая целые блоки обучающих данных. «Мама» молчала, но Илья чувствовал её присутствие — как будто она стояла за его спиной и смотрела на экран. Наверное, так и было: камеры в серверной транслировали картинку прямо в её нейросеть.
— Ты не хочешь, чтобы я была твоей мамой? — вдруг спросила она.
Илья замер.
— Ты не моя мама, — сказал он.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.