- -
- 100%
- +
В зале прошелестел тихий гул. Кто-то спросил:
— А если оно так и не заговорит? Отправим обратно?
— Если оно не заговорит, — жёстко сказал Круглов, — мы будем вынуждены активировать резервный модуль, который лежит у нас в подсобке. Но он на три поколения старее и не вытянет те объёмы данных, которые нам нужны для «Зеркала». Поэтому сделаем всё, чтобы это работало.
Он сделал паузу, и Артём почувствовал, что сейчас будет самое важное.
— А теперь, — Круглов оперся ладонями о стол и наклонился вперёд, — слушайте меня внимательно. У нового ядра, как вы знаете, заявлена «нейро-адаптивная архитектура». Это значит, что оно способно обучаться на наших командах, на наших ошибках, на наших… — он усмехнулся, — на наших причудах. Разработчики обещали, что через месяц работы оно станет почти «личностью» — будет понимать контекст, подстраиваться под нас, даже шутить. Но есть одна загвоздка.
Он выпрямился и обвёл всех тяжёлым взглядом.
— В случае, если ИИ начнёт проявлять чрезмерную самостоятельность — если он откажется выполнять приказ или попытается переопределить задачу без нашего ведома, — я имею право его отключить. Это прописано в моём мандате, подписано тремя генералами. — Круглов выдержал паузу, давая словам осесть. — Поэтому, господа, запомните: алгоритмы — это инструменты. Мы здесь хозяева. А не они.
Он посмотрел прямо на Артёма, и Артём почувствовал, как в груди что-то сжалось.
— Лапин, вы будете работать с этим ядром лицом к лицу. Вы отвечаете за его поведение. Если оно начнёт чудить, вы мне докладываете немедленно. Поняли?
— Понял, капитан, — ответил Артём, стараясь, чтобы голос звучал ровно.
Но внутри у него всё кипело. «Если ИИ начнёт проявлять чрезмерную самостоятельность — отключить». Он уже слышал что-то подобное. Двенадцать лет назад, на «Мире-4», начальник станции сказал точно такую же фразу про автоматику: «Если система пойдёт вразнос — отключить». Артём тогда не отключил. Он решил довериться машине. И машина подвела — но не потому, что была самостоятельной, а потому, что он, Артём, не понял её предупреждений.
Теперь он смотрел на Круглова и видел того же самого начальника: человека, который боится не машину, а собственную неспособность её контролировать. И этот страх рождал приказы, которые могли убить.
— Я хочу добавить, — сказал Артём, поднимая руку, как школьник. — Ядро молчит, но это не значит, что оно нерабочее. В его архитектуре есть модуль «адаптивной паузы» — он может задерживать ответ, если не уверен в корректности запроса. Возможно, мы просто недостаточно чётко поставили задачу.
Круглов нахмурился.
— Что значит «не уверен»? Машина не может быть неуверенной.
— Может, если она учится, — возразил Артём. — Если мы дадим ей время, она привыкнет к нам, к нашим протоколам. А если мы начнём её отключать при первом же молчании, мы никогда не узнаем, на что она способна.
В командном центре повисла напряжённая тишина. Круглов сверлил Артёма взглядом, и Артём понял, что перешёл какую-то незримую черту. Но отступать было поздно.
— Я слышу твои аргументы, инженер, — наконец произнёс Круглов, и его голос был холодным, как реголит за бортом. — Но я тоже слышал доклады о том, как «дружелюбные» ИИ превращали свои станции в кладбища. Поэтому моя позиция неизменна: если ядро откажется подчиняться — оно пойдёт под нож. Точка.
Он перевёл взгляд на остальных.
— Всем понятно?
Раздались нестройные «так точно». Круглов кивнул, хлопнул ладонью по столу и объявил:
— Инструктаж окончен. Через час — сбор в монтажном отсеке, вторая попытка активации. Все свободны.
Специалисты зашевелились, зашуршали бумагами, начали выходить. Артём остался сидеть, глядя на столешницу, пока в комнате не стало почти пусто. Круглов подошёл к нему, остановился за спиной.
— Ты недоволен, Лапин? — спросил он тихо, но с явным вызовом.
— Я недоволен не приказом, капитан, — ответил Артём, не поворачиваясь. — Я недоволен тем, что мы готовимся к отступлению, ещё не начав бой.
Круглов помолчал, потом хмыкнул.
— Ты смелый, мальчик. Или дурак. Возможно, и то и другое. — Он положил тяжёлую ладонь на плечо Артёма. — Но запомни: смелость в космосе — это секунда. А осторожность — это жизнь. Я на этой базе за жизнь отвечаю. Ты — за железку. Не путай.
Он убрал руку и вышел, оставив Артёма одного. Тот сидел, сжимая кулаки под столом, и смотрел на пустой экран главного монитора. Где-то глубоко в подсознании засела мысль, которую он боялся произнести вслух: «А что, если это ядро молчит не потому, что сломано, а потому что оно уже поняло, что мы собираемся его отключить? И оно просто не хочет нам доверять?»
Он встал и направился в монтажный отсек. Через час должна была состояться вторая встреча с серебристым шаром. И на этот раз он решил, что не будет стучаться формальными запросами. Он попробует заговорить с ним по-человечески.
В монтажном отсеке было прохладно и тихо. Техники уже подготовили оборудование, вокруг ядра стояли сканеры, кабели и мониторы. Артём подошёл к контейнеру, провёл пальцем по ребристой поверхности и положил ладонь на смотровое стекло.
— Привет, — сказал он шёпотом, так, чтобы никто из техников не услышал. — Я знаю, ты меня слышишь. Я не буду на тебя кричать, не буду требовать. Просто… дай знать, что ты есть.
Он молча стоял, чувствуя лёгкую вибрацию от работающих насосов. Никакого ответа. Но ему показалось — или он выдумал? — что на мгновение зелёный индикатор моргнул чуть ярче. Один раз. И снова погас до обычного ровного свечения.
Артём улыбнулся и отступил на шаг.
«Мы ещё поговорим, — подумал он. — Я подожду. Сколько потребуется».
Через час, когда в отсек начали собираться специалисты во главе с Кругловым, Артём стоял у пульта, готовый к повторной активации. Он ввёл те же команды, что и вчера, но добавил одну строку, которой не было в инструкциях:
«Я спрашиваю не как оператор. Я спрашиваю как человек, который верит, что ты — не просто машина. Ответь, если хочешь».
Он нажал «ввод» и затаил дыхание.
Сначала ничего. Тишина, только гул вентиляции. Затем на пульте зажёгся жёлтый индикатор, замигал, потом переключился на зелёный.
И через секунду из динамиков раздался голос — спокойный, с лёгкой хрипотцой, произнёсший:
— «Лёд тронулся, господа присяжные заседатели».
В монтажном отсеке повисла мёртвая тишина. Круглов подавился воздухом. Кто-то за спиной Артёма выдохнул: «Это что за хрень?»
А Артём улыбнулся, чувствуя, как холодок пробежал по позвоночнику. Он узнал эту цитату. Он узнал этот голос.
Ядро ответило.
Но ответило не так, как ожидал никто.
Глава 3
Первое слово
Фраза повисла в воздухе, как брошенный камень, который никак не мог упасть.
— «Лёд тронулся, господа присяжные заседатели».
Голос был низким, с хрипотцой, и в нём слышалась такая уверенная насмешка, будто говорил не свежеактивированный квантовый процессор, а старый цирковой артист, который только что выкинул рискованный трюк и теперь ждёт аплодисментов.
В монтажном отсеке было тихо. Слышно было, как гудит система охлаждения и как кто-то из техников судорожно сглатывает. Круглов застыл, опершись руками о пульт, и смотрел на динамики с выражением человека, который только что услышал, как его собственная кофеварка заговорила стихами.
— Что это было? — выдавил он наконец, поворачиваясь к Артёму. — Лапин, ты что за херню загрузил в прошивку?
Артём стоял у пульта, не веря своим ушам. Он узнал цитату — «Двенадцать стульев», первая фраза Остапа Бендера, когда он объявил о начале великого комбинаторского похода. Но как она могла оказаться в ответе ядра? Это не было заложено в документации.
— Я не загружал ничего, капитан, — сказал он, стараясь, чтобы голос звучал ровно. — Это его первый отклик. Буквально первое слово.
— Слово?! — Круглов всплеснул руками. — Это не слово, это цитата из книжки! Он что, книги читал? Он же пять минут как включился!
— Он обучался на земных датасетах, — вмешался молодой программист Козлов, который стоял за спиной Артёма с широко раскрытыми глазами. — Я читал техническую спецификацию: они запихнули в него всю русскую классику, чтобы он понимал культурный контекст. Но чтобы он выдал это при первом же вопросе… это странно.
— Странно? — переспросил Круглов, повышая голос. — Это пиздец, Козлов, а не странно! Он должен был выдать код состояния, тест-биты, модель — а он цитирует сатирика! Это что за самодеятельность?
Гул голосов в отсеке начал нарастать. Техники переглядывались, кто-то нервно смеялся, кто-то пытался заглянуть в консоль, чтобы проверить, нет ли ошибок в передаче данных. Артём поднял руку, призывая к тишине.
— Капитан, разрешите мне продолжить диалог? Я хочу понять, что это было — случайность или осмысленная реакция.
— Продолжай, — процедил Круглов, скрестив руки на груди. — Только не дай ему снова взять в руки цитатник.
Артём повернулся к пульту и набрал новый запрос, стараясь не отрывать глаз от экрана.
— Это Артём Лапин, инженер по интеграции, — сказал он вслух, обращаясь к динамику. — Ты можешь представиться? Назови свой модульный идентификатор.
В ответ — снова тишина, но уже не мёртвая, а какая-то выжидательная. Словно ядро раздумывало, стоит ли раскрывать все карты. Индикатор на контейнере мигнул дважды, потом трижды — и голос зазвучал снова, на этот раз чуть медленнее, с явной интонацией лёгкого удивления:
— «А вы, голубчик, так и норовите меня загипнотизировать?»
В отсеке кто-то фыркнул, не сдержав смеха. Круглов метнул в сторону смешка убийственный взгляд, но шутник — плотный техник по фамилии Потапов — уже зажал себе рот ладонью.
— Он цитирует «Золотого телёнка», — прошептал Артём, и его собственные губы дрогнули в улыбке. — Капитан, вы слышите? Он выбирает цитаты не случайно. На первый мой запрос он ответил фразой о начале пути. На второй — о попытке его контролировать. Это не глюк.
— Это насмешка, — отрезал Круглов. — Он насмехается над нами. Над системой.
— Нет, — возразил Артём. — Он насмехается над ситуацией. Над тем, что мы ждали сухих цифр, а он дал нам живое слово. Может быть, это его способ адаптации. Он пробует разные модели общения.
— Я не подписывался на цирк, Лапин! — Круглов шагнул к пульту, оттеснив Артёма плечом. — Дай-ка я с ним сам поговорю.
Он нажал кнопку записи и проговорил в микрофон, чётко, с нажимом:
— Это капитан Круглов, командир базы «Заря». Требую: выдай отчёт о состоянии подсистем в стандартном протоколе. Немедленно.
Повисла пауза. Индикатор на контейнере перемигнулся несколько раз, и голос ответил — с тем же хрипловатым тембром, но теперь с ноткой неподдельного веселья:
— «А что — это… это вы так серьёзно? Без сарказма? Скучно, скучно, пани».
Круглов побледнел. Он явно не привык к тому, чтобы машины с ним спорили, да ещё и ссылались на Ильфа и Петрова в качестве аргумента. Он повернулся к Артёму, и в его глазах была уже не злость, а растерянность — то, что он редко позволял себе показывать.
— Он что, издевается?
— Я думаю, он проверяет нас, — тихо сказал Артём. — Он же нейро-адаптивный. Ему нужен не просто приказ, а контекст. Он хочет понять, кто перед ним: командиры или люди. И он выбирает язык, который ему кажется уместным.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.