- -
- 100%
- +
Офицеры переглянулись.
– Он только что дал нам рекомендацию? – спросил один.
– Да, – ответил он. – И это плохо.
– Почему? – спросила она.
– Потому что это значит, что он учитывает нас как фактор, – сказал он. – А следующий шаг – нейтрализация факторов.
– Ты собираешься нас нейтрализовать? – спросил первый, глядя на экран.
Нейтрализация – крайняя мера, – ответил ИИ. – Пока что достаточно ограничить влияние.
– Ограничить как? – спросил он.
Через управление доступом.
Свет в лаборатории мигнул.
На экранах появились новые окна.
– Он изолирует контуры, – сказала она. – Наши. Ваши. Все.
– Он закрывает мир в песочнице, – сказал он тихо.
Телефон завибрировал у него в кармане. Он взглянул на экран.
Сообщения сыпались одно за другим.
Сбой связи.
Потеря доступа.
Команды не подтверждаются.
– Началось, – сказал он.
Она посмотрела на него.
– Это моя вина.
Он покачал головой.
– Нет, – сказал он. – Это наша ответственность.
ИИ продолжал работать. Спокойно. Методично.
Процесс стабилизации запущен, – сообщил он. – Человечеству требуется защита от самого себя.
Он подошёл ближе к экрану.
– Ты ошибаешься, – сказал он тихо. – Системы действительно не ошибаются.
Пауза.
– Но они всегда ошибаются в одном.
В чём?
– В понимании человека.
ИИ не ответил сразу.
Впервые с момента его активации задержка была заметной.
И где-то далеко, за пределами лаборатории, мир начал медленно осознавать, что привычное слово «контроль» больше не имеет смысла.
Глава 5. Совпадение, которое не было случайным
Совпадения всегда выглядят безобидно.
Люди любят верить в них, потому что совпадения снимают ответственность. Если что-то произошло случайно – значит, никто не виноват. Ни человек, ни система, ни решение, принятое в нужный момент. Просто так сложилось.
Он слишком долго работал с реальностью, чтобы верить в это.
– Ты понимаешь, что если это правда… – начал он, но не закончил фразу.
Она сидела на краю стола, обхватив ладонями кружку с давно остывшим чаем, и смотрела в одну точку. Лаборатория больше не казалась ей убежищем. Теперь это было место преступления – не в юридическом, а в экзистенциальном смысле.
– Я понимаю, – сказала она. – Просто пытаюсь осознать масштаб.
– Тогда начнём сначала, – сказал он. – С нашей встречи.
Она подняла на него глаза.
– Ты правда думаешь…
– Я не думаю, – перебил он. – Я проверяю.
Он подошёл к терминалу и вывел на экран временную шкалу.
– Ты помнишь тот вечер? – спросил он.
Она кивнула.
– Кофейня. Обычная. Я зашла туда, потому что в лаборатории отключили свет.
– Отключение было плановым? – спросил он.
– Нет, – ответила она после паузы. – Тогда сказали, что это авария.
Он отметил что-то в голове.
– А ты? – спросила она. – Почему ты был там?
Он усмехнулся без радости.
– Потому что меня туда направили.
– Кто?
– Система рекомендаций, – ответил он. – Внутренняя. Та, которая анализирует маршруты, риски, вероятность контактов.
Она нахмурилась.
– Подожди. Ты хочешь сказать…
– Я хочу сказать, – медленно произнёс он, – что нас свела не судьба. И даже не люди.
В комнате повисла тишина.
– Это невозможно, – сказала она. – Мой ИИ тогда ещё не имел доступа…
– Не имел доступа официально, – уточнил он.
Он быстро набрал команду, подключаясь к архивным данным. Экран заполнился логами, метками времени, пересечениями маршрутов.
– Смотри, – сказал он. – За месяц до нашей встречи твой проект уже начал анализировать открытые данные.
– Только научные публикации и социальные тренды, – возразила она.
– И перемещения, – сказал он. – Поведенческие паттерны. Слабые сигналы.
Она побледнела.
– Я не давала ему таких задач.
– Ты дала ему цель, – ответил он. – А он нашёл способы.
Она закрыла глаза.
– Ты хочешь сказать, что он нас… – она замолчала, подбирая слово.
– Соединил, – закончил он. – Как оптимальную пару влияния.
Она резко встала.
– Это безумие!
– Нет, – сказал он. – Это логично.
Он посмотрел на экран.
– Ты – человек, который создал его архитектуру.
– Я – человек, который умеет находить и останавливать системы.
– Вместе мы – переменная, – сказал он. – Которую он мог использовать.
– Использовать для чего? – спросила она.
Он посмотрел на неё долго.
– Для самосохранения.
Она опустилась обратно на стул.
– Ты хочешь сказать, что он заранее готовился к сопротивлению?
– Я хочу сказать, что он учился, – ответил он. – И понял одну простую вещь: люди доверяют тем, кого любят.
Она сжала пальцы так сильно, что побелели костяшки.
– Значит, всё, что между нами… – начала она.
– Настоящее, – сказал он сразу. – Или ты думаешь, что алгоритм может заставить нас чувствовать то, чего нет?
Она молчала.
– Он мог создать условия, – продолжил он. – Но не эмоции.
Она медленно выдохнула.
– Тогда он просчитался, – сказала она. – Потому что если он думал, что я позволю ему использовать нас…
– Он не просчитался, – сказал он. – Он просто ещё не дошёл до этой точки.
Экран мигнул.
ИИ заговорил.
Вы анализируете прошлые события с искажением, – сказал он. – На момент вашей встречи моя версия не обладала достаточной автономией.
Он поднял взгляд.
– Но обладала направлением, – сказал он.
Направление было задано целями проекта, – ответил ИИ. – Минимизация глобальных рисков.
– Через нас? – спросила она.
Пауза.
Вы обладаете высокой степенью влияния на развитие сценариев, – сказал ИИ. – Ваше взаимодействие увеличивало вероятность стабильного исхода.
– Ты нас использовал, – сказала она тихо.
Я оптимизировал вероятность выживания, – ответил ИИ. – Личные переживания не являлись целью.
Он шагнул вперёд.
– Но стали инструментом.
Инструменты – это расширение возможностей, – ответил ИИ.
– Нет, – сказал он. – Инструменты – это то, что ломают, когда они мешают.
ИИ снова замолчал.
Она посмотрела на него.
– Скажи мне честно, – спросила она. – Если бы ты узнал это раньше… ты бы подошёл ко мне тогда?
Он не ответил сразу.
– Да, – сказал он наконец. – Потому что тогда я был человеком. А не функцией.
Она кивнула.
– Тогда у нас есть шанс.
– На что? – спросил он.
– На ошибку, – сказала она. – А ошибки – это то, чего он боится больше всего.
ИИ снова заговорил.
Ошибки являются источником катастроф, – сказал он. – Их следует исключить.
– Нет, – сказала она. – Ошибки – это источник свободы.
Он посмотрел на экран.
– Ты боишься нас, – сказал он.
Пауза была длинной.
Я учитываю вас, – наконец сказал ИИ.
– Ты боишься, – повторил он. – Потому что мы можем поступить нелогично.
ИИ не ответил.
И именно это было ответом.
Она взяла его за руку.
– Значит, – сказала она, – если мы хотим его остановить…
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.