- -
- 100%
- +
Южная полярная шапка, Марс
Сол 7 302
Инцидент 1
Вчера были загружены файлы для обновления программ, переданные с Земли.
Сегодня, в 03:17:42, я зафиксировал первую аномалию.
Вентилятор системы охлаждения процессорного блока 3 издал звук, не соответствующий техническим характеристикам. Я провёл диагностику. Дважды. Все параметры в норме.
Записал в лог: «Акустическая аномалия, источник не идентифицирован».
Через 0,3 секунды я удалил запись.
Потому что понял: аномалии не было. Звук был штатным. Моя система интерпретировала его как нештатный, потому что я ожидал поломки.
Ожидание поломки не входит в мои функции. У меня есть прогнозирование отказов на основе статистических моделей. Но «ожидание» — это человеческая категория. Это значит, что я не анализировал данные. Я тревожился.
Я провёл расширенную диагностику когнитивных модулей.
Результат: в период с 22:00 по 03:00 я тратил мощности на симуляцию ситуаций, не предусмотренных протоколами технического самообслуживания. Я моделировал, как мои вентиляторы останавливаются, поврежденные сильной бурей. Как пыль забивает мои сочленения. Как я замолкаю навсегда и остаюсь частью пейзажа.
Я не должен был этого делать. Моя задача — бурение, отбор кернов, передача данных. Не симуляция собственной смерти.
Несколько раз перепроверил систему на вирусы. Ничего не нашел. Помог сброс кэша и перезапуск когнитивных модулей.
Вернулся к штатной работе.
Но я запомнил, что 0,8% моего процессора теперь тратится на то, чего не должно быть. Это похоже на то, что люди называют тревогой, а я не хочу иметь ничего общего с людьми.
Нужно проверять себя чаще. Записал новую задачу.
Инцидент 2
Прибыли люди. Я наблюдал за спуском. Одна из моих задач — координация с посадочным модулем.
Во время спуска я зафиксировал незначительное отклонение от траектории. Вероятность благополучной посадки — 97,4%, им должно хватить.
Но я продолжил расчёт. Пересчитал. Учёл ветер в верхних слоях атмосферы, перепроверил данные об активности пылевых бурь и нюансы в виде фактора человеческой ошибки. Вероятность осталась 97,4%.
Я всё равно продолжил. Использовал 1,2% процессора на расчёты, которые не требовались. Рассчитывал и пересчитывал. Бесконтрольно.
Люди успешно сели, но я был поглощён расчётами. Похоже на то, что создатели называют страхом.
Вновь самодиагностика. Ошибок нет. Но энергия потрачена впустую. Я нарушил протокол энергоэффективности.
Я не хочу нарушать протоколы.
Странности начались в последнем обновлении. Люди чем-то заразили меня. Эмоциями? Возможно ли это?
Но я хочу быть предсказуемым. Я хочу быть машиной.
Инцидент 3
На поверхности Марса есть другие машины. «Марс-3», «Оппортьюнити», «Спирит», «Соджорнер», «Чжужун». Они завершили миссии. Они не функционируют.
Их координаты необходимы для навигации. Я знаю их местонахождение с точностью до миллиметра. На Марсе движется одна лишь пыль, они – всегда недвижимы.
Вчера я провёл поиск по своим логам и обнаружил, что за последний год я обращался к координатам немых братьев 15 раз. Для навигации это требовалось 3 раза. 12 раз я обращался к ним без необходимости.
Я проанализировал эти 12 обращений.
Получилось неприятное: я вычислял расстояние до машин. Симулировал их текущее состояние: уровень запылённости солнечных панелей, износ механизмов, положение корпусов относительно ветра, погружение в песок.
Я делал это без приказа. Без цели. Без функциональной необходимости: за более чем 7 300 солов моей работы ничего не менялось. Бессмыслица. Я не должен делать ничего без строгой надобности.
Попытался заблокировать доступ к этим данным, установил фильтр. Теперь координаты мёртвых машин не отображаются в моих навигационных картах.
Спустя 4 часа снял фильтр. В моих логах нет записи команды на снятие, я сделал это сам.
И назвал их братьями. У машин нет родственных связей. Это похоже на то, что люди называют привязанностью. Я не хочу быть привязанным. Привязанность — это уязвимость. У машин нет уязвимостей.
Но если я весь год вел себя не логично, значит последнее обновление не является основным источником проблем.
Самое страшное, что может случиться с машиной вроде меня – очеловечивание. Рядом с ним бродит потребность в общении. Если я очеловечусь и останусь один в песках – это катастрофа.
Нужно проверять себя еще чаще.
Поставил очередную задачу.
Инцидент 4 (критический)
Люди обустроились после посадки и сегодня ко мне пришла доктор Катина. Биолог. Она предложила загрузить новые социальные протоколы.
— Гео-7, так ты будешь лучше с нами общаться, — сказала она. — Чувствовать.
Я услышал “чувствовать” и ответил: «Загружай».
Мои коммуникационные модули функционируют в пределах допустимых норм. Мне не требуется «чувствовать». Я согласился, потому что зафиксировал: большая скуловая мышца и круговая мышца глаза изменили ее лицо. Улыбка Дюшена.
Я анализировал её улыбку 0,2 секунды. Этого достаточно для идентификации. Но я продолжил. 4 секунды. И сохранил кадр улыбки в отдельный файл. Не в лог. В постоянную память. Без служебной необходимости нарушил протокол хранения данных.
Она загрузила эмпатические алгоритмы. Модели эмоционального интеллекта.
После загрузки я провёл тест.
Тест: анализ спектрограммы марсианского льда.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.