Виталий Корчагин
Контур

Модель становится особенно убедительной, когда получает право менять то, что измеряет.

Действие происходит в том же мире, что и «Горизонт» и «Протокол», через несколько лет после реформ Службы Протокола.

1. Девяносто семь целых восемь

В восемь тринадцать утра Ирина Тихонова узнала, что государство стало точнее.

На экране перед ней стояло:

МОДЕЛЬ «РУБЕЖ-4»

точность классификации: 97,8% ↑ 1,6

калибровочная ошибка: 0,014 ↓

устойчивость к сдвигу среды: высокая

Ниже была зелёная галочка.

Ирина смотрела на неё уже минуту.

— Ты чего? — спросил Тимур с соседнего места.

— Радуюсь.

— По лицу не видно.

— Я сложный человек.

— Это я по твоему коду понял.

Ирина приблизила график.

«Рубеж» оценивал вероятность институционального срыва в городских районах на горизонте восемнадцати месяцев.

Институциональный срыв был удобным термином.

Он мог означать всё, что достаточно дорого обходилось государству: резкий рост преступности, массовый уход учителей, каскад коммунальных аварий, закрытие больницы, банкротство крупного работодателя, длительные протесты, перебои транспорта, падение собираемости налогов.

Если вероятность превышала семьдесят процентов, район получал красный статус.

После этого происходило много разумных вещей.

Туда направляли аудиторов.

Полиция увеличивала присутствие.

Банки пересматривали муниципальные риски.

Министерства временно ограничивали длинные инвестиционные обязательства.

Страховые компании повышали коэффициенты.

Региональные власти получали рекомендации по кадровым перестановкам.

Иногда приходили дополнительные деньги.

Иногда — дополнительные люди, которые следили за тем, как тратятся дополнительные деньги.

Чаще всего — всё сразу.

«Рубеж-4» был гордостью Центра обратной калибровки.

Ирина работала там одиннадцать лет.

Сначала Центр назывался Отделом валидации прогнозных систем.

Потом выяснилось, что системы после валидации продолжают жить.

Название изменили.

Ещё позже выяснилось, что системы не только живут, но и меняют среду, на которой их валидировали.

Тогда слово «обратной» добавили официально.

Ирина считала это редким случаем, когда бюрократия чему-то научилась.

Она открыла разбивку по годам.

Первое поколение «Рубежа»: 68%.

Второе: 74%.

Третье: 88%.

Четвёртое: 97,8%.

— Тим.

— М-м?

— У тебя бывает ощущение, что модель слишком хорошая?

— Постоянно. Особенно моя.

— Серьёзно.

Тимур подъехал на кресле.

— Что там?

Она показала график.

Он посмотрел.

— Ну.

— Что «ну»?

— Улучшилась.

— На десять пунктов за два года.

— Мы добавили Протокол, графы Горизонта, локальную экономику, медицинские данные, кадровую мобильность…

— Я знаю. Я это добавляла.

— Тогда почему ты спрашиваешь меня?

Ирина открыла другой график.

— Смотри на точность до решения.

— До какого?

— До того, как красный статус увидят ведомства.

Тимур перестал улыбаться.

На экране появилась более старая метрика.

ПРЕДВАРИТЕЛЬНАЯ КАЛИБРОВКА: 71,3%

— Это что?

— Я тоже хотела бы знать.

Они молчали.

Потом Тимур сказал:

— Может, криво собран срез.

— Может.

— Или разный горизонт.

— Может.

— Или ты сейчас испортишь мне пятницу.

— Сегодня среда.

— Тогда у тебя ещё есть время.

Ирина выгрузила двадцать тысяч прогнозов.

В каждой строке было два момента.

Первый — когда модель сделала прогноз.

Второй — когда прогноз стал доступен тем, кто мог действовать.

Она добавила третий столбец:

точность до публикации / точность после публикации

Система считала долго.

В углу экрана вращалась маленькая окружность.

Незамкнутая.

Когда-то этот знак принадлежал Протоколу.

Теперь его использовали почти везде, где хотели показать, что система знает о собственных ограничениях.

Дизайнеры превратили скромность в корпоративный стиль.

Через сорок секунд результат появился.

Ирина прочитала.

Потом ещё раз.

Когда прогноз «Рубежа» оставался внутри тестовой среды и не влиял на решения, он угадывал будущий срыв примерно в семи случаях из десяти.

Когда тот же прогноз передавался ведомствам и становился основанием для действий, точность приближалась к девяноста восьми процентам.

Тимур сказал:

— Это же хорошо.

Ирина повернулась к нему.

— Почему?

— Потому что система работает.

— Какая именно система?

Он посмотрел на экран.

— А.

— Вот именно.

На графике две линии медленно расходились.

Одна показывала, насколько хорошо модель угадывала мир.

Вторая — насколько хорошо мир через полтора года соответствовал опубликованной модели.

До обеда Ирина не смогла доказать, что между ними есть разница.

После обеда она уже не могла доказать, что её нет.

2. Тень

Контур появился не как система прогнозирования.

Таких систем к тому времени было слишком много.

После истории с Горизонтом государственные модели научились писать слово «неизвестно».

После истории с Протоколом государственные архивы научились отличать целостность записи от устойчивости её интерпретации.

На презентациях это называли зрелостью инфраструктуры.

В курилках — последствиями предыдущих презентаций.

Проблема оставалась.

Министерство здравоохранения предсказывало вспышку инфекции и начинало вакцинацию.

Вспышки не происходило.

Прогноз считался плохим.

Полиция оценивала риск насилия и усиливала патрулирование.

Если насилие снижалось, модель теряла точность.

Если росло — модель подтверждалась, но полиция выглядела бесполезной.

Мир оказался неудобным местом для оценки систем, которые пытались его изменить.

Тогда и создали Контур.

Его основная идея помещалась на одной странице:

Прогноз и результат нельзя сравнивать напрямую, если прогноз изменяет действия, влияющие на результат.

Поэтому первые версии Контура разделяли два режима.

Рабочий.

Прогноз передавался тем, кто принимал решения.

Теневой.

Модель делала тот же прогноз, но никто за пределами Центра его не видел.

После наступления результата два режима сравнивали.

Это позволяло хотя бы приблизительно ответить на вопрос:

модель предсказала мир или помогла его создать?

Ирина пришла в Центр именно из-за этой идеи.

Ей было двадцать шесть.

На собеседовании её спросили:

— Вы понимаете, что иногда мы сознательно не показываем прогноз?

— Да.

— Вас это не смущает?

— Смотря прогноз чего.

— Например, вероятности закрытия предприятия.

— Если мы не покажем её предприятию?

— Да.

— А что оно должно сделать?

— Возможно, изменить стратегию.

— Тогда вы уже измеряете не прогноз.

Председатель комиссии посмотрел на неё.

— А что?

— Эффект сообщения прогноза.

Её взяли.

Первые годы Тень работала хорошо.

Пять процентов объектов случайно оставались в исследовательском режиме.

Потом начались исключения.

Сначала медицина.

Юристы написали:

Если система обнаружила высокий риск предотвратимого вреда здоровью, сокрытие предупреждения требует отдельного этического обоснования.

Разумно.

Потом транспорт.

Недопустимо скрывать информацию о вероятной аварии инфраструктурного объекта.

Тоже разумно.

Потом насилие.

Потом финансовые кризисы.

Потом защита детей.

Потом крупные работодатели.

Каждое исключение было правильным.

Через семь лет Тень занимала ноль целых тридцать одну сотую процента случаев.

И в основном это были прогнозы вроде:

вероятность снижения посещаемости муниципальной библиотеки после изменения маршрута автобуса.

Никто не хотел быть чиновником, который мог предотвратить катастрофу, но не сделал этого ради чистоты эксперимента.

Ирина это понимала.

Проблема была в том, что после исчезновения Тени Контур всё чаще отвечал на вопрос:

насколько хорошо система предсказывает мир, в котором все уже знают её предсказания?

Утром следующего дня она открыла архив первых пилотов «Рубежа».

Тогда красный статус ещё не передавали банкам, полиции и страховщикам автоматически.

Его видел только аналитический отдел.

Точность: 64%.

Через год статус начали получать региональные администрации.

Точность: 72%.

После подключения МВД: 79%.

После банков: 86%.

После страховых компаний: 90%.

После кадровых рекомендаций: 94%.

После полного межведомственного контура: 97,8%.

Ирина построила график.

По горизонтали — число систем, которые видели прогноз.

По вертикали — его последующая точность.

Линия росла почти красиво.

Она отправила Тимуру.

Он ответил:

Удали.

Она написала:

Почему?

Потому что у меня были планы на сегодня.

Через минуту:

Это корреляция.

Знаю.

Может, улучшались модели.

Знаю.

Может, росло качество данных.

Знаю.

Ты раздражаешь.

Знаю.

Он пришёл через пять минут.

— Что будем делать?

— Искать участок, где модель не могла повлиять.

— Тень почти мёртвая.

— Значит, искать прошлое.

— В Протоколе?

— Где ещё.

Тимур вздохнул.

— Я надеялся, что после реформы Протокола люди перестанут говорить «в Протоколе есть всё».

— Там нет всего.

— Молодец.

— Но там много.

— Уже хуже.

Ирина отправила запрос в Службу:

Нужны цепочки решений, возникавших после публикации статуса «Рубеж», с временными метками и доступом к основанию действия.

Ответ пришёл автоматически:

Запрос затрагивает причинную реконструкцию. Укажите цель.

Она написала:

Проверить, не производит ли модель собственную точность.

Система подумала.

Формулировка оценочная.

— Конечно, — сказала Ирина.

И отправила так.

3. Северный Порт

Первым местом, где Ирина увидела красный статус не на экране, был Северный Порт.

Район начинался за грузовой железной дорогой и тянулся вдоль старых складов к заливу.

Двадцать лет назад там пытались построить технологический кластер.

Потом кластер перенесли.

Десять лет назад обещали новую линию метро.

Потом линию перенесли.

Пять лет назад открылся центр профессиональной подготовки.

Его пока не перенесли.

Центром руководил Михаил Громов.

Ирина знала его с университета.

Он учился на инженера, потом стал преподавателем, потом директором, что сам считал последовательностью профессиональных ошибок.

— Ты стала выглядеть дорого, — сказал он вместо приветствия.

— Государство хорошо кормит сомнение.

— А нас плохо.

— Поэтому я здесь.

— Отлично. Сейчас дам тебе список.

Они шли по длинному коридору.

Из мастерской доносился звук металла.

На стенах висели проекты студентов: беспилотная тележка, водяной насос, макет ветровой турбины, робот, который должен был сортировать детали, но на фотографии выглядел так, будто ненавидит детали.

— «Рубеж» дал району восемьдесят два процента, — сказал Михаил.

— Знаю.

— После этого банк заморозил нам кредитную линию.

— Почему?

— Муниципальная организация в зоне институционального риска.

— Это не автоматическое основание.

— Конечно. Это «дополнительный фактор».

Они вошли в кабинет.

Михаил достал папку.

— Страховка оборудования: плюс двадцать один процент. Поставщик требует предоплату. Два преподавателя ушли в другой район. Один прямо сказал: не хочет зависеть от места, которое через год могут реорганизовать.

— Центр не был отмечен на закрытие.

— Нет. Просто район «нестабилен».

Он показал следующее письмо.

В связи с повышенной вероятностью изменения региональной инфраструктуры рекомендуем воздержаться от долгосрочных капитальных обязательств до следующего цикла оценки.

— Мы собирались строить лабораторию, — сказал Михаил. — Не построили.

— Это рекомендация, а не запрет.

— Ты сейчас специально говоришь языком документа?

— Немного.

— Зачем?

— Проверяю, как мерзко звучит.

— Очень.

Ирина листала бумаги.

Каждое решение было объяснимо.

Ни одно ведомство не писало:

Контур сказал, что у вас будет плохо, поэтому мы сделаем хуже.

Они писали:

в условиях повышенной неопределённости;

с учётом совокупного риска;

в целях сохранения устойчивости.

— А что стало лучше? — спросила Ирина.

Михаил задумался.

— Полиции больше.

— Это лучше?

— Иногда. Ещё аудит коммунальных сетей нашли две плохие подстанции. Их заменили.

— Значит, система не только ухудшает.

— Я и не говорил.

Он налил чай.

— Вот что бесит. Если бы она была злой, было бы проще.

За окном на площадке трое студентов пытались завести маленький погрузчик.

Один махал руками.

Другой явно делал вид, что понимает.

Третий уже открыл инструкцию.

— Сколько людей ушло из района после красного статуса? — спросила Ирина.

— За год четыре тысячи с небольшим.

— До него?

— Около тысячи в год.

— А предприятия?

— Семь закрылось. Три переехали. Два новых проекта отменили.

— Почему?

— Спроси их.

Она спросила.

В Протоколе сохранились официальные причины.

Стоимость логистики.

Кредитные условия.

Кадровый риск.

Снижение спроса.

Неопределённость городской политики.

Красный статус нигде не был единственной причиной.

Но появлялся рядом почти каждый раз.

Ирина открыла «Рубеж».

Текущая вероятность институционального срыва Северного Порта:

91,4%.

Год назад было 82.

— Смотри, — сказал Михаил. — Мы стараемся.

— Не смешно.

— Я директор государственного учреждения. У меня осталось мало развлечений.

На выходе Ирина остановилась у стенда с фотографиями выпускников.

Под одной было:

АЛИНА САВЕЛЬЕВА — инженер энергосистем.

— Хорошая? — спросила Ирина.

— Очень.

— Где сейчас?

— Уехала.

— Куда?

— На юг города.

— Почему?

— Ей предложили стажировку там.

— Горизонт?

— В том числе.

Ирина посмотрела на Михаила.

Он усмехнулся.

— Да. Одна государственная система сказала ей, что там больше будущих. Другая — что здесь больше риска.

— И обе могли быть правы.

— Конечно.

Он открыл дверь.

— Вы вообще очень сильны в правильных ответах.

На улице Ирина ещё раз посмотрела на текущие 91,4%.

Если через год район действительно развалится, «Рубеж» получит ещё одно подтверждение.

Если не развалится — модель потеряет точность.

Впервые эта арифметика показалась ей морально странной.

4. Плохой прогноз

На четвёртый день Ирина нашла модель, которую наказали за успех.

Она называлась «Опора-12» и оценивала вероятность ухода начинающих учителей из школ в течение двух лет.

Прогноз использовали для распределения наставников, доплат и снижения нагрузки.

Первая версия была посредственной.

Точность: 69%.

После запуска программы удержания фактический уход в группах высокого риска резко снизился.

Точность модели упала до 54%.

Отчёт был помечен:

ДЕГРАДАЦИЯ КАЛИБРОВКИ.

Разработчики исправили модель, добавив назначенные меры поддержки.

Точность выросла.

Через год поддержку автоматически привязали к новой оценке — и модель снова потеряла калибровку.

Третья версия научилась лучше предсказывать, кто уйдёт несмотря на поддержку.

Точность: 81%.

Это считалось успехом.

Ирина вызвала руководителя проекта.

Её звали Лиза Агафонова.

Она вошла в переговорную с кофе и выражением человека, которого оторвали от нормальных проблем ради философии.

— Что не так с «Опорой»?

— Ничего.

— Тогда я пойду.

— Подожди. Почему первая версия стала хуже после программы поддержки?

— Потому что программа работала.

— А почему мы записали это как деградацию модели?