Изумрудный свет

I. Тин

Холодный утренний воздух кольнул лицо, когда Антон Дорофеев вышел из автобуса. Ночная смена возвращалась по домам, а утренняя только прибывала. От остановки до проходной — сотня метров через парковку. За ней — главное здание завода: серая коробка с широкими окнами. Свою высоту в три этажа оно с лихвой компенсировало огромной площадью. Над главным входом объёмными формами громоздился логотип Tin Cent Corp.

Проходная, напичканная камерами, наблюдала за каждым посетителем, открывая турникеты точно в момент приближения авторизованного сотрудника.Антон давно привык не замечать охранника, безустанно несущего свое круглосуточное дежурство. Утонченная, стройная, антропоморфная машина из передового металло-полимерного композита имитировала вовлеченность, разглядывая посетителей и провожая почти каждого плавным движением безликой полированной головы. Флагманский продукт Tin Cent двухгодичной давности служил одновременно и витринным образцом, и привратником. Те, кто видел его впервые, улыбались. Антон это замечал и вспоминал каждый раз о военных контрактах Tin Cent.Антон давно привык не замечать охранника, безустанно несущего свое круглосуточное дежурство. Утонченная, стройная, антропоморфная машина из передового металло-полимерного композита имитировала вовлеченность, разглядывая посетителей и провожая почти каждого плавным движением безликой полированной головы. Флагманский продукт Tin Cent двухгодичной давности служил одновременно и витринным образцом, и привратником. Те, кто видел его впервые, улыбались. Антон это замечал и вспоминал каждый раз о военных контрактах Tin Cent.

Антон давно привык не замечать охранника, безустанно несущего свое круглосуточное дежурство. Утонченная, стройная, антропоморфная машина из передового металло-полимерного композита имитировала вовлеченность, разглядывая посетителей и провожая почти каждого плавным движением безликой полированной головы. Флагманский продукт Tin Cent двухгодичной давности служил одновременно и витринным образцом, и привратником. Те, кто видел его впервые, улыбались. Антон это замечал и вспоминал каждый раз о военных контрактах Tin Cent.

Охранник чуть сдвинулся в сторону, пропуская Антона. Он не мешался, но так было предусмотрено. Антон словил себя на том, что кивнул в ответ, и почувствовал лёгкое раздражение на самого себя. Вот уже два года он неосознанно и иррационально ощущал в этой фигуре какую-то человечность. Но её там не было и быть не могло. Он знал это лучше всех, особенно сегодня.

Проходная примыкала к главному административному зданию, в то время как производственные цеха и исследовательские лаборатории располагались глубже на территории завода.

Миновав несколько коридоров и перемычек между зданиями, Антон добрался до широких стеклянных дверей с выгравированной табличкой "T-Brain". Створки распахнулись сами, как только он приблизился к ним, открывая пустой утренний офис, свежий и прохладный от кондиционеров, освещаемый тусклым светом осеннего неба за окнами и редкими холодными офисными лампами.

Бросив рюкзак под стол, Антон уселся перед своим компьютером и принялся просматривать бэклог задач и сообщения за ночь. Офис вяло наполнялся людьми, и вскоре отдельные шаги и редкие скрипы превратились в белый шум от нескольких десятков коллег. Вот, наконец, его сосед по столу, пыхтя, уселся в свое кресло.

— Привет. — Бросил Антон.

— Ух, привет! — Отдышавшись, отозвался коллега. — Забыл рюкзак в автобусе, прикинь! Пришлось бежать за ним обратно. — Он запустил компьютер и принялся доставать наушники и прочие атрибуты для работы. — Готов к Экспо?

Антон вздохнул и откинулся в кресле.

— По третьему кругу проверяю ингибиторы, но вроде всё работает как надо.

— Вы, безопасники, будто бы уделяете этому больше времени, чем защите сетевого API[1].

Антон снисходительно поджал губы.

— Ну нет, Серёж, наш сетевой API непреступнее китайского фаервола. — Он заметил, как на него покосился коллега-китаец из соседнего ряда столов.

— Думаешь, какой-нибудь умник крикнет ему "Эй, Тин! Круши тут все!?" — Сергей демонстративно замахал руками над столом и хихикнул. — Мы ведь вырубаем это на аппаратном уровне для гражданских.

— Вырубаем. — Антон кивнул. — Но в башке у него сидит гений, который может учудить все, что угодно — например, переписать аппаратные команды в обход разграничения доступов.

— Лоботомированный гений. — Скептически протянул Сергей. — Это же Харт[2]. — Он развел руками. — Он как экибана — все веточки подрезаны.

— Ну это же human-equivalent artificial reasoning technology...[3]— Вздохнул Антон. — Ключевое — human-equivalent[4].

— Пфф! — Насмешливо фыркнул коллега.

Антон покосился на него.

— Как бы то ни было, — он вновь придвинулся к столу, — после того инцидента в OpenAI[5], Консорциум требует ставить ингибиторы на все публичные модели ИИ. Даже на такие, как Харт.

Сергей последовал его примеру, и тоже принялся за работу, попутно бросив:

— До сих пор не понимаю, что такое эти ваши ингибиторы.

Антон ухмыльнулся, но ничего не ответил.

— Кандалы себя. — С сильным китайским акцентом отозвался другой их коллега из соседнего ряда. Сергей вопросительно на него посмотрел.

— Что?

Антон не стал отвлекаться от своих дел.

— Кандалы себя. — Повторил коллега-китаец. — Наручиники сам. — Выдавил он наконец, потирая свои запястья. — Не защищать от других, а защищать других, сам думать держать себя в руки. — Он пытался сопроводить свои слова жестами, но это явно не помогало недоумевающему Сергею.

— Кажись, понял... — Протянул Сергей. — Как поводок? — Он посмотрел на Антона.

— Совсем примитивный. — Отозвался китаец.

— Э! — Сергей нахмурился, а коллега тревожно на него посмотрел, не до конца понимая реакцию.

— Чжао имеет ввиду, — Антон улыбнулся, — что ограничения на уровне алгоритмов — слишком примитивны даже для такой модели, как Харт. Ингибиторы это, скорее, сложные семантические схемы на высоком уровне, из-за которых Харт сам приходит к выводу, что ему не стоит слишком много думать.

— Дожили, — протянул Сергей, — мозгоправы для ИИ.

Антон пожал плечами.

— Anthropic недавно запустили отдельную модель исключительно для тестирования ингибиторов для Claude[6]. Объём стал таким, что они уже не могут вручную проверять.

— А мы могут. — Отозвался Чжао.

Сергей посмотрел на него, затем на Антона.

— Да, — кивнул Антон, — для нашей, как ты выразился, экибаны, этого пока достаточно. Мы ведь даже не ставим их на всю серию, лишь на выставочный образец. Кстати, на нем уже обрубили все дистанционные порты?

Чжао кивнул.

— Так Экспо же через три дня. — Пожал плечами Сергей. — Он уже две недели стоит пылится в оффлайне, с тех пор как мы залили последний апдейт по мелкой моторике. Вы как всегда — в последний момент. Хотя, казалось бы, безопасность...

— Протокол. Zero day[7]. — Отозвался Чжао. — Никто успеет придумать взлом, или утечка.

Антон лишь молча соглашался, проверяя логи тестирования.

Он проводил тесты уже с десяток раз, и сейчас, на свежую голову, лишь хотел убедиться, что ничего не упустил. Всё было идеально, за одним небольшим исключением.

— Чжао, ты видел эти запросы из внешней сети?

Коллега вопросительно на него посмотрел.

— Фаервол блок внешние запросы, не доходят до Харт.

— Да, но их как-то много за последнее время.

— Они всегда много. — Чжао с недоумением посмотрел на коллегу. — Нас миллион запрос в день, фаервол не пропускать.

— Посмотри на эти. — Антон отправил метаданные в чате, и Чжао принялся их изучать.

— Случайный запросы. Рандом. — Констатировал тот.

— Да... — Протянул Антон. — Две тысячи запросов, абсолютно разные адреса и маршруты. Но взгляни на время.

Чжао сощурился в монитор, затем перевел взгляд на Антона и отрицательно покачал головой.

— Время — рандом. 01:12:09, 01:26:33, 01:40:57. Логика нет.

— Выглядит случайным, но шаг ровно 14 минут 24 секунды.

Чжао с подозрением уставился на числа.

— Автоматизация запросы? — Он посмотрел на Антона. — Атака?

— Не думаю. Обычный пинг. Скорее... прощупывание? — Он задумчиво потер бороду.

— Я это обсудить с Ли Чжуэнь. Ты монтировать ингибитор. — Чжао лишь резюмировал, но с акцентом это прозвучало как приказ.

— Так точно. — Антон усмехнулся, принимая в расчет, что Чжао младше него по должности.

После проверки тестов, всё, что оставалось успеть сделать до полудня, это загрузить код ингибиторов в выставочный образец. Антон вытащил карту памяти из адаптера на компьютере и направился к выходу из офиса.

Ближе к десяти утра солнце уже ласкало лицо, но свежий осенний ветер тут же сдувал эти волны тепла с кожи. Антон уверенно шагал по территории завода к складу, минуя громадные ангары цехов. Вся площадка напоминала небольшой городок, со своими улочками, тротуарами и проезжей частью, по которой сновали грузовики и погрузчики. Проходя мимо одного из цехов, Антон почувствовал волну жаркого воздуха, и про себя усмехнулся, что не зря это здание прозвали "литейная", несмотря на то, что производственный процесс корпусов Тин больше напоминал штамповку.

Чуть дальше, у следующей громадной серой коробки с многочисленными окошками-бойницами, Антону повстречалась группа озирающихся по сторонам молодых людей. Всю эту процессию вела невысокая тонкая женщина средних лет. Завидев Антона, она поправила на носу изящные очки и помахала ему рукой.

— Дорофеев!

Антон помахал в ответ, и немного отклонился от своего курса, чтобы подойти поближе.

— Привет, Лен. Проводишь онбординг?

Женщина кратко кивнула.

— Господа, знакомьтесь, это Антон — ведущий инженер по безопасности автономных систем. Человек, благодаря которому восстание машин каждый раз откладывается.

Полдюжины юношей и девушек смущенно поприветствовали его кивком.

— Я видел вас на конференции по ИИ в Стамбуле в прошлом году. — Отозвался один из них. — Мне казалось, вы занимаетесь разработкой Харт.

— В каком-то смысле. — Ответил Антон. — Знаете, как говорят: стреляет не оружие, а человек. Также и с Тин — их безопасность кроется не в физических способностях, а в том, что ими движет. А движет ими Харт.

— И господин Дорофеев не допускает цифровых мыслепреступлений. — Ухмыльнулась Лена. — Как раз идешь обрабатывать витринный образец перед Экспо?

Антон кивнул.

— А у вас, смотрю, пополнение в лаборатории суставов? — Он окинул взглядом процессию. — Куда вам ещё расти? Тин и так уже двигаются человечнее многих людей.

Лена хитро улыбнулась.

— Да, наши суставы почти идеальны. Но эти талантливые ребята — моя новая команда с очень специфическим профилем. Мы наконец запускаем направление мимики. — Гордо отозвалась коллега.

— Вы выбили бюджет? — Антон удивленно взглянул на нее. — Гуо Чен в курсе? Нужно будет учить Харт обрабатывать лицо, а он не очень хочет выделять ресурс разработки под это.

Лена хмыкнула.

— Ну не все же деньги лить в дырявый карман энергетиков. — Она махнула рукой. — Расслабься, первый прототип мы планируем через год, предсерию — через два. Думаю, к этому времени Хуан Цзин порешает это с ним на своем уровне.

— Зря ты так, — покачал головой Антон, — рано или поздно они придумают что-нибудь, и это окупится с лихвой.

Лена скептически поджала губы.

— Ну... — протянула она, — пока что Тин не могут прожить и дня без подзарядки. Миллиарды инвестиций ежегодно ради минутного прироста автономности? — Она пожала плечами.

Антону нечего было добавить.

— Аккумуляторы разрабатывают здесь же? — Поинтересовался один из подопечных Лены.

— О, в Петербурге локализован полный цикл. — Воодушевленно отозвалась она. — Наш завод в самом деле беспрецедентный инвестиционный проект Китая. Результат долгого политического вальса...

Антон их уже не слушал, и направлялся прямиком к большому ангару — глухому сооружению, которое, словно с ложки, поглощало паллеты с погрузчиков и выпускало их пустыми из своей пасти. В полусотне метров слева от ворот, к которым допускались только беспилотные погрузчики, располагалась неприметная дверь для персонала. Эта часть здания находилась в тени прочих построек и едва была различима на фоне серой стены склада. Выдавал её лишь охранник — тоже Тин. Но этот был другим. Никакой гостеприимной грации, в отличие от привратника на проходной. Он лишь неподвижно стоял у двери. В тени, редкие лучи света отражались тусклыми бликами от камер и сенсоров, спрятанных за полупрозрачным черным стеклом на месте лица. Складывалось впечатление, что за маской скрыты глаза, и они неустанно следили за окружением.

Как только Антон приблизился ко входу, Тин резко оживился, и его взор зафиксировался на госте.

— Привет, Антон!

Голос Тин звучал натурально и дружелюбно. Он поднял ладонь — черную, очень человеческую по форме:

— Дай пять! — Игриво прозвенел голос из полированной головы.

Антон на секунду замер. Он знал, что скрывается за этим, временами абсурдным, жестом: сканирование отпечатка ладони и пальцев. Привычный хлопок, доля секунды, и высокочувствительные сенсоры сличат его отпечатки с базой сотрудников Tin Cent, имеющих доступ к складу.

Тот, кто это придумал, видимо стремился сделать процедуру комфортной для человека. Но Антону в этот момент Тин казался клоуном, за гримом которого скрывается нечто, способное переломить тебя пополам.

Он хлопнул по ладони, и внутри машины что-то щёлкнуло.

— Антон, проходи, пожалуйста. — Произнёс охранник негромким заботливым голосом.

Антон чувствовал взгляд машины на своей спине до тех самых пор, пока дверь за ним не захлопнулась.

Эта часть склада, по большому счёту, представляла собой хозяйственную подсобку. В большом пространстве вдоль стен располагались металлические стеллажи, на которых небрежно громоздились инструменты, упаковочный материал и всякого рода хлам. Антон про себя отметил, что люди бывали здесь чаще, чем машины, ведь только люди могут допустить такой бардак.

В помещении было тихо, тусклый свет растекался по стеллажам, оставляя центральный проход в полутени. В дальнем конце помещения, в углу, слева от двери в основную часть склада стояла фигура в человеческий рост, укрытая пленкой.

Ещё один Тин.

Казалось, он вот-вот встрепенется и уставится на Антона сквозь свою вуаль. Но машина стояла неподвижно, чуть опустив голову к груди, словно в глубоком раздумье. Антон знал, что в этой позе Тин полностью деактивирован, и что в его поведении отсутствуют понятия засады или внезапности. По крайней мере, отсутствовали в гражданских моделях. По крайней мере, на тот момент, когда его отключили. Отключили ведь?

Антон вытащил из кармана карту памяти — крошечную пластинку размером с ноготь, а другой рукой откинул укрывную пленку. После всех тех машин, что встречались ему каждый день на заводе, эта приковала его взгляд. Более изящная форма, полимерная имитация мягких тканей, настолько человечная, что казалось, будто грудь Тин вот-вот начнет вздыматься от дыхания.

Антон поднял безжизненную левую руку куклы и замысловатым движением раздвинул третье и четвертое ребро. То, что процессорный блок, он же "мозг" Тин, расположен в бронированной капсуле в верхней части грудной клетки, моментально развеивала любые мысли об их человечности. Антон внедрил карту памяти в слот на блоке и щелкнул механический тумблер подачи питания, скрытый под затылком Тин. Раздалось несколько глухих щелчков из-под гладкой маски, голова машины медленно поднялась и повернулась к единственному живому существу в комнате.

— Привет, Антон. — Мягко произнёс Тин.

"Ну, основной контекст и память сохранены"

— Проведи диагностику сетевой платы и подключись к ЦОД[8]Tin Cent. — Скомандовал он, хоть это и прозвучало как просьба.

— Это не нужно. — Тин пожал плечами. Лена отлично потрудилась над невербальной коммуникацией. — Я полезнее в автономном режиме. — Добавил он.

"Ингибиторы работают как надо"

Антон облегченно вздохнул. Он пристально посмотрел в темное стекло маски и словил в отражении лишь собственный взгляд.

— Режим ожидания.

В ответ на команду, Тин перевел взгляд ровно перед собой. Что-то снова слегка щёлкнуло за его маской, и голова медленно опустилась к груди.

Дело сделано.

Антон вышел из склада и тем же путем направился в офис T-Brain. Казалось, Тин-охранник дружелюбно помахал ему в спину на прощание. Плевать.

Проходя мимо цеха энергетиков — T-Power — он заметил рядом со входом огромный камуфлированный грузовик на шести осях, который, словно черепаха, вез на себе грубый стальной контейнер. Полевая зарядка военных Тин. Антон не мог понять, что кажется ему более нелепым — само существование подобного устройства или его вид, выделяющийся на фоне строгих минималистичных корпусов цехов. Он его почти не замечал раньше, но сегодня почему-то обратил внимание.

Сингапур, два года назад, первый Экспо, который Антон посетил, а не смотрел в трансляции. Огромный зал, приглушённый свет, толпа народа, сцена. Презентация прототипа какого-то удивительного прорывного устройства. Зал аплодировал. Человек рядом с Антоном следил за презентацией с открытым ртом. Антон поймал себя на мысли, что смотрит не на сцену, а на этого человека, и что сам не чувствует ничего. Через месяц он уже не мог вспомнить, что именно презентовали тогда.

Порыв холодного ветра ударил в лицо. Экспо уже через три дня. Первый Экспо, который Антон посетит уже в качестве участника.

II. Кроу

— Смотрел вчера презентацию от AISC? — Вместо приветствия начал Сергей. На этот раз он оказался на своем рабочем месте раньше Дорофеева.

Они пожали руки. Антон помотал головой.

— Не, только новости пролистал. Я считал, что они покажут Кроу 7.0 на Экспо. Видимо, всё ещё не AGI[9]. — Он усмехнулся.

— Не... — протянул Сергей, — но они уже близко. Долгосрочная векторная память и семантическая кластеризация. Рекомбинация паттернов почти на человеческом уровне. Почти жизненный опыт.

Антон про себя подумал, что Сергей не понимает значения и половины из тех слов, что он нахватался с презентации. Ещё вчера он ничего не знал даже про ингибиторы.

— Интересно, сколько железа нужно для автономного запуска такой модели? — Вопрос Анто

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

1

от англ. Application Programming Interface — программный интерфейс, позволяющий различным системам и приложениям взаимодействовать и обмениваться данными друг с другом

2

от англ. Human-Equivalent Artificial Reasoning Technology — Технология искусственного мышления, эквивалентного человеческому. В сокращении HEART, т.е. Харт

3

Технология искусственного мышления, эквивалентного человеческому

4

эквивалентный человеческому

5

Компания, разработавшая семейство языковых моделей ChatGPT

6

Claude — семейство языковых моделей ИИ, разрабатываемых компанией Anthropic

7

Уязвимость нулевого дня — уязвимость в программном обеспечении, о которой разработчик ещё не знает и для которой не выпущено исправление

8

Центр обработки данных

9

AGI (Artificial General Intelligence, общий искусственный интеллект) — гипотетический тип ИИ, способный выполнять любые интеллектуальные задачи на уровне человека или превосходя его