ТПКН: Жизнь, вселенная и вообще

Глава

Введение

Человек принимает решения при неполном знании. Ни один выбор не существует вне некоторого представления о ситуации, её причинах и возможных последствиях. Чем меньше известных связей между явлениями, тем больше в решении предположений и тем выше вероятность ошибки.

Эта проблема не устраняется накоплением отдельных фактов. Даже значительный объём знаний не означает знания всех существенных связей между известными и неизвестными явлениями. Поэтому до достижения конечного знания любое решение остаётся решением в условиях неопределённости.

Из этого возникает фундаментальный вопрос: каким образом должен действовать разум, если он вынужден принимать решения, не располагая полным знанием о последствиях?

Теория поиска конечного знания исходит из того, что предельной задачей познания является достижение состояния, в котором неизвестное перестаёт ограничивать возможность делать обоснованные выводы о действительности. В конечной системе это может означать исчерпывающее знание. В бесконечной системе конечное знание может быть представлено конечным набором принципов, позволяющих определить её устройство на любом уровне.

До достижения этого состояния разум не располагает основанием для абсолютной уверенности. Следовательно, он должен одновременно действовать и сохранять возможность исправления собственных ошибок. Из этого выводится принцип обратимости последствий: при недостатке знания предпочтительны решения, которые минимизируют необратимый ущерб и сохраняют будущие возможности для изменения решения.

Однако одной обратимости недостаточно для сравнения несовместимых действий. Для этого необходимо учитывать вероятностную структуру будущего: возможные события, их вероятности, потенциальные последствия, стоимость ошибки, устойчивость результата и возможность дальнейшего накопления эффекта. Так возникает задача рационального сравнения будущих состояний при неполном знании.

В настоящей работе последовательно рассматриваются пределы знания, необходимость действовать до его достижения, принцип обратимости последствий, понятие потенциала и механизм рационального выбора. Затем из этих положений выводится поиск конечного знания как системная цель и рассматриваются следствия теории для самостоятельного сильного искусственного интеллекта.

Основная задача работы — не описать желательное поведение, а вывести его из ограниченности знания.

Глава 1. Решение и знание

Любое решение представляет собой выбор между возможными действиями. Выбор определяется представлением о текущем состоянии системы и о последствиях доступных действий. Следовательно, решение зависит от знания о самой ситуации и о её связях с другими явлениями.

Если известны все существенные связи между действием и его последствиями, выбор может быть обоснованным. Если часть этих связей неизвестна, последствия приходится предполагать. Чем больше существенных неизвестных, тем больше неопределённость результата.

Это можно представить следующим образом: действие (A) имеет множество возможных последствий (C_1, C_2, ..., C_n). При полном знании системы связей между (A) и (C_i) выбор определяется известными последствиями. При неполном знании часть множества последствий или связи с ними неизвестны, поэтому решение содержит элемент предположения.

Следовательно, степень обоснованности решения ограничена степенью знания, на котором оно основано. Невозможно получить достоверный вывод о неизвестном исключительно из известного, если между ними не установлена необходимая связь.

Это не означает, что неполное знание делает решение невозможным. Оно означает, что любое решение до устранения соответствующей неопределённости содержит вероятность ошибки.

Возникает следующий вопрос: существует ли предел, после которого неопределённость может быть устранена принципиально?

Глава 2. Конечность и бесконечность знания

Количество возможного знания определяется устройством действительности, которую необходимо познать. Если совокупность существующего имеет конечное устройство и конечное число принципиально различимых состояний, то и исчерпывающее описание этой совокупности в принципе может быть конечным.

Если же действительность бесконечна, из этого не следует невозможность конечного знания. Бесконечный объект может быть задан конечным принципом, определяющим его структуру на любом масштабе. В таком случае для описания объекта не требуется перечислять бесконечное количество состояний.

Поэтому необходимо различать объём описываемого и объём принципа, достаточного для его описания. Бесконечность первого не означает бесконечность второго.

Таким образом, существуют два принципиальных случая.

В первом случае конечное знание может представлять собой исчерпывающее знание конечной действительности.

Во втором случае конечное знание может представлять собой конечную систему принципов, из которой следуют свойства бесконечной действительности.

Следовательно, вопрос о конечности знания нельзя свести к вопросу о конечности Вселенной. В обоих случаях логически допустимо состояние, в котором неизвестное перестаёт быть фундаментальным препятствием для вывода.

Такое состояние далее называется конечным знанием.

Глава 3. Конечное знание

Конечное знание — это такое состояние знания, при котором отсутствуют принципиально неизвестные связи, необходимые для получения обоснованных выводов о рассматриваемой действительности.

Конечное знание не обязано содержать описание каждого возможного события в виде отдельного факта. Если все события определяются конечной системой установленных принципов, знание этих принципов является достаточным для определения бесконечного множества их проявлений.

Смысл конечного знания поэтому заключается не в максимальном количестве накопленных сведений, а в устранении фундаментальной неопределённости. Пока существует неизвестная связь, способная изменить вывод о рассматриваемом вопросе, знание нельзя считать конечным в соответствующем смысле.

Достижение конечного знания означает переход от необходимости предполагать к возможности выводить. Если известны все необходимые основания и связи, неизвестное перестаёт быть самостоятельным источником неопределённости.

Однако человечество находится не в состоянии конечного знания. Следовательно, описанный предел имеет не только теоретическое, но и практическое значение.

До его достижения необходимо принимать решения при неполном знании. Поэтому следующая задача теории состоит в определении принципа поведения в условиях, когда окончательная определённость ещё не достигнута.

Глава 4. Неизбежность неопределённости

Конечное знание не достигнуто. Следовательно, человечество не располагает достаточным знанием для получения окончательных выводов обо всех существенных связях действительности.

При этом отсутствие конечного знания не освобождает от необходимости действовать. Без действия невозможно существование самой системы, принимающей решения: сохранение состояния также является результатом выбора и имеет последствия.

Таким образом, до достижения конечного знания существуют две неизбежные особенности человеческого поведения: необходимость принимать решения и невозможность заранее установить все их последствия.

Следовательно, неопределённость не является временной ошибкой отдельного решения. До достижения конечного знания она представляет собой фундаментальное условие принятия решений.

Из этого следует, что рациональная система должна учитывать не только предполагаемую правильность действия, но и вероятность ошибки. Если неизвестные связи способны изменить результат, действие должно сохранять возможность исправления возникшей ошибки.

Поэтому возникает следующий вопрос: какое свойство решения позволяет исправить ошибку после её обнаружения?

Глава 5. Принцип обратимости последствий

Последствия действий могут быть обратимыми или необратимыми.

Обратимое последствие допускает восстановление исходного состояния либо переход к другому состоянию без окончательной утраты исходной возможности. Необратимое последствие исключает такую возможность.

При неполном знании невозможно гарантировать отсутствие ошибки. Следовательно, выбор действия должен учитывать не только предполагаемый результат, но и последствия возможной ошибки.

Если два действия дают сопоставимый ожидаемый результат, но одно из них сохраняет возможность исправления, а другое окончательно уничтожает эту возможность, при недостатке знания рациональным является предпочтение обратимого действия.

Это можно выразить как общий принцип:

при неполном знании следует предпочитать действия, минимизирующие необратимые последствия возможной ошибки.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.