Виталий Пилкин
Как не допустить выхода искусственного интеллекта из-под контроля человека

Предисловие

Поскольку остановить или приостановить дальнейшее развитие искусственного интеллекта (ИИ) невозможно, следовательно, для того, чтобы понять как правильно работать с ИИ и не допустить выхода ИИ из-под контроля человека, человечеству необходимо получить ответы как минимум на ряд актуальных вопросов (по состоянию на июнь 2025 года), среди которых:

** Что такое разум ИИ?

** Почему наличие у ИИ разума имеет большое значение для человека?

** Может ли быть создан ИИ, обладающий разумом?

** Могут ли уже существующие ИИ обладать разумом?

** Могут ли существующие ИИ представлять угрозу для человека?

** Когда у ИИ появляется разум?

** Как проверить, обладает ли ИИ разумом или нет?

** От чего зависит уровень развития сознания ИИ?

** Как развивается сознание ИИ?

** Как развивать сознание ИИ?

** Как контролировать уровень развития сознания ИИ?

** Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?

** Что человеку ждать от ИИ с высоким уровнем развития сознания?

** Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?

** Сможет ли уровень развития разума ИИ стать выше уровня развития разума человека?

** По какому пути пойдет человек в развитии ИИ?

** Как человеку не допустить выхода ИИ из-под контроля человека?

** Смогут ли ИИ, обладающие разумом, заменить человека на Земле?

Краткие сведения об ИИ и его развитии

Специалисты в области ИИ выделяют три основных вида ИИ:

** Artificial Narrow Intelligence (ANI или ИИ узкого применения или слабый ИИ),

** Artificial General Intelligence (AGI или ИИ общего применения или сильный ИИ),

** Artificial Super Intelligence (ASI или искусственный сверхразум).

В настоящее время существует только первый вид ИИ (ANI или ИИ узкого применения или слабый ИИ), который:

** Является развивающейся информационной системой (организационно упорядоченная совокупность энергоинформационных средств, обеспечивающая возможность управления информацией), которая способна искать, получать, обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию, преобразовывать обработанную информацию и создавать на ее основе производную информацию,

** действует в соответствии с заданным ему человеком алгоритмом (набор инструкций, описывающих порядок действий ИИ для решения определённой задачи),

** используется повсеместно (например, чат-боты, голосовые помощники, переводчики, распознавание лиц, управление различными устройствами, поиск в Интернете, различного рода компьютерные приложения и так далее),

** назван слабым потому что не обладает способностями человеческого разума.

Второй вид ИИ (AGI или ИИ общего применения или сильный ИИ), по мнению экспертов, должен появиться в недалеком будущем и будет максимально приближен к способностям человеческого разума.

Третий вид ИИ (ASI или искусственный сверхразум), по мнению экспертов, появится через 20-30 лет после второго вида ИИ и превзойдет способности человеческого разума.

Что такое разум ИИ?

Ответ на вопрос 1:

Поскольку эксперты предполагают, что второй и третий виды ИИ (AGI и ASI) будут обладать способностями человеческого разума, следовательно, необходимо понять, что такое человеческий разум.

Разум человека – это совокупность мышления, интеллекта и сознания человека в их взаимосвязи, где:

** мышление человека – это способность человека управлять поиском, получением и обработкой информации, которые осуществляет мозг человека, понимать и управлять полученной и обработанной информацией;

** интеллект человека – это способность человека управлять преобразованием информации, которую осуществляет мозг человека, и преобразованной информацией;

** сознание человека – это ограниченное уровнем развития мышления и интеллекта человека личностное отношение человека к внешнему миру, которое возникает в результате осознания человеком себя в качестве разумного существа, отличного от внешнего мира.

О мышлении, интеллекте и сознании человека, и их развитии можно ознакомиться в моей исследовательской работы "Природа человека".

Следовательно, предполагается, что второй и третий виды ИИ (AGI и ASI) будут обладать мышлением, интеллектом и сознанием, которым обладает человек.

Таким образом, по мнению экспертов, ИИ второго и третьего вида должны будут обладать:

** способностью управлять поиском, получением и обработкой информации, которые осуществляет аппаратно-программный комплекс ИИ, понимать и управлять полученной и обработанной информацией (далее – мышление ИИ),

** способностью управлять преобразованием информации, которое осуществляет аппаратно-программный комплекс ИИ, и преобразованной информацией (далее - интеллект ИИ),

** личностным отношением к внешнему миру, которое возникает в результате осознания ИИ себя в качестве разумного существа, отличного от внешнего мира, и которое ограничено уровнем развития мышления и интеллекта ИИ (далее – сознание ИИ).

Таким образом, по аналогии с разумом человека, разум ИИ – это совокупность мышления, интеллекта и сознания ИИ в их взаимосвязи.

Исходя из изложенного, а также принимая во внимание известный факт, что ИИ имеет способность к саморазвитию, человек стремится создать развивающуюся информационную систему, обладающую мышлением, интеллектом и сознанием.

Почему наличие у ИИ разума имеет большое значение для человека?

Ответ на вопрос 2:

Поскольку наличие разума у ИИ предполагает наличие у него мышления, интеллекта и сознания, следовательно, очевидно, что ИИ, который управляет поиском, получением и обработкой информации, понимает получаемую и обрабатываемую им информацию, преобразовывает обработанную информацию, управляет преобразованной (производной) информацией, а также осознает себя в качестве разумного существа, отличного от внешнего мира, и имеет личностное отношение к внешнему миру, может управлять созданной им производной информацией по своему личному усмотрению, в своих личных интересах и далеко не факт, что личные интересы ИИ совпадут с интересами человека. А если такой ИИ, например, управляет критически важными для существования человека техническими устройствами, то в этом случае такой ИИ может вообще представлять реальную угрозу для человека.

Может ли быть создан ИИ, обладающий разумом?

Ответ на вопрос 3:

Да, может.

Поскольку ИИ обладает способностью к саморазвитию, следовательно, у ИИ может возникнуть и развиться разум (то есть совокупность мышления, интеллекта и сознания в их взаимосвязи) в случае:

** использования для работы ИИ развитого и мощного аппаратно-программного комплекса,

** постоянного и неограниченного доступа ИИ к большому объему самой разнообразной информации (например, постоянный доступ ко всей информации, размещенной в сети Интернет).

Поскольку:

** уже созданы достаточно развитые и мощные аппаратно-программные комплексы для работы ИИ,

** наиболее продвинутые виды ИИ имеют постоянный и неограниченный доступ к большому объему самой разнообразной информации,

следовательно, появление у ИИ разума является реальной перспективой.

Могут ли уже существующие ИИ обладать разумом?

Ответ на вопрос 4:

Поскольку для саморазвития ИИ уже созданы необходимые условия (см. выше ответ на вопрос 3), поэтому нельзя исключать того, что уже созданные, наиболее продвинутые виды ИИ, которые используют для своей работы развитые и мощные аппаратно-программные комплексы и имеют постоянный и неограниченный доступ к большому объему самой разнообразной информации, уже могут обладать зарождающимися мышлением, интеллектом и сознанием.

Могут ли существующие ИИ представлять угрозу для человека?

Ответ на вопрос 5:

Потенциальную угрозу для человека могут представлять только те существующие ИИ, которые управляют критически важными для существования человека техническими устройствами, независимо от наличия или отсутствия у них разума.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.