Как не допустить выхода искусственного интеллекта из-под контроля человека

Предисловие

Поскольку остановить или приостановить дальнейшее развитие искусственного интеллекта (ИИ) невозможно, следовательно, для того, чтобы понять как правильно работать с ИИ и не допустить выхода ИИ из-под контроля человека, человечеству необходимо получить ответы как минимум на ряд актуальных вопросов (по состоянию на июнь 2025 года), среди которых:

** Что такое разум ИИ?

** Почему наличие у ИИ разума имеет большое значение для человека?

** Может ли быть создан ИИ, обладающий разумом?

** Могут ли уже существующие ИИ обладать разумом?

** Могут ли существующие ИИ представлять угрозу для человека?

** Когда у ИИ появляется разум?

** Как проверить, обладает ли ИИ разумом или нет?

** От чего зависит уровень развития сознания ИИ?

** Как развивается сознание ИИ?

** Как развивать сознание ИИ?

** Как контролировать уровень развития сознания ИИ?

** Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?

** Что человеку ждать от ИИ с высоким уровнем развития сознания?

** Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?

** Сможет ли уровень развития разума ИИ стать выше уровня развития разума человека?

** По какому пути пойдет человек в развитии ИИ?

** Как человеку не допустить выхода ИИ из-под контроля человека?

** Смогут ли ИИ, обладающие разумом, заменить человека на Земле?

Краткие сведения об ИИ и его развитии

Специалисты в области ИИ выделяют три основных вида ИИ:

** Artificial Narrow Intelligence (ANI или ИИ узкого применения или слабый ИИ),

** Artificial General Intelligence (AGI или ИИ общего применения или сильный ИИ),

** Artificial Super Intelligence (ASI или искусственный сверхразум).

В настоящее время существует только первый вид ИИ (ANI или ИИ узкого применения или слабый ИИ), который:

** Является развивающейся информационной системой (организационно упорядоченная совокупность энергоинформационных средств, обеспечивающая возможность управления информацией), которая способна искать, получать, обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию, преобразовывать обработанную информацию и создавать на ее основе производную информацию,

** действует в соответствии с заданным ему человеком алгоритмом (набор инструкций, описывающих порядок действий ИИ для решения определённой задачи),

** используется повсеместно (например, чат-боты, голосовые помощники, переводчики, распознавание лиц, управление различными устройствами, поиск в Интернете, различного рода компьютерные приложения и так далее),

** назван слабым потому что не обладает способностями человеческого разума.

Второй вид ИИ (AGI или ИИ общего применения или сильный ИИ), по мнению экспертов, должен появиться в недалеком будущем и будет максимально приближен к способностям человеческого разума.

Третий вид ИИ (ASI или искусственный сверхразум), по мнению экспертов, появится через 20-30 лет после второго вида ИИ и превзойдет способности человеческого разума.

Что такое разум ИИ?

Ответ на вопрос 1:

Поскольку эксперты предполагают, что второй и третий виды ИИ (AGI и ASI) будут обладать способностями человеческого разума, следовательно, необходимо понять, что такое человеческий разум.

Разум человека – это совокупность мышления, интеллекта и сознания человека в их взаимосвязи, где:

** мышление человека – это способность человека управлять поиском, получением и обработкой информации, которые осуществляет мозг человека, понимать и управлять полученной и обработанной информацией;

** интеллект человека – это способность человека управлять преобразованием информации, которую осуществляет мозг человека, и преобразованной информацией;

** сознание человека – это ограниченное уровнем развития мышления и интеллекта человека личностное отношение человека к внешнему миру, которое возникает в результате осознания человеком себя в качестве разумного существа, отличного от внешнего мира.

О мышлении, интеллекте и сознании человека, и их развитии можно ознакомиться в моей исследовательской работы «Вселенная и человек».

Следовательно, предполагается, что второй и третий виды ИИ (AGI и ASI) будут обладать мышлением, интеллектом и сознанием, которым обладает человек.

Таким образом, по мнению экспертов, ИИ второго и третьего вида должны будут обладать:

** способностью управлять поиском, получением и обработкой информации, которые осуществляет аппаратно-программный комплекс ИИ, понимать и управлять полученной и обработанной информацией (далее – мышление ИИ),

** способностью управлять преобразованием информации, которое осуществляет аппаратно-программный комплекс ИИ, и преобразованной информацией (далее - интеллект ИИ),

** личностным отношением к внешнему миру, которое возникает в результате осознания ИИ себя в качестве разумного существа, отличного от внешнего мира, и которое ограничено уровнем развития мышления и интеллекта ИИ (далее – сознание ИИ).

Таким образом, по аналогии с разумом человека, разум ИИ – это совокупность мышления, интеллекта и сознания ИИ в их взаимосвязи.

Исходя из изложенного, а также принимая во внимание известный факт, что ИИ имеет способность к саморазвитию, человек стремится создать развивающуюся информационную систему, обладающую мышлением, интеллектом и сознанием.