ИИ: Необъяснимый, непредсказуемый, неконтролируемый

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

1

Фрагменты этой главы ранее были опубликованы в статьях Романа Ямпольского «Об управляемости ИИ» («On Governability of AI») в AI Governance in 2020 a Year in Review. June, 2021, и «Определение различий между интеллектом и искусственным интеллектом» (On Defining Differences Between Intelligence and Artificial Intelligence) в Journal of Artificial General Intelligence 11(2), 68–70. 2020. – Прим. пер.

2

Тем самым предполагается, что машины можно научить понимать человеческие ценности и цели и действовать в соответствии с ними. –  Прим. пер.

3

Логический парадокс, описанный в одноименном романе Джозефа Хеллера, – выполнение условий задачи одновременно обеспечивает невыполнимость задачи. – Прим. пер.

4

См. также главу 8 данной книги. – Прим. пер.

5

См. также: Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. Издательство: Манн, Иванов и Фербер, 2016 г. – Прим. пер.

6

См. также главу 3 данной книги. – Прим. пер.

7

См. также главу 2 данной книги. – Прим. пер.

8

См. также главу 4 данной книги. – Прим. пер.

9

См. также главу 10 данной книги. – Прим. пер.

10

См. также главу 8 данной книги. – Прим. пер.

11

См. также главу 6 данной книги. – Прим. пер.

12

Текст воспроизведен с разрешения World Scientific из статьи «Непредсказуемость ИИ: невозможно точно предсказать все действия превосходящего по интеллекту агента» («Unpredictability of AI: On the Impossibility of Accurately Predicting All Actions of a Smarter Agent») Романа Ямпольского, Journal of Artificial Intelligence and Consciousness, Vol 7, Issue № 1., Copyright © 2020 by World Scientific.

13

Российский аналог – «Своя игра». – Прим. пер.

14

Под «твердой» научной фантастикой обычно понимают НФ-произведения, уделяющие внимание прежде всего вопросам «твердой» науки (например, физики, астрономии, биологии) и техники. Обычно она противопоставляется «мягкой» научной фантастике, которая отводит эти аспекты на второй план и либо исследует «мягкие» науки (например, психологию, политологию, социологию), либо ставит человеческие эмоции выше научной точности или правдоподобия. – Прим. пер.

15

Гипотетическая тенденция большинства достаточно разумных, целеустремленных существ преследовать схожие подцели, даже если их конечные цели совершенно различны. – Прим. пер.

16

Предполагаемое противоречие, заключающееся в отсутствии достоверных фактов наблюдений деятельности внеземных технологически развитых цивилизаций (таких как радиопередачи, космические зонды, космические корабли и т. п.), несмотря на то, что, согласно современным научным представлениям, такие цивилизации должны существовать. – Прим. пер.

17

См. также главу 4 данной книги. – Прим. пер.

18

См. также главу 8 данной книги. – Прим. пер.

19

См. также главу 10 данной книги. – Прим. пер.

20

Текст воспроизведен с разрешения World Scientific из статьи «Необъяснимость и непостижимость ИИ» («Unexplainability and Incomprehensibility of AI») Романа Ямпольского, Journal of Artificial Intelligence and Consciousness, Vol 7, Issue № 2., Copyright © 2020 by World Scientific.

21

Непредсказуемость – это не то же, что необъяснимость или непонятность [72]. Yampolskiy R.V. Unpredictability of AI. arXiv preprint arXiv:1905.13053, 2019.