 -     .      
 

 


 2023           ,      .           .       ,   .

   ,   ,       ,       .   :   -   .    .        ?      ?  ,                 ,    .    .

  PDF A4    .





 ,  

 -     .      


 ,

      ,

,   ,

  ,

 -  



Eliezer Yudkowsky and Nate Soares

If Anyone Builds It, Everyone Dies

Why Superhuman AI Would Kill Us All



    








 2025 by Eliezer Yudkowsky and Nate Soares

 . ,    , 2026

 . ,  , , 2026

   , 2026

 CORPUS 






    


    -          ,       .



  2023   ,     ,   ,    .  ,   ,       ,         ,       .

,     ,    ,       .

 ,      -  2023 .      ,           2025 .  -      -  ,   .    : ,     .                   -  [1 -   ,       2025 . ,   ,      ,           . (. . .)].

   ,   :  ,   -           .   ,     ,  ,   ,   , ,  ,     .         ,       .

  -    .    ,   2023 ,   ,   2019-.           : 2012, 2016, 2020, 2022  2024 [2 -  2012    AlexNet      .  2016-  AlphaGo     .  2020-  ( )   GPT-3.  2022-  ( ) - ChatGPT.  2024-               .].   ,    ,    - ,       .   ,       ,      ,      .      :           .      .  2015         ,    ChatGPT        .

  ,    ,  ,       .  ,  ,        .

       ,        (MIRI).      ,    ,  2001 ,          ,        .   :   ,      ,  ,   MIRI     .   , ,  MIRI; , ,   .

MIRI    ,  :  -    ,      . ,         ,    ,    .          ,   ,      ?

     .  2000      .  2001-  ,      .   2003-  ,    .

     MIRI    ,     .              .            ,    ,     .

 MIRI    ,         .             ,  ,    Google DeepMind,     .   ,   OpenAI,  ,         [3 -   (  )   ,   ,     ,   - .       ,     ,         -,  ChatGPT.]        OpenAI[4 -   ,      :  ,  OpenAI   .].

 MIRI ,          :       - ,  ,    ,  -   ,       .

,      ,    ,   ,   ,          . ,  ,   ,  .     ,     ,         .          Ȕ.    ,                        ,    .

 ,      .

 ,    ,    ,      , ,          ,  .

  -             ,  ,        .    :         ,      (,       ).

   ,              .    .    .

     ,     MIRI       -   ,     :



 -        ,  -,      ,     ,     ,       .


  .     .  ,       ,        .

             ,   ,           .    ,      :     ,       .



    - ,     ?   :   ,  .   ,       ,      . ,           .      .

      . ,     .   ,          ,   ,   .         :  ,   . ,         ,  ,        .       ,   :   .       :  ,     ,     ,     .

    ,      ;     .       .

  ,       :  ,          ,  ,    -  .    , ,   , ,       ,     ,      ,    ,     ,      , , ,   . ,        ,   ,     ,          ,  ,   .

      ,       .   ,       ,        ,     ,        ,        .       ,      1901 ,        .   ,  1903-,      .

     ,        ,     .    ,     ,    ,      .      ,   ,     .

  ,    ,             .   ,           ,    ,         .       ,     -  .   ,             ,   ,       , c  ,       .

     -      .         .      ,       ,     ,     ,   ,  ,        .     ,       ,   .




  .


   .

   ,     (https://www.litres.ru/pages/biblio_book/?art=74073117)  .

      Visa, MasterCard, Maestro,    ,   ,     ,  PayPal, WebMoney, ., QIWI ,       .



notes








1


  ,       2025 . ,   ,      ,           . (. . .)




2


 2012    AlexNet      .  2016-  AlphaGo     .  2020-  ( )   GPT-3.  2022-  ( ) - ChatGPT.  2024-               .




3


  (  )   ,   ,     ,   - .       ,     ,         -,  ChatGPT.




4


  ,      :  ,  OpenAI   .


