 . ,    
 


     .    LLM-   ,  ,  ,  , ,        365 .   ISO/IEC 42001, NIST AI RMF, OWASP Top 10 for LLM, MITRE ATLAS  EU AI Act.  CISO,  ,   ,       .





  

,     



 



  , 2026



ISBN 978-5-0071-0007-6

     Ridero







     ,  ,           .      ,     .               ,   -.      .          .       ,  API    .    ,       .

,     ,        .            .       -,   ,   .     -.  ,             .   ,     ,    .      ,   ,     , ,    .

    ,        .            ,  ,     .    ,      ,    :   ,   (evasion attacks),  ,   .    ,   ,     ,        .      ,             .      ,      .

    ,    .

   , CISO,   , CIO  CTO,      ,  -,    -,     MLOps,    ,      .   ,              .   ,      :        ,      .

      .            .    ,    , , , , , , ,  ,   .           ,          .

   ,    .    :  -,  ,  ,  .    : , ,  ,  .    :       .     :  ,  ,  ,    .       :  , , .        .              .

      : ISO/IEC 42001, ISO/IEC 23894, NIST AI RMF, NIST AI 6001, OWASP Top 10 for LLM Applications, MITRE ATLAS, CSA AI Controls Matrix,  NCSC  CISA    , EU AI Act   .       .     .  ,      ,             .

    .   ,    ,    , ,       .     ,   ,  .    ,  ,       .        ,      ,        .

   ,        .   ,       : ,     ,   ,   ,       .          -   ,         ,    .









 I. -   



   -,  ,    .   ,        .     -,    .     ,        .        ,    .    ,             .

-       .   , , , , , , ,   ,      .       ,      ,        . ,    ,  ,          . ,    ,        ,       .

  -      .      ,   ,    ,  ,    .     -    .         .        ,      .      ,          .

    ,     .     -:     ,           .     -    : , , , , , .     ,        .      -     : , ,   .           ,     -: , , , ,   .

        -         :   , ,   , , ,     .    ,    ,         .




 1.  -





1.1.  -: , , , 




    ,   -        .        .  -     . ,    ,    ,       .






 1.   -: , ,  , ,    .



   -    .        ,    .            .         .       ,      (RAG),     .            .       : , , , , .

      .          .    RAG-    ,     .     ,     .      ,    . ,               ,    ,      .



    ,       :  ,  ,  ,  .            .

     .   ,    ,          .       .     ,        .

       . Ÿ      ,             .      .         .          .

       .   (foundation models)           API    .         .      .        :      API      ,     .                .            .



           -.      ,      .   ,  ,  ,  ,      .   -    :  ,    ,   ,  .

 ,       .     ,           ,    .   ,          ,     API,   .       :      ,    ,      .

       ,          .      .       .   ,   ,            . ,          ,       .



  -  ,         :  ,  , ,  ,   ,  .       :  ,  ,  .      ,  ,  .        ,   ,  .

      ,   ,       .         .        ,     ,     ,  ,     .        .      ,        ,    .

      .  ,       ,     ,     .  ,       ,     .         :  ,   ,      API.        ,         ,      .

       .   .    .    .       .      .       .             .

     ,        .           .    API      .        .  -   ,        .          .




1.2. ,    


        -.       ,             .     ,     ,          ,       .

     .           .      ,     ,  ,       .    ,       ,           .

      .      :  ,  ,    .       ,    .    ,          .      ,    ,    .        :  ,     ,  ,  API.






 2.   : , , , ,      MCP  A2A.



               . ,       ,    . ,        CRM,             ,       ,    .

    ,       .     :   ,    ,   ,    ,   API,    ,     .     ,      .

   ,             ,   .  :        ?      API-,    ,     ,  ,      .     ,     (,    ),          .    ,  ,  ,          .

      . ,         ,  ,             ,       . ,    ,              ,    .

        ,           .  ,   ,  .

Model Context Protocol (MCP)       ,    .           MCP    ,    ,     , , , CRM      .        .   MCP      ,       :  MCP-        .

Agent-to-Agent protocol (A2A)   :      ,    ,     . A2A     (agent card)    , ,      .      ,           .

         . MCP        ,     ,    . A2A     :  ,  ,   ,   ,    ?   ,         ,  ?         ,       ?

 ,         .      ,       , MCP  A2A    ,       . ,   ,          ,        .

-      ,     .    -,  ,  ,  .   (API)       .  ,  ,       .

            .     ,     .  API     ,    .       ,      .

      ,      -     . ,     API   ,    .   ,    ,       MCP       A2A,       ,      .         ,     .

 ,     ,  -    ,      ,     .       ,  , , , ,   .   ,        ,  .     ,      ,    ,             .    ,        .




1.3.  -     


,       ,     :           .  , ,  ,  ,       .   ,    . -   ,      ,     ,      .

 , ,      ,     ,   .         .          ,     .    , ,    ,         .

 -     ,   .    ,       ,      .      ,        .        ,     ,     .          ,       ,      .

     .           .         .

      :  .              .        . -,      ,   .           .   :           ,      .

  . ,    ,       -   .  ,              .       ,    ,   ,        .        :  ,     - ,   -  ?

    .       :         .       .           ,            .

      .  ,     ,   .  ,     .     ,   ,       .  ,          -.    ,     ,      .






 3.     -:    , ,      .



   ,           .        ,  -   . -    -    ,   ,    .    .

  ,            ,    .   ,     ,       ,            .     ,         .   ,          : ,    ,  .

   ,  ,     ,    .       . ,    ,    ,     .

,  -   ,      .     ,            .  ,     ,   ,   ,     .      ,    .    ,      ,      .   ,       ,       ,       .

       ,     .         ,    .         ,      .         .       ,      .            .

            .     :    ,   ,       .   ,            .      :     ,   ,    ,  .

      .  - -    ,  ,   .          ,    ,   ,  ,     .        .




1.4.    


      -    : , , , , , .  -    .    ,  ,     .   ,     ,     ,    ,       .    ,             .

        .   ,            .       . , ,   ,        .    -  ,      -  ,      .

 -    .              ,      ,    .           ,     ,        .    ,          .

NIST AI Risk Management Framework      -  ,        ,   ,    . ISO/IEC 42001:2023         ,     ,       ,        .

   -   :  ,  ,   , ,   , , , ,  ,  , , ,      .     ,     .

      ,     .        ,       .   ,            .   ,          .       .       ,         .

       .     ,    ,     .     .    ,     ,   ,        . ,       ,          ,   ,          ,     .

  ,  -       .           .  ,         ,     .  ,       -,    .

      .       ,        ,     .   -   ,       ,        .        -,         ,    .

     .        ?       ,   ?     ,       ?   -     ?      ,     ,      .

   

       -.       ,       .  ,         ,  ,      .     ,        ,    .    ,   ,     ,    .

        .      :   ,  ;   ,    ;    ,    .      ,     ,   ,     .      :    ,          ,     .

    

   -    .              . ,           ,  ,    . ,      -   ,    ,    . ,      ,  ,        .

 -      : ,   .     .            .     ,     ,  ,    .        . ,     ,  ,       . ,    ,     .

      .       .       . ,          ,          ,   .




1.5.    


      :        ,   .          .    ,   ,  ,   .  -     ,      ,      .

 -

  ,        .  -      ,     .   .






 4.   -    .



  -     .       , ,   .     ,    .             .    RAG-   , ,        .    ,     ,    ,      .                   .

      .       .          .  ,   ,     .        ,    ,   .  ,      , ,     .

      .  LLM-     : ,  ,  ,   .               .  ,       ,   - ,   .

        ,        :  ,  ,    ,  ,  .        ,    .

     (GPU-,  ),    ,  ,    ,      API.  ,     ,         .

         . -,    ,       ,   ,   ,   .

   

  -    ,    .        ,        .  -     .

        .      API  ,       .     ,     , ,    ,    .      API,        .

      . -,   MCP  , , CRM   ,         .     .        ,    .        -,    ,     .

     . RAG-,       ,    ,       . ,        ,    ,     .         .

    .          A2A,       . ,   ,       .         ,     ,       .

     ,      .      ,     ,     .    ,          .    ,        .

      ,     .   ,      .  ,      .    ,        .   ,   ,          .

     .     ,      -,      -.        , , , ,    .       -    ,    .     ,          ,      .




      1


 Model Context Protocol   , Anthropic /  , modelcontextprotocol.io.

 Agent2Agent Protocol (A2A)   , Linux Foundation ( Google).

 NIST AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology,  2023.

 ISO/IEC 42001:2023. Information technology  Artificial intelligence  Management system,  7.3 (  ).

 NIST AI 1002. Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations. National Institute of Standards and Technology.

 OWASP Top 10 for LLM Applications. OWASP Foundation.

 OWASP Agentic AI  Threats and Mitigations. OWASP Gen AI Security Project.

 MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems). MITRE Corporation.




 2.  -    



       -: , ,    ,    .    -    ,        -.  ,  ,  ,    ,    . ,  ,  ,      .  ,    ,    ,       .

       -   .          ,   .           .           . ,     ,     .  ,         ,    Ȼ.






 5.   -  , ,       .



      -,    :   ,   ,     , ,      .       ,       .        ,           .




2.1.      


   (Large Language Models, LLM)         -.      ,         LLM: -    ,  ,  ,  ,  ,    .        ,   .      -   .

   LLM      ,   2017 .     ,   ,  ,    (attention),             .         ,    ,     .      ,               .    ,   ,         .

  LLM      .     ,                .      ,     :       ,           .

  LLM   ,        .     API     .      ,     , ,    ,   .       ,    ,   ,          ,   ,        .

           ,        ,      . ,    ,          ,   . ,   ,    ,        ,    .

 (fine-tuning)       :             .        .  ,   ,      .         ,        .

    LLM-    (RAG).            ,          .      ,    ,        . RAG   ,     :          ,       ,       .






 6.  LLM-      : , , ,  ,    .



    LLM    ,       -.    (prompt injection)         .      .     ,   -,      .       ,  ,    ,       .

      :  , ,   ,     .        ,         LLM  ,    ,       .                    .

        .     : LLM   ,    ,       .  LLM-        ,   ,      ,          .




2.2.     


      ,        : , ,  ,  ,  .        ,     ,   ,     ,       .          ,        .   ,              ,    .

          (Convolutional Neural Networks, CNN).    ,     ,       : , , ,  .      ,      .         :  , , .      ,        .

     .  ,    : , ,   .         .     ,      .        .          ,     .        ,   ,   ,     .

    ,             .     (diffusion models)       .     ,      ,  . -  (GAN)   :       ,   ,    ,         .

         ,       .      ,   .    ,  ,          .  ,                 .   ,       ,      -.

      .       ,     ,         .     ,              .           ,        .              ,       ,     .

     ,      .          ,         . EU AI Act                .   ,          :  ,                .        ,  ,      .

       .   ,    ,      ,   : ,  , .    ,        .              .        :   , ,  ,     .

      ,      .      ,    .        , , .      ,      .  - ,       (provenance)    ,          .

    ,       :         .  , ,  ,      ,    ,    .          ,     .        ,  ,         .

 ,    ,     .        ,       ,     ,       . ,      ,      ,            .           .




2.3.      


          .        .      ,     .     ,     .        .       -,      ,    .

         .   (Automatic Speech Recognition, ASR)     .     ,    ,         ,      .  ASR-          ,     ,       .   ASR      -,  ,           .

  (Text-to-Speech, TTS)    :     ,   .      .    ,       .   , ,      .   TTS    ,  ,         .

     ,         :  .           .   , ,      ,       .    :  ,    ,   ,   .          ,    .

,    ,    .                      220     .   ,    ,  ,     .   ,  ,     :          ,         .   ,             :    .

        (deepfake-as-a-service),       .    ,         .    ,    .        ,    ,   .  ,                .

  ,        ,      .        ,  ,      ,   .             ,    ,       .     :   ,   ,   ,       .

 ,    ,  ,     .  ,      ,   ,        .  ,      ,    ,      :  -,  ,  .       ,       ,     .

    .      ,     ,  ,  ,   . ,       ASR-,   .       API,   ,    ,     ,     .      ,              .

            . ,     ,   ,      .   ,   ,         . ,      ,    ,         .

      .                     .      :      ,          ;         ;    ,  -. ,           ,       ,       .




2.4.    


   ,   ? ,         .    ,     ,            .    .       ,      ,           ,     .           .

        ,  .       ,  ,   ,      ,      .         ,    ,   ? :      ,     ,     .                  .

         ,    ,     .  ,    ,      ,       .    ,  :    ,    ,    ,      . ,        ,  ,       ,       .  ,     :                  .

    .    ,     ? ,           ,   .         ,  ,     .           ,     .

       .    ,                 .   ,    , ,          .           ,  ,       ,      .   ,       :  ,          .

 ,    ,     .      ,                ,     .          ,      ,     .

     ,  ,       .          .    ,   :  ,  ,     . ,      ,            ,     -     ,     .

       ,   .   ,    :      ,   ,          ,      .   ,        ,       .      ,       :    ,  ,   .

,       ,     .        .     ,  ,       ,      .  ,      ,         ,     ,       .

 ,       ,             .      ,  ,       ,     .             ,     .




2.5.  


     ,    : , ,   .       ,          .       .        .    ,        .    ,    ,          .    ,      .

     ,        ,    ,          . ,       ,    ,           .  ,    ,   ,       : , , .         ,            .

     ,    .              .               .       ,     PDF-    ,     . -          ,     .                 ,    .

         ,          ,    .   ,       ,        .  ,  ,           ,        ,     .          :    ,        .

 ,            . , , , , ,   ,    ,    .      :       ,     .      ,    ,    .     ,   ,   ,     . ,   ,      ,      .

       : .      ,   ,   ,   .    ?      ,       .        :       ,  ,     ,         .   ,           .

        ,    . ,              ,       . ,     (,   ,      ),       .   ,        ,        ,      .

    .  ,  ,       ,  ,  ,       .   ,      ,   ,    .        ,         ,     .

        ,     -.            .     - :   ,    ,   .            ,    ,    .       .        ,   -     ,       .




2.6.  ,    


       ,    -,   ,    .  ,      .     .       .       .    ,              ,   .        ,        .

    ,            .      ,  ,  ,      :  ,  ,  .            ,  ,       .         ,             .

  ,  ,     .      ( ),   ( )    .          ,  ,     .       :  ,   , ,   .

       .          .      .      .       .        .     ,      .      :          ,            .

        ,       ,    .       ,   LLM,              .           .  : ,      ,       ,           .

      .   ,      ,      ,     . , ,          ,          .  , ,     ,  ,  ,   .    ,   :           ,    .

      ,        .      ,   API,          ,    .    ,          .       ,   (    ),          .

        ,    ,       ,      .   ,    ,        ,     .   ,      ,  ,  , ,   . EU AI Act  -,    ,  ,     ,            ,    .

 ,    1.3,     ,          .   ,   ,         .    ,     ,        .    LLM,     API   ,     ,           .

         .     ,     .      ,    .  ,    ,      .        .            ,   ,    . ,   ,        ,    ,     .

         ,       .        ,           ,               .  ,            ,       ,    ,   .




2.7.     


        -,       .     .       .      .    .       .         . ,        ,   .

    ,         .    ,  ,        -,  .        ?        ?          ?         ?  ,     ?   ,    ?

     .  LLM-      ,        .       :     ,     .           ,         .               ,     .   ,     ,   .






 7.      -.



   .        :   -,   ,   .        .          .           .          ,            -.

      . EU AI Act               .           .            . ,     ,  ,       ,   ,          .    ,      ,       .

     -     . AI    LLM-     ,            .         ,             .               .      ,          . ,       ,       .

        .  LLM        ,        ,      .         ,        .             .   ,    ,  ,     .

     ,       -.  : ,       ,     .  :   ,      .  :  ,    .  :   ,   .   :   ,       ,    .  :  ,       .    ,         .

      ,          :   -  ?     ,   ,   ,           .  -,       ,          .       ,     .




      2


 Vaswani A.  . Attention Is All You Need. NeurIPS, 2017      .

 Goodfellow I., Shlens J., Szegedy C. Explaining and Harnessing Adversarial Examples, 2014       .

 Brown T.  . Adversarial Patch, 2017     .

 Eykholt K.  . Robust Physical-World Attacks on Deep Learning Visual Classification, 2018      .

 NIST IR 8280. Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects. National Institute of Standards and Technology.

 Buolamwini J., Gebru T. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, 2018.

 Coalition for Content Provenance and Authenticity (C2PA)     , c2pa.org.

 Regulation (EU) 2024/1689 (EU AI Act)       ( ,  ,  ).

 Stupp C. Fraudsters Used AI to Mimic CEOs Voice in Unusual Cybercrime Case. The Wall Street Journal, 30  2019   , 220 000.

 Magramo K. Finance worker pays out $25 million after video call with deepfake chief financial officer. CNN Business, 4  2024   Arup, .

 Carlini N., Wagner D. Audio Adversarial Examples: Targeted Attacks on Speech-to-Text, 2018.

 Zhang G.  . DolphinAttack: Inaudible Voice Commands, 2017    .

 Thys S., Van Ranst W., Goedem T. Fooling Automated Surveillance Cameras: Adversarial Patches to Attack Person Detection, 2019.

 Tram?r F.  . Stealing Machine Learning Models via Prediction APIs. USENIX Security, 2016     API




 3.     



     ,    -       .  -     .     :      , ,      ,  ,   ,   .      ,       . ,       ,  ,    ,  ,    .

   .     ,    ,  ,        ?     ,  ,    ?      ,    ?       ,                .

      -,       ,      ,   ,     .     ,       -   ,                 .




3.1.    -


  -     ,    ,   . NIST AI RMF     ,    ,  ,     . ISO/IEC 42001                .         LLM-   :    ,   ,  ,         .         ,           .

      ,     -     .

     .      , ,   -      .   ,          :    ,   ,     ,   .            ,      .






 8.   -:        ,     .



             ,     .     ,      .

    .  , ,       .     ,     :   ,   ,   ,   .      ,          ,       .         ,  ,  ,         .

      .     ,    ,     .  ,      ,       (fine-tuning)    ,     .            ,  ,           .  ,    ,      ,     ,     .

     .      , ,      .        (AI red teaming),    ,       ,   .           .     -       .    ,           ,     ,      .

     .          .            . ,  ,  ,  ,  ,      ,    ,   .   ,     RAG-,                . ,      , ,         .

     .  -  ,    ,   ,    .      ,  .        .          .       . ,   ,      .      ,             ,     .

    -   .      ,            , -     .        ,         .        .          .           .

   ,   -      .             . ,    ,      .  ,   ,        .           ,       .            .




3.2.       


-     ,        .   ,        ,            .      ,     .       ,           .     -,      .       ,    ,    .

NIST AI RMF       : , ,   . ISO/IEC 42001   ,  ,    ,   (, , ),    .         -,        , ,       .     ,   :   -,         .

         ,    ,  .   ,     -,      .    ,        .     ,       .           ,      .    ,    ,     .

         ,      .        API,         .        ,      ,       .     ,   ,        ,    . ,          ,       ,  ,        .

            .  , ,     .   ,    ,   .       ,   .      ,        .          :     ,           .      ,  ,       ,         .

             MLOps.   ,   ,      .        :      ,   ,    ,     .  ,    ,           ,     ,     ,    .

       .    ,      (AI red teaming),     , .   -  ,      QA.      ,     ,              .      ,      .                ( CISO) ,  , .          ,      .

         .        .   ,    .     .     ,       .           .       :    ,   ,       .             .

       ,      .              .        .    . ,   ,       .         ,            ,  ,       .

 ,         ,      -.   ( )   ,     ,           .         , CISO,      .  :     ,      ,     ,     - .




3.3.  : , , , 


           .      ,        ,  ,    ,      .  -   ,     ,  ,        .

  .   LLM-    .    ,       API.     ,       .        .         .        ,   ?  ,     ,   ?  ,        ? ,      ?  ,      ? -,       ?

CSA AI Controls Matrix (AICM)       -,      .    (CSP)    ,  ,    .   (MP)   , ,      .    (OSP)   API,  ,     .   (AP)    ,     ,      .  (AIC)     ,  ,        .

      ,     .          ,        .          ,    ,       . , ,      ,   ,      .






 9.       -.



EU AI Act       :  (provider)   (deployer).   ,      -     .   ,   -   .           ,   , ,   - .           ,        .       AICM,              .

  -    ,     ,   ,    .            : ,  ,  .             .         ,      .          ,       ,   ,     .

   ,       .   LLM  API      ,          . ,       ,  ,  ,   ,   .     ?   ,       .    ,     ,   -  .

     .   -    :  ,  ,  .     ,   . ,    -      ,   . ,               ,     .   ,    ,     -   ,    .     ,        ,   ,    .

  ,      ,     . ,     ,      ,       .  ,     ,  ,       ,       .       ,    ,       .    ,       ,      .

       .       - .      API        ,    ,    ,     ,  ,      .   ,       ,   .    ,           ,     .




3.4.       


    ,       .     ,      :           ,    ,     ?

   ,      . ,     ,      :       . ,      API      ,   ,     ,       . ,        -   ,            ,      .       ,   ,      .

  ,  CSA AICM,        . ,    :        ,      ,     -. ,     : ,      ,          .  ,    : ,  ,          ,        .

     .      ,        ,         .              ,   .   -        ,         ,      .

   ,      .      :     ,   ,      .  -  .    ,  :     ,      ,     ,   .                  .      :        ,      ,   .

      ?           -.       ,         .      .        ,    .   .      ,         .

          .           ?              ?        ,     ,   ,    ?        ?     ,        ?         ?          ?         ,     ,            .

   ,     -  ,   . -,            ,    .      .    .              .     ,     ,   -,       .       ,        ,    .

EU AI Act   ,    .  ,  -   ,         ,   ,    ,             .  ,            ,      . ,                HR,            .    .

       .           A2A,         .              ,   ? ,    ? ,     ?  ?            ,  ,   ,    ,         .

      ,         ,   ,      -   .     ,        ,     . ,               ,      .         .




      3


 NIST AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology,  2023        (designers, developers, deployers, operators).

 ISO/IEC 42001:2023. Information technology  Artificial intelligence  Management system        ,    .

 Council of Europe, Consultative Committee of Convention 108. Draft Guidelines on Privacy and Data Protection in the Context of Large Language Model (LLM) -Based Systems. T-PD (2025) 3, , 2  2025      LLM (, ,  , ,   ).

 Cloud Security Alliance. AI Controls Matrix (AICM)      (CSP,  ,  ,  , ).

 AWS Shared Responsibility Model (     ,   )         .

 Regulation (EU) 2024/1689 (EU AI Act)   provider/deployer,     ,        .




 4.     



   ,    -,    ,          .     .       .     ,     ,    :        ,   ,   ,    ,    .

           .        .       .        .       .          ,     .     ,            .




4.1.  , ,      


    , ,     .         .      .      ,    .      .      -,      ,    ,          .

  ,     ,  ,   ,     .    ,      .  -    ,     ,      .             ,      ,          .         ,      ,       .

NIST AI RMF     -,         ,    ,   .       , ,  ,  ,   .     , ,     .      , ,    .       ,     ,   ,   -        .






 10.    ,         .



 -   .         ,      . Ÿ   ,    CVE   .  -        .             ,   .       ,    .          ,     .     ;      ,   .

     :    ,    ,      ,     -,     .           .       LLM      ,   SQL-  -.      :  ,  ,  ,  .           ,      .

 -     .  :  ,  , , , ,  .  :  (, , ),  (, , ),  ( ,  ),  (  ,  ),    ( ,  ).    :    ,  ,  ,  ,  . MITRE ATLAS       -,  ,  MITRE ATT&CK   .        ;   ,      ,     .

  (impact)      . ISO/IEC 42001       -  ,    . EU AI Act        ,       ,    .  -    (   )   (    ,    ).     ( )   (   ,    ).      (    )    (     ).

     ,    -      .       ,    . ,       ,      ,    ,    ,     ,   .

        .         .          ,                .   MCP-   ,     ,      .     ,    :   -    ,   .

 ,    ,      .   ,    ,  :     , ,     .        ,     :       .       :  ,     .        ,        .         ,      .




4.2.  : , , , 


    ,    ,        .          :   ,    ,    ,     .  ,   - ,     .






 11.    -  NIST AI RMF:   , ,   ,   ,   ,  ,     .



NIST AI RMF      -:   ,   ,   ,   ,   ,        .     :  ,        . ,      ,   .        ; ,      .

   (safety)  ,        (security),     .  ,      ,        . -            ,     .  ,     , ,        .  ,    ,     , ,      .

             .   ,       ,   ,   .  ,  ,      .  ,    ,       .      ,        . NIST AI RMF ,       :       ,    ,    .

   (validity and reliability)       .  ,      ,   ,     .  ,                   ,     .    ,           .

 -         .                ,        .        :    ,    ,            . ,  LLM   ,    ,     .

  ,      1.3. ,   ,          .      ,       ,       .               .

   (security and resilience)         .      :          ,      .   ,      :       ,           .

 -    ,         . ,   API ,       . ,       MCP,       . RAG-,     , ,     .   ,    -,  -  ,    .       ,     .         .     -      ,      .

     (fairness with harmful bias managed)  ,         .  ,             ,    : , ,  , , .  (bias)       ,   .   ,       .        ,      .     ,         .

          .      . EU AI Act  -,        .    ,       ,        .  ,     ,    . ,       ,  ,    ,         .

       .    :    ,        .                .         ,    .   ,       ,            .

  ,    ,  .      ,  :    ,   ,    .    ,  :   ,       .      ,  :     ,      .    -      ,  ,       ,       .




4.3. ,   


 ,    , ,    . ,    ,      ,     .          :       ,    ,            ,   .

 (transparency) ,           ,     . NIST AI RMF              ,    .         ,  ,     .      ,     .     ,     -,        .      ,     ,  .  ,   ,    ,          .

        .         ,     .       :    ,      .        ,     . NTIA         :           ,         ;   ,     .   ,           ,   .

EU AI Act         .       ,          . ,    ,     ,     . ,    (, , , ),        .      ,      .

 (explainability)   (interpretability)   ,   . NIST AI RMF        -,             .  ,          ,               .

      .        ,       .            :     ?        ,          .            .

    .   (ante-hoc)     :  ,  ,  .     ,         .   (post-hoc)    ,     :   , ,   .      , ,        .   : post-hoc    ,      .        ,         .

                 .       ,   ,      .  -         ,      post-hoc     .              ,      :    ,     .

 (accountability)  .   .    .  ,            .        ,    .

NTIA           :   (,  , ),   (,  , ,   (red teaming))   (, ,  ).  ,     :    ,   ,         ,    .

ISO/IEC 42001         ,       .   ,      -,      ,          -      .    :  ,    ,          ,     ,     .

    -     ,      .    ,   ,    ,        , ,      ,  .    :         . ,   ,     ,           .      ,      ,   .

    ,            .     :    ,     ,    .     :       , -     .        :        ,    ,    .

         . ,        ,      ,   ,     .       .       ,    .         .         -.        ,    .




4.4.      


          .      .      .        ,     -.






 12.    , , , ,    -.



,     ,    ,       . NIST AI RMF    :         ,   ,         .

        .       :   ,         .            ,       .     .      ,   ,     ,        .         (,  ),          post-hoc  .

         .        ,     ,       .     , ,                   ,   .  ,             ,     ,           ,     .   ,       ,     .

 ,            .         ,       . -,    ,    ,     ,    .  ,        ,      .   ,   ,    ,       . ,    ,       ,       .

       ,     .   ,   ,            (,        ),      ,      .        ,              .   ,    :     .          ;    ,     .

      .   ,              .      :  ,      ;   ,      ;    ,      ,    .   ,    ,       ,    .           .

       .    ,     ,   ,             ,        . ,        (   ,     ),   ,    ,     .            ,        .

    ?    ,   ,        ,    .         -,    ,  ,     .           ,   .     -      .          .

        .         ,   ,     :   ,   ,     (, post-hoc  ),      .     .     :     ,     ,       .     :    ,     ,   .

       . ,      ,       ,      . ,           EU AI Act,       ,          .          ,      .

      ,    .   -    ,      .       ,     ,       . , , , ,     ,       .         ,   ,    ,       .         ,        .




      4


 NIST AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology,  2023   ,    ( /  / ),   ,     .

 MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems). MITRE Corporation        -.

 ISO/IEC 42001:2023. Information technology  Artificial intelligence  Management system         ,    ,    .

 Regulation (EU) 2024/1689 (EU AI Act)       ,   ,       ,       .

 Goodman E. P. Artificial Intelligence Accountability Policy Report. National Telecommunications and Information Administration (NTIA),  2024    (  ?  ? ),     /.

 Dwork C. Differential Privacy, 2006 (   Dwork, Roth The Algorithmic Foundations of Differential Privacy, 2014)     ,    4.4.

 McMahan H. B.  . Communication-Efficient Learning of Deep Networks from Decentralized Data, 2017      .




 II.   



       :    -,    ,     ,         .    ,        .  ,     ,   . ,       ,     .        : , , ,    ,        .

     .   ,            .       -,    .        ,     .        ,      .

          ,     -   ,      ,        .




 5.    



-    ,    .        .      .    -   .       -,     ,  ,      ,     .     ,  ,        ,  - ,    ,        .

  ,      (AI governance),               .  ,     ,     ,     ,             .




5.1.     


   .    , , ,        ?  , ,      :     ,          .  -      ,   .    .

    .    ,  - ,      ,   ,  ,       API.      .     .            ,  -         .

    .      -?       ,  .  ,      .   ,      .  - ,       CISO. CISO    ,   .    :         .

    .       LLM-,    .       ,     .          ,       .          ,       ,    .

    . EU AI Act,     2024 ,   ,  -  ,    ,  ,     . ISO/IEC 42001:2023      ,      .          ,     -. ,     ,       .

ISO/IEC 42001           .     ,  ,     .       ,           .    ,     .   , , ,   .      ,      .     ,       .         .    ,    ISO 27001    ,      :       ,     .






 13.    -: , ,   .



  ISO 42001     ,    .  ,    ,   ,     ,  -  ,  ,         - .      ,    ,       LLM-,  -   .       ,   ,             ,    ,   .

          .         ,    ,   ,  -  ,    .  ,  .  ,  .     ,     .  ,      ,    .

 ,        ,      :   ,     -  .       ,       ,               .        .




5.2.      


   .   ,      :  ,  ,      .        ,         .       ,        .

ISO/IEC 42001:2023 ,       ,    ,       ,         .   ,     ,        .    ,    .      ,   , ,     .

        ,       .

    :   -  .   ,     ,  ,    ,   API.               ,  ,     ?    ,    ,   ?           -.     .        :      ,    ,   ,  ,     .

      .      ,     ,  ,  . EU AI Act    :    ,  ,   ,         (  ).               . ,           .         LLM-    .        ,    ,   .

         : ,    .      LLM      ,         .                 .                   .      :            .

       .      -    ,     ?    :     -,  ,    ,    ,    ,       .      :   ,  ,    ,    .       ,   .

      - .      ,        ,       ,     .   ,       .         .     ,   ,       .   ,        ,  .      -   :     ,    .       ,            .

       .     ,        .     ,    .             .   ,     ,     ,         .        ,   ,   .

          . ISO/IEC 42001  ,    ,        .          ,     .        ,        .         ,    - .      ,      -.      ,    ,   ,     .

          .     . ,           Ȼ       ,      .    ,    .      .    ,    ,    .    ,    ,     .         .        -,     DLP-    ,        .      ,   .

   ,   .     ,         .                ,     .   ,     ,       : , , ,  .




5.3.   :     


    ,     .     ,        .      ?    ?       ?       ?  ,  -   ?       ,   ,    .

ISO/IEC 42001 ,                     .   ,       ,   ,  , , , ,  ,         .    ,       ,  -    .

                  ,   .       . ,   -     ,  ,              . ISO/IEC 42001 ,         ,  ,        ,     .    ,             ,         .

       .    (AI governance board)   , , ,  ,     .     ,    ,        -.      -     ,      .      :        ,             .

    (AI Center of Excellence)    ,      .     ,    ,      ,    ,  .       -,     .     ,      .   ,         ,    .

    ,     -.  - (    -)   - ,         .         ,    .       ,      .  ,   :        ,     .

  -  ,      3.2  .        ,     ,     .     ,     ,   ,        ,        .      ,      ,   ,     - .






 14.    :  ,  ,  , ,    .



CISO (    )       .      -,    ,   ,      .  ,  -  -   , CISO      .    ,      ,    ,       .  CISO    :      ,      ,    .

    (Data Protection Officer, DPO)    ,     -,         .         ,   RAG-    ,   ,     -,       .

         -,       ;  ,       ;  MLOps/LLMOps,      ;  ,      ,     .

    ,       . -       .     ,   .     ,     .            ,       .     .  ,         ,    .  -   ,   ,    .

,       -,         .      , ,    ,  ,     .    -        .   ,    :  -   ;       ;        ,   ;               .

    . ISO/IEC 42001        ,   -,   ,      .   ,      ,        .   ,     ,   ,  .     ,   ,   ,        .




5.4.        


,     ,     .        ,   ,   ,   ,     .   ,      ,        .     ,  ,    ,              .

ISO/IEC 42001    .        ,   ISO 27001, ISO 9001, ISO 22301  .  ,  ,   ISO 27001,     ,    - ,      .  ,   ISO 27001,  -.    ,   .     -.          .

      ,       .

      .      ,       .    ,    ,    ,   :  ,  ,  ,     ,  .         ,    ,     .       -   .       :  -   ,   ,           .

ISO/IEC 23894:2023      ,    ISO 31000.  ,         ,  ,    .        ,          .           ,   ,    .          .

      . -   ,     ISO 27001:  , , ,  ,   .     ,   ,    -.      ,   :     ,   ,     ,   ,   .           (Statement of Applicability)    ,      A  ISO/IEC 42001.

    ,   .           : ,  , , , .  -     :         ;    RAG       ;      .              ,   . ,          ,   :      ,  ,    ,    .      ,    3.3,      .

      . ,   -  API       ,         .      ,       ,   - :     ,   ,    ,     ,   . CSA AI Controls Matrix      -,   AI-CAIQ (AI Consensus Assessment Initiative Questionnaire),         .

    .          ,     .  -     :   -   API,    - ,    RAG,   .   ,  -   -,         .      ,     .          .  -      (BIA)   ,      .

     . ,    ,        .   EU AI Act         .   -   ,      ,    .     :       -          .

         .         .   ,      ,     .     ,    - ,    .      :  ,    ,   ,  ,        ,     .

      .        ,   .    -.    -.       .    -.    -.    -.      ,    ,  ,   -      ,    .




5.5.    


       .  ,      ,      ,                .   ,    ,       ,      .    :         ,      ,   .

ISO/IEC 42001     .   ,     ,      .     ,    ,     ,   ,       .         ,     .

     .     ,      .    ,      .  :    ,      -   -   ,   .

  -     .     :   ,    ,   ,     .    :     ,  ,   ,   .   :   ,   ,    ,      .   :    ,    ,    .    :     ,   ,      .  :   ,   ,        .   :   ,   , ,        .

       .   ,   ,   ,      RAG      ,   ,          .     -   :  ,  ,  ,   ,          .            ,     .

      . ,     ,      ,    ,  - .  -    .   (model card)    : , ,  ,  ,  ,   ,  .   (system card)      :  , , ,  ,  .   (datasheet)   : , ,  ,    .       ;       ,   .

          . ,  ,   ,    .     ,         ,         .     ,          .  ,     ,       ,  ,        .

        . -  ,   :  ,  ,  . ,      ,    ,      .     :  ,   ,  ,   ,  , .      .       ,    ,    :    ,    .






 15.      , , , , ,    .



     . ,    4.3,   ,   ,       .     .   ,    ,       ,   :     ( ),     ( ),      ( ),     ( ).    ,    ,   ,      .

 ,    EU AI Act,    .          ,   ,  ,    ,   ,     .     ,  ,    .     .  ,     EU AI Act,        ,   ,        .

     .      : -     ,      ,           .             .    :      ,    ,     ,   . ,  ,  .      : ,    ,   ; ,    ,  .

      .      ,   ,    .    ,    -     ,   ,         .    :  ,    ,    .      :  ,   . ,          -,   ,    . ,   ,     ,      ,    .




      5


 ISO/IEC 42001:2023. Information technology  Artificial intelligence  Management system       (, , , PDCA-),    ,   , ,    .

 Regulation (EU) 2024/1689 (EU AI Act)         ,   ( ,  ,     ),       .

 ISO/IEC 23894:2023. Information technology  Artificial intelligence  Guidance on risk management         ISO 31000,       .

 ISO 31000:2018. Risk management  Guidelines     ,    ISO/IEC 23894.

 Cloud Security Alliance. AI Controls Matrix (AICM)  AI Consensus Assessment Initiative Questionnaire (AI-CAIQ)     -.

 Mitchell M.  . Model Cards for Model Reporting. FAT* Conference, 2019    .

 Gebru T.  . Datasheets for Datasets, 2018 (  Communications of the ACM, 2021)    .




 6.    -



  ,    : , ,      .     ,  .    ,  -   ,   ,        ,        .      ,       .

  ,  -        . ,    LLM-   ,  -,     . ,           ,    . ,   -      ,     ,    .     ,      (Shadow AI),        ,    .

  ,    -,   ,        .       - ,    ,       .




6.1.  -:     


ISO/IEC 42001     ,   -,   , ,    . EU AI Act              .     ,         :    ,    .

 -       -,   , ,      .      - ,      ,   ,   :  , , ,  ,  ,     .

 -      ,     .    .    .   ,        ,     .

 LLM-,   API    , .     -,     ?   ,     ?  ,    ,      ?      ,    :     ,   ,  ,     ,    .    ,          ,     .






 16.    -: , , , , ,  ,    .



  -      ,    ,     .       ,   ,      ,      .   -:        .  : LLM,  ,  ,  ,      .  :  ,   ,    API,    .  :  ,  ,  ,  . :     ,     ,      . :     ,   ,   .     .  :  ,     ,   .      .   :  ,   ,   .

    ,                . ,         ,       .         (, , , ,  )    ,     . ,   70%   , ,  ,   100%     .

   ,    .  -      ,   .    ,    5.2,         .       ,  ,            .          ,     .              ,   .

   ,   .      -  CMDB (Configuration Management Database),  - .    ,   CMDB  .       -.    ,   :     (    ,      ),  (  ,           )   (      ).

           ,   ,   ,       .      .




6.2.  :      


  (Shadow AI)    -      ,      ,    ,    .        (Shadow IT),         .     ,    ,    .  ,          ,    ,    :            ,       .

    .                .      :  ,  ,    ,  . ,  ,   -     ,   ,        .     ,      ,      ,     .

    .       . HR       .       LLM    .             ,    -   ,   .   ,     ,     ,  ,      .

      -   .     -   .           . CRM-      .            .    ,     -,   ,      .

        .          .

       .    - (API-  LLM,   )    -,     DLP-.    ,      -   .    ,        ,      VPN,     -,     .

        .      -          ,      ,   .   ,   ,   ,     .






 17.      :    ,       .



         -  ,      .  -        -,    ,   .   ,      ,      -  .

      -,    .     ,  ,    -   .  ,     -    ,        .

     .      ,  -   .   ,      ,   :   ,    ,        ,     .        .

  ,    5.3,    .   ,      -   ,      .

   ,        ,  ,    ,  .

  ,    : ,   .      .       -,        .        , ,         ,      .

  -   ,      ,          ,      .     ,     .               .

 ,     (   ,          ,    ),      :     , DLP-,   . ,          ,  .

      ,      .  -  .         .         .      ,    ,   ,       .      ,    :               ,     .




6.3.    :   


   .   .     -   ,         . -,      ,  ,   ,          .     ,         ,      ,        .




  .


   .

   ,     (https://www.litres.ru/book/raznoe/arkhitektura-bezopasnogo-ii-riski-upravlenie-i-zashchita-iskusstven-74428289/)  .

      Visa, MasterCard, Maestro,    ,   ,     ,  PayPal, WebMoney, ., QIWI ,       .


