 -.    LLM  
 


-       ,                ,  ,     ,    LLM       ,   .





 -

     LLM   



 



  GPT Image 2

   GPT Image 2



  , 2026



ISBN 978-5-0071-5640-0

     Ridero







  

     .           ;         discovery.       :

   ChatGPT  ,          .

   .         ,   ,  ,   .   :     ,  ,      ,   .    :    ,       ,    ,       .     ,      ,   .

   .   ,  ,    .   . ,   . ,  ,    ,   . .  ,  ,   .    ?    .

        .    ,    ,    .  ,  ,   ,         ,      . ,       ,     .     .

       .     ,       :  ,   ,       .      ,     .       ,        ,  ,      .    ,    discovery;     3.

  ChatGPT       .       :        ,   ,       .      .    ,   ,         :    ,      ,      .     3.

      .      ,   : ,      (LLM)    .         .       ,    ,    API:      ,     .       -:      .   (PII)      ,   ,   .     ,        -    .

        ?        :     -     .   ,    ,   - .     .      :   , , ,  .       ,   -    ,   ,  .          :       ,  ,  ,      .

          .     :    ,  , eval- -,       . -  ,           .

.     ChatGPT  ,   :     ;         ;           .         ,     discovery,        discovery.

  

-       ,      .         ,     ,      .

   .           .    :          .    ,       .       ,   :   ,    ,    ,   ,  ,    .            ; eval-   ,     .           :     , -  ,    .

    .  :        .     :   ,    -,     (prompt injection),  .   ,      : eval-  ,      ,  ,  .    :        ,       .

       .        ,          .   152-          ,      :             API.       :       ,         ;         .



 .        -,    ,      .           .     .



   ,     ,     .  ,               .

 . -    , ,    :   discovery  ,    ,            .                 ;      .



 .   .

 -, ,  .        ,        .     :      LLM   -      ,    ,    ,   eval,     .       II;       discovery-    ,  .

 ,   -.   ,          .   :    LLM-  -,    ,  ,    .  IV  V       ;  13    ,      API     .

  .      ,       .   :        ,   ,   -     :    ,     .     4, 7  16;        B     .

 -     .      .   :         ,    (GPU, , ),      .   III  IV ,  I  ,  V   :      .



  

   ,        :  ,  ,  ,  ,  ,      .

  I.    ( 12).   ,      ML-, -   ,     -.     ,  .

  II.    ( 35).   discovery,       ,        .   ChatGPT   .

  III.    ( 68). 152-   ,     , .         .

  IV.     ( 912).  on-premise,   -    Ollama, llama. cpp  vLLM,      ,      .

  V.  ( 1316).    , eval-  ,       ,  .

  VI.  ( 1718).  , ,     .

   .     III ,  IV  V  ,    14  eval .   : IV  V   , II  ;  5       ,       .        I,  III  IV  ,  V   .

  -           .   :           ,            (RAG),    , on-premise.    ,  , GPU-,         ;   15     : discovery  ,  ,  -,    RAG  ,   eval,  , .  ,          :  ,  ,    .           ,    :  ,   discovery,   15    .

   ,     ,      .         :       ,  ,     ,     .



    

     .     :

1.  discovery       : , , , ,  .

2.            /  /      ,   .

3.           152-       .     :         .

4.  -    :         data-center GPU.

5.      : , , , ,   ,     .

6.  eval- - (, , , PII, ),      eval-   .

7.   : , , -,      .

              ,     :           .  :       ,   -,    ,       ,       .

   .       :   ,     ,    .                    .          :     ,      ,     152-        .       :   , -    ,    .

       ML,        ,    ,       .         ,   ,   .    :   ,   LLM-       .

  

     .

         :  , -,  .

         .

 -     .

        ,   .

,       , ,   ,   ,   - [:   ].    :   ,        .   -   ,     .

   ,  . -   ; on-premise  few-shot    ;  Ollama, llama. cpp  vLLM  -; eval      ;     ,       .          ,  .

       : 152-   ,       18,     .          :     .

     . -     ,          :   , , .   ,       ,    ,  ,     ,     .      ,     ,    - .




 I.   





 1.   -  2026 :  


    :   ,      -            (LLM)   ,       .    ,      :   -     .  20232024   ,        .  ,   ,      .          .



       

     LLM   .    ,    :  ,  ,     .        ,  ,  .   ,    .

  ,       .    (instruct-)   ,       .    .         .    ,     ,   , ,     .     ,      :  ,   ,  .          .

  . -               LLM:    ,    .       . LLM Ops   : , , , . AI Systems Engineer   : , ,      . -        .

         .       ,      .      :  , ,  ,  .        ,   ,      .    : ,    ,        .

     ,  .       .       ,    . ,   ,  ,   .     ,    .      .          :          .

           .     ,  -   ,     ,     :   ,   .  ,     -  ,   .   ,    :          .

    .     ,   , ,             .      :     ,       ,   - eval          eval-     .      , ,       . Eval   :        -,   - eval      ?   .  - eval  ,     :   eval   .

      .         .    eval-. CI-      .      (   16).   ,     ,       , -   ,       ,  :    ,   ,        .

   .   (prompt injection)  ,       ,   ,        .            .         ,   ;  ,    ,    .       7.



.     :        ;       ;    eval-  ;       .      ,     .



 :    

    ,       .   security-   ,         (PII) ?      .   ,    ,       .

 -  ,   ,   ,      .   -     ,   ,    few-shot   ,         ,   -  eval-,   ,   :   ,      .         , ,   ,   PII             ,    ,  ,   .

ML-       :    instruct-, ,            ,   ,    ,   .    -   ,     ,    GPU-.     .  ,     ,    ,      .

-   : , , ,    -,      .         ,     -  .           .

     : , , -,  ,        ,          (RAG),  ,    .   ,       ,    ,        on-premise-.

 ,   .    -,      -,     .   -   ,     , ML- ,      .     :  , eval-     ,      .

,      .    80%          -:        . - ,     -:    ,      .  ,                .  ,  ,            .



  ():  



:    

: on-premise;     



-

 -, ,  

    -,  

      



-

    

  , few-shot ,  

 -, eval-,  

  ,   

 : , ,   ,

 PII     



ML-

    instruct-, , 

  ,    

      



 

  : , , -,

 ,   , 

    

  , ,   



 -   ,   :     ,     ,    .    ,   ,     eval:  ,   ,  .    ,   ,      .

     .     -  -     ,         -.        ,   .    :  - ,  ,   ,       ML-  -,       .



 .    ,  .      , -  ,    ,  ,    ,      .     .       ,    .



     

      .    -   ,  -,  eval       ,  .  junior-  :     ,    .

    :  -   ,     ,      ,   .     API: HTTP-, JSON,     LLM,      -,   ;    ,          .      Linux       , , , ,   ,       RAG:    ,      ,       .   ,            .

   . -    ,    GPU,   -    .      ,      ,   :   , -      , JSON    ,  (temperature)   ,    ,   .     ,   ML-.

     ML-    . -       :  ,  -,   .        ,      ,  eval-   .       :   eval-    .

           -,    ,        ,       .     , ,  API   ;   ,      .

   :               ,       ,     , ,        ,      .        ,      17.



 : junior prompt engineer ? solution engineer ? AI solution architect

         . ,        ,  ,           ,         .            ,       .

Junior prompt engineer   ,         .       ,  -,  eval-  ,  eval-,  .        ;        .     :    -.                  .

Solution engineer  -    .    discovery            (    34),       ,     eval,            ,     .        ML-  .       : , ,   ,         .   (   16)    .

AI solution architect   :  ,    - (    1011),      , , ,   .     , roadmap,  .         ,        .

   ,     .      :     ǻ   ,      .           ,        :     ,   -   .      :   solution engineer   -,  ML-,  .      ;  ,      : ,  , .

 :   (  )



Junior prompt engineer

:   LLM, ,  ,

  

:     ,  -,

eval-  ,  eval-,

 

:   , -, eval-

:   ;   



Solution engineer (AI)

: + API,  Linux,  RAG,   

: discovery,    ,  ,

eval   ,   

 ML-,    

: ,  , -,  ,

 

:     

   



AI solution architect

: + , -, ,

 

:  ,    ,

 ,  , 

:  , roadmap,  

:      



    junior   solution engineer  :         senior,             eval-,           .      ,      :  ,        ,  .

    HR-      .     :   ,      ,    .       ,     ,  ,    ,    .



     

   ,    ,     :    ,    ,  , -,  .      -     Ȼ    ,    .              2;    ,    ,    6.



-.  ,  -     :       ;       ; eval-      ;   ;       eval-;   .





 2026  -         LLM:        ,    ,   eval-.     ,  , eval   ;     ML-, -  ,      .      ,    API,  Linux   RAG;    junior prompt engineer, solution engineer, AI solution architect,     ,     .

 .   :    ,     ,      ,       .    2.




 2.   -   


 1  : -           (LLM),    ,      .     ,   ,       .   :     ,           .    , ,   , ,    ,  ,    -.



   

  :  , , ,   . -    ,      ,      .     ,   ,     .   ,     ,          .   ,   ,        .

  -      :

1.        , ,    .       (     34)     : , , .

2.      ,  ,       (RAG)      . ,         .

3.         -,     ;       .

4.    , , ,  .      .

5.     , ,    .

6.     , ,   .        -,   .






  -   



     :      .    :    ,      ,    .    .    ,     ,     ,    -  .   :   ,   ,      eval-     -     (eval;     14).

   -   .  ,   discovery,    :   80%       ,    (PII)      ,     8 .      Qwen (instruct,  14B)  - Ollama;      eval-,  ,       ,    RAG        15.                   .   : ,  ,   ,   .

      .     -     :     ,    ,         .             :  ,  ,   .         :  ,    , ,     ,     .   ,    :          ,    .



 

        ,      .          .     -.



    

       , ,       .        ,     :     .  :

   



1.  

  , ,  

 , , ,  ( /   / )

2.    

   

         

3.   

  ,  

  ,  

4.  

 , ,  

    

    

5. 

    ,     

6. 

 ,       (  .)

   , , 

7.   ()

    ,   

  -,    

8.  

 , ,  , 

  : -   ,  (   ) ,     ,                 -.         ,     .    ,    ,       .



 

    ,   , ,       .    :         ,     .       -:       ,    .        :               , , RAG.        ,    13;  ,      ,         .



 -

- eval         .     :    ,  ,    ,       .      :  (   ),  (    ),  (   ,        ),   (prompt injection)  ,  ,   , PII (    ),  (      ).

 -     :

ID: KB-042

: 

: ,      

:       -77

  -2019?

:  ,     

,    

.     

    .

:   , 

   , ,       ,   ,   ,     .          :      ,        ,   .

  -    ,  eval-     .    ,   .       -      :    ,           .



   

    ,       :        (PII ,  ,  ),      ( ,    ,    ),     (   ),    , , .       :    ,    ,     ,     . Ÿ  -      , -       ,     -   ;       67.



 .   .     ,  ,   ,       ,     .      :     ,         .  :    ,  ,   .           ,           .



 

      ,        . -      :      ,    .     : ,  ,   ,    .               ,       .





   :           ,      .  :  -,    ,   ,      ,  ,  .  :    ,     .    ,    ,   -     ,     .       :   ,             .    ,     ,   ,  5.



 

   ,      .    RAG    :   ,          .    . : ,      ,  :     . : ,      ,  :  ,   ,  ,      .          , 80%      ;      :       .       :    ,      .          ,      ,      .



  

       :     ,   .    -  :    ,   ,    ,    .  :    ,    ,     ,  .      ;      100%    (  ,  ),         .       :    ,    .          7.



   

    ,    API.         ;   on-premise      GPU,    ,     .  :     ,  ,  ;       ,       ( GPU-, , ).  :                   ,  ,   RAG. ,       8   ,   ,     ,     .      :  ,      ,   (   )      ,            . -          10.



-.      :

 eval- :       eval-;

      ,  ;

      PII     ;

        ,      ;

        ,      .



 -  

   LLM  :    ,    ,     .  ,   -  -.



 

  :    ,  ,  ;   FAQ;   . -  , ,        ,      .   :        ,   ,     .      ,            .             :    ,    ,       .           ,   :   , ,          .



  

       ,        -:  ,  ,  ,  1 900   14  ,       .     RAG   ,   ,     .  :      .   ,         ,         ,      .    :         .       ,             ,      .       :      ,   -        .



 

 : , ,  ,   . -  , ,        .  :     .      ,  ,     :        ,     .       .



-

 :  ,   ,   . -       :  ,  ,  ,       .  :  ,                    .   :     , ,         ;      68.



 

 :   ,    ,    , ,  ,         .    - :     ,            ,    .  :   ,   ,    , ,        .      ,    .    ,   :        .      ,       ,         .          ;      68.



.      :    ;        , , ;        .  , ,       . , ,            , -  .



     

       .    ,  ,     -  eval:       .      ,     ,    ,       .     :   ,  ,   ;          .

 :       eval-,        .     :    ,    ,     ,     ,   ,        .

   ,  .    -,  ;     ;    -    -.     :     ,  -,  ,      .        :       ,      .

 -      ,       .     ,     ,       -,          .      ,    .    ,        .

, ,     :      ,         .   discovery           ,    3.




 II.   





 3.  :         


 2   :    ,       .       .         :    eval, - ,    .        :   ,        .       .      (LLM)      ,     ,       ;       ,     .     ,   :    ,      ,       .



  discovery

Discovery           .        :   ,   , -   .    .   ,    ,      .   -,   : ,      ,           .






 discovery    



  discovery  :     ,                .



 1.   

    :          .   -    :       ,   ,  ,     ;      ,  ,  , ; ,      ,   .        ,       discovery:       .

 : ,       , ,   ,    . ,     ,      ;   ,     .

   -    :   ,  ,    ;  4 000 ,      ()  320 .     :       ,        ,        .     :       -,         ,       discovery    .



 2.  

   60 ,     ,   .     :  ,  ,   ;    ,      .         :   ,   .

  .    ,    .  ,          , on-premise  ,     ,       :    ,    .    :        ,    ,      .

    :         .    .  :     , ,  ,  .  :          .    :            ,            ,     .



 3. -   

-      ,    .      :   ( ),   ,   ,    ,   .         : ,       ,   ; ,    ,   -   .

  -      :    ,       ,      .  -    :   80%       ;    (PII)      ;     8 ;        .         ,      ,  discovery,        .    6        .       .



-  .      :

1.     ,    .      ,    .

2.     ,  .

3.  : , , .

4.         .

5. : , , .

6.       .



  24 ,    ,         ,     .



   

     ,       :                       .         GPU,          һ,     .



 1.  

   510     :  ,  ,    .     :    ,    ,     .       ;     .       . :          , ,       , LLM, .    ,           . :      .       ;            ,       .   ,      ,      .

 -      :       ,      ,      .      :     ,         ,     .      ,  -      ;           ,    .



 2.  

   1015       :     ,      ,    ,           ,   .         ;      . , , :    ,           .      ,    :      ,       , , ,   ,       ,  discovery,       .

  -          :    ,   ,   ,    ,    .  ,       ,    ,         ,    -.



 3.    

    , 2530 ,      discovery.   :   (  )      , ,      ,    .       ;        .



.            ,            .   ,    :    ( ,  ,  ),  : -         .   ,   ,      ,    .



    :  ,      ,   ,  .   ,      ,        ,    .    ,  ,      ;         .

  -      . :    34        ;    ,  ,      1 900   14 ;        . :   .                  .

 4.  

   1015     ,    .     . :   (,  , ),   ,  ,   ,        . :   ,      -     GPU- NVIDIA L40S 48    ,    [:   L40S  ],   -  12 . :       ;  -         ,     .  :   PII  ,  ,  ;  ,           68,   discovery        .

   .   ,  ,           ,        .     discovery:     ,   .

     ;   discovery,       -,    A.

 discovery:   



 1.  (510 )

1.          ?

2.        ?



 2.   (1015 )

3.      :   ,  ?

4.        ?

5.    ,   ?



 3.    (2530 )

6.       ,       .

7.         ?

8.             ?

9.   ,    ?



 4.   (1015 )

10.   : ,  ,  ?

11.      ;      ?

12.     ,    ?

13.          ?



 ,  

          .    ,  on-premise,     -  GPT,        .   :      ,        . ,     ,     ,    .

    ,    ,  :     (    )   (      ,     ,    ).  :           ?   ,   ,      .     ,   ,   ,         .

 -   .         ;  discovery ,     ,   :       1 900  14 ,    34   .            (RAG),    ,   , on-premise          ;          .      -       1011  15;  ,    :    .



    

    ,        ,     -     .       ,   :       .     ,    :   ( ,       ),   (,    ,   )   (,     ).

   ,   .      ,           ;     ,       .  -      .    ,        :   .    ,    -      :  ,    .         : ,    ,    ,  ,   ,       .

 -                      :   80%     ,     8 .    34       ,   ,      ,     .   -      ,    ;     discovery      .



  

   -   ,      :    ,     .

   ChatGPT  ,    :  ,  ,  ,   .     ,       ,   .      : ,  ,   .            :   ,    ;   ,     ;   ,   .    discovery      ,         ,     ,   -.

   -:   RAG,   ,   ,   -.         ,         .   : , , RAG   .       :       ,   ,       ,     .        ,    ,        ,  discovery .

   :       ,       ,   .  ,  ,       .        ,     ;   ,    ,   .        ,  ,   ,            .



 .       ,        .    ,  ,   ,     ,    ,          .        discovery,      .





  -   :      .    , , -       .    , , ,        .   ,      ,     ,   .    ,    -,      discovery.

 discovery   : , , , , , , , , .       :   ,   .          ,           .




 4.          


 3   :         , , , .        ;        .      ,         (LLM): discovery ,  ,     ,                   ChatGPT.         : ,     ,        .      : ,          .



   

     ,   .   34          .     ChatGPT     .      ,  ,   .    : , ,  .       ,      ,            .

  ,       .        :    .     (   )      :    ,   ,   . ,       ;                .

 -     .    - :   ,    discovery  ,      .        -.  discovery     :          (RAG),    , on-premise.    :       ,    .  :

  -  

: -,    (RAG),  



- ( discovery):

     

     .



  discovery:     

   .



:

 :      ,

      

 :      ;

   

 :   80%      discovery

 :      -;

 ,      

  :  , , ,

 ;   

  100%  .    1 900   14  ,    :      ,       ,    ,    .  100%     ,    ,     .  80% :          ,       .          ,       ,     .

      -    :    (PII)      ,     8 ,        .   :     discovery     .          ,     ,    12.   152-ǻ      ,       ,  6.       ,      .     :         ,     .



  -

       :    ,   .    -     : , , , , ,  .     :  ,      ,       .





-:    ,   ,   ,   ,   .    ,     .    :    ,   ,    .         ,   , ,      .     ,  , ,     .  :   90%          .  :   ,   .





-:   ,  ,  .        ,     :     400 ,      800,      300.     : ,    -,     ,       .       :   ,      .





-:   ,  ,  .  ,        ,      .   . :         -  80%. :   ,         ,   ,  ,      ;        . :         ,    .      :          ,   .   :         .





-:  ,   ,  ,   .     :       ,      ,   .        .      : ,  ,      ,        Ȼ.   : few-shot  ,         ,   - .    :      .     ,   -  -  .     -,        :       ,     -.





-:    ,     ,    .     ,       :  ,   ,     .     : PII        ,  ,  :       ,   .  ,    ,    67;       .   -      (prompt injection)  ,       ,   :    ,     ,  . : 100%      ,       .



 

-:      ,    ,  .     ,   .          :   ,   ,    .  :      ,     ,     ,    (, , ),      . :     -,           : ,  ,  .      :         .



.   -  .     :      (           );  ,      (        );      , ,   (      );    (    ,  ).       -: -, , , , ,   . ,          ,  .



    

 2                .           ,  -     .      :       ,      ,        .

 :

 .          -    ,   .       ,  :     .

 .   ,     :   ,   ,   , .    ,  .

 .      few-shot ,     .

  .   :   ,   ,   ,  ,   .    ,   .

 .            : ,  ,   .            ,  6.

  . ,   ,   ,   .

  .  : , , ,    .         .

     -   :

    (: -   )

 0.3, :  



:

       

(, , ),  - 

 .     ,

     .



:

1.      .

2.    FAQ    ;

    .

3.         

    ,

    .

4.      

  .



:

  ,   , 

  .

   ,  .

        

,   .

  :   , 4 .



 :

        

;       .

     .

  :  500 .



:

      (, ) 

  .

    ,  

,   .

        .



  (,   ):

   85%     

 FAQ,    .

   90%     

   .

  PII       .

     100%:  

 ,     .

   :          ,     ;      . ,    ,   ,    -,   ,          .    ,         2:              , ,   . ,     ,   ,   ,  .



 :  /  /   

     ,     .     .

.     .     -:

         ;

   14        ;

        .

 - :    ,     ,  ,   .      -.

. ,    :

    ;

    ;

  ,   ;

      ,    .

    ,  :       (   ?),      (   ).      ,    ,     .

  .  ,       :

       ( - PII   ,      );

   ,    ;

          ;

          ;

         .

     ,      :       .

   .     :      .         :   ,    ,    .    -,  .   :        ,   .



    

      ,      .      :  ,    ,     .   :   ,      /  ,         ,    .      :   ,    ,   ,  -   -    ,  ,   ,    , .     :       ,       ,     ,    .

    :

     , ,  ,  eval-,    .        ;

     PII, ,   :  ,    ;

        .       (,  ,  ),  ,   ,   .  8090%      ,   ,    ;

             ,   :   75%,   80%;

     ,    ,     :        ( -     8 );

       :   -          ,     ,  16;

   :      .      .



 .     .        :       , -  ,   ,      .        ,  -  ,      ,   .  :  ,        .     :          .        ,                   .   :     .



-.     :

      -   ,    ;

    :    ;

    PII,        ;

   /  /      ;

   :      ;

           ;

     ,   .



    

    ,      ,       .    2  :     ,    ,      .       .  :      -,     ,     ,     .  :   ,   ,      ,   ,   .   :   ,        .

       :     ;          .        ,   :        ,   ,  ,  ,    .  -:      ,    ,   . ,       ,  ,    .

    ,       .          ,      :       ,      .  -       ;      ,    RAG   ,  15.         ,     discovery.

 ,       :   3   ,    ,      .       ,      .

     .       ,    .   ,         ,   ;     ,    ,          .   ,     ,              .




 5.        


  :   ,    ,   /  /    .            ,   .     :   ,  ,  .     -  :     ,     .       ,     :     ,     ,  ;       ,   ,     .   ,       :     ,    ,         ,     .      :              ,     .



  ,    

,   discovery   , -   ,    .                        , , - ,   .    (LLM)   :              ,     .      ,      ,   ,  -    ,   .

,    ,      .   :      ,       .  -      ,     ,     ,         .  ,   ,   ,   :    ,  ,        .

 ,     ,   .  ,   ,    ,      :          ,    (  top-p,   ,    ),  few-shot-,      (RAG),      .   ,      :     ,      .   ,        ,    ,   .

   -  ,      ,  :

   ,   .        .       ,     .          ,    ,   .

 ,       :   .     eval-  -     ,     . ,   ,   :   ,     .                ,          ,     .

  ,     ,      : ,   ,    ,   .              ,     ,     ,      ,    ,    .   ,   .   ,     :        ,    .       ,   .                  ,   .

-      ,     .     :          ,     .        -,            .       ,  -      eval     .




  .


   .

   ,     (https://www.litres.ru/book/andrei-ladygin-34142017/professiia-prompt-inzhener-ot-vyiavleniia-potrebnosti-do-lo-74761562/)  .

      Visa, MasterCard, Maestro,    ,   ,     ,  PayPal, WebMoney, ., QIWI ,       .


