Sampling-ul (eșantionarea), în contextul inteligenței artificiale generative, se referă la procesul prin care un model de limbaj sau de generare de imagini selectează următorul element (cuvânt, token sau pixel) dintr-o distribuție de probabilitate, în loc să aleagă întotdeauna cea mai probabilă opțiune.
Dacă un model de limbaj ar alege întotdeauna cuvântul cu cea mai mare probabilitate (o strategie numită greedy decoding), rezultatele ar fi adesea repetitive, previzibile și lipsite de creativitate. Introducerea unui element de aleatorietate controlată prin sampling permite generarea de text mai variat și mai natural, la costul unei predictibilități mai reduse.
Parametrii principali care controlează sampling-ul includ temperatura (un parametru care ajustează cât de „îndrăzneață” este selecția — o temperatură mică favorizează opțiunile probabile, apropiindu-se de comportamentul determinist, în timp ce o temperatură mare crește șansele unor alegeri neobișnuite, mai creative dar și mai riscante din punct de vedere al coerenței) și top-k / top-p sampling (tehnici care restrâng selecția doar la un subset al celor mai probabile opțiuni, evitând alegeri complet absurde, dar păstrând variație).
Alegerea corectă a parametrilor de sampling depinde de aplicație: pentru sarcini care necesită precizie și consistență (de exemplu, generarea de cod sau răspunsuri factuale), se preferă o temperatură scăzută; pentru scriere creativă, brainstorming sau generare de idei, o temperatură mai ridicată produce rezultate mai variate și interesante.
