Halucinația, în contextul inteligenței artificiale generative, se referă la fenomenul prin care un model de limbaj produce informații false, inventate sau nesusținute de date reale, dar le prezintă cu aceeași încredere și fluență ca și afirmațiile corecte — fără să semnaleze incertitudinea.
Acest fenomen apare pentru că modelele mari de limbaj nu „știu” fapte în sensul în care le știe o bază de date; ele generează text prin predicția statistică a celui mai probabil cuvânt următor, bazându-se pe tiparele învățate din datele de antrenament. Când modelul întâlnește o întrebare pentru care nu are informație suficientă sau precisă, poate „completa golul” cu o afirmație plauzibilă din punct de vedere lingvistic, dar factual greșită — de exemplu, inventând o citare bibliografică inexistentă sau atribuind greșit o dată istorică.
Halucinațiile reprezintă una dintre cele mai importante limitări practice ale AI generative, în special pentru aplicații critice precum consultanța juridică, medicală sau financiară, unde o afirmație greșită prezentată cu încredere poate avea consecințe serioase.
Metodele de reducere a halucinațiilor includ ancorarea răspunsurilor în surse verificabile (RAG — Retrieval-Augmented Generation, care oferă modelului acces la documente reale în momentul generării), antrenarea suplimentară pentru a recunoaște și semnala incertitudinea, și verificarea automată a faptelor prin sisteme externe. Totuși, eliminarea completă a halucinațiilor rămâne o provocare de cercetare deschisă, motiv pentru care verificarea umană a informațiilor critice generate de AI este încă recomandată.
