Halucinația, în contextul inteligenței artificiale, reprezintă fenomenul prin care un model AI – în special unul de procesare a limbajului natural sau generare de conținut – produce informații incorecte, fictive sau înșelătoare, prezentate ca fiind reale sau corecte. Aceste răspunsuri nu corespund datelor din setul de antrenament și nu reflectă faptele.
Halucinațiile pot apărea din cauza limitărilor modelului, a lipsei de context sau a formulării ambigue a întrebării. În aplicații critice, precum sănătatea, educația sau domeniul juridic, reducerea acestui fenomen este esențială. De aceea, cercetările actuale se concentrează pe dezvoltarea de modele mai transparente, verificabile și capabile să-și evalueze gradul de certitudine în răspunsuri.
