Cutia neagră AI (Black box AI) este un concept care descrie lipsa de transparență în modul în care funcționează anumite modele de inteligență artificială, în special cele bazate pe rețele neuronale profunde. Deși aceste modele pot produce rezultate precise și utile, procesele interne prin care ajung la o concluzie sunt adesea greu de interpretat sau explicat de către oameni.
Această opacitate ridică probleme de încredere, responsabilitate și etică, mai ales în domenii sensibile precum sănătatea, justiția sau finanțele. Din acest motiv, cercetătorii dezvoltă metode de „explainable AI” (inteligență artificială explicabilă) pentru a face modelele mai transparente, comprehensibile și predictibile în luarea deciziilor.
