Vizualizarea activărilor este o tehnică din învățarea profundă care permite explorarea modului în care un model neural, în special rețelele neuronale convoluționale (CNN), „vede” și procesează datele de intrare. Aceasta constă în afișarea valorilor activate (ieșirile intermediare) din diferite straturi ale rețelei, pentru a înțelege ce tip de caracteristici (ex. margini, forme, texturi) sunt extrase în timpul procesării.
Această metodă este esențială pentru a interpreta comportamentul intern al modelelor AI, a diagnostica probleme precum suprainvățarea sau neuroni inactivi, dar și pentru a îmbunătăți arhitectura rețelei. Prin vizualizarea activărilor, dezvoltatorii pot vedea cum reacționează fiecare strat la o imagine sau un text, obținând o perspectivă intuitivă asupra modului în care modelul învață și ia decizii. Este o unealtă importantă pentru transparență, interpretabilitate și optimizare în învățarea profundă.
