Vizualizarea activărilor (activation visualization) este o tehnică folosită în analiza și interpretarea rețelelor neuronale artificiale, care permite observarea modului în care diferitele straturi sau neuroni răspund la un anumit input (ex: imagine sau text). Scopul este de a înțelege ce caracteristici sunt învățate și cum contribuie acestea la deciziile finale ale modelului.
Această metodă este aplicată frecvent în rețelele convoluționale (CNN), unde activările pot arăta ce tip de forme, texturi sau obiecte detectează fiecare filtru. Prin vizualizarea acestor activări, cercetătorii și dezvoltatorii pot identifica erori, suprainvățare, neuroni inactivi sau zone care nu contribuie semnificativ la rezultat. Este o unealtă valoroasă pentru interpretabilitate, debugging și optimizarea modelelor de învățare profundă, aducând transparență în procesele de decizie ale AI.
