Un audit algoritmic este o evaluare sistematică și independentă a unui sistem de inteligență artificială — a datelor sale de antrenament, a modului său de funcționare și a rezultatelor pe care le produce — cu scopul de a verifica conformitatea cu standarde legale, etice sau tehnice declarate, identificând potențiale prejudecăți (bias), erori, riscuri de siguranță sau discrepanțe între comportamentul promis și cel real al sistemului.
Procesul unui audit algoritmic riguros implică, de regulă, mai multe componente: examinarea datelor de antrenament pentru a identifica dezechilibre sau prejudecăți istorice care ar putea fi reflectate sau amplificate de model (de exemplu, un sistem de recrutare antrenat predominant pe date istorice dintr-o industrie dominată de un anumit gen poate discrimina implicit candidații de gen minoritar); testarea sistematică a rezultatelor modelului pentru diferite subgrupuri demografice, pentru a verifica dacă performanța sau echitatea deciziilor diferă semnificativ între grupuri; și evaluarea documentației și proceselor de guvernanță asociate dezvoltării și implementării sistemului.
Auditurile pot fi interne (efectuate de echipe dedicate din cadrul organizației care a dezvoltat sistemul) sau externe (efectuate de terți independenți, adesea necesare pentru conformitatea cu reglementări precum Actul AI al Uniunii Europene, care impune audituri obligatorii pentru sistemele clasificate cu risc ridicat).
Importanța crescândă a auditurilor algoritmice reflectă recunoașterea faptului că sistemele AI, odată implementate la scară largă, pot avea impact semnificativ asupra vieților reale ale oamenilor — decizii de angajare, aprobare de credite, diagnostic medical — fără o supraveghere externă riguroasă, riscul ca prejudecăți sau erori subtile să rămână nedetectate, afectând disproporționat anumite categorii de persoane, crește semnificativ, cu consecințe legale, etice și reputaționale importante pentru organizațiile responsabile.
