Transparența algoritmică este principiul și practica de a face inteligibile și explicabile procesele decizionale ale sistemelor automate — algoritmi de învățare automată, sisteme de scoring, motoare de recomandare — pentru persoanele afectate de deciziile acestora, autoritățile de reglementare sau publicul larg, contracarând problema „cutiei negre” specifică multor sisteme moderne de inteligență artificială.
Nivelurile de transparență algoritmică variază semnificativ în funcție de context și cerințe: transparența minimă poate presupune doar informarea utilizatorilor că o decizie a fost luată sau asistată de un sistem automat, fără detalii despre logica internă; transparența intermediară poate include explicații generale despre tipul de factori considerați de sistem (de exemplu, „decizia de aprobare a creditului ține cont de istoricul de plăți și venitul declarat”); iar transparența completă ar presupune dezvăluirea detaliată a algoritmului însuși, a datelor de antrenament folosite și a ponderii exacte a fiecărui factor în decizia finală.
Tensiunea centrală a acestui domeniu este echilibrul dintre transparență și alte interese legitime: dezvăluirea completă a unui algoritm poate expune secrete comerciale valoroase ale unei companii, poate facilita manipularea sistemului de către actori rău-intenționați (cunoscând exact criteriile de decizie, aceștia pot „optimiza” artificial rezultatele fără a schimba realitatea de bază), sau poate fi tehnic dificilă pentru modele extrem de complexe, precum rețelele neuronale profunde, unde chiar și dezvoltatorii au dificultăți în a explica precis de ce modelul a ajuns la o anumită decizie specifică.
Reglementări precum GDPR (dreptul la explicație pentru decizii automate) și Actul AI al Uniunii Europene impun cerințe specifice de transparență pentru anumite categorii de sisteme AI cu risc ridicat, forțând organizațiile să investească în tehnici de inteligență artificială explicabilă (XAI) pentru a-și documenta și justifica sistemele automate de decizie.
