Bias-ul reprezintă tendința sistemelor de inteligență artificială de a produce rezultate eronate, părtinitoare sau discriminatorii, ca urmare a dezechilibrelor din datele de antrenament, a alegerilor metodologice din dezvoltarea algoritmilor sau a influențelor introduse de proiectanți. Acest fenomen poate apărea sub diverse forme, precum bias de selecție (date nereprezentative), bias de confirmare (accentuarea unor ipoteze preexistente) sau bias cultural (reflectarea prejudecăților socio-culturale). Bias-ul poate afecta acuratețea și corectitudinea sistemelor AI în sarcini precum recunoașterea facială, clasificarea automată sau luarea deciziilor automatizate.
Gestionarea bias-ului în AI presupune implementarea unor strategii de detectare, măsurare și corectare a acestuia, precum diversificarea seturilor de date, utilizarea tehnicilor de fairness-aware learning și auditarea algoritmilor.
