Confidențialitatea datelor în contextul inteligenței artificiale se referă la protejarea informațiilor personale sau sensibile care sunt colectate, procesate sau folosite pentru antrenarea și operarea sistemelor de AI, minimizând riscurile de expunere neautorizată, utilizare abuzivă sau identificare a persoanelor din date aparent anonimizate.
Provocările specifice AI în materie de confidențialitate depășesc problemele tradiționale de securitate a datelor: modelele de învățare automată antrenate pe date personale pot, în anumite condiții, „memora” și reproduce accidental fragmente specifice din datele de antrenament atunci când sunt interogate în moduri specifice, chiar dacă acele date nu erau destinate să fie divulgate direct; sistemele de inferență pot deduce informații sensibile despre o persoană (orientare sexuală, condiție medicală, opinii politice) din combinarea unor date aparent nesensibile individual, printr-un proces numit inferență de atribute; iar centralizarea masivă de date necesară pentru antrenarea modelelor puternice creează ținte atractive pentru atacuri cibernetice.
Tehnicile emergente pentru protejarea confidențialității în AI includ învățarea federată (antrenarea modelelor fără centralizarea datelor brute), confidențialitatea diferențială (adăugarea de zgomot statistic controlat în procesul de antrenament sau analiză, pentru a preveni identificarea unei persoane individuale din setul de date agregat, păstrând totuși utilitatea statistică generală), și criptarea omomorfă (o tehnică criptografică avansată care permite efectuarea de calcule direct pe date criptate, fără a le decripta niciodată complet).
Reglementări precum GDPR în Uniunea Europeană impun obligații stricte privind consimțământul, minimizarea colectării de date și dreptul persoanelor de a solicita ștergerea datelor lor personale — cerințe care se aplică integral și sistemelor de inteligență artificială, ridicând provocări tehnice specifice pentru companiile care doresc să concilieze conformitatea legală cu nevoia de date pentru antrenarea unor modele AI performante.
