Obligația de a explica algoritmii publici un an degeaba
În urmă cu un an, una dintre măsurile cheie ale Legii digitale a intrat în vigoare: obligația administrațiilor de a explica, la cerere, modul în care funcționează algoritmii lor. Cu toate acestea, este dificil să găsești un actor public care să se aplece la exercițiu.
Alocarea alocațiilor familiale sau a burselor, valoarea impozitului pe venit. Începând cu 1 septembrie 2017, toate deciziile individuale luate „pe baza procesării algoritmice” trebuie însoțite teoretic de o „mențiune explicită” care informează cetățeanul că un program de computer a ajuns să intervină în calculul APL-ului său, al impozitului său pe locuință, etc.
Mai bine: cu aceste câteva rânduri, obligatorii prin Legea digitală, fiecare administrație este obligată să explice utilizatorului că are dreptul de a obține comunicarea „regulilor” și „caracteristicilor principale” de implementare algoritmul utilizat: gradul contribuția la luarea deciziilor, prelucrarea datelor (și sursele acestora), parametrii de prelucrare aplicați situației solicitantului.
Interesul acestor prevederi? Permiteți cetățenilor să aibă explicații inteligibile cu privire la funcționarea algoritmului (algoritmilor) care au fost folosiți pentru procesarea fișierului lor. Într-adevăr, pentru persoanele calificate în IT, este încă posibil să solicite - ca supliment - algoritmul însuși.
Încă nu este nici cea mai mică „mențiune explicită”
Problemă: la aproape un an de la intrarea în vigoare a acestei reforme, este clar că este ignorată în mare măsură de către administrații.
Este într-adevăr imposibil să se găsească cea mai mică „mențiune explicită” în notificările trimise de exemplu de către autoritățile fiscale sau alocațiile familiale. Ca și cum ar fi prea dificil să se integreze o frază scurtă în litere standard - și asta pentru a avertiza pur și simplu utilizatorii că pot cere să li se explice modul în care administrația a luat o astfel de decizie în ceea ce privește ei, folosind un algoritm.
În ceea ce privește explicația algoritmilor în sine, pantoful se ciupe și aici. Alocațiile familiale, solicitate de noi, au încercat să respecte exercițiul. Cu excepția faptului că a fost mai mult o explicație a calculelor referitoare la ajutorul în cauză (bonusul de activitate) decât o decriptare reală a modului în care a funcționat algoritmul.
Administrația fiscală, la rândul său, nu a răspuns niciodată la solicitarea noastră de clarificare. La sfârșitul anului 2017, am trimis problema Comisiei pentru acces la documentele administrative (Cada), care a invitat-o pe Bercy să detalieze funcționarea algoritmului de calcul al impozitului pe locuință - încă în zadar până în prezent.
„Acest lucru nu este rea voință, este mai degrabă ignoranță”, ne-a asigurat acum câteva luni un înalt funcționar familiarizat cu problema. „Într-adevăr nu este văzută ca o acțiune prioritară, deoarece nu există o sancțiune implicată, în afară de un posibil deficit de imagine. "