Cum putem folosi algoritmii cu sensibilitate? Jörg Dräger, membru al Comitetului executiv al Fundației Bertelsmann, im
Comitetul executiv al Fundației Bertelsmann nu crede într-o dezbatere de speriat despre consecințele digitalizării. Într-un interviu acordat lui Thoralf Cleven, tânărul de 51 de ani descrie modul în care schimbarea digitală poate moderniza societatea noastră și o poate face mai echitabilă - dacă folosim algoritmii în mod sensibil.
Când mă duc la mașină după serviciu, smartphone-ul meu raportează regulat și fără a fi întrebat cu timpul calculat pentru drumul spre casă și rute alternative, în funcție de situația traficului. Este practic, dar și cam înfricoșător, nu-i așa?
Astfel de suporturi sunt înfricoșătoare atât timp cât ne fac să simțim că suntem scăpați de sub control. Pentru mine, acest mesaj apare după ce mă trezesc - cu timpul până la birou sau cu o întâlnire. Dar știu ce date folosește această aplicație și - foarte important - cum o pot opri. Toți avem această putere. Pe de altă parte, nu ne-ar veni niciodată în minte să ne întrebăm cum funcționează algoritmii dacă trebuie să călcăm brusc frâna în timp ce conducem și sistemul ABS de frânare antiblocare ne ajută să rămânem pe bandă. Dar acesta este și rezultatul analizei algoritmice a datelor.
Deci, devine mai important pentru fiecare dintre noi să fim conștienți de când și cum acționează un algoritm cu noi?
Da. Mai presus de toate, trebuie să fim conștienți de consecințele sociale. Un dispozitiv de navigație în mașină, de exemplu, îmi determină timpul de conducere și, prin urmare, durata de viață cu ghidarea traseului, dar și prin emisiile de CO2 posibil optimizate și viteza climatului sau poluarea fonică.
Există încă zone ale vieții în care datele nu joacă un rol?
În privat, da, cel puțin atât timp cât îl oprim. In caz contrar? În SUA, judecătorii folosesc algoritmi pentru a determina gradul de pedeapsă, au devenit o parte indispensabilă a selecției personalului și chiar locurile din școlile primare - de exemplu la Berlin - sunt acum atribuite în acest fel. Așadar, algoritmii au încetat de mult să determine domenii tehnice, cum ar fi ABS, dar acum joacă un rol decisiv în viața fiecărui individ. De aceea este important să vorbim mai puțin despre efectele pe termen scurt ale utilizării inteligenței artificiale și mai multe despre efectele pe termen lung. Ele sunt extrem de formative pentru societatea viitoare.
De fapt, preferați să vorbiți despre algoritmi, inteligență artificială sau mașini inteligente?
Algoritmul sună foarte tehnic și este mai mult un factor de descurajare. Inteligența artificială dă impresia că noi oamenii suntem înlocuiți. Din punctul meu de vedere, termenul corect este „inteligență extinsă”. Poate doar să ne extindă abilitățile și să ne ajute să asumăm sarcini foarte specifice, cum ar fi analiza unor cantități uriașe de date.
De ce am fost mai puțin îngrijorați de utilizarea datelor în trecut - cuvântul cheie ABS - și acum dezvoltăm o teamă reală?
Inteligența artificială este adesea asociată cu terminatorul sau matricea din filme. Și dezbaterea politică se învârte în mare parte în jurul numărului de locuri de muncă care vor fi distruse. Ambele sunt negative și duc la reacții defensive. Ar fi mai bine dacă am discuta despre modul în care ne putem îmbunătăți abilitățile umane cu ajutorul mașinilor. Pentru că despre asta este vorba. Beneficiul social ar trebui să fie în prim plan. De ce nu ne întrebăm cum putem construi o societate mai bună cu o inteligență sporită?
Poate pentru că slujbele lor sunt importante pentru mulți? Care ar fi stâlpii tăi într-o astfel de dezbatere?
Desigur, locurile de muncă sunt foarte importante. De aceea este atât de important să decidem astăzi cum vrem să trăim și să lucrăm mâine. Atunci când sunt folosiți cu înțelepciune, algoritmii oferă opțiuni pentru mai multă justiție și echitate globală, un acces mai bun la educație sau locuri de muncă decât avem sau putem astăzi.
Ce vrei să spui în mod specific?
Prin utilizarea tehnologiei în procesele de aplicare, mă pot asigura deja că mai multe femei au șanse în funcții de conducere. De asemenea, pot permite o mai mică discriminare după origine în procedurile judiciare. Prin urmare, depinde de judecata umană cum și pentru ce construim și folosim algoritmi. Este vorba despre controlul și transparența procedurilor. Algoritmul deține adesea o oglindă a modului în care ne comportăm. Poate să ne întărească comportamentul nedrept, dar oamenii pot, de asemenea, să rotească comutatorul cu el.
Economia este eficientă. Nu este adesea în conflict cu interesele sociale, cum ar fi participarea tuturor oamenilor - indiferent dacă sunt cu handicap fizic sau cu boli cronice sau provin dintr-o familie săracă?
Cred că este mai valoros să faci societatea cu 20% mai echitabilă decât producția de automobile cu 20% mai eficientă. Un exemplu: în SUA, un centru de apel a folosit algoritmi pentru a găsi angajați de la solicitanți care ar sta mult timp fără a renunța. A funcționat grozav. Apoi s-a observat, totuși, că oamenii din zonele cu probleme nu au obținut deloc un loc de muncă, așa că pur și simplu au fost discriminați. Prin urmare, compania a decis să reducă algoritmul în acest moment, astfel încât să nu mai discrimineze. Prioritatea a fost: corectitudinea față de eficiență.
Cu toate acestea, algoritmii nu pot preveni discriminarea ulterioară în viața de zi cu zi sau la locul de muncă pe baza culorii pielii sau a originii.
Nu, sensibilitatea la probleme trebuie să vină înainte de soluția lor algoritmică. Atunci oamenii au oportunități pe care cu greu le-au avut înainte. Acest lucru, la rândul său, va duce la o schimbare de atitudini și valori, sunt convins de asta. Algoritmilor nu le pasă de unde vii, câți ani ai, culoarea pielii, sexul și calea ta educațională. De exemplu, veți putea folosi jocuri pe computer pentru a vă recunoaște competențele și a le combina cu cerințele unui loc de muncă. Nu doar precizia este impresionantă. Sunt impresionat de potențialul unei societăți mai echitabile - programele nu se uită doar la calea educațională, eventual, accidentată și la lipsa calificărilor formale. Vezi și invizibilul, abilitățile ascunse ale individului.
Putem apoi să ne oprim sentimentul intestinal înainte de a lua decizii?
Cu siguranta nu. Dar ne putem compara sensibilitatea interioară cu ajutorul datelor și le putem oferi sentimentului intestinal o substanță diferită. Dacă aruncăm o privire mai atentă mai întâi pentru a oferi tuturor acces egal la lumea din ce în ce mai digitală, s-ar fi realizat multe.
Sunt algoritmi corecți?
Sunt la fel de drepți sau nedrepți ca și oamenii. Dacă le construiesc în consecință, ele pot aduce dreptate. Dar nu ne pot scuti de dezbaterea socială despre ceea ce este corect. În SUA, de exemplu, s-a constatat că anumite populații au acces mai ușor la universități decât altele. S-a stabilit apoi că minoritățile afectate vor fi în viitor suficiente pentru a avea o calificare liceu mai slabă pentru a obține un loc la universitate pentru care majoritatea ar avea nevoie de un certificat mai bun. Este corect Acest lucru trebuie discutat și decis într-un proces politic. În orice caz, este o pârghie pentru a descompune dezavantajele structurale.
Nu este asta nivelare?
În special în sectorul educației, inteligența artificială ar putea pune capăt egalizării prin predare personalizată și în același timp să devină mai justă din punct de vedere social: sprijinul individual nu ar trebui să mai depindă de cardul de credit al părinților. Algoritmii nu vor înlocui profesorul - el va fi de la un mediator al cunoștințelor pentru toată lumea până la un însoțitor de învățare pentru individ.
Algoritmii iau deja decizii oficiale. Cine își asumă responsabilitatea atunci când greșești?
Oricine a decis să utilizeze algoritmi trebuie să-și asume responsabilitatea ulterior, inclusiv asigurarea calității.
Suntem familiarizați cu evaluările impactului din legislația în domeniul construcțiilor și al mediului. Avem nevoie de așa ceva și pentru algoritmi ?
Este de conceput. Vor exista întotdeauna domenii în care este suficient să știm că algoritmii funcționează - de exemplu atunci când furnizăm vehicule închiriate. Apoi, există domenii în care vrem să înțelegem deciziile - de exemplu, cu tarifele de asigurare pentru mașini, care sunt determinate de programe de analiză a datelor și nu au voie să discrimineze niciun grup de populație. Avem nevoie de proceduri de aprobare obligatorii în domenii sensibile, relevante din punct de vedere social - de exemplu în aprobarea roboților medicali sau în utilizarea de susținere în instanțe. Trebuie să existe opțiuni de control și reclamație atât în digital, cât și în analog.
În cele din urmă, societatea algoritmică este mai democratică decât este astăzi?
Algoritmii ne vor oferi cu siguranță acces la mai multe informații. Dacă ele pot face și societatea mai democratică, va depinde dacă vom reuși să intrăm în procese serioase de discuții politice cu furnizorii de social media despre pericolele catalizatorilor, camerele de ecou ale radicalizării. În acest moment, algoritmii lor promovează și consolidează opinii din ce în ce mai extreme. Cu toate acestea, compensarea poate fi susținută și din punct de vedere tehnic.
Echilibrul este considerat plictisitor pe Facebook sau Twitter.
Dar trebuie să acceptăm asta dacă majoritatea unei societăți dorește echilibru? Cred că este responsabilitatea socială corporativă să rupă interesele lor comerciale în acest moment - de dragul coexistenței pașnice. Există cu siguranță exemple pozitive aici: După ultima campanie electorală americană, Facebook a avut o dezbatere uriașă despre influența politică pe gât. Ca rezultat, mecanismul de căutare al Google a fost examinat în timpul campaniei electorale federale - cu rezultatul că caracteristicile personale joacă cu greu un rol în interogările de căutare politică pentru rezultate. Deci funcționează.
Guvernul federal a adoptat o „strategie AI” pentru tratarea inteligenței artificiale. Ce responsabilitate are statul în ceea ce privește schimbarea digitală?
Pentru stat, schimbarea digitală înseamnă, mai presus de toate, că trebuie să dezvolte abilitățile adecvate de proiectare. În două privințe: statul creează condiții-cadru pentru funcționarea mașinilor inteligente, cu scopul ca acestea să servească binele comun. În același timp, statul însuși operează sisteme algoritmice în autoritățile de securitate, sociale sau financiare, deciziile cărora niciun cetățean nu le poate evita. Prin urmare, statul are un rol dublu pe care trebuie să-l îndeplinească rapid și cuprinzător.
Suntem suficient de rapizi?
S-ar putea să merite să aruncăm o privire asupra Chinei. Viața chinezilor este aproape algoritmică. Acest lucru merge atât de departe încât, prin respectarea reglementărilor guvernamentale sau a altor comportamente bune, bonusurile sunt acumulate în contul dvs. de cetățean, cu ajutorul căruia puteți urca în avion pe lângă liniile de așteptare.
Sună destul de descurajant.
China nu ar trebui să fie deloc un model pentru noi aici - dar exemplul ne îndeamnă să ne grăbim să găsim propriile noastre răspunsuri. Indiferent dacă ne place sau nu: trebuie să vorbim despre ceea ce vrem și ce nu ar trebui să fie. Cu toate acestea, acest lucru este mai solicitant decât dezbaterea de îngrozire a numărului de locuri de muncă care ar putea fi pierdute prin digitalizare. Pentru că este vorba despre valorile noastre și despre întrebarea cum le conectăm la viitorul nostru. Exemplul Chinei demonstrează că acest viitor a început deja.