Inteligența artificială are nevoie de o Magna Carta - HBR
Timp de citire: 7 minute
Mașini, mai puternice decât oamenii? Odată cu avansarea inteligenței artificiale, știința-ficțiune devine realitate. Dar nu este prea târziu să stabiliți regulile pentru a trăi în armonie cu mașinile.
Compania se află într-un punct esențial în viitorul său vast și necunoscut digital. O tehnologie puternică, inteligența artificială (AI), se ridică din cenușă, în mare parte datorită progreselor în rețelele neuronale modelate pe creierul uman. AI poate identifica modele în cadrul unor imense seturi de date nestructurate, poate îmbunătăți performanța pe măsură ce datele devin disponibile, pot identifica obiecte rapid și corect, pot face recomandări și pot lua decizii din ce în ce mai precise, reducând în același timp intervențiile și, prin urmare, interferența de la ființe umane complexe și „politice”. Acest lucru ridică întrebări importante cu privire la gradul de alegere și incluziune a ființelor umane în deceniile viitoare. Cum vor fi implicați și reprezentați oamenii la toate nivelurile de putere și venituri? Cum vom guverna această „lume curajoasă nouă” ?
Să ne întoarcem cu opt secole în urmă, în ianuarie 1215. Întorcându-ne din Franța, regele englez Jean sans Terre se confruntă cu furia baronilor care doresc să pună capăt regimului său nepopular de „vis et voluntas” (forță și voință). Într-un gest de calmare, suveranul și arhiepiscopul de Canterbury reunesc la Londra 25 de baroni rebeli pentru a negocia o „Cartă a libertăților” care ar consacra un set de drepturi de control al discreției regelui. În iunie, au ajuns la un acord care a asigurat mai multă transparență și reprezentare în deciziile regale, a stabilit limite impozitelor și impozitelor feudale și chiar a acordat anumite drepturi iobagilor. Faimoasa „Magna Carta” a fost un document imperfect, plin de clauze de interes special, dar îl vedem astăzi ca un moment esențial în progresul umanității către o relație echitabilă între putere și cei supuși acesteia. Carta a pregătit terenul pentru Renaștere, Iluminism și democrație.
Acest echilibru între puterea tot mai mare a noului potențial - mașina inteligentă - și cea a ființei umane este în joc, într-o lume în care mașinile vor crea întotdeauna mai multă valoare, vor produce mai multe obiecte proprii. astăzi, reducând în același timp controlul uman asupra proiectării și deciziilor. Munca și stilul de viață se schimbă cu siguranță. Creația noastră a trecut deja de noi.
AI ne modelează opiniile
Miza depășește ocuparea forței de muncă și economia: în toate categoriile sociale, mașinile încep să decidă pentru noi, fără implicarea noastră conștientă. Ei recunosc comportamentele noastre din trecut și cele ale oamenilor care ar trebui să fie ca noi în întreaga lume. Primim informații care ne modelează opiniile, perspectivele și acțiunile în funcție de preferințele pe care le-am exprimat prin acțiunile noastre anterioare sau ale celorlalți care operează în sferele noastre. La volanul mașinii noastre, transmitem comportamentul nostru producătorilor de automobile și companiilor de asigurări pentru a beneficia de tehnologiile de pilotare a vehiculelor din ce în ce mai autonome, ceea ce ne aduce în schimb servicii noi și un mijloc de transport mai sigur. Producătorii de jocuri video și de divertisment preferate, mai bogați și mai personalizați ca niciodată, ne folosesc profilurile socio-economice, limbajul corpului și preferințele cognitive și vizuale pentru a ne evalua sensibilitatea la preț.
Pe măsură ce adoptăm noi servicii, alegem să avem încredere într-o mașină care ne „calculează corect”. Mașina ne va cunoaște în cele din urmă poate mai sincer decât ne cunoaștem pe noi înșine - cel puțin dintr-un punct de vedere strict rațional. Dar nu va lua în considerare decalajele cognitive dintre ceea ce pretindem că suntem și ceea ce suntem cu adevărat. Pe baza datelor reale ale acțiunilor noastre, aceasta ne restrânge la ceea ce am fost, în loc să fim interesați de ceea ce am vrea să fim sau sperăm să devenim.