K-ul; ce! Dar k; roboții pot, de asemenea, f; selectați APuZ
Dacă ați putea dori o mașină inteligentă, care ar fi aceasta?
Thea Dorn - Vreau să lucrez cu capul și inima, motiv pentru care cred că este minunat că dispozitivele îmi fac treburile gospodărești, pe care aș face-o doar să mă scrâșnesc din dinți. Dar nu mi-a trecut prin cap să-mi spun mașina de spălat inteligentă.
Raúl Rojas - Vreau tehnologie care să nu-mi împiedice în mod constant și să mă blocheze la computer - așa cum fac e-mailurile, de exemplu. Nu am telefon mobil, aceasta este calea mea de ieșire. Vreau să-mi folosesc creierul pentru altceva. Așa că dezvolt vehicule autonome care pot fi utilizate ca taxiurile.
Nu suntem noi la mila lor?
Rojas - Nu Dimpotriva. Vreau să transform mașina într-o formă de transport în comun. Avem 1,3 milioane de vehicule în Berlin, plus autobuze și metrou. În loc de mașini, aș vrea să am doar 100.000 de vehicule autonome: taxiuri comune. Își ridicau oamenii pe stradă și îi duceau la metrou, autobuz sau altă destinație. Conduceți împreună, împărțiți costurile. Asta ușurează traficul. Nu ar mai exista benzi de parcare, iar bicicletele ar obține banda care a devenit liberă. Ar fi mai puține accidente. Și ar fi atât de convenabil! Nu mai trebuie să conduc eu, pot să mă urc într-un taxi, să citesc, să lucrez. Asta ar fi „autopie” pentru oraș.
mandrină - Nicio obiecție la această viziune! În cele din urmă, nu-mi pasă dacă un șofer este la volan sau dacă mașina se conduce singură. Dar deocamdată suntem noi înșine la volan - și suntem în permanență patronați. Mă înnebunește când mașina mea încearcă să-mi spună prin bipuri isterice cum să parchez sau când să iau o pauză. Iar sistemele de navigație sunt cele mai pure mașini de orientare. Dacă este posibil, voi opri totul.
Rojas - Nici eu nu am un sistem de navigație. Dar serios: țin multe prelegeri despre vehicule autonome și cea mai frecventă reacție este: nu vreau ca cineva să-mi ia volanul! Răspund: Oamenii bogați au șofer și nu le pasă de detalii. Nu vrem cu toții să fim bogați? Atunci nu mă mai interesează să conduc. Mi-am citit ziarul, cartea, până când șoferul spune: Am ajuns.
mandrină - Și asta: viziune frumoasă! Mă tem doar că oamenii nu vor folosi timpul câștigat pentru a citi Aristotel sau cel puțin pentru a citi ziarul. Se vor juca mai mult cu dispozitivele lor. Dar, desigur, este adevărat că - în special în orașele mari - trebuie îmbunătățite multe în trafic. Toți cei care merg pe jos sau cu bicicleta în Berlin urăsc traficul auto.
Dar?
mandrină - Mă îngrijorează viteza cu care delegăm deciziile tehnologice pe care trebuia să le luăm noi înșine sau abilitățile pe care trebuia să le dobândim noi înșine: Dezvoltați un sentiment dacă m-am mișcat suficient astăzi? Nu este nevoie, îmi spune aplicația de sănătate. Planificarea inventarului? Nu este nevoie, frigiderul știe când să adauge lapte nou. Învață limbi străine? De ce, există programe de traducere.
Domnule Rojas, doriți o tehnologie care să facă lucruri pentru dvs. și să țină munca departe de voi. Deci, să ne imaginăm o gospodărie care spală rufele singure, face mâncarea ...
Rojas - Nu Nu. Nu-mi plac roboții de uz casnic. Sportul meu personal este tunderea gazonului, ridicarea frunzelor și spălarea rufelor. Nu trebuie să-i eliberezi pe oameni de tot ceea ce este în gospodărie, deoarece vor înceta să se mai miște și să se îngrașe. Ca în filmul „WALL-E”. Știi că?
mandrină - Doar remorca.
Rojas - Oamenii stau pe o canapea plutitoare cu ecranul în fața nasului și roboții aduc mâncarea. Un astfel de viitor ar fi crud. Unele mașini care ar putea fi construite nu ar trebui, prin urmare, să fie construite din motive sociale. Roboți de îngrijire pentru spitale, de exemplu, care reduc la minimum contactul dintre bolnavi și alte persoane.
mandrină - Se lucrează masiv la dezvoltarea lor. Pe de o parte, acest lucru este de înțeles: există o lipsă de personal medical, deci de ce să nu folosiți roboți pentru a ajuta? Pe de altă parte, cu fiecare soluție tehnologică la o problemă socială, creativitatea noastră socială va continua să scadă. În esență, mi se pare că este vorba despre: Cum umplem spațiile libere pe care ni le oferă noua tehnologie? Ne apropiem de un Atena 4.0, în care toată lumea să poată filozofa și să facă sport de dimineață până seara, deoarece sclavii robot prietenoși fac toată munca plictisitoare pentru ei? Sau ajungem așa cum sugerează „WALL-E”: gras, leneș și prost?
Rojas - Aceasta este dilema. Antichitatea clasică nu este modelul meu oricum, pentru că doar bărbații erau liberi, în timp ce femeile și sclavii lucrau. Cred mai mult la socialiștii utopici.
mandrină - Troțki ar fi un mare avocat al tehnologizării astăzi, deoarece ar spera că le va oferi oamenilor libertatea de a educa.
Rojas - Marea întrebare cu primii socialiști a fost cine face meseriașii minunați. Răspunsul dvs.: mașini. Friedrich Engels a scris când era încă tânăr: Ați spus că avem nevoie de o clasă inferioară care curăță toaletele, dar acum există o toaletă automată care se spală! Pentru el, acest lucru a dovedit că omenirea viitorului va fi eliberată de aceste locuri de muncă medii - utopia socialistă a secolului al XIX-lea. Acum avem mult mai multe mașini decât au visat vreodată Marx și Engels, dar nu avem un viitor minunat cu oamenii liberi. Se poate dispera aproape.
mandrină - bine Cred că oamenii au doar două opțiuni: Fie continuă să se resemneze față de faptul că, pe lângă toate lucrurile mărețe pe care le pot face, sunt și deficiențe limitate: uneori triste, alteori bolnave și, în cele din urmă, există moartea. Sau vrea să lase toate astea în urmă pentru totdeauna și să fie pentru totdeauna în formă, mereu cu o dispoziție bună și în cele din urmă nemuritoare. Imaginea noastră occidentală, în formă umanistă, a omului ar fi la sfârșit. Bănuiesc că în Silicon Valley aș câștiga râsete derizorii dacă aș spune acolo că consider că optimizarea în continuare a oamenilor în stilul mașinii este sfârșitul autonomiei și demnității noastre. Cei mai îndrăzneți de acolo visează să-și încarce creierul în cloud, unde se poate contopi cu cunoașterea lumii: dizolvarea totală a granițelor. În limbajul meu: sfârșitul personalității, caracterului, individului.
Rojas - Toate sunt fantezii, toate sunt prostii.
mandrină - Sunt liniștit când spui asta.
În calitate de cititor normal, de unde știu că este o prostie?
Rojas - E greu de aflat. Ray Kurzweil, creierul transumanismului, susținea cu zeci de ani în urmă că oamenii vor fi înlocuiți cu mașini, că la un moment dat ar exista doar inteligența mașinilor. El spune că până în 2030 computerele vor avea la fel de mulți tranzistori pe cât oamenii au neuroni, astfel încât mașinile vor fi automat mai inteligente. Aceasta este o prostie și este prezumtioasă. Din nou și din nou observăm cât de departe suntem încă de la înțelegerea creierului și a cunoașterii. Oricine crede că mașinile pot fi exact ca oamenii nu recunoaște că suntem corp și minte.
mandrină - Kurzweil este atât de consistent, încât corpul este un apendice enervant pentru minte.
Rojas - Dacă ar putea stoca toate informațiile sale pe un hard disk, ar descoperi rapid că nu ar fi același fără un corp.
mandrină - După cum am spus: sper că ai dreptate și „singularitatea” la care visează Kurzweil nu va exista niciodată. Totuși, nu cred că cineva ar trebui să renunțe la toate viziunile trans și postumaniste ...
Rojas - Dar. (râde)
mandrină - ... pentru că ne confruntă cu punctul de dispariție al istoriei noastre tehnologice a civilizației. Ne obligă să ne întrebăm: Chiar vrem să încheiem drumul pe care l-am ales atât de radical?
Rojas - Construirea roboților este ca un mag și oamenii sunt păcăliți. Un exemplu: dacă lăsați roboții mici să împingă cuburile în mod aleatoriu, la un moment dat se va forma o grămadă în mijlocul arenei. Este întâmplător, dar oamenii se gândesc: Ah! Roboții construiesc împreună un turn. Esti inteligent!
mandrină - Nu este asta pentru că oamenii au visat întotdeauna să creeze ființe pe care le depășesc infinit - în termeni de sănătate, longevitate, frumusețe, putere, inteligență? Pigmalion și femeia ideală, mitologia evreiască și Golemul, Nietzsche și supraomul. Așa că nu mă miră acest entuziasm. Dar împărtășesc aprecierea dvs. că avem de-a face încă cu magie destul de ieftină, cel puțin în acest moment. Zilele trecute am fost la o recepție, când un mic robot alb se plimba, saluta oaspeții și a putut - mai ales - să-mi spună dacă este vorba despre un bărbat sau o femeie. Dacă credea că vede o doamnă, era un trandafir.
Rojas - Acesta este un stupid popular. Știu care este stadiul tehnicii. Gătim cu toții doar cu apă. Oamenii care construiesc acești roboți acționează așa cum robotul înțelege foarte mult. În loc să ofere informații despre limitele și problemele tehnologiei, ele exagerează excesiv pentru a obține investitori sau bani noi pentru cercetare.
mandrină - Credeți că aceste Inteligențe Artificiale ar putea într-o zi să dezvolte ceva de genul emoțiilor?
Rojas - Nu. Este absolut de neimaginat. Lucrez la ea de 35 de ani. Există anumite abilități umile pe care încercăm să le predăm computerelor. Dar: recunoașterea vorbirii încă nu este grozavă. Există câteva lucruri utile, cum ar fi recunoașterea facială la aeroport sau sistemele de traducere. Acesta din urmă funcționează deoarece există acum atât de multe cărți online în germană și engleză încât computerul poate învăța automat corespondența dintre cele două limbi.
Aceasta se numește învățare profundă - oamenii antrenează programele cu cantități mari de date.
Rojas - Da. Cu toate acestea, funcționează doar într-o anumită măsură. Arăt computerului milioane de imagini cu pisici. Apoi, la un moment dat, va ști ce este o pisică. Dar când îl întreb de ce? Nu poate explica asta.
De unde vin aceste date?
Rojas - De la noi toți.
mandrină - In fiecare zi.
Rojas - Dacă încărcați imagini pe Instagram, datele ajung pe Facebook. Acest lucru le permite să își îmbunătățească programele de recunoaștere a feței. Sau programe de recunoaștere a pisicilor. Generăm aceste date - în mod voluntar și gratuit pentru Google și Facebook.
Un AI Google a numit recent gorilele oamenilor negri. Un alt AI a conectat bucătăria și femeile. Sistemele nu învață într-un mod neutru din punct de vedere valoric?
Rojas - Nu. Cu învățarea profundă există doar tipare. Și asta are ca rezultat o decizie. Dacă o femeie poate fi văzută în 90% din reclamele din bucătărie, atunci este clar de unde vine asta. Big data conține toate valorile, contradicțiile și prejudecățile noastre.
mandrină - Am auzit că unul dintre acele așa-numite sisteme autonome din armată care au recunoscut tancurile brusc a eșuat. Nimeni nu știa de ce. S-a constatat apoi că majoritatea imaginilor folosite pentru antrenarea sistemului arătau tancuri sub cer albastru. Acum cerul era acoperit și sistemul era în pierdere.
Rojas - Din păcate, acesta este un basm, un astfel de sistem nu a fost folosit niciodată. Un exemplu serios este un accident Tesla, deoarece a fost implicat un sistem comercial real. Apoi, un camion alb a blocat autostrada. Camera auto nu putea distinge norii de pe cer de camion; nu a frânat.
mandrină - Nimic nu poate înlocui judecata umană. Oamenii sunt capabili să cântărească și să ajungă la o judecată, să argumenteze și să-și justifice decizia. Poate fi una dintre diferențele dintre inteligențele artificiale și noi?
Rojas - Da. De fapt, mașinile nu au o judecată profundă. Mai presus de toate, nu au nici o intuiție, nici tact.
mandrină - Există mult mai mult decât atât: inteligențele artificiale nu cunosc sentimente de rușine sau vinovăție, nici milă, nici conștiință. Întrebarea care se adresează deseori domeniului dvs. de cercetare este: Cine este responsabil dacă o mașină cu conducere autonomă decide într-o situație precară că ar prefera să treacă peste cuplul pensionar decât pe mamă și copil? Nu ar trebui să ne întrebăm ce înseamnă atunci când sute de mii de vehicule sunt în curând pe drumurile noastre, cărora pur și simplu nu le pasă dacă dau peste cineva?
Rojas - Ascult în continuare această întrebare: cine este responsabil? Desigur, oamenii care construiesc sistemul! Sugestia mea este de a lucra atât de bine în avans încât astfel de situații nu pot apărea în primul rând. Distanță minimă, viteză redusă, materiale de construcție ușoare - dacă ținem cont de toate acestea, sperăm să putem construi sisteme de vehicule care nu cauzează coliziuni grave și sunt în cele din urmă mai sigure decât mașinile de astăzi.
Ar trebui ca AI să fie reglementată la nivel internațional?
mandrină - Omenirea a fondat Agenția Internațională pentru Energie Atomică atunci când și-a dat seama ce putere periculoasă și potențial amenințătoare a pământului a dezlănțuit cu energia nucleară. Probabil că este timpul să ne gândim dacă nu avem nevoie de o facilitate comparabilă pentru a veghea la dezvoltarea și utilizarea AI.
Rojas - Sunt întotdeauna în favoarea reglementării, de exemplu a ingineriei genetice și a armelor. Numai în acest caz special nu văd imediat cum pot fi reglementați algoritmii inteligenți. Trebuie să vă gândiți cu atenție - soluția nu este tocmai banală.
Și chiar nu trebuie să ne facem griji, domnule Rojas, că roboții vor fi într-o zi mai deștepți decât oamenii sau într-o zi se vor emancipa de noi?
Rojas - Cu siguranță nu în acest secol! În general, nu cred că roboții vor prelua controlul asupra noastră la un moment dat. Konrad Zuse, primul producător de computere din Germania, a spus odată: Dacă computerele devin prea obraznice, trageți de priză.
Interviul a apărut prima dată în „Chrismon”.
Moderație: Mareike Fallet și Michael Güthlein, chrismon 12/2017, www.chrismon.de
Acest text este publicat sub licența Creative Commons „CC BY-NC-ND 3.0 DE - Atribuire - Non-comercială - Fără lucrări derivate 3.0 Germania”. Autori: Thea Dorn, Rául Rojas pentru Din politică și istorie contemporană/bpb.de
Aveți permisiunea de a partaja textul numind licența CC BY-NC-ND 3.0 DE și autorii.
Informațiile privind drepturile de autor asupra imaginilor/graficelor/videoclipurilor pot fi găsite direct împreună cu imaginile.
Thea Dorn, Rául Rojas
Thea Dorn
este scriitor și filosof. Romanul ei „Die Unglückseligen” (Knaus) este despre abolirea mortalității. Subiectul inteligenței artificiale o privește: la reuniunea anuală a Consiliului German de Etică din acest an pe tema „Sistemelor Autonome”, ea a investigat problema modului în care aceste mașini ne schimbă imaginea de sine.
Rául Rojas
este matematician și profesor de informatică la Universitatea Liberă din Berlin. Conduce Centrul Dahlem pentru Învățarea Mașinilor și Robotică și a devenit cunoscut pentru roboții care joacă fotbal, cu care el și echipa sa au câștigat multe campionate. În prezent lucrează la vehicule autonome, prototipul se numește „AutoNOMOS”. Teza sa de doctorat de atunci avea un subiect complet diferit: Karl Marx.