Singularitatea, nu ține apă! "; Știri pe Internet
De la science fiction la știință
„Singularitatea, care nu ține apă”, a strigat el ca un strigăt din inimă în timpul unei întâlniri recente în jurul cărții sale organizată de Digital Renaissance (audio). În timp ce Singularitatea a descris inițial un punct critic într-o funcție în matematică, noțiunea a scăpat rapid domeniului său original. Acum desemnează un alt punct critic: promisiunea că inteligența mașinilor o depășește pe cea a oamenilor (vezi numeroasele noastre publicații pe această temă). Problema este că această profeție nu sună serioasă: pare mai degrabă o colecție de idei dintr-un PowerPoint decât un raționament motivat. Cartea mică a lui Jean-Gabriel Ganascia amintește în mod potrivit istoria acestui amestec.
Imagine: Legea lui Moore prin Zdnet.
Autonomia mașinilor nu este pentru mâine
Jean-Gabriel Ganascia critică chiar mitul inteligenței mașinilor. Dacă performanța tehnologiilor este uluitoare (gândiți-vă la AlphaGo sau la mașinile autonome de exemplu) și va continua să fie așa prin extinderea câmpurilor lor de acțiune, aceste progrese ne pot determina să credem că computerele vor deveni autonome, că pot face fără oameni a acționa ?
De fapt, inteligența mașinilor - sau mai bine zis capacitatea lor de a simula inteligența - nu se bazează pe creșterea puterii de calcul. Dacă „învățarea automată conferă mașinilor capacitatea de a construi cunoștințe pe cont propriu și de a le folosi pentru a se reconfigura prin rescrierea propriilor programe” și astfel înzestrează mașinilor o formă de imprevizibilitate prin posibilitatea de a procesa astfel de date masive (încât nu suntem capabili să procesăm ca oameni), trebuie să ne facem griji cu privire la împuternicirea lor ?
De fapt, explică foarte bine Jean-Gabriel Ganascia:
„Indiferent de metodele de învățare a algoritmilor (indiferent dacă sunt„ supravegheați ”,„ nesupravegheați ”sau„ prin întărire ”), mașinile nu dobândesc totuși autonomie în sensul filosofic al termenului, deoarece rămân supuse categoriilor și scopuri impuse de cei care vor fi adnotat exemplele în faza de învățare. "
Dacă dobândesc autonomie tehnică, sunt incapabili să-și dea propriile legi, și anume regulile și scopurile comportamentului lor. Sunt incapabili să devină „filozofici autonomi”. „O armă filosofică autonomă nu s-ar mulțumi să declanșeze o lovitură la o țintă aleasă pentru că a dat caracteristici de culoare sau formă, ci ar determina singură caracteristicile țintelor pe care ar decide să le atingă pentru a satisface obiectivele pe care le-ar avea s-a dat pe sine ”.
Indiferent de tehnicile de învățare automată, acestea necesită o configurație pentru a alege criteriul de optimizat, fără ca mașina să o poată schimba. „Mașinile nu modifică singure limbajul în care sunt exprimate observațiile care alimentează mecanismele lor de învățare și cunoștințele pe care le construiesc. "
Adică, tehnicile de învățare nu au capacitatea de a inventa noi concepte sau de a construi noi dispozitive conceptuale. Dacă știu să clasifice mult mai bine decât noi, pentru Jean-Gabriel Ganascia: „nimic în starea actuală a tehnologiilor de inteligență artificială nu ne permite să afirmăm că computerele vor putea în curând să se îmbunătățească la nesfârșit fără ajutorul oamenilor”. și, prin urmare, nimic nu ne spune că vor putea să ne depășească sau să dobândească forme de autonomie în sensul filosofic al termenului.
De la promisiuni ... la mit
După cum a explicat el la conferință, AI este foarte bun în imitarea anumitor funcții umane. Computerele joacă jocul Go mai bine decât noi. Recunoașterea imaginii Google FaceNet este mult mai bună decât a noastră. Dar asta nu înseamnă că mașinile pot imita într-o zi comportamentul unei persoane, adică sunt capabile să își stabilească propriile obiective. Astăzi, sistemele de învățare sunt folosite pentru a fabrica sisteme predictive predatoare și neloiale. El a spus că este nedrept, calculat de la voi înșivă și care nu mai sunt grupați într-un obiectiv de interes general și corectitudine. „Cu Big data, anticipăm pe baza corelației. Această anticipare se bazează pe o axiomă a regularității: ceea ce s-a întâmplat în trecut trebuie să se repete. »Dar regularitatea poate prezice doar ceea ce este regulat, fără a putea prevedea când se va termina această regularitate.
Anticiparea a fost întotdeauna bazată pe identificarea corelațiilor, își amintește cercetătorul. În ciuda abundenței de metode și instrumente, viitorul nu pare să fie mult mai previzibil astăzi decât înainte, notează el. Modelarea este doar un intermediar între omul de știință și obiectul său de studiu, un instrument pentru observarea măsurătorilor. Dar chiar și multiplicarea observațiilor nu este întotdeauna suficientă pentru a susține un model. Și cercetătorul a comparat problema Singularității sau transumanismului cu încălzirea globală: Dacă în ambele cazuri încercăm să prezicem viitorul, paralela se termină acolo. „În cazul climatologiei, simulăm diferite modele sub diferite ipoteze științifice; sunt validate prin studii retrospective, pe date din observații controlate; apoi comparăm așteptările la care conduc aceste modele; în cele din urmă, acestea sunt publicate și discutate public. Astăzi, toate scenariile se încheie cu încălzirea globală, deși viteza procesului și consecințele sale diferă de la model la model. În cazul Singularității tehnologice, este destul de diferit: nu există o evaluare clară împotriva acestui scenariu față de alții. "
Pentru Ganascia, studiile retrospective arată că studiile prospective în domeniul tehnologiei informației se dovedesc întotdeauna foarte aproximative. În ceea ce privește Singularitatea, în cele din urmă, pentru el, este atât de improbabil încât nu poate fi considerat serios. Viteza de calcul nu face inteligență. În timp ce învățarea este puternică, are limite intrinseci: nu știi cum să automatizezi schimbările de paradigmă ... De fapt, este un pic ca Singularitatea este de fapt absolut imposibilă din fire. Pentru Ganascia, anunțul apocaliptic indus de Singularitate nu provine din raționalitate, ci dintr-o abordare a unui ordin aproape religios.