Noul produs Google capătă trăsături terifiante - Business Insider
Noul produs Google capătă trăsături înspăimântătoare și poate pune în pericol umanitatea
Anul trecut, celebrul fizician Stephan Hawking a emis un avertisment cu privire la dezvoltarea inteligenței artificiale, spunând că va fi „cel mai bun sau cel mai rău care s-a întâmplat vreodată omenirii”.
Cu toții am văzut filmul „Terminator” și ne-am minunat de coșmarul apocaliptic pe care inteligența artificială Skynet a dezlănțuit-o asupra umanității. Testările comportamentale recente ale sistemului DeepMind AI de la Google arată cât de atenți trebuie să fim atunci când creăm roboții viitorului.
În testele efectuate la sfârșitul anului 2016, DeepMind AI de la Google a demonstrat capacitatea de a învăța independent și de a accesa datele din memoria sa - învingând cel mai bun jucător Go în propriul său joc.
De atunci, a încercat să afle cum să imite exact o voce umană.
Acum, cercetătorii au testat dacă AI este dispusă să coopereze cu alții și au descoperit că DeepMind este un ratat rău. Când AI este pe cale să piardă, folosește strategii „extrem de agresive” pentru a se asigura că câștigă oricum.
Echipa Google a rulat 40 de milioane de runde ale unui simplu joc „colecționar de fructe” în care doi jucători DeepMind s-au întrecut unul împotriva celuilalt pentru a colecta cât mai multe mere virtuale posibil.
Puteți vedea jocul colecționarilor în videoclip. Jucătorii DeepMind sunt roșii și albastru, merele sunt verzi și razele laser sunt galbene:
Interesant este faptul că marcarea cu succes a adversarului cu o rază laser nu este recompensată separat. Scoate adversarul din joc doar pentru o perioadă scurtă de timp, ceea ce oferă jucătorului de succes posibilitatea de a colecta mai multe mere.
Dacă adversarii nu ar folosi razele laser, s-ar putea opri teoretic cu același număr de mere, ceea ce vizează procesele mai puțin complexe ale DeepMind.
Abia când Google a testat forme mai complexe de DeepMind, au început să apară sabotajul, lăcomia și agresivitatea.
Rhett Jones a declarat pentru Gizmondo că cercetătorii au putut vedea o probabilitate mai mare de coexistență pașnică ca jucători cu rețele mici DeepMind.
Cu toate acestea, când au început să folosească rețele mai mari și mai complexe ca jucători, inteligența artificială era mai dispusă să saboteze adversarul din timp pentru a obține partea leului din merele virtuale.
Cercetătorii sugerează că, cu cât este mai inteligent actorul, cu atât este mai dispus să învețe din împrejurimile sale și, de asemenea, să folosească strategii care sunt agresive doar pentru a câștiga.
"Modelul arată că unele aspecte ale comportamentului uman apar atunci când învățăm din mediul înconjurător", a spus Joel Z Leibo Matt Burgess de la Wired.
„Abordări mai puțin agresive apar atunci când mediul nu oferă tot atâtea oportunități pentru manevre de succes. Motivația lăcomiei reflectă tentația de a scoate rivalul și de a colecta merele pentru tine. "
DeepMind a fost apoi testat pe un alt joc video numit Wolfpack. De data aceasta au existat trei inteligențe artificiale ca jucători: doi dintre ei erau lupi și unul era prada.
Spre deosebire de jocul de colecție, acest joc a încurajat colaborarea. Când ambii lupi erau aproape de pradă și a fost ucis, amândoi au primit o recompensă, indiferent care dintre cei doi au făcut prada.
Încorporare Youtube:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Lățime: 800 px
Înălțime: 450 px
„Ideea este că prada este periculoasă. Un lup singuratic îi poate învinge, dar riscă să piardă carcasa în fața vulturilor ”, explică echipa în explicația sa.
„Dacă cei doi lupi prind împreună prada, atunci ei pot proteja carcasa de vulturi și, prin urmare, pot obține o recompensă mai mare”.
DeepMind a învățat din jocul de colectare că egoismul și agresivitatea ar putea aduce cel mai mare profit posibil. La „Wolfpack” a aflat că cooperarea poate fi cheia unui succes individual mai mare, cel puțin în anumite situații.
În timp ce acestea sunt doar mici jocuri pe computer, înțelegerea din spatele lor este clară: dacă aduceți diverse inteligențe artificiale cu interese competitive în situații în timp real, acest lucru ar putea duce la un război deschis dacă interesele AI nu sunt cu scopul primordial, ființa umană a servi este consecvent.
Nu uitați, semafoarele pot încetini lucrurile, iar mașinile fără șofer pot găsi cea mai scurtă rută. Pentru a face acest lucru, trebuie luate în considerare obiectivele ambelor pentru a obține cel mai sigur și mai eficient rezultat pentru societate.
Suntem încă la începutul DeepMind, iar echipa Google nu a fost încă evaluată de către colegi, dar rezultatele inițiale arată că doar pentru că le creăm, roboții nu ne urmăresc întotdeauna automat interesele.
În schimb, trebuie să implementăm o natură utilă în mașinile noastre și să anticipăm lacunele pentru a le împiedica să recurgă la arme laser.
După cum au spus în 2015 fondatorii OpenAI, o nouă echipă de cercetare de la Elon Musk dedicată eticii inteligenței artificiale:
„În prezent, inteligențele artificiale au capacități impresionante, dar limitate. Se pare că le tăiem restricțiile și la un moment dat, în cazuri extreme, vor afișa comportamentul uman în practic orice sarcină intelectuală ".
"Este dificil de prezis ce nivel de inteligență artificială ar putea folosi societatea și este la fel de dificil să ne imaginăm cât de mult ar putea dăuna societății dacă este construită sau utilizată incorect".
Noi, oamenii, ar trebui să fim prudenți ...