Dogfight în simulator; 5 0 pentru mașină; Ochii drept înainte!
Mașină 5: 0 persoane. Acesta a fost rezultatul competiției AlphaDogfight organizată de Agenția de Cercetare a Proiectelor Avansate în Apărare (DARPA), agenția de cercetare pentru armata SUA, în această săptămână. Dogfight se referă la lupta aeriană strânsă dintre două avioane de luptă și, în această încercare, o inteligență artificială (AI) a concurat în simulator împotriva unui pilot uman. AI a câștigat mare. Dar ce înseamnă asta?
Frank Sauer, politolog la Universitatea Bundeswehr din München, este preocupat de importanța inteligenței artificiale pentru sistemele de arme - inclusiv de întrebarea carei reguli ar trebui să se aplice sistemelor de arme autonome mortale. Are drept pentru ochi! și-a notat observațiile despre acest experiment, care s-a încheiat joi (ieri) cu climax om versus mașină:
În august 2019, DARPA a selectat opt echipe din universități și industrie - de la companii mari precum Lockheed Martin la grupuri mici precum Heron Systems - pentru a participa la programul Air Combat Evolution (ACE). În această săptămână, în perioada 18-20 august, soluțiile software dezvoltate de cele opt echipe au concurat inițial între ele într-o luptă aeriană simulată și împotriva software-ului de la Laboratorul de Fizică Aplicată de la Universitatea Johns Hopkins pentru a determina cine va fi în finală unui pilot uman i s-ar permite să măsoare.
Heron Systems a ieșit învingător din luptele preliminare și a concurat în cele din urmă împotriva pilotului de vânătoare uman „Banger”. Stătea într-un simulator cu ochelari de realitate virtuală și în cele din urmă a primit paiul scurt cu 0 la 5.
Manevrele obișnuite de luptă aeriană sunt inutile, declarase Banger după 0 la 4 împotriva mașinii. De aceea a vrut să încerce ceva diferit la final. Ultima tură a durat considerabil mai mult, dar în cele din urmă software-ul Heron l-a avut pe pilotul uman Banger în fața nasului simulat al aeronavei suficient de mult pentru a câștiga duelul.
Cum trebuie evaluat toate acestea? În primul rând, trebuie remarcat faptul că rezultatul competiției nu este deloc surprinzător. Deja în 2016, software-ul ALPHA dezvoltat de Psibernetix Inc., care la acea vreme funcționa pe un computer Raspberry Pi de 35 USD, a învins un pilot uman în testele pentru Laboratorul de Cercetare al Forțelor Aeriene din SUA. Dacă Banger ar fi câștigat o rundă de simulare împotriva lui Heron, ar fi fost o senzație.
Deoarece cuvântul cheie este simulare. Omul și mașina au concurat unul împotriva celuilalt într-un mediu mult simplificat în care mașina avea informații complete la dispoziție. Pentru Heron nu a mai fost nimic de făcut decât să optimizăm energia, unghiul, distanța și câțiva alți parametri - un exercițiu ușor pentru sistemul de învățare profundă instruit în consolidare.
Sistemul nu trebuia să se teamă de pierderea cunoștinței în timpul virajelor cu 9G. Pentru că oricum nu are. Cu toate acestea, Banger a putut, de asemenea, să beneficieze de mediul simulat în acest sens. În realitate, cu greu ar fi reușit să facă față manevrelor pe care le zburase comod de pe fotoliu.
Sensul și scopul simulării ACE nu este, prin urmare, de a genera rezultate care pot fi transferate în realitate. Mai degrabă, într-un sens mai larg, interesul industriei este să fie hrănit pe de o parte și încrederea forțelor armate americane în inteligența artificială pe de altă parte.
Pe scurt: piloții umani ar trebui să se obișnuiască cu ideea de a fi însoțiți și susținuți de sisteme fără pilot controlate de software în viitor. Software-ul pentru un astfel de sistem de escortă este în prezent dezvoltat pentru avioanele de vânătoare F-35 - ca parte a unui program numit „Skyborg” cu toată seriozitatea. În cursa pentru hardware, printre altele, compania Kratos cu XQ-58A Valkyrie și Boeing cu drona sa Loyal Wingman. Un concept similar este planificat în Europa cu viitorul sistem de luptă aeriană.
Ofensiva farmecului AI are, prin urmare, nu numai fonduri tehnice, ci mai presus de toate organizaționale-politice. Pentru că nici cu SUA Forțele aeriene încă în cadrul Marinei, piloții sunt deosebit de entuziasmați de ideea predării comenzilor de zbor - acest lucru poate fi văzut, de exemplu, din programele Marinei SUA din ultimii ani.
Demonstrantul de tehnologie X-47B de la Northrop Grumman a finalizat cu succes decolările și aterizările pe portavioane și realimentarea în zbor, dar nu a fost, așa cum se așteptau mulți observatori, dezvoltat în continuare într-un vehicul aerian de luptă fără pilot sprijinit de transportator, în mare parte fără control uman. În schimb, Boeing aprovizionează acum Marina cu MQ-25 Stingray, un petrolier fără pilot și o platformă de recunoaștere. „Zbor real” rămâne în mâinile oamenilor - iar motivele pentru acest lucru, potrivit ThinkTanks din Washington și foști angajați ai Pentagonului, sunt mai mult culturale decât tehnice.
Pe termen lung, totuși, AI își va găsi drumul în cabină. Fără oameni cu limitele lor de încărcare, performanța mai mare nu poate fi atinsă numai cu aeronavele existente. De asemenea, devin posibile designuri și tactici complet noi. Dar faptul că ființa umană, chiar dacă este absentă din punct de vedere fizic, va continua să joace rolul decisiv - în cel mai adevărat sens al cuvântului - în cele mai multe cazuri, este, de asemenea, de necontestat pentru o lungă perioadă de timp.
Deoarece lipsa de conștientizare a software-ului este atât un avantaj, cât și un dezavantaj. Pe de o parte, la 9G, nu poate pierde ceea ce nu are. Pe de altă parte, sistemele de învățare profundă, cum ar fi Heron and Co., nu vor putea face cognitiv ceea ce poate face persoana gânditoare în viitorul previzibil. Nu numai că sunt înfometați de date (lacomi), ci și extrem de predispuși la erori atunci când se confruntă cu situații necunoscute (fragile). Pe de altă parte, oamenii înțeleg contextele, pot clasifica situații noi și pot lua decizii solide, în ciuda lipsei de informații. Așadar, nu este de mirare că la ACE s-a vorbit mult despre echiparea tripulată-fără pilot ca obiectiv real. Prin urmare, viitorul va arăta astfel: Mașina zboară, gândește persoana respectivă - și ia decizii de la distanță.
Și încă o notă despre asta de la Missy Cummings, fost pilot de vânătoare american. Cercetător în domeniul marinei și al AI: anunțați-mă când AI poate distinge permanent între combatanți și necombatanți.
Nici o surpriză aici - lupta împotriva câinilor se bazează extrem de pe reguli, oricine poate zbura cel mai mult pe marginea plicului de manevră câștigă. Oamenii nu au avut nicio șansă. Când AI din avion poate discrimina în mod constant între combatanți și necombatanți, sună-mă https://t.co/d69yUjuFaL https://t.co/rp81Q6NZ5g
(Frank este, de asemenea, unul dintre co-gazdele mele pe podcast pentru a fi în siguranță, mulțumesc lui!)
(Foto: Captură de ecran din videoclip la 4:50:30)
23 de răspunsuri la „Lupta aeriană în simulator - 5: 0 pentru mașină”
Doriți AI "în mod constant" sau cu o rată de eroare acceptabilă? https://en.wikipedia.org/wiki/190th_Fighter_Squadron,_Blues_and_Royals_friendly_fire_incidents times ca exemplu de eroare umană.
În mod consecvent, înseamnă deja cu o rată de eroare acceptabilă. Erorile pot fi, de asemenea, consistente. Nu spune în mod explicit „fără cusur”.
„„ Aviația reală ”rămâne în mâinile omului - iar motivele pentru aceasta, potrivit grupurilor de reflecție din Washington și foști angajați ai Pentagonului, sunt mai mult de natură culturală decât tehnică”.
Din cauza ratei de eroare încă ridicate a AI, este un lucru bun. Dar rețineți că acesta este un instantaneu.
În ceea ce privește chestiunea de natură culturală sau tehnică, aș vrea doar să spun că timoniștii dronelor apar și în Forțele Aeriene cu pretenția de a fi instruiți ca piloți pregătiți pentru luptă. Și, desigur, serviciul trebuie să fie efectuat într-un costum de zbor (nu există altă modalitate de a controla o dronă, SARC OFF). Mă întreb de câte avioane de urgență vom avea nevoie în viitor, care nu ar trebui utilizate niciodată, dar care sunt necesare pentru pregătirea pentru combaterea controlorilor de drone.
Nu numai că dronele pot obține performanțe mai ridicate, ci și transportă cu ele mult mai puțin balast, de ex Cockpit, scaun, scaun ejector, oxigen.
În plus, fiabilitatea nu este deosebit de mare. Dacă drona cade, nimeni nu este afectat.
Adică Dronele pot fi produse mult mai ieftine, mai mici și mai ușoare.
Apoi, într-o zi, două forțe aeriene se confruntă:
Una este formată din 1000 de drone mici, ușoare, ieftine, care câștigă 90% din luptele din lupta aeriană, dar obțin o ucidere albastră, una verde și două gri pe zece ucideri roșii. Cealaltă forță aeriană este formată din 100 de avioane clasice mari, grele, scumpe, care câștigă doar 10% din bătăliile aeriene, dar au tot atâtea eșecuri în 1000 de misiuni, precum dronele în 10.
Pe ce parte vreau să fiu, pe „Schieß-ins-Kraut” sau pe „Trifftnix”?
Să vorbim despre algoritmi programați sau AI reală?
Devine interesant dincolo de 1 vs 1, de ex. cu un 4 vs 4.
Când piloții experimentați au analizat manevrele computerului și și-au implementat propriile concluzii în noi tactici, cum reacționează computerul sau cel puțin AI atunci.
„Mă întreb de câte avioane de urgență vom avea nevoie în viitor, care nu ar trebui utilizate niciodată, dar sunt necesare pentru pregătirea pregătitoare pentru luptă a controlorilor de drone”.
@ SB63: De ce avioane de urgență ar trebui să aibă nevoie echipajele RPAS? Conceptele și reglementările relevante pot să nu definească 100% calea viitoare de formare, dar calea către LCR este deja descrisă destul de precis. Se vorbește, de asemenea, în mod clar despre un TCTP separat și pașii necesari de formare. Dar nicăieri nu se spune că nici viitoarele WSO-uri, nici AVO-urile nu pretind sau confiscă niciun tip de implementare.
Missy Cummings indică esența problemei cu „extrem de bazat pe reguli”. Caracterul competiției ar fi descris mult mai exact cu „jucătorii de șah versus computerele de șah”. A vorbi despre AI aici dă impresia greșită.
@Magmakammer
Vorbim despre dezvoltarea de software.
Aceasta înseamnă că Bundestag va discuta timp de încă 10 ani dacă este justificată din punct de vedere moral introducerea acestor sisteme (a se vedea proiectul franco-german FCAS), în timp ce alte națiuni sunt pe cale să le introducă.
Din nou - „combatanți și non-combatanți” ... Ce se întâmplă dacă se întâmplă într-o luptă acerbă cu inamici puternici? Dacă există un atac aerian asupra orașelor? („Război hibrid” și „non-combatanți” ...) „Nu poate fi niciodată, pentru că nu poate fi ...” Ei bine, Israelul pare să se simtă diferit și cercetează inteligența artificială. Cu sinceritate ...
Există, de asemenea, riscul ca senzorii și efectorii să fie suprasaturați. Și: dacă este necesar, vehiculul aerian fără pilot va purta pur și simplu inamicul atunci când se apropie de el.
Atunci de ce naiba AI este întotdeauna atât de rea în simulările de zbor?;)
Ca să ai o șansă ca jucător uman!;-)
Dacă AI-ul ar fi pur și simplu programat în funcție de parametrii „curați” în simulări, loviturile primelor lovituri ar cădea la distanța maximă a armei. Prin urmare, un comportament corespunzător „necurat” trebuie să fie încorporat în fiecare AI, astfel încât distracția jocului să fie menținută.
După cum sa indicat mai sus, acest lucru funcționează numai în mediul steril al unui simulator cu valori și parametri cunoscuți și calculați 100%.
„În realitate, cu greu ar fi reușit să facă față manevrelor pe care le-a zburat confortabil de pe fotoliu”.
Aș vrea să contrazic asta. Luptele de câini arătau ca cele care sunt antrenate în mod regulat de piloți.
Este aceasta o nouă versiune a TacAir SOAR sau chiar ceva nou?
Ei bine, în privat, Forțele Aeriene și Marina israeliene au probleme nu cu Iranul, ci cu ... Rusia. Din păcate, nu fi surprins. Trebuie să trecem înainte de aceasta cu un prietenos Skynet (în ebraică) și „Sigiliul lui Solomon”, pentru orice eventualitate ... (smiley amuzant) Cu stimă ...
Trebuie să recunosc că nici după 5 ani de activitate profesională în domeniul învățării automate (ML), nu mă pot obișnui cu termenul de „inteligență artificială (AI)”. În industrie, termenul este rar folosit sau chiar văzut ca un indicator că persoana în cauză trebuie să fie manager, agent de vânzări sau jurnalist;-)
Mai ales cu mesaje care îi fac pe cititori să se simtă: „În curând vom fi învechi”, ajută întotdeauna să ținem cont de ceea ce este de fapt inteligența artificială (AI): și anume nimic mai mult decât o formulă matematică cu un set fix de parametri Greutate. Prin urmare, un AI nu poate reacționa la parametri complet noi, deoarece formula pur și simplu nu conține acești parametri. Deci AI nu știe nimic din lume în afara spațiului parametrilor - cu care a fost hrănită în timpul antrenamentului.
În mod similar, o IA tinde să aibă reacții complet imprevizibile atunci când valorile sunt introduse în parametri deja cunoscuți, care diferă semnificativ de valorile observate în timpul antrenamentului (fie prin date istorice, fie prin valorile din mediul de antrenament simulat) (TW are deja termenul „fragil” atașat).
Spre deosebire de mașini, animalele și oamenii au învățat prin evoluție să reacționeze la astfel de situații necunoscute cu euristică. Răspunsul de evadare este de ex. o asemenea euristică. Aceste euristici nu sunt întotdeauna eficiente, dar sunt robuste. Aceasta arată o diferență esențială între viața de fapt inteligentă și mașinile stocastice.
Personal, sunt de părere că lipsa abilității de a face față unor situații complet noi sau necunoscute într-un mod suficient de previzibil și robust (fără recalificare) este o limită grea pentru învățarea automată.
Pe de altă parte, abordările actuale ale învățării automate sunt neașteptat de puternice, de ex. atunci când vine vorba de detectarea celulelor canceroase cu o rată scăzută de fals pozitiv sau fals negativ. De aceea nu sunt total de acord cu tweet-ul Missy Cummings aici: Direcționarea este unul dintre punctele forte ale ML și unul dintre punctele slabe ale oamenilor. Aceștia din urmă obosesc, se tem și se demonstrează rău în luarea deciziilor obiective în situații stresante. Pe de altă parte, un model ML poate (în mare măsură) să nu conțină influențe subiective, pe baza tuturor datelor disponibile, să calculeze o probabilitate stocastică (încredere) că ținta este un combatant. Aici dezvoltatorii pot seta un prag de încredere ridicat, care, în caz de îndoială, ar duce la sacrificarea mașinii înainte de a se lupta cu spectatorii. Sistemele echipate, pe de altă parte, trebuie să se teamă de propria lor distrugere și ar putea fi mai susceptibile să apese pe trăgaci.
În prezent se fac progrese mari în tratarea informațiilor incomplete și a planificării pe termen lung. Un exemplu izbitor aici este AlphaStar: un model ML care a fost dezvoltat de Deepmind și care poate juca jocul pe computer StarCraft 2 în timp real și poate concura împotriva celor mai buni jucători din lume. O circumstanță pe care chiar și experții au considerat-o imposibilă pentru o lungă perioadă de timp. Pentru că un joc poate dura de la câteva minute la peste o oră. Fiecare acțiune sau decizie anterioară influențează opțiunile de acțiune într-un moment ulterior. Mai mult, așa-numita „ceață de război” ascunde acțiunile adversarului. Așadar, modelul trebuie să aleagă o strategie fără să știe ce strategie va alege adversarul. Situația se dezvoltă complet dinamic și face necesare schimbări fundamentale de strategie în situații nefavorabile, în timp ce nici o strategie sau tactică nu este net superioară.
[Până acum, am tolerat comentariile în limba engleză într-un blog în limba germană ... ceea ce nu sunt dispus să tolerez: utilizarea ghilimelelor fără a furniza o sursă. T.W.]
Oleg, consider că ideile tale sunt interesante și o contribuție bună. Și, așa cum T.W. a scris, el tolerează postările în limba engleză, dar nu vrea să aibă citate fără sursă. O adăugare foarte obișnuită chiar și pentru noi, cei care vorbesc germană aici ...;-)
Așa cum se întâmplă adesea, același lucru se aplică aici - mixul este cel mai bun. Ceea ce vorbește împotriva faptului că oamenii ca factorii de decizie din aeronavă pot fi sprijiniți de computere sau algoritmi. Calea acolo a fost oricum luată de mult. De mult timp a fost posibil ca o operațiune să aibă loc aproape autonom cu oamenii exclusiv ca supraveghetor care poate schimba strategia dacă este necesar. Executarea automată a manevrelor de luptă aeriană este doar un pas în plus.
Ceea ce nu trebuie uitat într-o aeronavă fără pilot complet autonomă este aspectul permisivității.
Acum sunt pensionar și am o problemă cu internetul. Dar mai este timp (smiley)
Mulțumim pentru sprijin, pietoni!
@ Oleg Olkha 19:23
Pensionari și jucători? În orice caz, asta nu te face neplăcut! (Zâmbitoare)
Anunță-mă când (...) persoana (...) poate face permanent distincția între combatanți și necombatanți. Sau vreau . . .