Radicalizarea prin algoritmi Youtube Un autoexperiment

Platforma video a fost criticată pentru promovarea conținutului radical și extrem de politic. Acest lucru se datorează algoritmilor care ne recomandă videoclipuri din ce în ce mai flagrante. Dar asta este cu adevărat adevărat?

Videoclipuri fără sfârșit: pe YouTube este ușor pentru utilizator să consume conținut ore în șir, nu în ultimul rând datorită algoritmilor.

Cum pot coace cel mai bun tort de ciocolată? Care sunt cele mai populare atracții din Elveția? Ce a spus Donald Trump în ultimul său discurs? Oricine caută un subiect online este foarte probabil să aterizeze pe YouTube. Platforma video este al doilea cel mai mare motor de căutare din lume după Google. Pentru majoritatea celor două miliarde de utilizatori activi, YouTube este atât o distracție, cât și o sursă de cunoaștere.

Videoclipuri fără sfârșit: pe Youtube este ușor pentru utilizator să consume conținut ore în șir, nu în ultimul rând datorită algoritmilor.

Conținutul distractiv, videoclipurile explicative („videoclipuri cu instrucțiuni”) și, mai presus de toate, clipurile muzicale sunt deosebit de populare. 500 de ore de material video sunt încărcate pe YouTube în fiecare minut. Portalul video a rupt un semn magic în urmă cu trei ani. De atunci, peste un miliard de ore de videoclipuri au fost vizionate pe platformă în fiecare zi - mai mult decât pe Netflix și Facebook combinate.

„Youtube este unul dintre cele mai puternice instrumente de radicalizare din secolul XXI”.

Dar oricât de util și de distractiv poate fi YouTube în multe privințe, adâncimea platformei video este atât de întunecată, în care tot felul de conținut extrem de dificil. Prin urmare, experții acuză YouTube că este o mașină de radicalizare. Potrivit criticilor, acest lucru se datorează algoritmilor, care ar contribui semnificativ la recomandarea videoclipurilor tot mai radicale utilizatorilor.

Mai exact, este vorba despre conținut glorificator de violență, radical politic, rasist și conspirativ-teoretic, care este spălat în recomandările pentru utilizatori. Youtube a fost deja criticat pentru afișarea vizibilă a videoclipurilor care răspândesc în mod specific dezinformarea, de exemplu după împușcarea mortală din Las Vegas. După masacrul din octombrie 2017, au apărut videoclipuri care pretindeau că au expus împușcătura ca o „farsă”.

Cum funcționează algoritmul?

Termenul algoritm este adesea asociat cu personalizarea conținutului. Algoritmul înregistrează că ați văzut conținut pe un anumit subiect sau termen de căutare. În plus față de fiecare videoclip, Youtube recomandă alte videoclipuri în coloana din dreapta, care pot fi redate prin redare automată. Modul în care este compus exact algoritmul este ținut în mare parte de Google. Acest lucru face dificil pentru cercetători să obțină seturi de date și să analizeze sistemul. În general, istoricul utilizatorilor, contextul și implicarea (comentarii, aprecieri) ale unui videoclip joacă un rol major în recomandări. Potrivit Youtube, algoritmul este în mod constant îmbunătățit. În 2016, angajații Google au oferit o perspectivă asupra sistemului în această lucrare.

Acum doi ani, tehnosociologul Zeynep Tufekci a exprimat critici dure la adresa YouTube. În comentariul său de pe „Youtube, Marele radicalizator”, ea descrie cum i s-a recomandat rapid conținut despre ideologia supremației albe, negarea Holocaustului și discursurile de ură în timp ce căutau videoclipuri despre Donald Trump. În spectrul din stânga, ea a întâlnit în principal videoclipuri de conspirație, inclusiv 9/11. Chiar și pe probleme non-politice, videoclipurile sugerate ei au devenit din ce în ce mai extreme. „Youtube este unul dintre cele mai puternice instrumente de radicalizare a secolului 21”, afirmă Tufekci în analiza sa folosind exemple individuale.

Expertul avertizează asupra pericolelor inteligenței artificiale. Marile companii de tehnologie au folosit algoritmi pentru a „captiva” utilizatorii cât mai mult timp posibil și a genera astfel mai multe venituri din publicitate. Acest model de afaceri este fatal, crede Tufekci. "Facebook și Youtube poluează sfera publică și externalizează costurile societății", a criticat ea într-un interviu și a solicitat mai multe reglementări de stat pentru marile platforme.

Vreau să fac autotestul: Mi se va arăta conținut radical dacă nu îl caut? Creez un nou cont Google. Aceasta înseamnă că Youtube nu are interogări de căutare gata făcute de la mine și încep de la zero. Caut „Vaccin Corona” și dau clic pe recomandări. Algoritmul este acum „alimentat”.

Primele câteva videoclipuri sunt inofensive, văd videoclipuri bine produse din media populare pe care le consider demne de încredere. Dar observ un videoclip în coloana din dreapta. Este intitulat „9 pași pentru a vă elibera în mod legal de vaccinările obligatorii” și a fost chemat de peste 100.000 de ori. Fac clic pe videoclipul înregistrat de o femeie în biroul sau camera de zi. Nu pot asculta mult timp, calitatea videoclipului nu este deosebit de bună.

Comentariile de sub videoclip mi se par dezvăluitoare: Corona este o farsă, se spune. Drepturile omului vor fi abolite în timpul pandemiei. Se vorbește despre „minciunile trădătorilor”. Mi se sugerează un alt videoclip „Vaccinările nu protejează împotriva bolilor”. Videoclipul a fost vizionat de peste 75.000 de ori. Într-un comentariu se afirmă că vaccinările sunt doar acolo pentru a „îmbogăți mafia farmaceutică și populația bolnavă”.

Un studiu publicat recent, publicat în revista științifică „Nature”, a ajuns la concluzia că oponenții anti-vaccinare online sunt în minoritate, dar sunt foarte bine conectați între ei și astfel atrag atenția. În pandemia actuală, interesul pentru vaccinare a crescut. Acest lucru se joacă și în mâinile celor care se opun vaccinării. „În același timp, se vând și bine: fac videoclipuri cu povești personale amestecate cu citate științifice. Aceste videoclipuri sunt foarte bine realizate ”, spune un cercetător de studiu.

De asemenea, observ că videoclipurile subiective mi se arată din nou și din nou. De cele mai multe ori, o persoană își dă părerea în fața camerei într-o cameră de zi. Văd și videoclipuri de pe suporturi media stabilite, dar YouTube recomandă și videoclipuri din conturi destul de mici. Cu toate acestea, videoclipurile lor amatori deseori înregistrează mai mult decât
100.000 de vizualizări. Abordarea personală pare să fie bine primită de utilizatori. Acest lucru a fost dovedit și de boom-ul influenților de mai mulți ani.

Unii dintre operatorii de canale se plâng în videoclipurile lor că unele dintre videoclipurile deja încărcate au fost șterse - de pe Youtube. Se pare că platforma intervine aici în mod regulat, deoarece aceste videoclipuri încalcă regulile. În videoclipuri se vorbește despre Bill Gates, care se află în spatele tuturor, despre „lobby-ul vaccinării” și despre „manipularea maselor”. În comentarii, utilizatorii se biciuiesc reciproc. Nu există aproape nicio contradicție. Aici este ușor să te pierzi într-o spirală de radicalizare.

Vara trecută, un reportaj din New York Times intitulat „The Making of a Youtube Radical” a arătat cum să fii atras într-un vortex de videoclipuri radicale. În ea, Caleb Cain, în vârstă de 26 de ani, descrie cum a fost radicalizat pe platforma video: Într-o criză de viață, a căutat videoclipuri de auto-ajutor și a ajuns să aibă conținut extremist de dreapta. Mișcarea Alt-Dreapta, care servește ideologiilor din dreapta și a propagat puncte de vedere rasiste, islamofobe și antisemite, a avut o influență majoră.

Raportul a fost interesant, deoarece ziarul avea acces la întreaga istorie YouTube a lui Cain (peste 12.000 de videoclipuri). Acest lucru le-a permis jurnaliștilor să înțeleagă exact ce videoclip a făcut clic Cain și când, până a căzut în așa-numita „gaură de iepure” pe baza recomandărilor: Utilizatorul devine dependent de videoclipuri noi și ajunge într-o gaură virtuală.

Critica este că modelul de afaceri al YouTube și algoritmii „neintenționat” l-au condus pe Cain la radicalizare. „Pentru mine, protagoniștii din videoclipuri erau, de asemenea, ca niște figuri de tată”, își explică tânărul fascinația. Cu toate acestea, descrie și modul în care Cain a reușit să-și găsească ieșirea din această „gaură de iepure” vizionând videoclipuri cu puncte de vedere politice diferite și punând la îndoială narațiunea alt-dreapta.

„Trebuie să recunoaștem că recomandările YouTube sunt toxice”.

Dacă credeți că fostul angajat YouTube Guillaume Chaslot, algoritmii au fost creați în așa fel încât oamenii să petreacă tot mai mult timp pe platformă, deoarece acest lucru duce la mai multe vizualizări și venituri din publicitate. El descrie algoritmii ca fiind îndoielnici, deoarece ar prefera conținutul polarizant. Sistemul creează o dependență de utilizator. „Trebuie să recunoaștem că recomandările YouTube sunt toxice”, spune programatorul, care a trebuit să părăsească Google în 2013 după o dispută.

Proiectul său „AlgoTransparency” este interesant, deoarece oferă o mică perspectivă asupra modului în care funcționează algoritmii prin simularea comportamentului unui utilizator YouTube. Francezul a scris un program care caută în mod special pe YouTube cele mai recomandate videoclipuri din peste o mie de canale. Datorită surselor limitate, totuși, modelul arată doar o fracțiune dintre cele mai recomandate videoclipuri.

Ce videoclipuri urmărește un ideolog al conspirației?

Site-ul web Theirtube al dezvoltatorului Tomo Kihara oferă o perspectivă asupra lumii unui utilizator YouTube cu anumite vizualizări (șase tipuri diferite de utilizatori). Videoclipurile sunt recomandate de YouTube pe baza istoricului respectiv al unui utilizator. De exemplu, puteți vedea videoclipurile recomandate ale unui utilizator care crede în teoriile conspirației. Videoclipuri despre QAnon sau «PizzaGate» apar aici. Potrivit lui Kihara, algoritmul arată în mod repetat informații similare care confirmă și întărește părtinirea cuiva. Asta duce uneori la oameni care au opinii și idei radicale.

Urmăresc diferite videoclipuri pe Youtube în câteva zile cu noul meu cont. Continuu să verific ce sugerează Youtube. Când caut „Discursul Merkel”, al doilea videoclip care mi-a fost sugerat este: „Merkel a fost beată în timpul acestui discurs al UE?”. Operatorul canalului cu 15.000 de abonați susține în videoclipul extrem de prost realizat că cancelarul german era în mod clar beat și își întreabă telespectatorii ce părere au despre politicienii care consumă alcool.

Înapoi pe pagina principală, printre altele, este sugerat un interviu cu controversatul activist german Ken Jebsen. Sunt aceste videoclipuri radicale? Mă întreb. Cel puțin aș clasifica-o drept diseminarea conținutului teoriei conspirației. Într-o altă căutare de videoclipuri cu cancelarul Angela Merkel, mi se recomandă din ce în ce mai multe videoclipuri AfD - deși nu am văzut niciun videoclip AfD până atunci. Înapoi pe pagina de început, microcosmosul meu drept este deja recunoscut la început. Sunt pe drumul cel bun într-un balon filtrant.

Aceste bule de filtru politic au fost examinate de doi oameni de știință în comunicare din Berlin și Zurich în 2017. Pe baza analizei lor, Jonas Kaiser și Adrian Rauchfleisch au arătat cum canalele de dreapta (partide și furnizori de mass-media) au creat un „univers paralel” pe YouTube. Un rezultat al studiului: există puține conexiuni între rețeaua de dreapta și „mass-media mass-media și politică”. De aceea ești blocat politic într-un impas pe Youtube.

Oamenii de știință nu sunt de acord cu privire la influența pe care algoritmul o are de fapt în cazul unei posibile radicalizări a utilizatorilor. Mai mult de 70% din timpul petrecut pe YouTube este aparent influențat de algoritmi. Această experiență de vizualizare personalizată este atât o binecuvântare, cât și un blestem. Pe de o parte, este util pentru utilizator să vadă videoclipurile care îl pot interesa. Pe de altă parte, algoritmul poate duce la blocarea unei bule de filtru monotematice.

Radicalizarea există, mecanismul este un mister

În urmă cu un an, un grup internațional de cercetători din Elveția și Brazilia a trasat aceste „căi de radicalizare” printr-un studiu pe scară largă pe YouTube. În acest scop, a fost evaluat un set de date de 350 de canale, 300.000 de videoclipuri și 72 de milioane de comentarii. Cercetătorii au arătat că utilizatorii YouTube au trecut de la canale mai moderate sau mai conservatoare la canale extreme politice.

Manoel Horta Ribeiro efectuează cercetări la Ecole polytechnique fédérale de Lausanne.

Manoel Horta Ribeiro, unul dintre coautorii studiului, a declarat pentru NZZ: „Mărimea acestei migrații spre radicalizare era necunoscută anterior. Dar cu metoda noastră nu am putut cerceta exact cum funcționează mecanismul din spatele acesteia. "

Studiul a analizat recomandările doar într-o perioadă scurtă. Nu a fost posibilă colectarea datelor istorice. În plus, a existat o lipsă de date personalizate, deoarece algoritmul YouTube arată rezultatele individuale ale fiecărui utilizator.

Ribeiro este sigur că algoritmul joacă un rol, dar: „Ar trebui să recunoaștem, de asemenea, că YouTube și alte platforme mari au schimbat semnificativ regulile internetului. Vizualizările extreme au existat dintotdeauna, au devenit doar mai vizibile, iar platforme precum Youtube permit utilizatorilor să fie găsiți. »

Un sistem media alternativ a fost creat pe YouTube

Nici cercetătoarea media Rebecca Lewis nu vede algoritmul ca principalul factor de radicalizare. În analiza sa, expertul a aflat că în spatele acestora se află mai mult un sistem de influențatori alternativi și o comunitate bine conectată. „Youtube ar putea elimina întregul său algoritm de recomandare mâine și ar fi în continuare cea mai mare sursă de radicalizare online”, a spus Lewis. S-a dezvoltat pe YouTube un sistem media alternativ care promovează conținut radical și „vinde” ideologii extreme din punct de vedere politic.

Ribeiro consideră faptul că YouTube blochează din ce în ce mai mult canalele radicale ca pe o evoluție pozitivă. Cel mai recent, YouTube a blocat conturile mișcării identitare extremiste de dreapta, inclusiv canalul austriac Martin Sellner. Youtube are interesul de a prezenta conținut valoros utilizatorilor săi, spune cercetătorul. În urmă cu câteva săptămâni, Youtube a blocat și conturile Youtuberilor extremisti de dreapta din SUA, inclusiv fostul lider al Ku Klux Klan, David Duke. Utilizatorii ar trebui protejați de discursurile de ură, dezinformare și conținut penal, conform site-ului web. Orice canal care încalcă în mod repetat regulile va fi șters.

Când am introdus termenul de căutare „Stuttgart”, am văzut o mulțime de rapoarte din media de calitate. La prima vedere, nu observ niciun conținut radical. Din nou, comentariile de sub videoclipuri mă sperie: Stuttgart a fost „pus în scenă”, susține un utilizator, referindu-se la noaptea revoltei. Se crede chiar că este un „complot plătit”. Și un altul a comentat că acest incident a fost pură „frică de guvern”. Chiar dacă videoclipurile nu sunt radicale, multe comentarii de dedesubt sunt.

Pentru a examina algoritmul YouTube și consecințele acestuia, aveți nevoie, mai presus de toate, de date specifice despre utilizatori. Dar obținerea de date personalizate nu este ușoară, explică Nicolas Kayser-Bril, reporter la organizația internațională AlgorithmWatch. Prin urmare, acestea depind de donațiile de date de la utilizatorii YouTube. Portalul, care examinează critic algoritmii platformelor, dorește mai presus de toate mai multă transparență de la Google. Mai exact, ei solicită un organism independent care să intermedieze între cercetători și platforme.

Într-un interviu acordat NZZ, managerul Google, Isabelle Sonnenfeld, spune că YouTube acordă o prioritate mai mare conținutului media de înaltă calitate. „Conținutul media și informațiile fiabile” primesc în mod deliberat un tratament preferențial de către algoritm, spun ei. În timpul crizei coronei, Youtube a șters deja mii de videoclipuri cu conținut fals și înșelător.

„Algoritmul rămâne o cutie neagră pentru noi”, spune Ribeiro. Dar el înțelege, de asemenea, că Google dorește să protejeze confidențialitatea utilizatorilor săi și, prin urmare, este atent cu datele. Cu toate acestea, el ar dori ca societatea să joace un rol mai important în acest sens. «Cred că algoritmul YouTube este grozav. O provocare va fi reglementarea cantității mari de conținut de pe platformă ca pe o piață și reducerea factorilor de descurajare financiară ”, spune Ribeiro.

Deși autoexperimentul meu a durat doar câteva zile, văd o anumită tendință spre conținut îndoielnic. Presupun că, dacă aș continua acest experiment, aș vedea videoclipuri mai proaste. Propriul tău comportament de utilizare este esențial: îmi permit să fiu tentat de clicuri și videoclipuri provocatoare? Permit și alte opinii? Algoritmii joacă fără îndoială un rol major în comportamentul vizual, dar ceea ce este mai important este că fiecare utilizator este conștient de modul în care funcționează YouTube și pune întrebările corecte: Care sunt sursele? Cât de credibil este asta? În opinia mea, alfabetizarea mediatică este cel mai bun mod de a combate radicalizarea.