Radikalizálás a Youtube algoritmusain keresztül Önkísérlet

A video platformot kritikával illették a radikális és politikailag szélsőséges tartalmak népszerűsítése miatt. Ez azoknak az algoritmusoknak köszönhető, amelyek egyre nyilvánvalóbb videókat ajánlanak nekünk. De ez igaz?

Videók vég nélkül: A Youtube-on a felhasználó könnyedén felhasználhatja a tartalmat órákig, nem utolsósorban az algoritmusok miatt.

Hogyan süthetem a legjobb csokoládétortát? Melyek a legnépszerűbb látnivalók Svájcban? Mit mondott Donald Trump legutóbbi beszédében? Aki online témát keres, valószínűleg bekerül a YouTube-ra. A videó platform a Google után a világ második legnagyobb keresője. A kétmilliárd aktív felhasználó többsége számára a YouTube egyszerre időtöltés és tudásforrás.

Videók vég nélkül: A Youtube-on a felhasználó könnyedén felhasználhatja a tartalmat órákig, nem utolsósorban az algoritmusok miatt.

Hogyan süthetem a legjobb csokoládétortát? Melyek a legnépszerűbb látnivalók Svájcban? Mit mondott Donald Trump legutóbbi beszédében? Aki online témát keres, valószínűleg bekerül a YouTube-ra. A videó platform a Google után a világ második legnagyobb keresője. A kétmilliárd aktív felhasználó nagy része számára a Youtube egyszerre időtöltés és tudásforrás.

Különösen népszerűek a szórakoztató tartalmak, a magyarázó videók („útmutató videók”) és mindenekelőtt a zenei klipek. Percenként 500 órányi videóanyagot töltenek fel a YouTube-ra. Három évvel ezelőtt a videoportál varázslatot tört. Azóta naponta több mint egymilliárd órányi videót tekintenek meg a platformon - többet, mint a Netflix és a Facebook együttvéve.

"A Youtube a 21. század radikalizálódásának egyik leghatékonyabb eszköze."

De bármennyire is hasznos és szórakoztató a YouTube sok szempontból, a videóplatform mélysége olyan sötét, amelyben mindenféle extrém tartalom kavarog. A szakértők ezért azzal vádolják a YouTube-ot, hogy radikalizálódási gép. A kritikusok szerint ez az algoritmusoknak köszönhető, amelyek nagyban hozzájárulnának az egyre radikálisabb videók ajánlásához a felhasználók számára.

Konkrétan az erőszakot dicsőítő, politikailag radikális, rasszista és összeesküvés-elméleti tartalomról van szó, amelyet a felhasználóknak szóló ajánlásokba mosnak be. A Youtube-ot már kritizálták azért, mert jól láthatóan olyan videókat jelenítettek meg, amelyek kifejezetten diszinformációt terjesztenek, például a Las Vegas-i halálos lövöldözés után. A 2017. októberi mészárlás után olyan videók jelentek meg, amelyek azt állították, hogy a hamisítás "álhírnek" tették ki.

Hogyan működik az algoritmus?

Az algoritmus kifejezés gyakran társul a tartalom személyre szabásához. Az algoritmus regisztrálja, hogy egy adott témában vagy keresési kifejezésben tartalmat látott. Minden videó mellett a Youtube további videókat javasol a jobb oldali oszlopban, amelyeket automatikus lejátszással lehet lejátszani. Az algoritmus pontos összetételét a Google nagyrészt leplezet alatt tartja. Ez megnehezíti a kutatók számára az adatkészletek beszerzését és a rendszer elemzését. Általánosságban elmondható, hogy az ajánlásokban nagy szerepet játszik egy videó felhasználói előzményei, kontextusa és elkötelezettsége (megjegyzések, tetszések). A Youtube szerint az algoritmust folyamatosan fejlesztik. 2016-ban a Google munkatársai betekintést nyújtottak a rendszerbe ebben a cikkben.

Két évvel ezelőtt Zeynep Tufekci technoszociológus kemény kritikát fogalmazott meg a YouTube-ról. A „Youtube, a nagy radikalizáló” című kommentjében leírja, hogyan ajánlották neki gyorsan a fehér felsőbbrendűség ideológiáját, a holokauszt tagadását és a gyűlöletbeszédet, miközben Donald Trumpról szóló videókat keresett. A bal spektrumban főleg összeesküvés-videókkal találkozott, köztük szeptember 11-én. Még a nem politikai kérdésekben is, a számára javasolt videók egyre szélsőségesebbé váltak. "A Youtube a 21. század egyik leghatékonyabb radikalizálódási eszköze" - állapítja meg Tufekci egyedi példákon alapuló elemzésében.

A szakember figyelmeztet a mesterséges intelligencia veszélyeire. A nagy techcégek algoritmusok segítségével a felhasználókat a lehető leghosszabb ideig „magával ragadták”, és így több hirdetési bevételt termeltek. Tufekci úgy véli, hogy ez az üzleti modell végzetes. "A Facebook és a Youtube szennyezi a nyilvánosságot, és kiszervezi a társadalom költségeit" - kritizálta egy interjúban, és további állami szabályozásra szólított fel a nagy platformokra.

Szeretném elvégezni az öntesztet: Megmutatják-e nekem a radikális tartalmat, ha nem keresem meg? Új Google-fiókot hozok létre. Ez azt jelenti, hogy a Youtube-nak nincsenek kész keresési lekérdezései tőlem, és én a semmiből indulok. A "Corona vakcina" kifejezésre keresek, és áttekintem az ajánlásokat. Mostantól az algoritmust "betáplálják".

Az első néhány videó ártalmatlan, a népszerű médiából jól elkészített videókat látok, amelyeket megbízhatónak tartok. De észreveszek egy videót a jobb oszlopban. A címe „9 lépés, hogy legálisan megszabadítsuk a kötelező oltástól”, és több mint 100 000 alkalommal hívták meg. Átkattintom a videót, amelyet egy nő rögzített az irodájában vagy a nappaliban. Nem tudok sokáig hallgatni, a videó minősége nem különösebben jó.

A videó alatti megjegyzéseket felfedem: a Corona kamu, mondja. Az emberi jogokat a világjárvány alatt megszüntetnék. Beszélnek "az árulók hazugságairól". Egy másik videót javasolnak nekem: „Az oltások nem védenek a betegségektől”. A videót több mint 75 000 alkalommal tekintették meg. Az egyik megjegyzésben azt állítják, hogy az oltások csak azért vannak, hogy "gazdag legyen a gyógyszermaffia és a lakosság beteg legyen".

A „Nature” tudományos folyóiratban nemrégiben megjelent tanulmány arra a következtetésre jutott, hogy az online oltásellenes ellenfelek kisebbségben vannak, de nagyon jól összekapcsolódnak egymással, és így nagy figyelmet vonzanak magukra. A jelenlegi járványban megnőtt az oltások iránti érdeklődés. Ez azoknak is a kezébe játszik, akik ellenzik az oltást. „Ugyanakkor jól értékesítenek is: videókat készítenek személyes történetekkel, tudományos idézetekkel vegyítve. Ezek a videók nagyon jól sikerültek ”- mondja az egyik kutató.

Azt is észreveszem, hogy szubjektív videókat mutatnak nekem újra és újra. Legtöbbször egy személy mondja el véleményét a kamera előtt egy nappaliban. Videókat is látok már megszokott médiából, de a YouTube meglehetősen kis számlákról is ajánl videókat. Amatőr videóik azonban gyakran többet is rögzítenek, mint
100 000 megtekintés. Úgy tűnik, hogy a felhasználók jól fogadják a személyes megközelítést. Ezt az influencerek fellendülése is évek óta bizonyítja.

A csatorna üzemeltetői közül néhányan panaszkodnak videóikban, hogy néhány már feltöltött videójukat törölték - a Youtube. Nyilvánvalóan a rendszer rendszeresen beavatkozik ide, mert ezek a videók sértik az irányelveket. A videókban Bill Gatesről van szó, aki minden mögött áll, az „oltási lobbi” és a „tömegek manipulálása” mögött. A megjegyzésekben a felhasználók ostorozzák egymást. Alig van ellentmondás. Itt könnyű eltévedni a radikalizálódás spiráljában.

Tavaly nyáron a New York Times „A YouTube-radikális készítése” című jelentése megmutatta, hogyan lehet bekerülni a radikális videók örvényébe. Ebben a 26 éves Caleb Cain leírja, hogyan radikalizálódott a video platformon: Életválságban önsegítő videókat keresett, és végül jobboldali szélsőséges tartalommal rendelkezett. A jobboldali ideológiákat szolgáló rasszista, iszlamofób és antiszemita nézeteket kiszolgáló Alt-Right mozgalomnak nagy hatása volt.

A jelentés érdekes volt, mert az újság hozzáférhetett Cain teljes YouTube-előzményeihez (több mint 12 000 videó). Ez lehetővé tette az újságírók számára, hogy pontosan megértsék, melyik videóra és mikor kattintott, míg az ajánlások alapján az úgynevezett „nyúllyukba” esett: A felhasználó rabja lesz az új videókhoz, és egy virtuális lyukba kerül.

A kritika az, hogy a YouTube üzleti modellje és az algoritmusok "akaratlanul" radikalizálódáshoz vezették Caint. "Számomra a videók főszereplői is olyanok voltak, mint az apafigurák" - magyarázza elbűvölését a fiatalember. Ugyanakkor azt is leírja, hogy Cain hogyan tudott önállóan kiszabadulni ebből a "nyúllyukból" azáltal, hogy különböző politikai nézetekkel rendelkező videókat nézett, és megkérdőjelezte az alt-jobb elbeszélését.

"El kell ismernünk, hogy a YouTube ajánlásai mérgezőek."

Ha úgy gondolja, hogy a YouTube volt alkalmazottja, Guillaume Chaslot, az algoritmusokat úgy hozták létre, hogy az embereknek egyre több időt kell töltenie a platformon, mert ez több megtekintéshez és hirdetési bevételhez vezet. Az algoritmusokat megkérdőjelezhetőnek írja le, mivel azok jobban preferálnák a polarizáló tartalmat. A rendszer függőséget teremt a felhasználótól. "El kell ismernünk, hogy a YouTube ajánlásai mérgezőek" - mondja a programozó, akinek egy vita után 2013-ban el kellett hagynia a Google-t.

Az „AlgoTransparency” projektje izgalmas, mivel egy kis betekintést nyújt az algoritmusok működésébe egy YouTube-felhasználó viselkedésének szimulálásával. A francia írt egy programot, amely kifejezetten a legtöbb ajánlott videót keresi a YouTube több mint ezer csatornáján. A korlátozott források miatt a modell azonban csak a legtöbbet ajánlott videók töredékét mutatja be.

Milyen videókat néz egy összeesküvés ideológus?

A Theirtube webhely Tomo Kihara fejlesztőtől betekintést nyújt egy YouTube-felhasználó világába, bizonyos nézetekkel (hat különböző felhasználói típus). A videókat egy YouTube-felhasználó előzményei alapján ajánljuk. Például megtekintheti az összeesküvés-elméletekben hiszõ felhasználó ajánlott videóit. Itt jelennek meg a QAnonról vagy a «PizzaGate» -ről szóló videók. Kihara szerint az algoritmus többször is mutat hasonló információkat, amelyek megerősítik és megerősítik az ember elfogultságát. Ez néha oda vezet, hogy az emberek radikális nézetekkel és ötletekkel rendelkeznek.

Több napon keresztül különböző videókat nézek a Youtube-on az új fiókommal. Folyamatosan ellenőrzem, mit javasol a YouTube. Amikor a „Merkel Speech” kifejezésre keresek, a második videó, amelyet nekem ajánlottak: „Részeg volt Merkel ezen az EU-beszéden keresztül?”. A 15 000 előfizetővel rendelkező csatorna üzemeltetője a rendkívül rosszul elkészített videóban azt állítja, hogy a német kancellár egyértelműen részeg volt, és megkérdezi nézőit, mit gondolnak az alkoholt fogyasztó politikusokról.

A kezdőlapon egyebek mellett egy interjút javasolnak a vitatott német aktivistával, Jeb Jebsennel. Radikálisak ezek a videók? Kíváncsi vagyok. Legalább az összeesküvés-elméleti tartalom terjesztőjeként osztályoznám. Az Angela Merkel kancellárral folytatott újabb videokeresés során egyre több AfD videót ajánlanak nekem - bár addig egyetlen AfD videót sem láttam. Vissza a kezdőlapra, a jobb mikrokozmoszom már az elején felismerhető. Már jó úton vagyok a szűrőbuborékban.

Ezeket a politikai szűrőbuborékokat két berlini és zürichi kommunikációs tudós vizsgálta 2017-ben. Elemzésük alapján Jonas Kaiser és Adrian Rauchfleisch megmutatták, hogy a jobboldali csatornák (pártok és médiaszolgáltatók) hogyan hoztak létre „párhuzamos univerzumot” a YouTube-on. A tanulmány egyik eredménye: kevés kapcsolat van a jobboldali hálózat és a „média és a politikai mainstream” között. Éppen ezért politikailag rekedt a zsákutcában a Youtube-on.

A tudósok nem értenek egyet abban, hogy az algoritmus valójában milyen hatást gyakorol a felhasználók esetleges radikalizálódása esetén. A YouTube-on töltött idő több mint 70 százalékát nyilvánvalóan az algoritmusok befolyásolják. Ez a személyre szabott nézési élmény egyszerre áldás és átok. Egyrészt hasznos a felhasználó számára, amikor meglátja a potenciálisan őt érdeklő videókat. Másrészt az algoritmus oda vezethet, hogy az ember beleragad egy monotematikus szűrőbuborékba.

Radikalizálódás létezik, a mechanizmus rejtély

Egy évvel ezelőtt egy svájci és brazil kutatók nemzetközi csoportja egy nagyszabású YouTube-tanulmány nyomon követte ezeket a "radikalizálódási utakat". Ennek érdekében 350 csatornás, 300 000 videóból és 72 millió megjegyzésből álló adatsort értékeltek. A kutatók kimutatták, hogy a YouTube felhasználói mérsékeltebb vagy konzervatívabb csatornákról váltottak politikailag szélsőséges csatornákra.

Manoel Horta Ribeiro kutatásokat folytat az Ecole politechnikában (Lausanne).

Manoel Horta Ribeiro, a tanulmány egyik társszerzője az NZZ-nek elmondta: „A radikalizálódás felé vezető migráció mértéke korábban nem volt ismert. De módszerünkkel nem tudtuk pontosan megvizsgálni, hogyan működik a mögöttes mechanizmus. "

A tanulmány csak rövid időn belül vizsgálta az ajánlásokat. Történelmi adatokat nem lehetett gyűjteni. Ezen kívül hiányzott a személyre szabott adat, mivel a YouTube algoritmus minden felhasználónak egyedi eredményeket mutat.

Ribeiro biztos abban, hogy az algoritmus szerepet játszik, de: „Azt is fel kell ismernünk, hogy a YouTube és más nagy platformok jelentősen megváltoztatták az internet szabályait. A szélsőséges nézetek mindig is léteztek, csak láthatóbbá váltak, és olyan platformok, mint a Youtube, lehetővé teszik a felhasználók megtalálását. »

Alternatív médiarendszert hoztak létre a YouTube-on

Rebecca Lewis médiakutató sem az algoritmust tekinti a radikalizálódás fő tényezőjének. Elemzésében a szakértő kiderítette, hogy ezek mögött inkább az alternatív befolyásolók rendszere és egy jól hálózatba szervezett közösség áll. "A Youtube holnap eltávolíthatja a teljes ajánlási algoritmust, és ez továbbra is az online radikalizálódás legnagyobb forrása" - mondta Lewis. A YouTube-on alternatív médiarendszer alakult ki, amely népszerűsíti a radikális tartalmat, és "eladja" a politikailag szélsőséges ideológiákat.

Ribeiro pozitív fejleménynek tartja, hogy a YouTube egyre inkább blokkolja a radikális csatornákat. Legutóbb a YouTube blokkolta a jobboldali szélsőséges Identitárius Mozgalom számláit, köztük az osztrák Martin Sellner csatornáját. A Youtube érdeke, hogy értékes tartalmakat mutasson be felhasználóinak - mondja a kutató. Néhány héttel ezelőtt a Youtube blokkolta az Egyesült Államokban a jobboldali szélsőséges Youtuberek számláit, köztük David Duke, a Ku Klux Klan volt vezetőjét is. A weboldal szerint a felhasználókat védeni kell a gyűlöletbeszédtől, a dezinformációtól és a bűnügyi tartalomtól. Minden olyan csatorna törlődik, amely ismételten megsérti az irányelveket.

Amikor beléptem a „Stuttgart” keresési kifejezésbe, rengeteg jelentést láttam a minőségi médiából. Első pillantásra nem veszek észre semmilyen radikális tartalmat. Ismét a videók alatti megjegyzések rémítenek meg: Stuttgartot "megrendezték" - állítja az egyik felhasználó a zavargás éjszakájára hivatkozva. Az ember azt gondolja, hogy ez egy "fizetett telek". És egy másik megjegyezte, hogy ez az eset tiszta "kormánytól való félelem". Még ha a videók sem radikálisak, az alatta lévő sok megjegyzés igen.

A YouTube algoritmus és következményeinek vizsgálatához mindenekelőtt konkrét felhasználói adatokra van szükség. De a személyre szabott adatok megszerzése nem könnyű - magyarázza Nicolas Kayser-Bril, az AlgorithmWatch nemzetközi szervezet riportere. Ezért függenek a YouTube-felhasználók adományaitól. A platformok algoritmusait kritikusan vizsgáló portál mindenekelőtt nagyobb átláthatóságot szeretne a Google-től. Konkrétan egy független testületet kérnek a közvetítéshez a kutatók és a platformok között.

Isabelle Sonnenfeld, a Google menedzsere az NZZ-nek adott interjújában azt mondja, hogy a YouTube nagyobb prioritást élvez a kiváló minőségű médiatartalmak számára. A médiatartalmat és a megbízható információkat az algoritmus szándékosan preferenciális bánásmódban részesíti - állítják. A koronaválság idején a Youtube már több ezer hamis és félrevezető tartalmú videót töröl.

"Az algoritmus fekete doboz marad számunkra" - mondja Ribeiro. De megértette azt is, hogy a Google meg akarja védeni felhasználói magánéletét, ezért óvatos az adatokkal. Mindazonáltal azt szeretné, ha ebben a társadalom fontosabb szerepet játszana. «Szerintem a YouTube algoritmus remek. Kihívást jelent a platformon a nagy mennyiségű tartalom szabályozása, mint a piacon, és a pénzügyi visszatartó tényezők csökkentése ”- mondja Ribeiro.

Bár önkísérletem csak néhány napig tartott, bizonyos tendenciát látok a megkérdőjelezhető tartalom felé. Feltételezem, hogy ha folytatom ezt a kísérletet, rosszabb videókat látok. Saját felhasználói viselkedése elengedhetetlen: Engedem, hogy csalogató és provokatív videók csábítsam magam? Engedek-e más véleményt? Az algoritmusok kétségtelenül nagy szerepet játszanak a vizuális viselkedésben, de ami még fontosabb, hogy minden felhasználó tisztában legyen a YouTube működésével és a megfelelő kérdéseket tegye fel: Melyek a források? Mennyire hiteles? Véleményem szerint a médiaműveltség a legjobb módszer a radikalizálódás leküzdésére.