A hadban álló YouTube káros tartalommal! Hogyan küzd a vállalat a jelenség megállításáért
Szerző: Bogdan Ungureanu/Megjelenés dátuma: 2019-09-03 19:09
A YouTube platform versenyben áll az idővel a káros tartalom eltávolítása érdekében, legyen szó gyűlöletkeltésről, terrorizmusról, gyermekbántalmazásról vagy másról. A gépi tanulás technológiája ebben az esetben nagyon fontos.
A YouTube a kezdetektől fogva eltávolította a káros tartalmat, de az ez irányú erőfeszítések felgyorsultak az elmúlt években, főleg a közösség által betartandó szabályok frissítésével, az utasítások javításával, a gépi tanulási rendszerek bevezetésével, olyan csapatok fejlesztésével, amelyek elemezze annak tartalmát vagy dedikált programjait különböző szervezetekkel együttműködve. Csak 2018-ban a YouTube több mint 30 módosítást hajtott végre a platformot irányító irányelvekben.
Ennek eredményeként 2019 második negyedévében a YouTube több mint 4 millió csatornát és 9 millió videót távolított el a közösségi szabályok megsértése miatt. Augusztus végén a YouTube negyedéves jelentést tett közzé a platformról eltávolított tartalomról, amely tájékoztatást nyújt az eltávolított tartalom mennyiségéről, a törlés miértjéről és mikor.
A tartalom eltávolítása előtt meg kell húzni a határt az elfogadott és a törölt között, ahol annak lennie kellene. A cél a véleménynyilvánítás szabadságának biztosítása, ugyanakkor a YouTube-közösség védelme és támogatása. Ennek érdekében a YouTube-nak van egy közösségi irányelvek fejlesztő csapata, amely folyamatosan ellenőrzi őket, hogy megbizonyosodjanak arról, hogy naprakészek-e, biztonságban vannak-e a közösségben, és nem korlátozzák-e a YouTube szabadságát.
Egyes összetett esetekben az elemző csoport több hónapot tölthet egy új szabály kidolgozásával. Ezt külső szakértőkkel és tartalomkészítőkkel folytatott konzultáció útján hajtják végre a YouTube-on, hogy lássák, hol mutatják be a jelenlegi szabályok a korlátaikat, mik a sajátosságai a világ különböző régióinak, hogy a javasolt változtatásokat meglehetősen globálisan alkalmazzák.
Az egyik ilyen alapvető változás a gyűlöletkeltő politikák frissítése volt. Változásukra hétfőn került sor, és az új politikák 2019 júniusának elején indultak. Az új politikának a gyűlöletkeltésre gyakorolt hatása 2019 második negyedévében volt látható:
- Több mint 100 000 videó eltávolítva, ami ötszörös növekedést jelent
- A "gyűlöletbeszéd" miatt törölt csatornák száma ötször, 17 000 fölé nőtt
- A YouTube-ról eltávolított megjegyzések száma 2019 második negyedévében csaknem megduplázódott, több mint 500 millióra emelkedett, részben a "gyűlöletbeszéd" megjegyzésének törlése miatt
A YouTube emberek és technológiák kombinációjára támaszkodik az elemzendő tartalom megjelölésére. Bizonyos esetekben az "ujjlenyomatokat" használják a nem megfelelő tartalom másolatainak megkeresésére megtekintés előtt. Bizonyos típusú tartalmak esetében, mint például a gyermekek szexuális zaklatása vagy a terrorizmus, a YouTube hozzájárul egy tartalomipari adatbázishoz, hogy növelje az ilyen típusú tartalom blokkolásának esélyét a feltöltés előtt.
2017-ben a YouTube kibővítette a gépi tanulási technológia alkalmazását a potenciálisan nem megfelelő tartalom felderítésében, majd emberi elemzésre küldte. Ez a technológia alkalmas a minták detektálására, amely segít megtalálni a már eltávolított tartalmakhoz hasonló - de nem éppen azonos - tartalmat, még mielőtt a felhasználók megnéznék. Így a 2019 második felében törölt 9 millió videó több mint 87% -át eredetileg a YouTube automatizált rendszerei azonosították. Az automatikus spamfelismerő rendszerek 2019 második negyedévében történt frissítése 50% -kal növelte a törölt csatornák számát a spamszabályok megsértése miatt.
A szabályokat sértő tartalom eltávolításának minden törekvése során fontos szempont, hogy az ilyen jellegű videókat eltávolításuk előtt ne nézzék meg nagy mértékben vagy egyáltalán ne. Itt a kritikus elem az automatizált riasztórendszer, amely segített a tartalom észlelésében és értékelésében, mielőtt azt a közösség jelezte volna. Ennek eredményeként az automatizálási rendszerek által jelentett tartalom több mint 80% -át eltávolították, mielőtt 2019 második negyedévében egyetlen nézetet kaptak volna.
A YouTube 2018 elején indította el az Intelligence Desk nevű csapatot, amely figyeli a híreket, a közösségi médiát és a felhasználói jelentéseket, hogy felfedezze az új trendeket a nem megfelelő tartalom területén. A Google több mint 10 000 embert alkalmazott fel a YouTube irányelveit sértő tartalom észlelésére, elemzésére és eltávolítására.