Hogyan használhatjuk ésszerűen az algoritmusokat? Jörg Dräger, a Bertelsmann Alapítvány igazgatósági tagja, im
A Bertelsmann Alapítvány igazgatótanácsa nem hisz a digitalizáció következményeiről szóló, ijesztő vitában. Thoralf Cleven-nek adott interjúban az 51 éves férfi leírja, hogy a digitális változás hogyan modernizálhatja és igazságosabbá teheti társadalmunkat - ha értelmesen használjuk az algoritmusokat.
Amikor munka után elmegyek az autóhoz, az okostelefonom rendszeresen jelentést tesz, anélkül, hogy megkérdeznék a hazafelé számított idővel és az alternatív útvonalakkal, a forgalmi helyzettől függően. Praktikus, de egyben félelmetes is, nem igaz?
Az ilyen támaszok félelmetesek, mindaddig, amíg úgy érezzük, mintha nem lennénk kézben. Számomra ez az üzenet akkor jelenik meg, miután felkelek - idővel az irodáig vagy egy megbeszélésig. De tudom, milyen adatokat használ ez az alkalmazás, és - ami nagyon fontos - hogyan tudom leállítani. Mindannyiunknak megvan ez az ereje. Másrészt eszünkbe sem jutna megkérdőjelezni az algoritmusok hatékonyságát, ha vezetés közben hirtelen fékre kellene lépnünk, és az ABS blokkolásgátló fékrendszere segített a sávban maradásban. De ez az algoritmikus adatelemzés eredménye is.
Tehát mindannyiunk számára egyre fontosabb tisztában lenni azzal, hogy mikor és hogyan működik velünk egy algoritmus?
Igen. Mindenekelőtt tisztában kell lennünk a társadalmi következményekkel. Az autóban található navigációs eszköz például meghatározza a vezetési időmet és így az élettartamot az útvonaltervezéssel, de az esetleg optimalizált CO2-kibocsátás és az éghajlat vagy zajszennyezés sebessége révén.
Vannak-e olyan életterületek, amelyekben az adatok nem játszanak szerepet?
Privátban igen, legalábbis amíg kikapcsoljuk. Másképp? Az Egyesült Államokban a bírák algoritmusok segítségével határozzák meg a büntetés mértékét, ezek a személyzet kiválasztásának elengedhetetlen részévé váltak, sőt az általános iskolai helyeket is - például Berlinben - ma már így osztják ki. Tehát az algoritmusok már régen nem határozták meg az olyan műszaki területeket, mint például az ABS, de ma már meghatározó szerepet játszanak minden egyén életében. Ezért fontos kevesebbet beszélni a mesterséges intelligencia használatának rövid távú hatásairól, és inkább a hosszú távú hatásokról. Rendkívül formatívak a jövő társadalma számára.
Tényleg inkább algoritmusokról, mesterséges intelligenciáról vagy intelligens gépekről beszél?
Az algoritmus nagyon technikailag hangzik, és inkább visszatartó erejű. A mesterséges intelligencia azt a benyomást kelti, hogy minket, embereket felváltanak. Véleményem szerint a helyes kifejezés a „kiterjesztett intelligencia”. Ez csak bővítheti képességeinket és segíthet nekünk, nagyon specifikus feladatok elvégzésében, például hatalmas mennyiségű adat elemzésében.
Miért aggódtunk a múltban kevésbé az adatok felhasználása miatt - az ABS kulcsszó -, és most valódi félelem támad bennünket?
A mesterséges intelligencia gyakran társul a filmek terminátorához vagy mátrixához. A politikai vita pedig leginkább arról szól, hogy hány munkahely pusztul el. Mindkettő negatív és védekező reakciókhoz vezet. Jobb lenne, ha megvitatnánk, hogyan javíthatnánk emberi képességeinket a gépek segítségével. Mert erről van szó. A társadalmi juttatásoknak az előtérben kell lenniük. Miért nem kérdezzük meg, hogyan lehetne jobb társadalmat felépíteni fokozott intelligenciával?
Talán azért, mert sokak számára fontos a munkájuk? Mi lenne az oszlopod egy ilyen vitában?
Természetesen a munkahelyek nagyon fontosak. Ezért olyan fontos ma eldönteni, hogyan akarunk holnap élni és dolgozni. Okos használatuk esetén az algoritmusok nagyobb igazságosságot és globális igazságosságot, jobb hozzáférést biztosítanak az oktatáshoz vagy a munkához, mint amilyen ma van vagy lehet.
Mit értesz konkrétan?
A technológia alkalmazással történő alkalmazásával már biztosíthatom, hogy több nő kapjon esélyt vezetői pozíciókban. A származás szerinti kevesebb megkülönböztetést a bírósági eljárásokban is lehetővé tehetem. Tehát az emberi megítélésen múlik, hogyan és mire építjük és használjuk az algoritmusokat. Az eljárások ellenőrzéséről és átláthatóságáról szól. Az algoritmus gyakran tükrözi a viselkedésünket. Megerősítheti igazságtalan viselkedésünket, de az emberek a kapcsolót is megfordíthatják vele.
A gazdaság eléri a hatékonyságot. Nem ütközik-e gyakran társadalmi érdekekkel, például minden ember részvételével - függetlenül attól, hogy testi fogyatékossággal vagy krónikusan szenvednek, vagy szegény családból származnak?
Szerintem értékesebb, ha a társadalmat 20 százalékkal igazságosabbá, mint az autó gyártását 20 százalékkal hatékonyabbá tesszük. Példa: Az Egyesült Államokban egy call center algoritmusok segítségével kereste meg a pályázókból azokat a munkavállalókat, akik sokáig maradtak anélkül, hogy abbahagyták volna. Remekül működött. Aztán észrevették, hogy a problémás területekről érkező emberek egyáltalán nem kapnak munkát, ezért egyszerűen diszkriminációnak vetik alá őket. Ezért a vállalat úgy döntött, hogy ezen a ponton lebecsüli az algoritmust, így az már nem tesz különbséget. A prioritás a következők voltak: a méltányosság a hatékonysággal szemben.
Az algoritmusok azonban nem akadályozhatják meg a mindennapi életben vagy a munkahelyen a bőrszín vagy eredet alapján történő későbbi diszkriminációt.
Nem, a problémák iránti érzékenységnek az algoritmikus megoldás előtt kell lennie. Aztán az emberek olyan lehetőségeket kapnak, amelyek korábban alig voltak. Ez viszont hozzáállás és értékek megváltozásához vezet, erről meg vagyok győződve. Az algoritmusokat nem érdekli, honnan származol, hány éves vagy, a bőrszíned, a nemed és az oktatási utad. Például számítógépes játékokkal felismerheti kompetenciáit, és kombinálhatja azokat a munka követelményeivel. Nemcsak a pontosság lenyűgöző. Lenyűgöz az igazságosabb társadalom lehetősége - a programok nem csak az esetleges rögös oktatási utat és a formális képesítések hiányát vizsgálják. Látja az egyén láthatatlan, rejtett képességeit is.
Kikapcsolhatjuk-e a bélérzetünket, mielőtt döntéseket hoznánk?
Határozottan nem. De összehasonlíthatjuk belső érzékenységünket az adatok segítségével, és más anyagot adhatunk a bélérzésünknek. Ha először alaposabban megvizsgáljuk, hogy mindenki számára egyenlő hozzáférést biztosítsunk az egyre digitálisabb világhoz, sok mindent elértünk volna.
Az algoritmusok tisztességesek-e?
Ugyanolyan igazságosak vagy igazságtalanok, mint az emberek. Ha ennek megfelelően építem fel őket, igazságot teremthetnek. De nem mentesíthetnek minket a társadalmi vitáról a tisztességes kérdésről. Például az Egyesült Államokban kiderült, hogy bizonyos populációk könnyebben jutnak be az egyetemekbe, mint mások. Ezután megállapították, hogy az érintett kisebbségek a jövőben elegendőek lesznek egy gyengébb középiskolai végzettséghez ahhoz, hogy helyet kapjanak az egyetemen, amelyhez a többségnek jobb igazolásra lenne szüksége. Ez igazságos Ezt politikai folyamatban kell megvitatni és eldönteni. Mindenesetre kar a strukturális hátrányok lebontására.
Hát nem szintező?
Különösen az oktatási ágazatban a mesterséges intelligencia személyre szabott órákon keresztül vethet véget az egyenlítésnek, és ugyanakkor társadalmilag igazságosabbá válhat: Az egyéni támogatásnak már nem szabad a szülők hitelkártyájától függenie. Az algoritmusok nem helyettesítik a tanárokat - mindenki tudásközvetítőjétől kezdve az egyén tanulótársává válik.
Az algoritmusok már hivatalos döntéseket hoznak. Ki vállalja a felelősséget, ha téved?
Bárki, aki úgy döntött, hogy algoritmusokat használ, utólag felelősséget is vállal értük, beleértve a minőségbiztosítást is.
Ismerjük az épület- és környezetvédelmi jogszabályok hatásvizsgálatait. Kell-e ilyesmi az algoritmusokhoz is ?
Elképzelhető. Mindig lesz olyan terület, ahol elég tudni, hogy az algoritmusok működnek - például bérelt járművek biztosításakor. Aztán vannak olyan területek, ahol meg akarjuk érteni a döntéseket - például a gépjárművekre vonatkozó biztosítási díjakkal, amelyeket adatelemző programok határoznak meg, és nem engedhetnek megkülönböztetést egyetlen népcsoporttal szemben sem. Kötelező jóváhagyási eljárásokra van szükségünk az érzékeny, társadalmilag releváns területeken - például az orvosi robotok jóváhagyása vagy a bíróságok támogatása esetén. Ellenőrzési és panasztételi lehetőségeknek kell lenniük a digitálisban és az analógban egyaránt.
Végül demokratikusabb-e az algoritmikus társadalom, mint ma?
Az algoritmusok mindenképpen hozzáférést biztosítanak további információkhoz. Az, hogy a társadalmat demokratikusabbá is tehetik-e, attól függ, hogy sikerül-e komoly politikai vitákba menni a közösségi média szolgáltatóival a katalizátorok, a radikalizálódás visszhangkamráinak veszélyeiről. Pillanatnyilag algoritmusaik egyre szélsőségesebb véleményeket hirdetnek és erősítenek. A kompenzáció azonban technikailag is támogatható.
Az egyensúlyt unalmasnak tekintik a Facebookon vagy a Twitteren.
De el kell-e fogadnunk ezt, ha a társadalom többsége egyensúlyt akar? Úgy gondolom, hogy a vállalati társadalmi felelősség ezen a ponton áttörni a kereskedelmi érdekeiket - a békés együttélés érdekében. Itt mindenképpen vannak pozitív példák: A legutóbbi amerikai választási kampány után a Facebook hatalmas vitát folytatott a nyakán a politikai befolyásról. Ennek eredményeként a szövetségi választási kampány során megvizsgálták a Google keresési mechanizmusát - ennek eredményeként a személyes jellemzők alig játszanak szerepet az eredmények politikai keresési lekérdezéseiben. Tehát működik.
A szövetségi kormány "mesterséges intelligencia-stratégiát" fogadott el a mesterséges intelligencia kezelésére. Milyen felelősség hárul az államra a digitális változások tekintetében?
Az állam számára a digitális változás mindenekelőtt azt jelenti, hogy fejlesztenie kell a megfelelő tervezési készségeket. Kétféleképpen: Az állam megteremti az intelligens gépek működésének kereteit azzal a céllal, hogy azok a közjót szolgálják. Ugyanakkor az állam maga is algoritmikus rendszereket működtet a biztonsági, szociális vagy pénzügyi hatóságokban, amelyek döntéseit egyetlen polgár sem kerülheti el. Az államnak ezért kettős szerepe van, amelyet gyorsan és átfogóan kell ellátnia.
Elég gyorsak vagyunk?
Érdemes lehet egy pillantást vetni Kínára. A kínaiak élete szinte algoritmikus. Ez olyan messzire megy, hogy a kormányzati előírások betartásával vagy más helyes magatartással bónuszok épülnek fel az Ön állampolgárai számláján, amelyek segítségével a várakozási sorok felett eljuthat a gépre.
Ez meglehetősen ijesztőnek hangzik.
Kína itt egyáltalán nem lehet példakép számunkra - de a példa arra ösztönöz minket, hogy siessünk megtalálni saját válaszainkat. Akár tetszik, akár nem: beszélnünk kell arról, amit akarunk, és aminek nem szabad léteznie. Ez azonban igényesebb, mint a félelmet kiváltó vita arról, hogy hány munkahely veszhet el a digitalizálás révén. Mert az értékeinkről és arról a kérdésről van szó, hogyan kapcsoljuk össze őket a jövőnkkel. Kína példája bizonyítja, hogy ez a jövő már megkezdődött.