A K; mit! De k; robotok is f; válassza az APuZ lehetőséget
Ha kívánna egy intelligens gépet, mi lenne az?
Thea Dorn - Fejemmel és szívemmel akarok dolgozni, ezért is tartom csodálatosnak, hogy az eszközök olyan házimunkákat végeznek nekem, amelyekhez csak a fogamat csiszolnám. De eszembe sem jutott intelligensnek nevezni a mosógépemet.
Raúl Rojas - Olyan technológiát szeretnék, amely nem áll állandóan az utamba, és nem zár a számítógéphez - mint például az e-mailek. Nincs mobiltelefonom, ez a kiút. Az agyamat valami másra akarom használni. Tehát olyan önálló járműveket fejlesztek, amelyek használhatók, mint a taxik.
Nem vagyunk kegyelmükben?
Rojas - nem Ellenkezőleg. Szeretném az autót tömegközlekedési formává alakítani. 1,3 millió járművünk van Berlinben, valamint buszok és metrók. Autók helyett csak 100 000 önálló járművet szeretnék: közös taxikat. Felvették az embereket az utcán, és elvitték őket a metróhoz, a buszhoz vagy más célhoz. Ön együtt vezet, megosztja a költségeket. Ez megkönnyíti a forgalmat. Nem lenne több parkoló sáv, és a kerékpárok megkapnák a szabaddá vált sávot. Kevesebb lenne a baleset. És olyan kényelmes lenne! Már nem kell magam vezetnem, be tudok szállni egy taxiba, olvasni, dolgozni. Ez lenne az én "autopiám" a város számára.
tüske - Nincs kifogás ez ellen a jövőkép ellen! Végül nem érdekel, hogy sofőr ül a volán mögött, vagy az autó maga hajtja-e. De egyelőre még mindig a volán mögött vagyunk - és folyamatosan pártfogoljuk. Megőrül, amikor az autóm hisztérikus csipogással próbálja megmondani, hogyan kell parkolni, vagy mikor kell egy kis szünetet tartani. A navigációs rendszerek pedig a legtisztább orientációs gépek. Ha lehetséges, kikapcsolom az egészet.
Rojas - Nincs navigációs rendszerem sem. De komolyan: sok előadást tartok az autonóm járművekről, és a leggyakoribb reakció: Nem akarom, hogy valaki elvegye tőlem a kormányt! Azt válaszolom: A gazdag embereknek van sofőrjük, és nem érdekelnek a részletek. Nem akarunk valamennyien gazdagok lenni? Akkor már nem érdekel a vezetés. Addig olvastam az újságomat, a könyvemet, amíg a sofőr azt mondta: Megérkeztünk.
tüske - Ez is: gyönyörű látomás! Csak attól tartok, hogy az emberek a megtakarított időt nem használják Arisztotelész olvasására, vagy legalábbis újságot olvasnak. Még jobban babrálnak majd az eszközeikkel. De természetesen igaz, hogy - különösen a nagyvárosokban - sokat kell javítani a forgalomban. Mindenki, aki Berlinben gyalog vagy kerékpárral jár, utálja az autóforgalmat.
De?
tüske - Aggódom, hogy milyen sebességgel ruházzuk át azokat a technológiai döntéseket, amelyeket korábban magunknak kellett meghoznunk, vagy olyan készségeket, amelyeket saját magunknak kellett megszereznünk. Nem kell, mondja az egészségügyi alkalmazás. Készlet tervezés? Nem kell, a hűtőszekrény tudja, mikor kell új tejet tölteni. Tanulni idegen nyelveket? Miért, vannak fordítási programok.
Mr. Rojas, olyan technológiára vágyik, amely mindent megtesz Önért és távol tartja magától a munkát. Tehát képzeljünk el egy háztartást, amely önmagában mossa a szennyest, megcsinálja az ételt ...
Rojas - Nem nem. Nem szeretem a háztartási robotokat. Személyes sportom a fűnyírás, a levelek szedése és a mosás. Nem szabad enyhítenie az embereket a háztartás minden alól, mert abbahagyják a mozgást és elhíznak. Mint a "WALL-E" filmben. Tudod?
tüske - Csak a pótkocsi.
Rojas - Az emberek egy repülő kanapén ülnek, a képernyővel az orruk előtt, és robotok hozzák az ételt. Egy ilyen jövő kegyetlen lenne. Néhány megépíthető gépet ezért nem szabad társadalmi okokból megépíteni. Például a kórházak ellátására szolgáló robotok, amelyek minimalizálják a betegek és más emberek közötti kapcsolatot.
tüske - Hatalmas munka folyik fejlesztésükön. Ez egyrészt érthető: hiányzik az ápolónő, miért ne használhatnánk robotokat a segítségükre? Másrészt egy társadalmi probléma minden technológiai megoldásával társadalmi kreativitásunk tovább csökken. Lényegében úgy tűnik számomra, hogy erről szól: Hogyan tudjuk kitölteni azokat a szabad tereket, amelyeket az új technológia ad nekünk? Közeledünk egy Athén 4.0-hoz, amelyben reggeltől estig mindenki filozofálhat és sportolhat, mert a barátságos robotrabszolgák minden fárasztó munkát elvégeznek helyettük? Vagy a végén a WALL-E sugallja: kövér, lusta és hülye?
Rojas - Ez a dilemma. A klasszikus ókor amúgy sem az én példaképem, mert csak a férfiak voltak szabadok, míg a nők és a rabszolgák végezték a munkát. Szerintem inkább az utópisztikus szocialisták.
tüske - Trockij ma a technológiák nagy szószólója lenne, mert reméli, hogy ez szabadságot ad az embereknek az oktatáshoz.
Rojas - A korai szocialistáknál az volt a nagy kérdés, hogy ki végez alacsonyabb munkákat. A válasz: gépek. Friedrich Engels még fiatal korában azt írta: Azt mondtad, hogy szükségünk van egy alacsonyabb osztályra, amely tisztítja a WC-ket, de most van egy automatikus WC, amely öblíti magát! Számára ez bebizonyította, hogy a jövő emberisége felszabadul ezekből az átlagos munkákból - a 19. század szocialista utópiája. Most sokkal több gépünk van, mint amiről Marx és Engels valaha is álmodtak, de szabad emberekkel nincs nagy jövőnk. Szinte kétségbe lehet esni.
tüske - jól Azt gondolom, hogy az embereknek csak két lehetőségük van: vagy továbbra is beletörődnek abba, hogy minden nagyszerű cselekedet mellett korlátozott hiányosságok is vannak: néha szomorúak, néha betegek és végül halál. Vagy mindezt végleg el akarja hagyni, és örökké fitt, mindig jó hangulatban és végső soron halhatatlan is. A véletlenszerű, humanisztikusan formált emberképünk véget érne. Gyanítom, hogy a Szilícium-völgyben gúnyos nevetést fogok kiváltani, ha azt mondanám ott, hogy az emberek gépi stílusban történő további optimalizálását autonómiánk és méltóságunk végének tartom. A legmerészebbek arról álmodoznak, hogy feltöltsék agyukat a felhőbe, ahol egyesülhet a világismerettel: a határok teljes feloldódásával. Az én nyelvemen: a személyiség, a jellem, az egyén vége.
Rojas - Ezek mind fantáziák, mind hülyeségek.
tüske - Megnyugtattam, amikor ezt mondja.
Normális olvasóként honnan tudom, hogy ez ostobaság?
Rojas - Nehéz kideríteni. Ray Kurzweil, a transzhumanizmus ötletgazdája évtizedekkel ezelőtt azt állította, hogy az embereket gépekkel helyettesítik, hogy valamikor csak gépi intelligencia létezik. Szerinte 2030-ig a számítógépeknek annyi tranzisztora lesz, mint az embereknek neuronjaik, így a gépek automatikusan okosabbak lesznek. Ez ostobaság és elbizakodott. Újra és újra észrevesszük, milyen messze vagyunk még az agy és a megismerés megértésétől. Aki hiszi, hogy a gépek pontosan olyanok lehetnek, mint az emberek, nem ismeri fel, hogy test és lélek vagyunk.
tüske - Kurzweil olyan következetes, hogy a test bosszantó melléklete az elmének.
Rojas - Ha minden információt el tudna tárolni egy merevlemezen, akkor hamar rájönne, hogy teste nélkül nem lenne ugyanaz.
tüske - Mint mondtam: Remélem, hogy igazad van, és soha nem fog létezni az a „szingularitás”, amelyről Kurzweil álmodik. Ennek ellenére nem gondolom, hogy le kellene vonni minden transz- és poszthumanista víziót ...
Rojas - De. (nevet)
tüske - ... mert szembesítenek minket a civilizáció technológiai történetének eltűnő pontjával. Arra kényszerítenek bennünket, hogy feltegyük magunknak a kérdést: Tényleg véget akarunk vetni annak az útnak, amelyet ilyen radikálisan választottunk?
Rojas - A robotok építése olyan, mint egy bűvész, és az embereket becsapják. Példa: ha hagyja, hogy a kis robotok kockákat véletlenszerűen toljanak körbe, akkor az aréna közepén egy ponton halom keletkezik. Véletlen, de az emberek azt gondolják: Á! A robotok együtt építenek tornyot. Intelligens vagy!
tüske - Nem azért, mert az emberek mindig is olyan lények létrehozásáról álmodoztak, amelyeket végtelenül felülmúlnak - egészség, hosszú élettartam, szépség, erő, intelligencia szempontjából? Pygmalion és az ideális nő, a zsidó mitológia és a gólem, Nietzsche és a szuperman. Szóval nem lep meg ez a lelkesedés. De osztom az értékelését, miszerint még mindig meglehetősen olcsó fülkék varázslatával foglalkozunk, legalábbis jelen pillanatban. A minap egy recepción voltam, és egy kis fehér robot sétált körbe, üdvözölve a vendégeket, és képes voltam - főleg - megmondani, hogy férfi vagy nő. Ha azt hitte, hogy hölgyet lát, ott volt egy rózsa.
Rojas - Ez néphülyeség. Tudom, mi a technika állása. Mindannyian csak vízzel főzünk. Azok az emberek, akik ezeket a robotokat építik, úgy viselkednek, mintha a robot valóban sokat értene. Ahelyett, hogy elmagyaráznák a technológia korlátait és problémáit, túlzottan eltúlozzák magukat annak érdekében, hogy befektetők vagy új pénz juthasson kutatásra.
tüske - Hisz abban, hogy ezek a mesterséges intelligenciák egyszer valami olyasmit képesek kifejleszteni, mint az érzelmek?
Rojas - Nem. Ez abszolút elképzelhetetlen. 35 éve dolgozom rajta. Vannak bizonyos szerény képességek, amelyeket megpróbálunk számítógépeket tanítani. De: a beszédfelismerés még mindig nem nagy. Van néhány hasznos dolog, például arcfelismerés a repülőtéren vagy fordítási rendszerek. Ez utóbbi azért működik, mert ma már annyi könyv található online németül és angolul, hogy a számítógép automatikusan megtanulja a két nyelv közötti levelezést.
Ezt mély tanulásnak hívják - az emberek nagy mennyiségű adattal képzik ki a programokat.
Rojas - Igen. Csak bizonyos mértékben működik. Milliónyi képet mutatok a számítógépnek macskákról. Aztán valamikor megtudja, mi az a macska. De amikor megkérdezem tőle, miért? Nem tudja megmagyarázni.
Honnan származnak ezek az adatok?
Rojas - Mindannyiunktól.
tüske - Minden nap.
Rojas - Ha képeket tölt fel az Instagramra, az adatok a Facebookra kerülnek. Ez lehetővé teszi számukra, hogy javítsák arcfelismerési programjaikat. Vagy macskafelismerő programok. Ezeket az adatokat generáljuk - önként és ingyenesen a Google és a Facebook számára.
A Google AI nemrég gorillának nevezte a fekete embereket. Egy másik mesterséges intelligencia kapcsolta össze a konyhát és a nőket. A rendszerek nem tanulnak semleges módon?
Rojas - Nem. A mély tanulással csak minták vannak. És ez döntést eredményez. Ha a nő a konyhai hirdetések 90 százalékában látható, akkor egyértelmű, hogy ez honnan származik. A nagy adatok minden értékünket, ellentmondásunkat és előítéletünket tartalmazzák.
tüske - Úgy hallottam, hogy a hadsereg egyik úgynevezett autonóm rendszere, amely felismerte a tankokat, hirtelen megbukott. Senki sem tudta, miért. Ekkor kiderült, hogy a rendszer kiképzéséhez használt képek többségén kék ég alatt tartályok láthatók. Most borult volt az ég és veszteséges volt a rendszer.
Rojas - Sajnos ez egy mese, ilyen rendszert még soha nem használtak. Komoly példa a Tesla-baleset, mert valódi, kereskedelmi rendszerről volt szó. Aztán egy fehér teherautó elzárta az autópályát. Az autó kamerája nem tudta megkülönböztetni az égen a felhőket a teherautótól, nem fékezett.
tüske - Semmi sem pótolhatja az emberi ítéletet. Az ember képes mérlegelni és ítéletet hozni, érvelni és igazolni döntését. Ez lehet az egyik különbség a mesterséges intelligencia és köztünk?
Rojas - Igen. Valójában a gépek nem rendelkeznek mély megítéléssel. Mindenekelőtt nincs megérzésük, tapintatuk.
tüske - Ennél sokkal többről van szó: a mesterséges intelligenciának nincs szégyene vagy bűntudata, nincs szánalma, nincs lelkiismerete. A kutatási területre gyakran feltett kérdés: Ki a felelős, ha egy önvezető autó bizonytalan helyzetben úgy dönt, hogy elgázolja a nyugdíjas házaspárt, nem pedig az anyát és a gyereket? Nem kellene valóban megkérdeznünk, hogy mit jelent, ha hamarosan több százezer jármű van az utunkon, akiknek egyszerűen nem mindegy, ha elgázolnak valakit?
Rojas - Folyamatosan hallom ezt a kérdést: Ki a felelős? Természetesen az emberek, akik felépítik a rendszert! Javaslatom, hogy olyan jól dolgozzon előre, hogy ilyen helyzetek eleve ne fordulhassanak elő. Minimális távolság, csökkentett sebesség, könnyű építőanyagok - ha mindezeket figyelembe vesszük, remélhetőleg olyan járműrendszereket tudunk felépíteni, amelyek nem okoznak súlyos ütközéseket és végül biztonságosabbak, mint a mai autók.
Ha az AI-t nemzetközi szinten szabályozzák?
tüske - Az emberiség megalapította a Nemzetközi Atomenergia Ügynökséget, amikor rájött, hogy milyen veszélyes és potenciálisan földet veszélyeztető erőt szabadított fel atomenergiával. Valószínűleg ideje elgondolkodni azon, hogy nincs-e szükségünk egy hasonló eszközre az AI fejlesztésének és használatának felügyeletéhez.
Rojas - Mindig támogatom a szabályozást, például a géntechnológiát és a fegyvereket. Csak ebben a különleges esetben nem látom azonnal, hogyan lehet szabályozni az intelligens algoritmusokat. Alaposan át kell gondolni - a megoldás nem éppen triviális.
És valóban nem kell aggódnunk, Mr. Rojas, hogy a robotok egyszer okosabbak lesznek, mint az emberek, vagy egy napon felszabadítják magukat tőlünk?
Rojas - Ebben a században biztosan nem! Általában nem hiszem, hogy a robotok valamikor átveszik az irányítást felettünk. Konrad Zuse, az első németországi számítógépgyártó egyszer azt mondta: Ha a számítógépek túl pofátlanok lesznek, húzza ki a csatlakozót.
Az interjú először a "Chrismon" -ban jelent meg.
Moderálás: Mareike Fallet és Michael Güthlein, chrismon 12/2017, www.chrismon.de
Ez a szöveg a Creative Commons "CC BY-NC-ND 3.0 DE - Hozzárendelés - Nem kereskedelmi - Nincs származtatott művek 3.0 Németország" licenc alatt jelent meg. Szerzők: Thea Dorn, Rául Rojas: A politikától és a kortárs történelemtől/bpb.de
A szöveget megoszthatja a CC BY-NC-ND 3.0 DE licenc és a szerzők megnevezésével.
A képekre/grafikákra/videókra vonatkozó szerzői jogi információk közvetlenül a képekkel együtt találhatók.
Thea Dorn, Rául Rojas
Thea Dorn
író és filozófus. "Die Unglückseligen" (Knaus) regénye a halandóság eltörléséről szól. A mesterséges intelligencia témája foglalkoztatja: A Német Etikai Tanács idei éves ülésén az "autonóm rendszerek" témakörében azt a kérdést vizsgálta, hogy ezek a gépek hogyan változtatják meg az önképünket.
Rául Rojas
matematikus és a berlini szabadegyetem informatika professzora. Ő vezeti a Dahlem Gépi Tanulás és Robotika Központot, és híres lett a focizó robotokról, amelyekkel csapatával számos bajnokságot nyert. Jelenleg autonóm járműveken dolgozik, a prototípus neve "AutoNOMOS". Akkori doktori disszertációjának teljesen más témája volt: Karl Marx.