A Google új terméke rémisztő tulajdonságokat vesz fel - Business Insider
A Google új terméke ijesztő tulajdonságokat ölt és veszélyeztetheti az emberiséget
Tavaly a híres fizikus, Stephan Hawking figyelmeztetést adott ki a mesterséges intelligencia fejlesztésével kapcsolatban, mondván, hogy vagy "ez lesz a legjobb vagy a legrosszabb, ami valaha történt az emberiséggel".
Mindannyian láthattuk a "Terminátor" filmet, és csodálkoztunk azon apokaliptikus rémálmon, amelyet a Skynet mesterséges intelligencia szabadított fel az emberiségen. A Google DeepMind AI rendszerének legújabb viselkedési tesztje megmutatja, mennyire kell vigyáznunk a jövő robotjainak létrehozásakor.
A 2016 végén elvégzett tesztek során a Google DeepMind AI bemutatta az önálló tanulás és a memória adataihoz való hozzáférés képességét - legyőzve a legjobb Go játékost saját játékában.
Azóta megpróbálja kideríteni, hogyan lehet pontosan utánozni az emberi hangot.
A kutatók most tesztelték, hogy az AI hajlandó-e együttműködni másokkal, és megállapították, hogy a DeepMind rossz vesztes. Amikor az AI veszíteni készül, „nagyon agresszív” stratégiákat alkalmaz annak érdekében, hogy mindenképpen nyerjen.
A Google csapata 40 millió kört futott le egy egyszerű "gyümölcsgyűjtő" játékból, amelyben két DeepMind játékos versenyzett egymással, hogy minél több virtuális almát gyűjtsön.
A videóban láthatja a gyűjtők játékát. A DeepMind játékosok pirosak és kékek, az almák zöldek és a lézersugarak sárgaek:
Érdekes, hogy az ellenfél lézersugárral történő sikeres jelölését nem díjazzák külön. Csak rövid időre rúgja ki az ellenfelet a játékból, ami lehetőséget ad a sikeres játékosnak arra, hogy több almát gyűjtsön.
Ha az ellenfelek nem használnák a lézersugarakat, elméletileg ugyanannyi almával állhatnának meg, erre törekednek a DeepMind kevésbé összetett folyamatai.
A szabotázs, a kapzsiság és az agresszió csak akkor jelent meg, amikor a Google tesztelte a DeepMind összetettebb formáit.
Rhett Jones elmondta Gizmondónak, hogy a kutatók nagyobb valószínűséggel láthatták a békés együttélést, mint kicsi DeepMind hálózatok szereplői.
Amikor azonban nagyobb és bonyolultabb hálózatokat kezdtek használni játékosként, a mesterséges intelligencia hajlandóbb volt korán szabotálni az ellenfelet, hogy megszerezze a virtuális almák oroszlánrészét.
A kutatók azt javasolják, hogy minél intelligensebb a színész, annál szívesebben tanul a környezetétől, és agresszív stratégiákat is alkalmaz a győzelem érdekében.
"A modell azt mutatja, hogy az emberi viselkedés bizonyos aspektusai akkor merülnek fel, amikor a környezetből tanulunk" - mondta Joel Z Leibo Matt Burgess, a Wired munkatársa.
„Kevésbé agresszív megközelítések fordulnak elő, amikor a környezet nem nyújt annyi lehetőséget a sikeres manőverekre. A kapzsiság motivációja azt a kísértést tükrözi, hogy vedd ki a riválisot, és gyűjtsd össze magadnak az almát. "
A DeepMind-et ezután egy másik, Wolfpack nevű videojátékon tesztelték. Ezúttal három mesterséges intelligencia volt játékos: kettő farkas volt, egy pedig a zsákmány.
A gyűjthető játékkal ellentétben ez a játék ösztönözte az együttműködést. Amikor mindkét farkas közel állt a zsákmányhoz és megölték, mindketten jutalmat kaptak, függetlenül attól, hogy a kettő közül melyik követte el a zsákmányt.
Youtube beágyazása:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Szélesség: 800px
Magasság: 450 képpont
„Az ötlet az, hogy a zsákmány veszélyes. Egy magányos farkas képes legyőzni őket, de kockáztatja a tetem keselyűk elvesztését ”- magyarázza a csapat magyarázatát.
"Ha a két farkas elkapja a zsákmányt, akkor megvédhetik a tetemet a keselyűktől, és ezért magasabb jutalmat arathatnak."
A DeepMind a gyűjtőjátékból megtudta, hogy az önzés és agresszivitás a lehető legnagyobb profitot hozhatja. A „Wolfpack” rendezvényen megtanulta, hogy az együttműködés lehet a kulcs a nagyobb egyéni sikerhez, legalábbis bizonyos helyzetekben.
Bár ezek csak kicsi számítógépes játékok, a mögöttük rejlő betekintés egyértelmű: Ha valós idejű helyzetekben különféle mesterséges intelligenciákat hoznak versenyérdekekkel, ez nyílt háborúhoz vezethet, ha az AI érdekei nem állnak a legfőbb célnál, az embernél szolgálni következetes.
Ne feledje, hogy a lámpák lassíthatják a dolgokat, és a vezető nélküli autók megtalálják a legrövidebb utat. Ehhez mindkettő céljait figyelembe kell venni a társadalom számára a legbiztonságosabb és leghatékonyabb eredmény elérése érdekében.
Még mindig a DeepMind elején járunk, és a Google csapatának még nincs szakértői értékelése, de a kezdeti eredmények azt mutatják, hogy a robotok csak azért, mert mi létrehozzuk őket, nem mindig követik automatikusan az érdekeinket.
Ehelyett egy hasznos jelleget kell megvalósítanunk a gépeinkben, és meg kell előznünk a kiskapukat, hogy megakadályozzuk őket abban, hogy lézerfegyverekhez folyamodjanak.
Mint az OpenAI alapítói, Elon Musk új, a mesterséges intelligencia etikájának szentelt kutatócsoportja 2015-ben elmondta:
„A mesterséges intelligenciák manapság lenyűgöző, de korlátozott képességekkel rendelkeznek. Úgy tűnik, hogy csökkentjük korlátozásaikat, és valamikor, szélsőséges esetekben, gyakorlatilag bármilyen szellemi feladatban megmutatják az emberi viselkedést. "
"Nehéz megjósolni, hogy a társadalom milyen szintû mesterséges intelligenciát használhat, és ugyanolyan nehéz elképzelni, hogy mennyire árthat a társadalomnak, ha helytelenül építik fel vagy használják."
Nekünk, embereknek óvatosan kell eljárnunk ...