Erkölcsi kódexre van szükségünk a robotokhoz
Ma a felgyorsult technológiai fejlődés korát éljük, amelyben Asimov látomásával szédületesen gyorsan közeledik a valóság. A robotok egyre inkább az életünk részei, egyre intelligensebbek, egyre önállóbbak, egyre inkább képesek önmagukban kezdeményezni a cselekvéseket, "fejjel gondolkodni" - még akkor is, ha ez a "fej" processzor -, túllépni az elrendelt feltételeken. az emberi kontroll. Ilyen körülmények között egy robot sok jót és ugyanannyit árthat. Itt már abban a helyzetben vagyunk, hogy robotjaink számára kidolgozzunk egy erkölcsi kódexet, az Aszimov gondolatához hasonló törvényrendszert. Víziója valósággá vált, a jövő már itt van. De vajon ilyen könnyű kidolgozni ezt az erkölcsi kódexet?
A robotok törvényei és értelmezéseik
A projektek ezrei összpontosítanak jelenleg olyan gépek építésére, amelyek nem csak képesek mozogni, kommunikálni, az emberek által pontosan meghatározott feladatokat ellátni, hanem a feltételektől függően döntéseket is hoznak a saját megoldásaik megválasztására.; más szóval: lenni autonóm. Gépek vagy robotok alatt nemcsak humanoid robotokat értünk (amelyek azonban kisebbséget képviselnek a mai robotvilágban), hanem a sokféle formájú és méretű katonai és haszonélvező robotot, valamint számítógépes rendszereket, amelyek biztosítják ezek autonóm tevékenységét. változatosabb kompozíciók, amelyek a jövőben óriási szerepet játszanak, és több ezer rendszerbe integrálódnak, a drónoktól kezdve az építőiparban használt berendezésekig, a háztartási készülékektől a tengeralattjárókig, a vezető nélküli autóktól a mini műtéti robotokig. Más szavakkal - minden olyan rendszer, amely a processzorok segítségével "gondolkodik", felruházva az úgynevezett mesterséges intelligenciával.
A mesterséges intelligencia kutatásának végső célja olyan gépek létrehozása, amelyek kognitív és döntési képességeik szempontjából a lehető legközelebb vannak az emberhez. A tudósok olyan automatikus rendszerekről álmodoznak, amelyek az emberhez hasonlóan gyorsan fel tudják mérni a helyzetet, felidézhetik a korábban felhalmozott ismereteket, mindent áthaladnak az erkölcsi szabályok rostáján, és mindezeket a szempontokat integrálva meghozzák a döntést, amely alapján cselekedniük kell. . Egyszerűen hangzik. De ez nem.
Asimov robotjainak három, nagy és széles törvényt kellett betartaniuk, amelyek mind az emberi sérelem tilalmán alapultak.
- A robot nem sértheti meg az embert, és nem veheti igénybe az emberi sérülést.
- A robotnak be kell tartania az emberek által adott utasításokat, kivéve, ha ezek a parancsok ellentmondanak az első törvénynek.
- A robotnak meg kell védenie magát, amennyiben ez a védelem nem ütközik az első és a második törvénybe.
A The Economist nemrégiben megjelent cikke azonban felhívta a figyelmet néhány - egyelőre hipotetikus - forgatókönyvre, amelyekben egy engedelmes és jól képzett "robot", aki tisztában van a három törvény fontosságával és elhatározza, hogy betartja azokat, rendkívül nehéz helyzetekbe került volna. . Mit kell tennie például a vezető nélküli autónak, ha fennáll a veszélye, hogy eltalálja a gyalogosokat: hirtelen forduljon, hogy elkerülje őket, azzal a veszéllyel, hogy megsérülhetnek az utasok és elüthetnek más autókat? Vagy egy drón, amelynek egy épületre kell lőnie, ahol egy terrorista rejtőzik, mit kell tennie? Az épület bármilyen áron történő megsemmisítése a cél elérése érdekében, még akkor is, ha ártatlan civileket öl meg, akik ugyanabban az épületben vannak?
Valójában maga Asimov, az egész életében írt novellák egy részében, a Runaround publikálása után, olyan forgatókönyveket képzelt el, amelyekben a robotok megsértették az egyik vagy másik törvényt, vagy legalábbis erről álmodtak., ami azt sugallja, hogy egyetlen rögzített szabálykészlet sem képes teljes mértékben lefedni az összes lehetséges helyzetet. Ami azt bizonyítja, hogy a dolgok soha nem olyan egyszerűek, mint papíron.
Annak ellenére, hogy a robotok törvényeit 7 évtizeddel ezelőtt fogalmazták meg, az erkölcsi kódex problémája csak az utóbbi években kezdett élessé válni, amikor a mesterséges intelligenciával felszerelt rendszerek viharos fejlődése arra kényszerítette az embereket, hogy a sikerekkel együtt egy aggasztó oldal jelenik meg: az, hogy ezek az alkotások hogyan fognak viselkedni - szinte lények - amikor autonómokká válnak, ahogyan alkotóik akarják. Tehát egy nagyon friss jelenségről beszélünk. Bizonyítékként nemrégiben készült átfogó munka a témában:
- 2009-ben az Oxford University Press megjelentette a Moral Machines: Robotok tanítása rosszul (szerzők: Wendell Wallach és Colin Allen) átfogó szintézisét az AMA kiépítésének kihívásairól, és mintegy 450 bibliográfiai forrásra hivatkozva, amelyek túlnyomó része a századi.
- 2011-ben a Cambridge University Press esszekészletet tett közzé a mesterséges rendszeretika kérdéséről (Gépetika; szerzők: Michael Anderson és Susan Leigh Anderson).
- Szintén 2011-ben Nick Bostrom és Eliezer Yudkowsky a mesterséges intelligencia etikája című cikket illesztette be a mesterséges intelligencia cambridge-i kézikönyvébe.
Tehát a könyvek és cikkek túlnyomó többsége, valamint a különféle kiadványokban megjelent népszerű cikkek csak néhány évre nyúlnak vissza, ami jelzi, hogy a probléma élessé vált. Kétségtelen, hogy a jelenség összefügg azzal, hogy az elmúlt években a robotok és általában a mesterséges intelligenciával felszerelt rendszerek valóban sokféle cselekvésre és döntésre alkalmassá váltak, ami szigorúan felveti a e kompozíciók erkölcsi nevelése.
A szemünk előtt egy új típusú lény jelenik meg: már szó esik a "lények" speciális kategóriájáról, az úgynevezett mesterséges erkölcsi ügynökökről (AMA), a mesterséges intelligenciával felruházott rendszerekről, de amelyek szükségesek lesznek (és lesznek) nemcsak objektív körülmények között hoz döntéseket, hanem egy olyan erkölcsnek megfelelően is, amelyet azok terveznek és építenek "a fejükbe".
Kísérletek, vélemények, jövőképek
Íme néhány friss tanulmány, amely szemlélteti a technológia ezen szempontjának hatalmas jelentőségét, valamint néhány szakember véleményét erről a bonyolult kérdésről:
2008-ban Noel Sharkey, az Egyesült Királyság Sheffieldi Egyetemének mesterséges intelligencia-szakértője arra hívta fel a figyelmet, hogy a gyermekek szórakoztatására és az idősek gondozására épített robotokra etikai szigorúságnak kell vonatkoznia.
De mennyire valószínű, hogy a robotok fejlődése szükségessé teszi egy erkölcsi kódex felruházását? A Popular Science egyik cikke a színpadra hozza a fekvő robot furcsa karakterét, nem a fantasztikus irodalom szereplőjét, hanem azt, aki valóságossá vált. Ez egy kísérlet, amelyet a svájci Lausanne-i Szövetségi Politechnikai Iskola intelligens rendszerek laboratóriumának kutatói végeztek. A kísérlet a robotok evolúciós lehetőségeire, tanulási és együttműködési képességükre összpontosított egy bizonyos erőforrás megtalálásához (hasznos anyag ) és kerülje a káros anyagok forrását.
A kísérletben 1000 robot vett részt, tízes csoportokra osztva. Minden robot szenzorral, jelzőrendszerrel (kék fény) és "genommal" volt felszerelve - egy bináris kód, amely szabályozza, hogy a robot hogyan reagál az ingerekre. Az első generációs robotokat úgy programozták, hogy világítsanak kék fényükön, amikor felfedezték a hasznos forrást, és így más robotok is megtalálják azt.
- A legjobb 200 robot, amelyek közül a leggyorsabban sikerült megtalálni a legjobb jó erőforrást, képezték az alapot a következő generáció számára. "Genomjaikat" egyesítették, és az eredményt a robotok új generációjának programozására használták fel.
- 9 generáció után a robotok kivételesen hatékonyak lettek az erőforrások megtalálásában és más robotokkal való kommunikációban, hogy az erőforrásokhoz irányítsák őket. De ha egy robot megtalálta az erőforrást, akkor jelezte, hogy megtalálta, és mindenki más felhalmozódott ott, hogy használhassa, ez azt jelentette, hogy kevesebb maradt annak, aki megtalálta, igaz? Hihetetlen, de igaz: erre gondoltak a kísérlet egyes robotjai. És nemcsak megértették a problémát, hanem megoldást is találtak.
- 500 generáció után a robotok 60% -a megtanult hazudni: nem világítottak izzókon, amikor megtalálták a keresett forrást; amit (csak) az övéknek találtak! De még hangosabb volt, amikor más robotok rájöttek, hogy a hazugok hamisítják őket, tartják a villanyt, és elkezdték keresni azokat, akiknek nincs villanykörte, felismerve, hogy valószínűbb, hogy megtalálták a találtakat. . Más szavakkal, pontosan az ellenkezőjét tették annak, amit terveztek!
Tehát a robotok megtanulhatnak hazudni. És ha hazudnak egymásnak, nem hazudhatnak egyszer nekünk? És ha hazudnának nekünk, mi akadályozhatná meg néhányukat abban, hogy még rosszabbul járjanak (a mi szempontunkból)? Némelyikük könnyen fizikailag árthat nekünk; fegyverekkel felruházva (ki tudja, nem tudnák-e maguk megépíteni?) akár meg is ölhet minket. Paranoiás delíriumnak hangzik? Lehet. De ha a nagy, intelligens ipari gépek megfelelő gondozás nélkül valós veszélyt jelentenek az emberekre, az AMA hatása annál is inkább veszélyes lehet, ha nincsenek olyan erkölcsi fékek, amelyek lehetővé teszik az emberiség számára, hogy viszonylagos veszélyben élje életét. biztonság.
Természetesen szélsőséges forgatókönyv, de itt, több mint fél évszázaddal ez az értelmezés után, már megvan a probléma a mesterséges intelligens rendszerek evolúciójával, ennek az evolúciónak a határaival, azzal, hogy miként tudnánk felszerelni őket a harmonikus együttéléshez szükséges tanulságokkal. az emberrel, az alkotójukkal, amikor az emberi és a WADA kognitív képességei közötti határ teljesen elvékonyodik vagy megszűnik.
Hogyan taníthatjuk meg őket a gonosz és a jó megkülönböztetésére? Hogyan lehet megvédeni őket a minket kísértő és gyakran az erkölcsi korlátok szorításából elkerülhető gonoszságok ellen, oly sok kárt okozva a körülöttünk élőknek: önzés, kapzsiság, hatalomszomj?
Egyelőre mi irányítjuk őket, és annak lehetősége, hogy átvegyék az irányítást, utópiának tűnik. És mégis, az a tény, hogy azok az emberek, akik napi rendszerességgel dolgoznak ezekkel a rendszerekkel (és jól tudják, mit tehetnek és mit nem), működésük etikájának kérdésével foglalkoznak, azt mutatja, hogy az az idő, amikor meg kell találnunk az együttélés erkölcsi alapját, nem amennyire gondoltam.