A szingularitás nem tart vizet! "; Internetes hírek
A tudományos fantasztikától a tudományig
"A szingularitás, amely nem tart vizet" - kiáltotta, mint egy kiáltás a szívből, a Digital Renaissance (audio) által szervezett könyve körüli közelmúltbeli találkozón. Ha a Szingularitás eredetileg a matematika egyik funkciójának kritikus pontját írta le, akkor a fogalom gyorsan elkerülte az eredeti tartományt. Most egy másik kritikus pontot jelöl ki: azt az ígéretet, hogy a gépek intelligenciája meghaladja az emberekét (lásd a témáról szóló számos publikációnkat). A probléma az, hogy ez a jóslat nem hangzik komolyan: inkább egy PowerPoint ötletgyűjteménynek tűnik, mintsem indokolt érvelésnek. Jean-Gabriel Ganascia kis könyve találóan idézi fel e keverék történetét.
Kép: Moore-törvény a Zdneten keresztül.
A gépi autonómia nem holnapra szól
Jean-Gabriel Ganascia a gépi intelligencia mítoszát kritizálja. Ha a technológiák teljesítménye lélegzetelállító (gondoljunk például az AlphaGo-ra vagy az autonóm autókra), és a cselekvési területeik kiterjesztésével továbbra is így lesznek, akkor ezek az előrelépések elhitethetik-e velünk, hogy a számítógépek önállóvá válnak, és ember nélkül is meg tudnak oldani cselekedni ?
Valójában a gépek intelligenciája - vagy inkább az intelligencia szimulációs képessége - nem támaszkodik a számítási teljesítmény növelésére. Ha "a gépi tanulás olyan gépekkel ruházza fel a gépeket, hogy önállóan tudják építeni az ismereteket, és felhasználni tudják őket saját programjaik átkonfigurálásához saját programjaik átírásával", és ezáltal a gépeket kiszámíthatatlansággal ruházzák fel azáltal, hogy képesek olyan hatalmas adatokat feldolgozni (hogy nem vagyunk képesek emberként feldolgozni), aggódnunk kell-e felhatalmazásukért ?
Valójában nagyon jól meghatározza Jean-Gabriel Ganascia-t:
"Bármi legyen is az algoritmusok tanulási módszere (legyenek" felügyeltek "," felügyeletlenek "vagy" megerősítéssel "), a gépek azonban nem szereznek autonómiát a kifejezés filozófiai értelmében, mert továbbra is a kategóriák és azok a célok, amelyeket a tanulási szakaszban feljegyeznek a példákkal. "
Ha technikai autonómiát szereznek, nem képesek megadni maguknak saját törvényeiket, nevezetesen viselkedésük szabályait és céljait. Képtelenek "filozófiailag autonómiává" válni. "A filozófiailag autonóm fegyver nem elégszik meg azzal, hogy lövést indít a választott célpontra, mert szín- vagy alakjellemzőit adta meg, hanem maga határozná meg azoknak a célpontoknak a jellemzőit, amelyeket eltalál, hogy elérje azokat a célkitűzéseket, amelyeket megkapna. önmagát adta ”.
Bármi legyen is a gépi tanulási technika, konfigurációra van szükségük az optimalizálandó kritérium kiválasztásához anélkül, hogy a gép képes lenne megváltoztatni. "A gépek önmagukban nem módosítják azt a nyelvet, amelyben a tanulási mechanizmusokat tápláló megfigyelések és az általuk felépített tudás kifejeződnek. "
Vagyis a tanulási technikák nem képesek új koncepciókat kitalálni vagy új fogalmi eszközöket felépíteni. Ha sokkal jobban tudják kategorizálni, mint mi, Jean-Gabriel Ganascia számára: "a mesterséges intelligencia technológiák jelenlegi állapotában semmi sem engedélyezi annak megerősítését, hogy a számítógépek hamarosan korlátlan ideig képesek lesznek fejleszteni magukat a férfiak segítsége nélkül" ... és ezért semmi sem mondja el, hogy képesek lennének felülmúlni minket, vagy megszerezni az autonómia formáit a kifejezés filozófiai értelmében.
Az ígéretektől ... a mítoszig
Mint a konferencián kifejtette, az AI nagyon jól képes utánozni bizonyos emberi funkciókat. A számítógépek jobban játszják a Go játékát, mint mi. A Google FaceNet képfelismerése sokkal jobb, mint a miénk. De ez nem azt jelenti, hogy a gépek egy napon utánozhatják az ember viselkedését, vagyis képesek lesznek saját céljaikat kitűzni. Ma a tanulási rendszereket ragadozó és tisztességtelen prediktív rendszerek előállítására használják. Tisztességtelen, mert önmagadból számolva, és már nem gyűjtik össze az általános érdek és a méltányosság célkitűzésével - pontosította. „A Big data segítségével korreláció alapján számolunk. Ez a várakozás a szabályosság axiómáján alapszik: annak, ami a múltban történt, meg kell ismétlődnie. »De a rendszeresség csak azt tudja megjósolni, hogy mi a szabályos, anélkül, hogy meg tudnánk jósolni, hogy mikor fog véget érni ez a szabályosság.
Az előrejelzés mindig a korrelációk észlelésén alapult - emlékeztet a kutató. A módszerek és eszközök bővelkedése ellenére a jövő ma nem tűnik sokkal kiszámíthatóbbnak, mint korábban - jegyzi meg. A modellezés csak közvetítő a tudós és vizsgálati tárgya között, a mérés megfigyelésének eszköze. De a megfigyelések sokszorozása sem mindig elegendő egy modell támogatásához. A kutató pedig összehasonlította a szingularitás vagy a transzhumanizmus kérdését a globális felmelegedéssel: Ha mindkét esetben megpróbáljuk megjósolni a jövőt, a párhuzam ott ér véget. „A klimatológia esetében különböző modelleket szimulálunk különböző tudományos hipotézisek alatt; ellenőrzött megfigyelések adataival retrospektív vizsgálatokkal hitelesítik őket; majd összehasonlítjuk az elvárásokat, amelyekhez ezek a modellek vezetnek; végül közzéteszik és nyilvánosan megvitatják. Ma minden forgatókönyv a globális felmelegedéssel zárul, bár a folyamat sebessége és következményei modellenként eltérnek. A Technológiai Szingularitás esetében ez egészen más: nincs egyértelmű értékelés e forgatókönyv ellen mások ellen. "
Ganascia esetében a retrospektív tanulmányok azt mutatják, hogy az informatika területén végzett prospektív tanulmányok mindig nagyon közelítőnek bizonyulnak. Ami a Szingularitást illeti, végül számára annyira valószínűtlen, hogy nem lehet komolyan megfontolni. A számítás sebessége nem intelligencia. Bár a tanulás hatalmas, belső korlátai vannak: nem tudja, hogyan lehet automatizálni a paradigmaváltásokat ... Valójában egy kicsit olyan, mintha a szingularitás természeténél fogva valójában teljesen lehetetlen. Ganascia számára a szingularitás által kiváltott apokaliptikus bejelentés nem a racionalitásból ered, hanem egy szinte vallási rend megközelítéséből.