Jelfeldolgozás echo állapotú hálózatok típusú neurális hálózatokkal - PDF ingyenes letöltés
Jelfeldolgozás echo állapotú hálózatok neurális hálózataival Georg Fette 948955 számú érettségi alapján, május 24-én a TU Darmstadti Számítástudományi Karán bemutatott informatikai diplomamunka Témavezető: Dr. Julian Eggert és Dr. Marc-Oliver Nahrungsmittelig, HRI-EU Offenbach bíráló: Prof. Dr. Oskar von Stryk, Szimulációk és rendszerek optimalizálása, TU-Darmstadt
Biztosítom, hogy önállóan írtam a művet, és hogy a megadottakon kívül más forrásokat és segédanyagokat nem használtam fel. Darmstadt, május 27., 24. Georg Fette
Köszönetet mondok dr. Julian Eggert, aki nagy türelemmel terelte a tisztátalan matematikai magyarázataimat a helyes útra, valamint Dr. Mark-Oliver hatalmas, aki sok javaslattal támogatott. Szeretnék köszönetet mondani a Honda-HRI-EU teljes személyzetének, és különösen Volker Willertnek, Inna Mikhailovának, Rasvan Enache-nak és Björn Schöllingnek a Darmstadt és Offenbach közötti logisztikai támogatásért, amiért érdekes környezetben tudtam megírni diplomamunkámat. Köszönöm szüleimnek, valamint minden diáktársamnak és barátaimnak tanulmányaik során nyújtott segítségüket. 2
Tartalomjegyzék Bevezetés 5. Általános felépítés. 5.2 Tanulás és olvasás. 7.3 Első kísérletek. 8.3. A múltbeli VR rekonstrukciója. 8.3.2 Mintafelismerés. 9.3.3 Nemlineáris függvény-közelítés. 4 Előzetes következtetések. 2 ESN analitikai vizsgálata lineárisan 3 2. Átlósítás. 3 2.2 Kernel. 3 2.3 hajtások. 6 2.4 Kimenetek. 6 2.5 Bemenetek. 7 2.6 Teljes mag. 8 3 A kísérletek megismétlése új fókusszal 2 3. A múltbeli VR rekonstrukciója. 2 3.2. A teljes kernelek felépítése a VR számára. 22 3.3 Regresszió a kívánt kernelen. 25 3.4 Mintafelismerés. 26 4 Memória kapacitás 3 4. Memória kapacitás (MC). 3 4.2 Átlagos négyzethiba az elmúlt s-ekhez (mse (s)). 33 4.3 Az interferencia forrásai. 34 4.3. Kísérteties interferencia. 34 3
4.3.2 A homogén hálózattól való eltérés a különböző α v miatt. 36 4.3.3 A homogén hálózattól való eltérés bármely ω v értékkel. 38 4.3.4 Az echo neuronok gerjesztési állapotainak zaja. 4 4.3.5 Összehasonlítás vadász hálókkal. 42 4.3.6 A nem-linearitások miatti interferenciák. 44 5 ESN-ek vizsgálata nemlineáris 45 5. Átviteli függvények. 45 5 . tanh (x) mint átviteli függvény. 45 5.2 Alternatív átviteli funkció a tanh Taylor-tágításával (x) 45 5.3 Ürítési funkció mint átviteli funkció. 46 5.2 Hálózati topológiák. 46 5.3 Az MC zavara nem-linearitások által. 48 5.4 Nemlineáris problémák. 49 5.4. Mintafelismerés. 55 5.4.2 Egyesek számlálása. 59 6 Alkalmazási példa 65 7 Összegzés és kitekintés 68 8 69. függelék 8. Használt rövidítések. 69 8.2 A kimenetek visszacsatolása. 7 8.3 Ekvivalens kapcsolási rajzok. 7 8.4 általános bizonyíték MC = n. 73 8.5 Girko körtörvényére. 74 8.6 Szoftver. 76 4
o (t) o (t) o (t) o (t) .8.8.6.6 o (t) .4 o (t) .4.2.2.2.2 2 4 6 8 2 4 6 8 2 t 2 4 6 8 2 4 6 8 2 - (t) o (t). 8,6 o (t) .4.2.2 2 4 6 8 2 4 6 8 2 t 4. ábra: o (t) és ô (t) képzett hálózatok különböző mintafelismerés: több nem-lineárisan összefüggő bemenet, lineáris átviteli függvény (lo); lineáris bemenet, nemlineáris átviteli függvény (r.o.); lineáris bemenet, lineáris átviteli függvény (l.u.). 29.
a bemenet közelében. Ezért feltételezhető, hogy a kellően korrelált bemenetekkel rendelkező lineáris hálózatok (pl. Mint itt a múltbeli bemenetekkel történő szorzással) ugyanolyan számítási erővel bírhatnak, mint a nemlineáris hálózatok, vagy hogy a nemlineáris hálózatok képesek elvégezni a korrelációkhoz hasonló számításokat. 3