Procesarea semnalului cu rețele neuronale de tipul rețelelor de stare ecou - descărcare gratuită PDF
Prelucrarea semnalului cu rețele neuronale de tip rețele de stare ecou de către Georg Fette numărul de înmatriculare 948955 Teza de diplomă în informatică prezentată la Facultatea de Informatică din TU Darmstadt în 24 mai Supervizor: Dr. Julian Eggert și Dr. Marc-Oliver Nahrungsmittelig, HRI-EU Offenbach Recenzant: Prof. Dr. Oskar von Stryk, Simulări și optimizarea sistemelor, TU-Darmstadt
Prin prezenta asigur că am scris lucrarea independent și că nu am folosit alte surse și ajutoare decât cele date. Darmstadt, 27, 24 mai Georg Fette
Îi mulțumesc dr. Julian Eggert, care cu multă răbdare a condus explicațiile mele matematice necurate pe calea cea bună, și Dr. Puternic Mark-Oliver care m-a susținut cu multe sugestii. Aș dori să mulțumesc întregului personal al Honda-HRI-EU și mai ales Volker Willert, Inna Mikhailova, Rasvan Enache și Björn Schölling pentru sprijinul lor logistic dintre Darmstadt și Offenbach pentru faptul că am reușit să-mi scriu teza de diplomă într-un mediu interesant. Le mulțumesc părinților mei și tuturor colegilor mei studenți și prieteni pentru ajutorul lor pe parcursul studiilor mele. 2
Cuprins Introducere 5. Structura generală. 5.2 Învățare și lectură. 7.3 Primele experimente. 8.3. Reconstrucția trecutului VR. 8.3.2 Recunoașterea tiparului. 9.3.3 Aproximarea funcției neliniare. 4 Concluzii preliminare. 2 Investigația analitică a ESN-urilor în liniar 3 2. Diagonalizarea. 3 2.2 Kernel. 3 2.3 Pliuri. 6 2.4 Ieșiri. 6 2.5 Intrări. 7 2.6 Kernel general. 8 3 Repetarea experimentelor cu un nou accent 2 3. Reconstrucția VR din trecut. 2 3.2 Construcția nucleelor totale p s pentru VR. 22 3.3 Regresie pe nucleul dorit. 25 3.4 Recunoașterea tiparului. 26 4 Capacitate memorie 3 4. Capacitate memorie (MC). 3 4.2 Eroare pătrată medie pentru s trecut (mse (s)). 33 4.3 Surse de interferență. 34 4.3. Interferență fantomatică. 34 3
4.3.2 Abaterea de la rețeaua omogenă datorită diferitelor α v. 36 4.3.3 Abaterea de la rețeaua omogenă prin orice ω v. 38 4.3.4 Zgomot la stările de excitație ale neuronilor ecou. 4 4.3.5 Comparație cu plasele de vânător. 42 4.3.6 Interferențe datorate neliniarităților. 44 5 Investigarea ESN-urilor neliniare 45 5. Funcțiile de transfer. 45 5 . tanh (x) ca funcție de transfer. 45 5.2 Funcție de transfer alternativă prin expansiunea Taylor a lui tanh (x) 45 5.3 Funcție de descărcare ca funcție de transfer. 46 5.2 Topologii de rețea. 46 5.3 Perturbarea MC prin neliniarități. 48 5.4 Probleme neliniare. 49 5.4. Recunoasterea formelor. 55 5.4.2 Numărarea celor. 59 6 Exemplu de aplicare 65 7 Rezumat și perspective 68 8 Anexa 69 8. Abrevieri utilizate. 69 8.2 Feedback-ul ieșirilor. 7 8.3 Scheme de circuit echivalente. 7 8.4 dovada generală pentru MC = n. 73 8.5 Legea circulară a lui Girko. 74 8.6 Software. 76 4
o (t) o (t) o (t) o (t) .8.8.6.6 o (t) .4 o (t) .4.2.2.2.2 2 4 6 8 2 4 6 8 2 t 2 4 6 8 2 4 6 8 2 până la (t) o (t) .8.6 o (t) .4.2.2 2 4 6 8 2 4 6 8 2 t Figura 4: o (t) și ô (t) diferite variante ale rețelelor antrenate la recunoașterea tiparului: mai multe intrări corelate neliniar, funcție de transfer liniar (lo); intrare liniară, funcție de transfer neliniar (r.o.); intrare liniară, funcție de transfer liniar (l.u.). 29
lângă intrare. Prin urmare, se poate presupune că rețelele liniare cu intrări care sunt suficient de corelate (de exemplu, ca aici prin multiplicare cu intrări trecute) pot avea aceeași forță de calcul ca rețelele neliniare sau că rețelele neliniare pot efectua calcule similare corelațiilor. 3