Předmět Neuronové sítě (NAIL002)

Na serveru studentino.cz naleznete nejrůznější studijní materiály: zápisky z přednášek nebo cvičení, vzorové testy, seminární práce, domácí úkoly a další z předmětu NAIL002 - Neuronové sítě, Matematicko-fyzikální fakulta, Univerzita Karlova v Praze (UK).

Materiál	Typ	Datum	Počet stažení

Cíl

Naučit teorii, algoritmy a používané metody pro různé architektury neuronových sítí.

Sylabus

1. Úvod do problematiky umělých neuronových sítí Biologický neuron a neuronové sítě, přenos signálu v axonu a synapsích, zpracování informací v neuronech, hlavní části mozku. Historie a základní principy umělých neuronových sítí. Adaptace a učení, formální zápis vzorů. Výběr a uspořádání příznaků, výběr a uspořádání trénovacích vzorů, PCA-analýza. 2. První modely umělých neuronových sítí Formální neuron, váhy, potenciál, přenosová funkce. Základní typy umělých neuronových sítí. Konekcionalismus, učení a rozpoznávání, učení s učitelem a samoorganizace, extrakce znalostí, generalizace a robustnost. Perceptron a lineární separabilita, dělicí nadrovina. Perceptronový algoritmus učení a jeho konvergence, přihrádkový algoritmus. 3. Dopředné sítě a algoritmus zpětného šíření Algoritmus zpětného šíření - odvození adaptačních pravidel. Trénovací, testovací a validační množina, různé strategie učení. Interní reprezentace znalostí, generalizace, over-fitting and over-sizing, Vapnik-Chervonenkisova dimenze. Kolmogorovova věta, aproximace funkcí, složitost problému učení. Oblasti a principy použití dopředných sítí perceptronového typu. 4. Asociativní sítě Umělé neuronové sítě se zpětnou vazbou, Hebbovské učení, kapacita paměti, atraktory, energetická funkce a konvergence ke stabilním stavům. Asociativní paměti, bidirektivní asociativní paměť (BAM), Hopfieldův model, spojitý Hopfieldův model, simulované žíhání, Boltzmannův stroj. Použití Hopfieldovy sítě k hledání suboptimálních řešení NP-úplných problémů. 5. Samoorganizace a hybridní modely Posilované učení bez učitele - Ojův algoritmus učení pro PCA. Kohonenovy samoorganizační mapy a algoritmy pro jejich učení, laterální inhibice, topologické okolí. Algoritmus vstřícného šíření (Counter-propagation), RBF-sítě, adaptivní rezonance (ART). Kaskádová korelace a modulární neuronové sítě - sítě lokálních expertů. 6. Genetické algoritmy Formulace optimalizačního problému, populace jedinců, základní genetické operátory - selekce, křížení, mutace. Cílová funkce (fitness function). Analýza konvergence - věta o schematech. Aplikace genetických algoritmů v oblasti umělých neuronových sítí.

Literatura

Abu-Mostafa Y. S., Magdon-Ismail M., Lin H.-T.: Learning From Data: A Short Course, AMLbook.com, 2012Goldberg D. E.: Genetic Algorithms in Search, Optimization and Machine Learning, Addison-Wesley, Reading, Mass. 1989 Haykin S.: Neural Networks and Learning Machines, 3rd Edition, Pearson, 2009Kohonen T.: Self-Organizing Maps, Springer-Verlag, 1995 Rojas R.: Neural Networks: A Systematic Introduction, Springer-Verlag, Berlin, 1996 Šíma J. and Neruda R.: Teoretické otázky neuronových sítí, Matfyz Press, Praha, 1997

Garant

doc. RNDr. Iveta Mrázová, CSc.RNDr. František Mráz, CSc.