Neurale Netwerken - Voorjaar 2004

Het vak neurale netwerken wordt verzorgd door Joost N. Kok. College wordt gegeven op vrijdag van 11:15 - 13:00 uur. Let op: geen college op 5 maart en 12 maart. Ook op goede vrijdag (9 april) is er geen college. Het laatste college is op vrijdag 23 april.

Inhoud

Je vindt hier informatie over

Boek

Gebruik wordt gemaakt van het boek Introduction to the Theory of Neural Computation, van Hertz, Krogh en Palmer, Addison-Wesley Publishing Company, ISBN 0-201-51560-1.

Tentamenstof

Hieronder volgen de uit dit boek de pagina's die tot de tentamenstof behoren. Let op: naast het boek behoort ook het  extra materiaal: Reinforcement Learning, Support Vector Machines (alleen het eerste artikel: SVMs- a practical consequence of learning theory) tot de tentamenstof. Het tentamen is op 19 mei 2004, 14-17 uur.

 

Hoofdstuk 1

1-10

alles

Hoofdstuk 2

11-17

tot Storage capacity

21-23

tot Starting from an Energy Function

32-33

van Stochastic Units tot Mean Field Theory

Hoofdstuk 3

53-56

van Continuous-Valued Units tot Terminal atrractors

Hoofdstuk 4

71-81

tot Optimization Problems in Image Processing

Hoofdstuk 5

89-100

tot Proof of Convergence of the Perceptron Learning Rule

102-105

tot Convergence of Gradient Descent

107-108

van Nonlinear Units tot Other Cost Functions

Hoofdstuk 6

115-120

tot Variations on Back-Propagation

123-124

tot Other Minimization Procedures

130-137

van Examples and Applications tot Signal Prediction and Forecasting

139-141

van Recognizing Hand-Written ZIP codes tot Speech Recognition

156-161

van Optimal tot To prove that the whole process converges we ..

Hoofdstuk 7

172-192

van Recurrent tot Theory

194-196

van Models and Critics

Hoofdstuk 8

197-202

tot Theory of Oja’s Rule

Hoofdstuk 9

217-221

tot Cost Functions and Convergence

223-226

van Examples and Applications of Competitive Learning

228-230

van Adapative Resonance Theory tot Network Implementation of ART1

232-240

van Feature Mapping tot Theory of Feature Mapping

244-246

van The travelling Salesman Problem tot Now there is a cost function

246-249

van Hybrid Learning Schemes tot The Lapedes-Farber network described in ..

Oude tentamens (let op, tentamenstof was in vorige jaren anders): 1996a, 1996b, 1997a, 1997b, 1998a, 1998b.

Powerpoint sheets: chapter1, chapter2, chapter3, chapter4, chapter5, chapter6, chapter7, chapter8, chapter9, svm.

Vragen en/of Opmerkingen

Vragen en/of opmerkingen kunnen worden gestuurd naar: joost@liacs.nl.

Tenslotte...