In den bisherigen Aufgaben dieses Kapitels haben wir anhand vorgegebener gelabelter Testdaten künstliche Neuronen und dann neuronale Netze "von Hand" erstellt, sodass sie die durch die Testdaten vorgegebene Kategorisierung möglichst gut wiedergaben. In der Praxis sind die neuronalen Netze ungleich umfangreicher, sodass diese Vorgehensweise nicht tragfähig ist. Benötigt wird ein Algorithmus, der

• bei vorgegebenen gelabelten Trainingsdaten und
• vorgegebener Struktur des neuronalen Netzes (d.h. Anzahl der Schichten, Anzahl der Neuronen in den Schichten, gegebenen Aktivierungsfunktionen)

Gewichte und die Schwellenwerte ermitteln kann, die das neuronale Netz befähigen, sowohl bei den Trainingsdaten als auch anschließend bei den Testdaten möglichst passende Ausgabewerte zu liefern.

Wir werden in diesem Kapitel die grobe Vorgehensweise eines solchen Algorithmus kennenlernen. Die detaillierten Berechnungen sind nicht Gegenstand des Informatiklehrplans. Interessierten Schülerinnen und Schülern lege ich die Videos von Grant Sanderson dazu (s.u.) sehr ans Herz!