Bitte beachten Sie, dass wir im Rahmen der Lernpfade teilweise den Service des Drittanbieters Youtube verwenden, um Videoinhalte anzuzeigen. Dieser Service kann Daten zu Ihren Aktivitäten sammeln. Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Youtube. Mehr Informationen finden Sie in unserer Datenschutzerklärung.

Wie funktioniert das Training eines Künstlichen Neuronalen Netzes?

Lernschritt 0 – Vorabinformationen zum Lernpfad

Künstliche Neuronale Netze, wie sie zum Beispiel hinter ChatGPT stecken, sind riesige mathematische Funktionen mit Milliarden Parametern. Aber wie werden die richtigen Werte für diese Parameter gefunden, sodass am Ende beeindruckende Programme entstehen? Das Grundprinzip hinter dieser Suche nach den richtigen Zahlen (auch Training genannt) wird in diesem Lernpfad besprochen. 

Empfehlung: Falls Sie sich nicht schon mit Künstlichen Neuronalen Netzen auskennen, empfehlen wir zunächst den Lernpfad „Was ist ein Künstliches Neuronales Netz?" zu bearbeiten. 

Lernschritt 1 – Ein Künstliches Neuronales Netz zur Bilderkennung trainieren

In diesem Lernschritt kann in der Google Teachable Machine ein eigenes KNN zur Bilderkennung trainiert werden. 

Lernschritt 2 – Was ist das Training eines Künstlichen Neuronalen Netzes?

In diesem Lernschritt wird gezeigt, was für das Training eines KNNs benötigt wird und welche Bestandteile des Netzes beim Training angepasst werden.

Lernschritt 3 – Das Grundprinzip des Trainings: Minimieren von Fehlerfunktionen

Dieser Lernschritt zeigt, dass das Training eines KNNs im Grunde ein Minimierungsproblem ist. Dabei wird auf die wichtige Eigenschaft von Fehlerfunktionen anhand eines einfachen Problems eingegangen. Außerdem wird verdeutlicht, dass Fehlerfunktionen in der Praxis wesentlich komplexer sind und die direkte Berechnung eines Minimums dort daher nicht möglich ist.

Lernschritt 4 – Schatzsuche mit dem Gradientenverfahren

In diesem Lernschritt wird das Gradientenverfahren als ein Verfahren zur Bestimmung lokaler Minima erläutert. Dieses kann auch angewendet werden, wenn die direkte Berechnung nicht möglich ist. 

Lernschritt 5 – Evaluation des Trainings

Lernschritt 6 – Ausblick: Die "harte Mathematik" hinter dem Training

In diesem Lernpfad wurde nur das Grundprinzip hinter dem Training beleuchtet. Die Playlist des YouTube-Kanals 3Blue1Brown betrachtet die "harte Mathematik" hinter dem Gradientenverfahren. Dabei wird insbesondere der Backpropagation-Algorithmus erläutert. Für Mathematik-Interessierte auf jeden Fall empfehlenswert.

Lernschritt 7 – Das könnte Sie auch interessieren...

Weitere Lernpfade zu Künstlichen Neuronalen Netzen

Was ist ein Künstliches Neuronales Netz?
Hinter vielen modernen KI-Systemen wie ChatGPT, Midjourney und Co. stecken Künstliche Neuronale Netze. Doch warum werden diese hier genutzt und was ist überhaupt ein Künstliches Neuronales Netz? Diese Fragen werden in diesem Lernpfad betrachtet.

Warum sieht ein Künstliches Neuronales Netz so aus, wie es aussieht?
Braucht es wirklich Gewichte, Bias und Aktivierungsfunktion? Oder reichen Bias und Gewichte schon aus?
Spoiler: Wir brauchen das alles. Und warum das so ist, können Sie in diesem Lernpfad erleben.

Visualisierungen

Unter stefanhickl.eu/machine-learning/ finden Sie die deutsche Version zum Tensorflow Playground und einige weitere Anwendungen zu Künstlichen Neuronalen Netzen.

Das Schatzsuche-Spiel zum Gradientenverfahren stammt von der Seite I AM A.I.. Dort finden Sie weitere interaktive Anwendungen. 

Lernschritt 8 – Weiterführende Materialien

Unterrichtsmaterialien

Die Seite LINKSAMMLUNG KÜNSTLICHE INTELLIGENZ der TU Dresden bietet einen Überblick über  Unterrichtsmaterialien zum Thema Künstliche Intelligenz. 

Eine der genutzten Visualisierungen zum Gradientenverfahren gehört zum Begleitmaterial des Buchs "KI verstehen" von Pit Noack und Sophia Sanner (Rheinwerk Computing, 2023). Das Buch betrachtet neben Künstlichen Neuronalen Netzen auch andere Modelle des Maschinellen Lernens. Als Ergänzung kann ich dieses Buch durchaus empfehlen.

Lernschritt 9 – Methodenworkshops