Frage: Wie Funktioniert das Programm CHAt GPT

Lukas Kohmann Beantwortet am 23 Mrz 2023:

Im Großen und Ganzen funktioniert es wie oben beschrieben, aber ich kann noch etwas mehr ins Detail gehen:
Die Grundlage von ChatGPT ist ein Netzwerk aus vielen künstlichen Neuronen. Neuronen sind eigentlich unsere Nervenzellen und künstliche Neuronen versuchen die Funktionsweise der menschlichen Nervenzellen nachzumachen. Ein künstliches Neuron ist eigentlich eine sehr komplexe mathematische Funktion. Man kann also darüber streiten, wie viel ein künstliches Neuron – also eine mathematische Fromel – wirklich mit einem echten menschlichen Neuron zu tun hat.

Die Funktion eines Neurons kann nun optimiert werden, um ein gewünschtes Ergebnis zu liefern. Wenn man mehrere Schichten solcher künstlicher Neuronen baut, die ihr Ergebnis immer weitergeben, erhält man ein sogenanntes künstliches neuronales Netz. Dieses kann man nun trainieren bzw. optimieren, damit es am Ende das ausgibt, was man als Ergebnis haben möchte.
ChatGPT wurde trainiert, indem man dem Netz einen Text gab, der nicht vollständig war. ChatGPT sollte dann berechnen, welches Wort am Ende des Textes fehlt. Dann wurde dem System gesagt, ob es richtig oder falsch lag. Das Ganze wurde millionenfach wiederholt. So konnte ChatGPT lernen, welche Wörter aufeinander folgen und wie wahrscheinlich welche Wörter sind. „Lernen“
heißt hier, dass die Variablen in der mathematischen Funktion so verändert wurden, dass die berechneten Wörter öfter richtig waren. Die Qualität der Ergebnisse hat man dann optimieren können, in dem ChatGPT fertige Antworten auf Fragen geben wurden, sodass das System in seine Berechnungen diesen Schreibstil mitberücksichtigt.

Am Ende ist ChatGPT also eine Verkettung vieler unglaublich komplexer mathematischer Formeln, die in der Lage sind, echt gute Texte mathematisch zu berechnen.