Sprachmodelle und die probabilistische Interpretation von Schlussfolgerung

Künstliche Intelligenz, insbesondere im Bereich der Sprachmodelle, hat in den letzten Jahren enorme Fortschritte gemacht. Modelle wie GPT-4 oder Claude 3 beeindrucken durch ihre Fähigkeit, menschenähnliche Texte zu generieren und komplexe Aufgaben zu lösen. Ein wichtiges Element dieser Fortschritte sind sogenannte "Chain-of-Thought" (CoT) Prompts, die es den Modellen ermöglichen, Zwischenschritte bei der Lösung von Aufgaben zu generieren und somit komplexere Gedankengänge nachzubilden. Eine neue Studie von Forschern der Princeton University und der Yale University hat nun die Funktionsweise dieser CoT-Prompts genauer untersucht und dabei interessante Erkenntnisse über die Art und Weise gewonnen, wie Sprachmodelle Schlussfolgerungen ziehen. Im Fokus der Studie stand die Aufgabe, einfache Verschiebungs-Chiffren zu dekodieren. Bei dieser Art von Chiffre wird jeder Buchstabe des Originaltextes um eine bestimmte Anzahl von Stellen im Alphabet verschoben. Durch die Konzentration auf diese relativ einfache Aufgabe konnten die Forscher drei Faktoren identifizieren, die die Leistung von CoT-Modellen systematisch beeinflussen: Wahrscheinlichkeit, Memorisierung und "verrauschte" Schlussfolgerung. Die Forscher konnten zeigen, dass die Wahrscheinlichkeit des erwarteten Ergebnisses, das implizite Wissen des Modells aus dem Vortraining und die Anzahl der Zwischenschritte die Genauigkeit der drei untersuchten LLMs (GPT-4, Claude 3 und Llama 3.1) signifikant beeinflussen. So spielt beispielsweise die Häufigkeit bestimmter Verschiebungen in realen Texten eine Rolle bei der Dekodierung. Um ihre Beobachtungen zu überprüfen, nutzten die Forscher logistische Regression, um zu untersuchen, wie verschiedene Faktoren die Wahrscheinlichkeit beeinflussen, dass GPT-4 die richtige Antwort auf ein Beispiel liefert. Berücksichtigt wurden dabei Faktoren wie die Wahrscheinlichkeit des verschlüsselten Eingabetextes, die Wahrscheinlichkeit des korrekt entschlüsselten Textes, die Häufigkeit der jeweiligen Verschiebung in realen Texten und die minimale Anzahl der Schritte, die zur Entschlüsselung jedes Buchstaben erforderlich sind. Die Ergebnisse zeigten, dass die Wahrscheinlichkeit des dekodierten Textes, die Häufigkeit der Verschiebung und die Anzahl der benötigten Schritte einen statistisch signifikanten Einfluss auf die Leistung von GPT-4 hatten. Dies unterstützt die Hypothese, dass GPT-4 Wahrscheinlichkeiten, Memorisierung und eine Form von "verrauschter" Schlussfolgerung verwendet.

Die Bedeutung der Zwischenschritte

Besonders hervorgehoben wurde in der Studie die entscheidende Rolle der von GPT-4 generierten Zwischenschritte im "Chain-of-Thought". Diese Schritte liefern wichtigen Kontext, auf den das Modell bei der Generierung der Endergebnisse zurückgreift. Interessanterweise erwies sich die Korrektheit des Inhalts in der Beispielkette als weniger wichtig als die Tatsache, dass das Modell das Format übernimmt, um seine eigene korrekte Kette zu generieren. Die Forscher schlussfolgerten, dass die Leistung bei CoT-Prompts sowohl die Memorisierung als auch eine probabilistische Version von echter Schlussfolgerung widerspiegelt. Dies deutet darauf hin, dass das Modell zwar logische Schlussfolgerungen ziehen kann, aber auch von Wahrscheinlichkeiten beeinflusst wird, anstatt sich ausschließlich auf symbolisches Denken zu verlassen. Diese Erkenntnisse sind besonders im Hinblick auf die Weiterentwicklung und Anwendung von Sprachmodellen relevant. Das Verständnis der Funktionsweise von CoT-Prompts und der Einflussfaktoren auf die Modellgenauigkeit ermöglicht es Entwicklern, die Modelle gezielter zu trainieren und in spezifischen Anwendungsfällen effektiver einzusetzen. Die Studie zeigt zudem, dass die Art und Weise, wie Sprachmodelle Schlussfolgerungen ziehen, zwar Ähnlichkeiten zum menschlichen Denken aufweist, aber auch entscheidende Unterschiede bestehen. Während Menschen oft intuitiv und mit begrenztem Kontext denken, greifen Sprachmodelle auf enorme Datenmengen und statistische Wahrscheinlichkeiten zurück. Die Zukunft der KI-Entwicklung wird zeigen, inwieweit sich diese Unterschiede weiter angleichen oder ob sich die "Denkweise" von Mensch und Maschine fundamental unterscheiden wird.

Bibliographie

https://the-decoder.com/language-models-use-a-probabilistic-version-of-genuine-reasoning/ https://arxiv.org/html/2402.09614v1 https://arxiv.org/abs/2402.09614 https://academic.oup.com/pnasnexus/article/3/7/pgae233/7712372 https://aclanthology.org/2024.findings-eacl.112.pdf https://openreview.net/pdf/36044965fc13306f7b09b1298e3e442fe2644080.pdf https://www.aimodels.fyi/papers/arxiv/probabilistic-reasoning-generative-large-language-models https://www.jmlr.org/papers/volume3/bengio03a/bengio03a.pdf https://openreview.net/forum?id=6I7UsvlDPj https://oecs.mit.edu/pub/zp5n8ivs