AKA: Gedankenkette
Definition und Begründung der Gedankenkette
"Chain-of-Thought" (kurz CoT) ist eine Denkmethode, die auf dem Prinzip der Schaffung einer Denkkette basiert, die aus einer Reihe miteinander verbundener Denkschritte besteht. Die Methode hilft Menschen, systematischer über Probleme nachzudenken und kreative Ideen zu entwickeln, indem sie den Denkprozess in eine Reihe von geordneten Schritten unterteilt. Der Kerngedanke der CoT-Methode besteht darin, ein großes Problem in eine Reihe kleinerer Probleme zu zerlegen, und dann jedes der kleineren Probleme in noch kleinere zu zerlegen, bis jedes Problem auf einfache, eindeutige Weise beantwortet werden kann. Auf diese Weise kann man das Problem besser verstehen und eine bessere Lösung finden.
Wir können die Gedankenkette mit einem Puzzle vergleichen, bei dem jedes Teil einen Aspekt eines Problems darstellt, und nur wenn wir diese Teile verbinden, können wir eine vollständige Antwort erhalten. Wenn wir zum Beispiel ein neues Wissen lernen, können wir die Gedankenkette nutzen, um die Beziehung zwischen verschiedenen Wissenspunkten herzustellen, damit wir das Wissen besser verstehen und uns daran erinnern können; wenn wir ein Problem lösen, können wir die Gedankenkette nutzen, um das Problem in mehrere Teilprobleme zu zerlegen und diese dann Schritt für Schritt zu lösen, um schließlich eine vollständige Lösung.
Interpretation des Bereichs Big Data
Der Chain of Thought (CoT) Prompting-Prozess ist eine kürzlich entwickelte Prompting-Methode, die große Sprachmodelle dazu anregt, ihre Argumentationsprozesse zu erklären. Die folgende Abbildung zeigt einen Vergleich zwischen dem Standardprompt mit wenigen Aufnahmen (links) und dem Chain-of-Thought-Prompting-Prozess (rechts).
Denken Sie sich eine neue Frage aus, wie Sie das große Modell zur Berechnung dieser Frage absolut korrekt bekommen:
Ein Huhn legt sechs Eier pro Tag. Ich habe heute einmal die Eier gesammelt und die Hälfte davon gegessen. Am nächsten Tag habe ich die Eier wieder eingesammelt und zwei davon gegessen, und am dritten Tag habe ich die Eier wieder eingesammelt, wie viele Eier habe ich jetzt noch?
existierenWei et al. (2022) (öffnet in einer neuen Registerkarte)Die in eingeführten Chained Thinking (CoT) Prompts ermöglichen komplexe Denkfähigkeiten durch Zwischenschritte beim Denken. Sie können dies mit beispiellosen Aufforderungen kombinieren, um bessere Ergebnisse bei komplexeren Aufgaben zu erzielen, bei denen das Denken der Beantwortung vorausgeht.
Der Grundgedanke der Gedankenverkettung besteht darin, den Denkprozess in Stichproben zu erklären, indem dem großen Sprachmodell eine kleine Anzahl von Beispielen gezeigt wird, die auch den Denkprozess bei der Beantwortung der Aufforderungen anzeigen. Diese Erklärung des Denkens führt oft zu genaueren Ergebnissen.
Beispiele aus der Praxis
Das CoT-Kettendenken ist auch im täglichen Leben überall zu finden. Wenn wir zum Beispiel kochen, müssen wir zuerst die Zutaten vorbereiten, sie dann kochen und schließlich servieren. Dies ist ein typischer Prozess des CoT-Kettendenkens. Wenn wir zum Beispiel ein neues Wissen lernen, müssen wir zuerst die Grundlagen verstehen und dann den fortgeschrittenen Inhalt lernen.
Wir können die Gedankenkette mit einem Puzzle vergleichen, bei dem jedes Teil einen Aspekt eines Problems darstellt, und nur wenn wir diese Teile verbinden, können wir eine vollständige Antwort erhalten. Wenn wir zum Beispiel ein neues Wissen lernen, können wir die Gedankenkette nutzen, um die Beziehung zwischen verschiedenen Wissenspunkten herzustellen, damit wir das Wissen besser verstehen und uns daran erinnern können; wenn wir ein Problem lösen, können wir die Gedankenkette nutzen, um das Problem in mehrere Teilprobleme zu zerlegen und diese dann Schritt für Schritt zu lösen, um schließlich eine vollständige Lösung.
Vor- und Nachteile
chain-of-thought (CoT) ist eine Denkmethode, die die Effizienz und Qualität des Denkens verbessert, indem sie den Denkprozess in eine Reihe organisch miteinander verbundener Schritte unterteilt. Ihre Vorteile umfassen:
1. den Menschen zu helfen, ihren Ideenfluss besser zu organisieren und zu kontrollieren, was zu einer besseren Problemlösung führt.
2. die Unterstützung des kontinuierlichen Denkens und die Förderung des kreativen Denkens.
3) Durch die Verfolgung des Denkprozesses kann die Qualität des Denkens besser überprüft und optimiert werden.
4. kann zur Lösung komplexer Probleme eingesetzt werden, die von der Organisation bis zur Innovation reichen.
Nachteile des CoT:
1. die CoT erfordert ein umfangreiches Wissen und analytische Fähigkeiten und ist für Anfänger nicht geeignet
2. der CoT erfordert Zeit und Denkarbeit und ist unter Zeitdruck nur schwer zu nutzen
3. die Denkmuster jedes Einzelnen können unterschiedlich sein, so dass die CoT für verschiedene Menschen nicht unbedingt die beste Denkweise darstellt.
Klassifizierung der COT-Methoden
Least-to-Most (Weniger-zu-Mehr-Tipps)
CoT funktioniert gut bei leichten Problemen, aber nicht bei schweren Problemen. Und Least-to-Most Prompting wird hauptsächlich zur Lösung schwerer Probleme eingesetzt.
Geringste bis größte Aufforderung
Die Idee des Least-to-Most Prompting ist ebenfalls sehr einfach, nämlich die Frage in einfachere Unterfragen zu zerlegen und dann die Unterfragen eine nach der anderen zu beantworten, um die Antwort auf die ursprüngliche Frage zu erhalten:
Ein weiterer Trick besteht darin, der Eingabeaufforderung ein paar Stichproben (few-shots) hinzuzufügen, was die Ergebnisse erheblich verbessern kann. Diese Technik findet sich auch in CoT und ist eine sehr vielseitige Methode zur Verbesserung der Ergebnisse.
In dem Papier werden die folgenden zwei Hauptprompt-Strukturen für verschiedene Aufgaben in der konkreten Umsetzung entworfen (eine kleine Anzahl von Mustern im Prompt wird weggelassen):
1. lassen Sie uns dieses Problem aufschlüsseln.
Dieser Ansatz isteinmal aufrufenLLM, so dass er zunächst Teilprobleme und dann die Antwort auf jedes Teilproblem sowie die endgültige Antwort generiert. Es liegt also weitgehend an den Proben, die Ausgabe des LLM zu standardisieren.
Um "****" zu lösen, müssen wir zunächst "****", "****", "****", ... lösen. Teilproblem2>**", "****", ...
Dieser Ansatz istIteration (math.)Erstellen Sie Antworten auf die Unterfragen, fassen Sie alle Informationen zusammen und erstellen Sie dann die endgültige Antwort.
Ich verstehe, dass die spezifischen Stichworte, die bei der Eingabeaufforderung verwendet werden (**aufschlüsseln** oder **erste Lösung**), nicht wichtig sind, wichtig ist, dassZerlegen Sie die Aufgabe zunächst in Teilaufgabenwieder einmalfallweise AntwortDer Denkprozess.
Wirkung:
