Chain-of-Thought-Prompting einfach erklärt, mit Beispielen

Chain-of-Thought-Prompting (kurz CoT, auf Deutsch etwa „Gedankenkette“) ist eine Prompting-Technik, bei der Sie ein KI-Modell auffordern, seinen Lösungsweg in Zwischenschritten auszuschreiben, bevor es die endgültige Antwort gibt. Statt direkt ein Ergebnis zu nennen, zerlegt das Modell die Aufgabe, rechnet oder wägt Schritt für Schritt ab und kommt erst dann zum Schluss. Das hilft vor allem bei Aufgaben mit mehreren Rechen- oder Denkschritten und macht sichtbar, wo ein Fehler entsteht. Bei einfachen Aufgaben und bei modernen Reasoning-Modellen bringt die Technik wenig oder nichts.

Dieser Artikel zeigt, wie Chain-of-Thought funktioniert, welche Varianten es gibt, wann sich die Technik lohnt und worin sie sich vom ähnlich klingenden Prompt Chaining unterscheidet.

Ein Beispiel: mit und ohne Gedankenkette

Die Aufgabe: Ein Kunde bestellt 240 Stück zu je 12,50 € netto. Ab 200 Stück gibt es 8 % Mengenrabatt. Bei Zahlung innerhalb von zehn Tagen kommen 2 % Skonto auf den rabattierten Betrag hinzu. Wie hoch ist der Zahlbetrag netto bei Zahlung nach sieben Tagen?

Ohne Chain-of-Thought:

Ein Kunde bestellt 240 Stück zu je 12,50 € netto. Ab 200 Stück gibt es 8 %
Mengenrabatt, bei Zahlung innerhalb von zehn Tagen 2 % Skonto auf den
rabattierten Betrag. Wie hoch ist der Zahlbetrag netto bei Zahlung nach
sieben Tagen? Antworte nur mit dem Betrag.

Das Modell muss das Ergebnis in einem Zug nennen. Typische Fehler: Rabatt und Skonto werden zu 10 % addiert, oder das Skonto wird vom ursprünglichen Betrag berechnet.

Mit Chain-of-Thought:

Ein Kunde bestellt 240 Stück zu je 12,50 € netto. Ab 200 Stück gibt es 8 %
Mengenrabatt, bei Zahlung innerhalb von zehn Tagen 2 % Skonto auf den
rabattierten Betrag. Wie hoch ist der Zahlbetrag netto bei Zahlung nach
sieben Tagen?

Gehe Schritt für Schritt vor: Schreibe jeden Rechenschritt in eine eigene
Zeile und nenne erst am Ende, in einer Zeile mit „Ergebnis:“, den Betrag.

Eine korrekte Antwort sieht so aus:

1. Listenpreis: 240 × 12,50 € = 3.000,00 €
2. Mengenrabatt greift (240 ≥ 200): 3.000,00 € × 0,92 = 2.760,00 €
3. Skonto greift (7 Tage ≤ 10 Tage): 2.760,00 € × 0,98 = 2.704,80 €
Ergebnis: 2.704,80 €

Der Gewinn ist doppelt: Das Modell macht bei mehrstufigen Aufgaben seltener Fehler, und Sie sehen in Zeile 2 oder 3 sofort, falls es doch einen macht.

Woher die Technik kommt

Bekannt wurde Chain-of-Thought durch die Arbeit „Chain-of-Thought Prompting Elicits Reasoning in Large Language Models“ von Jason Wei und Kollegen aus dem Jahr 2022. Sie zeigten, dass Sprachmodelle Rechen-, Alltagslogik- und Symbolaufgaben besser lösen, wenn die Beispiele im Prompt nicht nur Frage und Antwort, sondern auch den ausgeschriebenen Lösungsweg enthalten. Kurz darauf zeigten Takeshi Kojima und Kollegen in „Large Language Models are Zero-Shot Reasoners“, dass oft schon ein einziger Satz vor der Antwort genügt: „Let's think step by step“.

Die Varianten

Variante	So sieht der Prompt aus	Geeignet für
Zero-Shot-CoT	Aufgabe plus Aufforderung, Schritt für Schritt vorzugehen	Schneller Versuch, wenn direkte Antworten unzuverlässig sind
Few-Shot-CoT	Zwei bis drei Beispiele mit ausgeschriebenem Lösungsweg, dann die neue Aufgabe	Wiederkehrende Aufgaben, bei denen der Lösungsweg einem festen Muster folgt
Geführte Gedankenkette	Sie geben die Schritte vor: „1. Prüfe … 2. Berechne … 3. Vergleiche …“	Aufgaben mit bekannter Prüf- oder Rechenlogik
Erst begründen, dann entscheiden	Feste Ausgabefelder: erst „Begründung“, dann „Entscheidung“	Klassifikationen und Bewertungen, die nachvollziehbar sein sollen

Die geführte Variante ist im Unternehmen meist die beste: Sie wissen, wie eine Reisekostenabrechnung zu prüfen oder eine Reklamation einzuordnen ist, also geben Sie dem Modell genau diese Reihenfolge vor. Bei Few-Shot-CoT gelten die Regeln für gute Beispiele aus unserem Artikel zu Few-Shot Prompting.

Achten Sie bei „erst begründen, dann entscheiden“ auf die Reihenfolge der Felder. Steht die Entscheidung zuerst, hat das Modell sich bereits festgelegt, und die Begründung wird nur noch nachgeliefert.

Wann Chain-of-Thought hilft

• Mehrstufige Berechnungen: Rabatte, Fristen, Provisionen, Umrechnungen.
• Regeln mit Bedingungen: „Wenn A und nicht B, dann C“ – etwa Kulanzregeln oder Freigabegrenzen.
• Vergleiche über mehrere Kriterien: Angebote oder Bewerbungsunterlagen anhand einer Kriterienliste gegenüberstellen.
• Einordnungen mit Grenzfällen: Die Begründung zeigt, welches Merkmal den Ausschlag gab.
• Fehlersuche: Wenn ein Prompt falsche Ergebnisse liefert, zeigt die Gedankenkette, an welcher Stelle das Modell abbiegt.

Wann es nichts bringt oder schadet

• Einfache Aufgaben. Übersetzen, kurz zusammenfassen, eine Anrede korrigieren: Hier verlängert die Gedankenkette nur die Antwort.
• Reine Wissensfragen. Wenn dem Modell die Information fehlt, hilft Nachdenken nicht; es braucht die Quelle im Prompt. Siehe KI-Halluzinationen vermeiden.
• Strikte Ausgabeformate. Soll nur JSON zurückkommen, stört ausgeschriebener Text. Trennen Sie dann Begründung und Ergebnis in eigene Felder oder in zwei Prompts.
• Reasoning-Modelle. Dazu der nächste Abschnitt.

Reasoning-Modelle: Die Gedankenkette ist schon eingebaut

Viele aktuelle Modelle haben einen Denkmodus, in dem sie vor der Antwort intern Zwischenschritte durchlaufen. Für solche Modelle gilt eine andere Regel. OpenAI schreibt in seinen Best Practices für Reasoning-Modelle, dass Aufforderungen wie „Denke Schritt für Schritt“ die Leistung nicht unbedingt verbessern und sie manchmal sogar beeinträchtigen können, und empfiehlt einfache, direkte Prompts.

Für die Praxis heißt das:

• Nutzen Sie ein Reasoning-Modell, beschreiben Sie Ziel, Kontext und Kriterien klar und verzichten Sie auf Schritt-für-Schritt-Anweisungen.
• Nutzen Sie ein klassisches, schnelleres Modell ohne Denkmodus, ist Chain-of-Thought weiterhin ein einfacher Hebel.
• Sind Sie unsicher, testen Sie beide Varianten an zehn bis zwanzig echten Fällen und vergleichen Sie die Ergebnisse, nicht den Eindruck.

Die geführte Variante behält auch bei Reasoning-Modellen ihren Wert, allerdings aus einem anderen Grund: Sie beschreibt Ihre fachliche Prüflogik, nicht das Denken an sich.

Chain-of-Thought und Prompt Chaining: der Unterschied

Die Begriffe klingen ähnlich, bezeichnen aber Verschiedenes.

	Chain-of-Thought	Prompt Chaining
Was wird verkettet	Denkschritte innerhalb einer Antwort	Mehrere Prompts hintereinander
Zahl der Modellaufrufe	Einer	Mehrere
Wer legt die Schritte fest	Das Modell, oder Sie in der geführten Variante	Sie, vorab
Kontrolle zwischen den Schritten	Keine: Das Modell schreibt in einem Zug durch	Möglich: prüfen, korrigieren, Code dazwischenschalten
Typischer Einsatz	Eine Rechnung, eine Abwägung, eine Einordnung	Ein Ablauf aus Extraktion, Prüfung und Formulierung

Beides lässt sich kombinieren: In einer Prompt-Kette kann der Prüfschritt selbst mit Chain-of-Thought arbeiten. Wie Sie Ketten aufbauen, zeigt der Artikel zu Prompt Chaining.

Kosten und Geschwindigkeit

Eine Gedankenkette besteht aus Output-Tokens, und Output ist bei den meisten Anbietern teurer als Input. Eine Antwort mit zehn Zeilen Begründung kostet ein Vielfaches einer Antwort mit einer Zahl und dauert länger. Bei einzelnen Anfragen spielt das keine Rolle, bei zehntausend Klassifikationen im Monat schon. Wie sich das rechnet, erklärt LLM-API-Preise erklärt. Begrenzen Sie die Länge („höchstens fünf Schritte, je eine Zeile“) und verwenden Sie die Technik nur dort, wo sie messbar hilft.

Die Grenze: Eine Begründung ist kein Beweis

Die ausgeschriebenen Schritte sind ein Text, den das Modell erzeugt. Sie können Rechenfehler enthalten, eine Regel falsch wiedergeben oder schlüssig klingen und trotzdem zu einem falschen Ergebnis führen. Eine lange, selbstsichere Begründung verleitet außerdem dazu, weniger genau hinzusehen. Für alles, was zählt, gilt deshalb:

• Lassen Sie Rechenschritte von Code oder einer Tabellenkalkulation nachrechnen, nicht vom Modell bestätigen.
• Prüfen Sie stichprobenartig die Begründung, nicht nur das Ergebnis.
• Verwenden Sie die Begründung nicht ungeprüft als Erklärung gegenüber Kunden oder Betroffenen.

Drei Vorlagen zum Übernehmen

Geführte Prüfung einer Rechnung

Prüfe die Rechnung unten gegen die Bestellung.
Gehe in dieser Reihenfolge vor und schreibe zu jedem Punkt eine Zeile:
1. Stimmen Artikel und Mengen überein?
2. Stimmen die Einzelpreise mit der Bestellung überein?
3. Ist die Summe rechnerisch richtig?
4. Sind Rabatt und Zahlungsziel wie vereinbart?
Schreibe danach eine Zeile „Ergebnis:“ mit „freigeben“ oder „klären“
und, falls „klären“, dem Grund.

Bestellung: """[Text]"""
Rechnung: """[Text]"""

Erst begründen, dann einordnen

Ordne die Kundenanfrage einer Kategorie zu: Reklamation, Rückfrage zur
Rechnung, Lieferstatus, Sonstiges.
Gib zuerst unter „Begründung:“ in höchstens zwei Sätzen an, welche
Formulierungen der Anfrage den Ausschlag geben. Nenne danach unter
„Kategorie:“ genau eine Kategorie.

Anfrage: """[Text]"""

Abwägung mit Kriterien

Vergleiche die beiden Angebote anhand dieser Kriterien: Gesamtpreis über
drei Jahre, Kündigungsfrist, Supportzeiten, Datenstandort.
Gehe Kriterium für Kriterium vor und nenne jeweils die Fundstelle im Angebot.
Schreibe erst danach eine Empfehlung mit höchstens drei Sätzen. Fehlt eine
Angabe im Angebot, schreibe „nicht angegeben“ und rate nicht.

Angebot A: """[Text]"""
Angebot B: """[Text]"""

Solche Prompts lassen sich mit dem KI-Prompt-Generator zusammenstellen; die Schrittfolge gehört dort ins Feld für Regeln.

Typische Fehler

• Chain-of-Thought als Standard. Die Technik kostet Tokens und Zeit. Setzen Sie sie gezielt ein.
• Entscheidung vor Begründung. Die Reihenfolge der Ausgabe bestimmt, ob die Begründung die Antwort stützt oder nur nachträglich rechtfertigt.
• Dem Text glauben, weil er lang ist. Prüfen Sie Zahlen unabhängig.
• Schritt-für-Schritt-Anweisungen für Reasoning-Modelle. Dort helfen klare Ziele und Kriterien mehr.
• Eine Kette erwarten, wo eine Quelle fehlt. Fehlendes Wissen ersetzt kein Nachdenken.

Checkliste

• Die Aufgabe hat mehrere Rechen- oder Denkschritte.
• Sie wissen, ob Ihr Modell ein Reasoning-Modell ist.
• Die Schritte sind vorgegeben, wenn Sie die Prüflogik kennen.
• Die Begründung steht vor dem Ergebnis, das Ergebnis in einer eigenen, klar markierten Zeile.
• Die Länge der Begründung ist begrenzt.
• Zahlen werden unabhängig nachgerechnet.
• Sie haben an echten Fällen verglichen, ob die Technik die Ergebnisse verbessert.

Den Gesamtrahmen für gute Prompts finden Sie im Praxisleitfaden Prompt Engineering im Unternehmen.

Quellen

• Wei et al. (2022): Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
• Kojima et al. (2022): Large Language Models are Zero-Shot Reasoners
• OpenAI: Reasoning best practices