Few Shot Prompting

Few Shot Prompting Few Shot Prompting ist eine Prompt-Engineering-Technik, bei der ein Sprachmodell im Prompt mehrere Beispiele für die gewünschte Aufgabe bekommt, meist zwei bis fünf. Das Modell erkennt aus diesen Beispielen das Muster für Format und Ton und wendet es auf die eigentliche Anfrage an, ohne dass sich seine trainierten Gewichte ändern. Der Effekt heißt In-Context Learning: Das Modell lernt für die Dauer der Anfrage, nicht dauerhaft. Ab einer bestimmten Zahl bringt ein zusätzliches Beispiel kaum noch etwas, es kostet nur noch Platz im Context Window.

Was ist Few Shot Prompting?

Few Shot Prompting ist eine Methode im Prompt Engineering: Du gibst dem Sprachmodell im Prompt zur Aufgabe mehrere Beispiele mit, die zeigen, wie das Ergebnis aussehen soll. Diese Beispiele heißen "Shots", und zwei bis fünf davon reichen für die meisten Aufgaben.

Ohne Beispiele muss das Modell raten, welches Format und welcher Ton gemeint sind, und verlässt sich dabei auf sein trainiertes Wissen. Mit Beispielen zeigst du das Format direkt: hier der Input, hier der Output, den du willst. Das Modell erkennt das Muster zwischen beiden und wendet es auf deine eigentliche Anfrage an.

Der Name kommt aus dem maschinellen Lernen, wo "Shot" ein einzelnes Trainingsbeispiel bezeichnet. Beim Prompting trainierst du damit nichts dauerhaft. Du zeigst nur für diese eine Anfrage, wie die Aufgabe gelöst werden soll, und beim nächsten Prompt fängst du wieder bei null an.

Ein Shot besteht meist aus zwei Teilen: dem Input, wie ihn ein echter Nutzer schreiben würde, und dem Output, der zeigt, wie die Antwort aussehen soll. Reihst du mehrere davon aneinander, entsteht daraus eine kleine Vorlage. An dieser Vorlage orientiert sich das Modell, wenn es die letzte, noch unbeantwortete Zeile ergänzt. Genau dieses Muster siehst du auch in den Beispielen weiter unten in diesem Artikel.

Wie es funktioniert

Few Shot Prompting nutzt eine Eigenschaft, die große Sprachmodelle mit steigender Größe zuverlässiger beherrschen: In-Context Learning. Das Modell liest die Beispiele im Prompt, erkennt die Beziehung zwischen Input und Output und überträgt sie auf die neue Aufgabe.

Sprachmodelle sagen bei jedem Schritt vorher, welches Token als Nächstes am wahrscheinlichsten kommt. Stehen im Prompt schon mehrere Beispiele mit demselben Aufbau, verschieben sich diese Wahrscheinlichkeiten spürbar in Richtung des gezeigten Musters. Je größer das Modell, desto zuverlässiger klappt das, weil größere Modelle mehr Kapazität haben, ein Muster über eine längere Beispielkette hinweg zu erkennen.

Technisch passiert dabei kein Training im klassischen Sinn. Die Gewichte des Modells bleiben unverändert, es justiert nur, worauf es innerhalb des aktuellen Kontexts seine Aufmerksamkeit richtet. Sobald die Konversation endet, ist das Muster wieder weg. Genau deshalb muss ein Beispiel bei jedem neuen Prompt wieder mitgeschickt werden, und genau deshalb zählt jedes Beispiel gegen dein Kontextfenster.

Zero-Shot, One-Shot und Few-Shot im Vergleich

Wie viel Kontext ein Prompt braucht, hängt von der Aufgabe ab. Zero-Shot Prompting verzichtet komplett auf Beispiele und verlässt sich auf das, was das Modell schon weiß. Das reicht für einfache Fragen wie "Wann war der Mauerfall?", scheitert aber oft an komplexen Formaten. One-Shot gibt genau ein Beispiel mit und legt damit meist schon das Format fest, etwa wie eine Klassifizierung aussehen soll. Few-Shot geht mit mehreren Beispielen einen Schritt weiter und wird notwendig, sobald das Modell zwischen Nuancen unterscheiden oder ein komplexeres Format einhalten soll.

Die Faustregel dahinter: Zero-Shot für reines Faktenwissen, Few-Shot für Stil, Format und Klassifikation mit mehreren Kategorien.

Was Few Shot Prompting bringt

Der größte Nutzen zeigt sich bei der Zuverlässigkeit. Ohne Beispiele kann ein Modell in jede Richtung abbiegen, mit Beispielen bewegt es sich in einem klar abgesteckten Lösungsraum. Das senkt spürbar, wie oft das Modell etwas erfindet, das so gar nicht gefragt war.

Ein zweiter Vorteil betrifft die Formattreue. Soll ein Modell strukturierte Daten liefern, etwa JSON oder eine Liste in einem festen Schema, halten Beispiele Syntax und Struktur zuverlässiger ein als eine reine Textbeschreibung des gewünschten Formats. In einem automatisierten Workflow spart das Nacharbeit, weil weniger fehlerhafte Ausgaben nachträglich korrigiert werden müssen.

Drittens bringt es Flexibilität. Ändert sich die Anforderung, tauschst du die Beispiele im Prompt aus, nicht das ganze System. Das macht Few Shot Prompting zur schnellsten Möglichkeit, ein Modell auf eine neue Aufgabe einzustellen, ohne es neu zu trainieren.

Wie viele Beispiele wirklich helfen

Das ist die Frage, an der die meisten Prompts hängen. Der größte Sprung passiert zwischen null und einem Beispiel: Ohne jede Vorgabe rät das Modell nach Durchschnitt, ein einziges Beispiel legt schon das Format fest. Von einem auf drei Beispiele merkst du meist noch einen deutlichen Qualitätsgewinn, besonders wenn die Aufgabe mehr als zwei Kategorien unterscheiden muss. Ab fünf Beispielen flacht die Kurve ab. Ein sechstes oder siebtes Beispiel für eine simple Ja-Nein-Klassifizierung bringt fast nichts mehr, es steht nur noch im Prompt herum.

Mehr Beispiele lohnen sich, wenn die Aufgabe wirklich vielschichtig ist: viele Kategorien, feine Unterschiede wie "neutral" gegen "gemischt" bei Sentiment-Analyse, oder ein Format mit Ausnahmen, die du sonst separat erklären müsstest. Dann ersetzt ein gutes Beispiel oft mehrere Sätze Instruktion.

In der Praxis fährst du am besten stufenweise. Teste zuerst ganz ohne Beispiele, um die Baseline zu sehen. Reicht das Ergebnis nicht, ergänzt du ein einziges Beispiel, das vor allem das Format klärt. Bleiben danach noch inhaltliche Nuancen offen, gehst du erst dann auf drei bis fünf Beispiele hoch. Der umgekehrte Weg, gleich mit zehn Beispielen zu starten, kostet nur Zeit beim Formulieren und Platz im Prompt, ohne dass du vorher weißt, ob du sie überhaupt brauchst.

Der Haken: Jedes Beispiel im Prompt verbraucht Tokens, und Tokens sind das Maß, an dem dein Context Window hängt. Bei einer einzelnen Anfrage macht das kaum einen Unterschied. Läuft derselbe Prompt aber tausendfach in einem automatisierten Workflow, zahlst du für jedes überflüssige Beispiel bei jedem einzelnen Aufruf mit. Fünf kurze Beispiele mit zehn Wörtern sind unkritisch. Drei lange Beispiele mit je hundert Wörtern füllen das Fenster dagegen spürbar und lassen weniger Platz für den eigentlichen Input.

Ein praktischer Test: Streich ein Beispiel und prüf, ob sich das Ergebnis verschlechtert. Bleibt die Qualität gleich, war das Beispiel Ballast. Brauchst du für sehr lange Beispiele oder ständig wechselndes Referenzmaterial trotzdem Kontext, ist meist Retrieval Augmented Generation (RAG) der bessere Weg als das Prompt weiter aufzublähen. Dabei lädst du nur die gerade relevanten Stücke statt aller möglichen Beispiele auf Verdacht.

Praktische Beispiele

Bei einer Sentiment-Analyse mit mehr als zwei Kategorien zeigen die Beispiele dem Modell, wo die Grenze zwischen den Klassen verläuft:

Aufgabe: Klassifiziere die Kundenbewertungen in Positiv, Negativ oder Neutral.

Review: "Der Versand war schnell, aber das Produkt ist beschädigt."
Sentiment: Negativ

Review: "Ganz okay für den Preis, erfüllt seinen Zweck."
Sentiment: Neutral

Review: "Besser als erwartet! Werde ich wieder kaufen."
Sentiment: Positiv

Review: "Der Support hat mir sofort geholfen, danke."
Sentiment:

Für strukturierte Textgenerierung zeigen die Beispiele Inhalt, Tonalität und Satzlänge zugleich:

Wandle die Produkt-Features in einen kurzen Benefit-Satz um.

Features: Leichte Bauweise, 12h Akku, wasserdicht.
Benefit: Genieße Musik den ganzen Tag, egal wo du bist, dank
leichtem Design und wasserfestem Gehäuse.

Features: 4K Auflösung, HDR, Smart-TV-Funktionen.
Benefit: Erlebe Kinoqualität im Wohnzimmer mit scharfen Bildern
und direktem Zugang zu deinen Lieblings-Apps.

Features: Ergonomischer Griff, rostfreier Stahl, spülmaschinenfest.
Benefit:

In beiden Fällen reichen drei Beispiele, weil die Aufgabe klar begrenzt ist. Ein viertes würde das Muster kaum schärfer machen.

Was gute Beispiele ausmacht

Nicht jedes Beispiel ist gleich viel wert. Drei Punkte entscheiden, ob ein Beispiel dem Modell wirklich hilft oder nur Platz frisst.

Die Beispiele sollten die ganze Aufgabe abdecken, nicht nur einen Ausschnitt davon. Sind alle Beispiele kurz und positiv formuliert, wird auch der Output kurz und positiv ausfallen, selbst wenn die eigentliche Anfrage etwas anderes verlangt. Eine Balance zwischen den Kategorien beugt genau diesem Effekt vor.

Auch die Formatierung zählt. Trennst du die Beispiele mit klaren Markierungen wie ### oder --- voneinander, erkennt das Modell zuverlässiger, wo ein Beispiel endet und das nächste beginnt. Uneinheitliche Formatierung zwischen den Beispielen verwirrt das Modell eher, als dass sie hilft.

Bei Aufgaben mit mehreren Rechen- oder Logikschritten lohnt sich Chain-of-Thought. Das Beispiel zeigt dann den ganzen Lösungsweg, Schritt eins, Schritt zwei, Ergebnis, statt nur die nackte Antwort. Das Modell übernimmt dieses Vorgehen für die eigene Aufgabe und rechnet seltener direkt und falsch zum Ergebnis durch.

Few Shot Prompting vs. Fine-Tuning

Few Shot Prompting ist agil: Es braucht keine Anpassung der Modellgewichte, keine Rechenleistung fürs Training und lässt sich in Sekunden ändern. Es passt, wenn die Aufgabe mit fünf bis zehn Beispielen klar beschrieben ist.

Fine-Tuning verändert das Modell dauerhaft. Dafür braucht es kuratierte Trainingsdaten, oft tausende Beispiele, und entsprechende Rechenleistung. Sinnvoll wird das, wenn ein Modell tiefes, branchenspezifisches Fachwissen benötigt, das nicht in den Kontext eines Prompts passt. Oder wenn ein sehr spezifischer Stil über Millionen Anfragen hinweg möglichst günstig repliziert werden muss, denn dann ist jedes eingesparte Beispiel im Prompt bei der Menge an Aufrufen echtes Geld.

Typische Fehler

Ein häufiger Fehler ist Label Bias: Zeigen die Beispiele überwiegend eine Antwortkategorie, etwa "Positiv", tendiert das Modell dazu, diese Kategorie auch bei neutralem Input zu wählen. Bei der Sentiment-Analyse weiter oben würde das bedeuten: Zeigst du vier positive Beispiele und nur ein negatives, bewertet das Modell auch eher neutrale Bewertungen als positiv. Die Verteilung der Beispiele im Prompt beeinflusst die Verteilung im Output direkt, deshalb lohnt sich eine Balance der Klassen.

Der zweite ist Recency Bias: Sprachmodelle gewichten Informationen, die am Ende des Prompts stehen, oft stärker als die davor. Testest du zum Beispiel drei mögliche Formate durch, stell das wichtigste Beispiel zuletzt, direkt vor der eigentlichen Aufgabe, statt es als erstes von dreien zu platzieren.

Wohin sich Few-Shot mit wachsenden Kontextfenstern entwickelt

Mit Kontextfenstern, die inzwischen ganze Bücher fassen, verschiebt sich die Grenze zwischen wenigen und vielen Beispielen. Was heute noch als viele Beispiele gilt, wird in einem Modell mit einer Million Token schnell zur Randnotiz, ein Trend, der inzwischen unter dem Namen Many-Shot Prompting läuft. Am Prinzip aus diesem Artikel ändert das nichts: Ein Beispiel hilft nur, solange es dem Modell etwas zeigt, das die vorherigen Beispiele noch nicht gezeigt haben. Alles danach ist verbrauchtes Kontextfenster, ganz gleich wie groß das Fenster gerade ist.

Mehr zu den Grundlagen von Prompts insgesamt steht im Prompting-Guide und in der Übersicht im Glossar.

Zurück zum AI und Automation Glossar.