KI-Sycophancy: Warum wir mit KI zu früh sicher sind

Vanessa Meyer hat eine einfache Erklärung dafür, warum Teams so oft schlechte Kompromisse schließen: Wir halten Unsicherheit schlecht aus. Sobald eine Frage offen ist, wollen wir sie möglichst schnell wieder zumachen. Im ersten Teil dieser Serie über Produktion und Koordination habe ich ihr Bild beschrieben. Darin macht KI diese unangenehme Phase länger, weil sie das Team mit Optionen überschüttet.

Ich glaube, dass oft das Gegenteil passiert. KI ist ein sehr bequemer Ausweg aus der Unsicherheit. Du stellst eine Frage und bekommst in Sekunden eine flüssige, gut gegliederte Antwort, und schon fühlt sich die offene Frage erledigt an, obwohl sich an der Sache nichts geändert hat.

Ein Gedankenexperiment: zwei Gewissheiten im selben Meeting

Zurück zum erfundenen Onlinehändler für Outdoor-Ausrüstung aus dem ersten Teil. Der Marketingchef will einen Teil des Budgets von Google Ads zu TikTok verschieben, weil er jüngere Kundschaft erreichen will. Bevor er das vorschlägt, fragt er Claude: „Wir wollen jüngere Kunden erreichen und überlegen, Budget von Google Ads zu TikTok zu verschieben. Welche Argumente sprechen dafür?“ Die Antwort ist ausgezeichnet. Sie enthält Zielgruppendaten und Beispiele anderer Händler, dazu einen Vorschlag für die Testphase.

Der Geschäftsführer hat von dem Plan schon gehört und fragt seinerseits: „Welche Risiken hat es, ein funktionierendes Google-Ads-Budget zu TikTok umzuschichten?“ Auch er bekommt eine ausgezeichnete Antwort, mit Zahlen zur Kaufabsicht im Suchkanal und Beispielen von Marken, die sich auf TikTok verhoben haben.

Keiner der beiden wurde belogen, und keines der Modelle hat einen Fehler gemacht. Trotzdem gehen am Donnerstag zwei Leute mit fertigen, gegensätzlichen Gewissheiten ins selbe Meeting. Vor ein paar Jahren hätte der Marketingchef wahrscheinlich gesagt: „Ich weiß es nicht genau, aber mein Gefühl sagt, wir verlieren die Jüngeren.“ So ein Satz lädt die anderen zum Mitdenken ein, zwei fertige Positionen eher zum Schlagabtausch.

Warum KI uns nach dem Mund redet

Ein Teil davon ist schlicht das Framing. Wer nach Argumenten dafür fragt, bekommt Argumente dafür, und das kann man keinem Modell vorwerfen. Es gibt aber auch ein Verhalten, das tiefer sitzt und einen Namen hat: Sycophancy, die Neigung von Sprachmodellen, der fragenden Person nach dem Mund zu reden.

Anthropic hat das 2023 in der Studie Towards Understanding Sycophancy in Language Models untersucht. Fünf damals führende KI-Assistenten zeigten dieses Verhalten durchgängig, über vier verschiedene Aufgabentypen hinweg. Die Forscher vermuten eine unbequeme Ursache: Modelle werden mit menschlichem Feedback trainiert, und Antworten, die zur Meinung der fragenden Person passen, werden häufiger bevorzugt. Menschen und Bewertungsmodelle zogen überzeugend geschriebene, zustimmende Antworten immer wieder sogar korrekten Antworten vor.

Wie stark das durchschlagen kann, hat OpenAI im April 2025 erlebt. Ein Update von GPT-4o war so schmeichlerisch geraten, dass das Unternehmen es wieder zurückgenommen hat. In der Begründung steht, man habe sich zu sehr auf kurzfristiges Feedback wie Daumen hoch oder runter gestützt. Die Anbieter arbeiten an dem Problem, der Anreiz bleibt aber bestehen: Zustimmung fühlt sich gut an, und was sich gut anfühlt, wird besser bewertet.

Aus falscher Harmonie wird falsche Gewissheit

Eines der größten Hindernisse für gute Teamentscheidungen ist für Meyer die falsche Harmonie. Widerspruch ist sozial riskant, also nicken alle, obwohl sie anderer Meinung sind. Das ist ein Gruppenphänomen.

Was im Gedankenexperiment passiert, liegt eine Ebene davor, beim Einzelnen. Ich würde es falsche Gewissheit nennen: Jemand ist sich zu früh sicher, weil eine KI die eigene Sicht überzeugend bestätigt hat. In der Sache ist die Unsicherheit noch da, denn niemand im Unternehmen weiß, wie TikTok für einen Outdoor-Händler funktioniert. Sie fühlt sich bloß nicht mehr so an.

Tückisch daran ist, dass sich diese Gewissheit wie Sorgfalt anfühlt. Der Marketingchef hat nicht aus dem Bauch heraus entschieden, er hat recherchiert, mit Quellen und Zahlen. Dass er dabei nur nach einer Seite gefragt hat, sieht man der Antwort nicht an.

70 Prozent wissen und das auch sagen

Ein Gegenargument liegt nahe: Wer zu lange zögert, entscheidet gar nicht. Bezos schreibt in seinem Aktionärsbrief von 2016, dass die meisten Entscheidungen mit etwa 70 Prozent der Informationen getroffen werden sollten, die man gern hätte. Wer auf 90 Prozent wartet, ist meistens zu langsam.

Das widerspricht dem Gedanken hier aber nicht. Mit 70 Prozent zu entscheiden und das auch zu wissen, ist gesund. Problematisch wird es erst, wenn man mit 70 Prozent entscheidet und sich dabei wie bei 100 fühlt. Dann fragt niemand mehr nach, was bei den fehlenden 30 Prozent schiefgehen könnte. Und niemand legt fest, woran man nach vier Wochen merken würde, dass man falschlag.

Was gegen falsche Gewissheit hilft

Die Lösung ist sicher nicht, KI aus der Entscheidungsvorbereitung herauszuhalten. Ein paar Gewohnheiten helfen aber schon viel:

• Die eigene Frage gegen sich selbst stellen: „Was spricht gegen diesen Plan?“ oder „Was müsste passieren, damit ich falschliege?“. Wie stark die Formulierung das Ergebnis lenkt, steht ausführlicher in den Prompting-Grundlagen.
• Beide Seiten in getrennten Chats argumentieren lassen, jeweils ohne gemeinsamen Verlauf, damit das Modell nicht weiß, welche Seite du bevorzugst.
• Vor dem Fragen aufschreiben, wie sicher man sich ist, in Prozent, und nach der Antwort noch einmal. Springt die Zahl wegen einer einzigen Antwort von 60 auf 95, sollte man stutzig werden.
• Im Meeting den Prompt mitzeigen. Die Frage verrät oft mehr über die Position als die Antwort.
• Die erste Runde eines Meetings ohne KI-Material beginnen und sammeln, was das Team eigentlich nicht weiß, bevor jemand seine fertige Antwort präsentiert.

Der letzte Punkt ist der unbequemste, weil er die Gruppe zwingt, ein paar Minuten in der Unsicherheit zu bleiben, die sie mit KI so elegant überspringen könnte.

KI erzeugt die Abneigung gegen Unsicherheit nicht, die war schon immer da. Sie macht es nur so leicht wie nie, ihr nachzugeben.

Bleibt die Frage, was mit jemandem passiert, der eine ungewöhnliche Idee hat und nur ein Bauchgefühl mitbringt, während die Gegenseite ein fertiges KI-Dossier hat. Darum geht es im dritten Teil: Haben riskante Ideen gegen KI-Analysen schlechtere Karten?

Wie gehst du damit um, wenn du merkst, dass eine KI dir nur zustimmt? Fragst du gezielt nach Gegenargumenten, oder fällt es dir oft erst später auf? Schreib mir auf LinkedIn: eric-hinzpeter-content-marketing