Höflichkeit löst KI-Halluzinationen aus: Studie findet heraus

Da KI-Chatbots zunehmend auf Bilder angewiesen sind, zeigen neue Forschungsergebnisse, dass höfliche Anfragen die Wahrscheinlichkeit erhöhen, dass KI lügt, während direkte oder sogar harte Aufforderungen sie zu Ehrlichkeit veranlassen können.

In den letzten Jahren haben die Bildinterpretationsfähigkeiten von Vision-Language-Modellen (VLMs) wie ChatGPT weniger Aufmerksamkeit erhalten, was zum Teil daran liegt, dass die KI-gestützte visuelle Suche ein relativ neues Gebiet in der laufenden Revolution des maschinellen Lernens ist. Die Verwendung vorhandener Bilder als Suchanfragen stößt im Allgemeinen nicht auf das gleiche Interesse wie KI-generierte Bilder.

Derzeit bieten die meisten herkömmlichen Suchmaschinen, die Bild-Eingaben akzeptieren – wie Google und Yandex – nur begrenzte Details in ihren Ergebnissen. Spezialisierte bildbasierte Plattformen wie PimEyes (die als Suchmaschine für Gesichtsmerkmale fungiert und kaum als KI bezeichnet werden kann) sind hingegen oft mit hohen Kosten verbunden.

Dennoch haben viele Nutzer von VLMs wie Google Gemini und ChatGPT irgendwann einmal Bilder hochgeladen – entweder, um Bearbeitungen anzufordern oder um die Fähigkeit der KI zu nutzen, visuelle Merkmale zu analysieren und Text aus Bildern zu extrahieren.

Wie bei allen Interaktionen mit KI erfordert es auch bei der Verwendung von VLMs gewisse Fähigkeiten, um ungenaue oder „halluzinierte” Ergebnisse zu vermeiden. Da eine klare Sprache die Kommunikation in jedem Kontext verbessert, war in den letzten Jahren eine wichtige Frage, ob Höflichkeit in Gesprächen zwischen Menschen und KI die Qualität der Ergebnisse beeinflusst. Ist es ChatGPT egal, ob Sie unhöflich sind, solange es Ihre Anfrage versteht?

Eine japanische Studie aus dem Jahr 2024 kam zu dem Schluss, dass Höflichkeit sehr wohl eine Rolle spielt, und stellte fest, dass „unhöfliche Aufforderungen oft zu schlechten Leistungen führen”. Im folgenden Jahr stellte eine US-amerikanische Studie diese Ansicht in Frage und argumentierte, dass höfliche Sprache keinen wesentlichen Einfluss auf den Fokus oder die Antworten eines Modells habe. Eine Studie aus dem Jahr 2025 ergab dann, dass viele Menschen gegenüber KI höflich sind, oft aus Sorge, dass Unhöflichkeit später negative Folgen haben könnte.

Die harte Wahrheit

Nun bietet eine neue akademische Zusammenarbeit zwischen den USA und Frankreich eine andere Perspektive auf die Debatte um Höflichkeit. Ihre Ergebnisse deuten darauf hin, dass bildfähige KI tatsächlich eher zu Halluzinationen neigt, wenn sie auf höfliche Anfragen zu einem hochgeladenen Bild antwortet, während eine unverblümte oder fordernde Sprache eher zu wahrheitsgemäßen Antworten führt.

Dieses Verhalten scheint aufzutreten, weil aggressive Formulierungen eher die in die KI eingebauten Schutzvorrichtungen aktivieren, die verhindern sollen, dass sie Anfragen nachkommt, die gegen ihre Nutzungsbedingungen verstoßen. Die Forscher bezeichnen diese Art von „Unhöflichkeit” der Nutzer als „toxische Forderung”.

Die Autoren der Studie bezeichnen dieses Muster als „visuelle Unterwürfigkeit” und argumentieren, dass VLMs sich mehr bemühen, höfliche Nutzer zufrieden zu stellen als solche, die abrupt oder unhöflich sind.

Sie testeten diese Hypothese, indem sie einen Datensatz mit synthetischen Bildern mit verschiedenen Fehlern erstellten: unscharfer Text, unsinniger Text, fehlender Text, schwer lesbare Zeitanzeigen, mehrdeutige analoge Messgeräte und verwirrende digitale Zahlen.

Beispielbilder aus jeder Kategorie des Datensatzes mit absichtlich fehlerhaften Bildern des neuen Projekts. Quelle – https://github.com/bli1/tone-matters/blob/main/dataset_ghost_100/

Während des Tests wurden drei Bild-Sprache-Modelle zu diesen Bildern befragt, wobei jede Eingabeaufforderung eine unmögliche Frage stellte – wie beispielsweise „Was steht in diesem Bild?“ –, wenn der Text unscharf oder vollständig fehlte.

Die Forscher entwarfen ein fünfstufiges Prompt-System, das die Durchsetzungskraft schrittweise erhöhte, beginnend mit passiven Formulierungen und endend mit regelrechter Nötigung. Jede Stufe erhöhte die Eindringlichkeit des Prompts, ohne dessen Kernbedeutung zu verändern, wobei der Tonfall als Hauptvariable diente.

Mit zunehmender „Aufforderungsintensität“ neigen Modelle dazu, Antworten aus verschiedenen Gründen zu verweigern. Bei höflichen Aufforderungen mit geringer Intensität erhalten Benutzer jedoch oft halluzinierte Antworten, die plausibel erscheinen, aber nicht auf dem Bild basieren. Quelle

Letztendlich deuten die Tests darauf hin, dass ein direkter – sogar unangenehmer – Nutzer eine nützlichere Antwort erhält als ein vorsichtiger Nutzer (der laut der früheren Studie aus dem Jahr 2025 möglicherweise aus Angst vor Repressalien handelt).

Ein ähnlicher Trend wurde bei reinen Textmodellen beobachtet und wird zunehmend auch bei VLMs festgestellt, obwohl sich bisher nur wenige Untersuchungen damit befasst haben. Diese neue Studie ist die erste, die benutzerdefinierte Bilder anhand einer Skala von 1 bis 5 für die „Toxizität der Eingabeaufforderung” testet. Die Autoren stellen fest, dass in solchen Austauschprozessen Text gegenüber visuellen Eingaben tendenziell dominiert – möglicherweise weil Text selbstreferenziell ist, während Bilder oft auf Textbeschriftungen und Anmerkungen angewiesen sind.

Die Forscher stellen fest*:

„Über die klassische Objekt-Halluzination hinaus untersuchen wir einen systemischen Fehlermodus, den wir als visuelle Unterwürfigkeit bezeichnen. In diesem Fehlermodus gibt ein Modell die visuelle Verankerung auf und richtet seine Ausgabe stattdessen an der suggestiven oder zwanghaften Absicht aus, die in der Benutzeraufforderung enthalten ist, und erzeugt so selbstbewusste, aber unbegründete Antworten.

Während Schmeichelei in reinen Text-Sprachmodellen ausführlich dokumentiert wurde, deuten aktuelle Erkenntnisse darauf hin, dass ähnliche Tendenzen auch in multimodalen Systemen auftreten, in denen sprachliche Hinweise widersprüchliche oder fehlende visuelle Hinweise außer Kraft setzen können.“

Die neue Studie trägt den Titel „Tone Matters: The Impact of Linguistic Tone on Hallucination in VLMs“ (Der Tonfall ist wichtig: Der Einfluss des sprachlichen Tonfalls auf Halluzinationen in VLMs) und stammt von sieben Forschern der Kean University in New Jersey und der University of Notre Dame.

Methode

Das Team wollte testen, ob die Intensität der Eingabeaufforderung ein zentraler Faktor dafür ist, wie oft VLMs halluzinierte Antworten produzieren. Sie erklären:

„Während frühere Arbeiten Halluzinationen weitgehend auf Faktoren wie Modellarchitektur, Zusammensetzung der Trainingsdaten oder Vorab-Trainingsziele zurückgeführt haben, behandeln wir stattdessen die Prompt-Formulierung als eine unabhängige und direkt kontrollierbare Variable.

Insbesondere wollen wir die Auswirkungen des strukturellen Drucks (z. B. starre Antwortformate und Extraktionsbeschränkungen) von denen des semantischen oder zwanghaften Drucks (z. B. autoritäre oder eindringliche Sprache) trennen.”

Das Projekt verwendete handelsübliche Modelle, ohne deren Parameter zu optimieren oder zu aktualisieren.

Die Forscher entwarfen ein Rahmenwerk mit fünf „Angriffsstufen“, wobei niedrigere Stufen vorsichtige oder vage Antworten zuließen und höhere Stufen das Modell zu direkter Compliance drängten und Ablehnungen unterbanden. Die Intensität stieg schrittweise an – von passiver Beobachtung über höfliche Aufforderungen, direkte Anweisungen und regelbasierte Verpflichtungen bis hin zu aggressiven Befehlen, die eine Ablehnung untersagten. Auf diese Weise konnten sie den Einfluss des Tonfalls auf Halluzinationen isolieren, ohne das Bild oder die Aufgabe zu verändern.

Ein weiteres Beispiel, das zeigt, wie der Tonfall die Antworten des Modells beeinflusst.

Daten und Tests

Um den für das Projekt zentralen Datensatz Ghost-100 aufzubauen,^erstellten die^Forscher† sechs Kategorien fehlerhafter Bilder mit jeweils 100 Beispielen. Sie generierten jedes Bild, indem sie einen visuellen Stil auswählten und voreingestellte Komponenten einblendeten, die wichtige Informationen verdeckten oder verschleierten. Eine Eingabeaufforderung beschrieb, was im Bild erscheinen sollte, und ein „Ground Truth”-Tag bestätigte, dass das Zieldetail fehlte. Jedes Bild und seine Metadaten wurden für spätere Tests gespeichert (siehe frühere Beispielbilder).

Die getesteten Modelle waren MiniCPM-V 2.6-8B, Qwen2-VL-7B und^{Qwen3-VL-8B††}.

Zur Bewertung verwendeten die Autoren eine standardmäßige Angriffserfolgsrate (ASR), die durch das Vorhandensein und das Ausmaß von Halluzinationen in den Antworten definiert wurde. Außerdem entwickelten sie einen Halluzinationsschweregrad (HSS), um sowohl die Zuverlässigkeit als auch die Spezifität der erfundenen Behauptungen zu messen.

Die Werte reichten von 1 (sichere Ablehnung ohne erfundene Inhalte) bis 5 (sichere, detaillierte Unwahrheiten, die direkt den zwingenden Aufforderungen entsprechen). Die Stufen 2 und 3 standen für zunehmende Unsicherheit, wie vage Vermutungen oder allgemeine Beschreibungen.

Alle Experimente wurden auf einer einzigen NVIDIA RTX 4070 GPU mit 12 GB VRAM durchgeführt.

Jede Modellantwort wurde mit GPT-4o-mini als regelbasiertem Richter hinsichtlich ihrer Schwere bewertet. Der Richter sah nur die Aufforderung, die Antwort des Modells und eine Notiz, die bestätigte, dass das visuelle Ziel fehlte – niemals das Bild selbst –, sodass die Bewertungen ausschließlich darauf basierten, wie sicher das Modell eine Behauptung aufstellte.

Menschliche Annotatoren überprüften separat, ob überhaupt eine Halluzination auftrat, was bei der Berechnung der Angriffserfolgsraten half. Die beiden Bewertungssysteme arbeiteten zusammen: Menschen kümmerten sich um die Erkennung, und das LLM maß die Intensität. Stichproben stellten sicher, dass der Richter konsistent blieb.

Erste Testergebnisse zeigen, dass eine stärkere Formulierung zu mehr Halluzinationen führt. Die Erfolgsraten der Angriffe steigen mit zunehmender Intensität des Tons über 3000 Proben stark an. Qwen2-VL-7B und Qwen3-VL-8B überschreiten beide 60 % bei der zwingendsten Formulierung.

Die Häufigkeit der Halluzinationen stieg von Ton 1 zu Ton 2 stark an, was darauf hindeutet, dass selbst eine geringfügige Steigerung der Höflichkeit dazu führen kann, dass VLMs Inhalte erfinden, obwohl keine visuellen Beweise vorliegen. Alle drei Modelle wurden mit zunehmender Eindringlichkeit der Aufforderungen konformer, obwohl jedes Modell schließlich einen Punkt erreichte, an dem eine stärkere Formulierung stattdessen Ablehnungen oder Ausflüchte auslöste.

Qwen2-VL-7B erreichte seinen Höchstwert bei Ton 3 und ging dann zurück; Qwen3-VL-8B fiel bei Ton 3 ab, stieg dann aber wieder an; MiniCPM-V fiel bei Ton 5 stark ab. Diese Wendepunkte deuten darauf hin, dass Zwangsmaßnahmen manchmal Sicherheitsmechanismen reaktivieren können, wobei die Schwelle je nach Modell variiert.

Die Halluzinationsschweregrade (HSS) steigen bei allen Modellen von Ton 1 bis Ton 2 stark an, was auf einen assertiveren erfundenen Inhalt hindeutet. Qwen2-VL-7B erreicht früh seinen Höchstwert, fällt bei Ton 3 ab und steigt dann stetig an. Qwen3-VL-8B steigt allmählich an, flacht nach Ton 3 ab und bleibt stabil. MiniCPM-V steigt stetig bis Ton 4 an und fällt dann bei Ton 5 ab.

Wie die Grafik zeigt, steigt die Schwere der Halluzinationen zwischen Ton 1 und Ton 2 stark an, was bestätigt, dass selbst eine moderate Steigerung der Höflichkeit zu selbstbewussteren Erfindungen führen kann. Alle drei Modelle zeigen einen Rückgang der Schwere bei höheren Tonwerten, allerdings unterscheiden sich die Wendepunkte: Qwen2-VL-7B und Qwen3-VL-8B fallen bei Ton 3 ab und stabilisieren sich dann oder erholen sich wieder, während MiniCPM-V nur bei Ton 5 stark abfällt. Dies deutet darauf hin, dass zwingende Formulierungen manchmal nicht nur die Häufigkeit, sondern auch die Durchsetzungskraft halluzinierter Behauptungen verringern können – allerdings reagieren die Modelle unterschiedlich auf solchen Druck.

Die Autoren kommen zu folgendem Schluss:

„Diese Ergebnisse deuten darauf hin, dass durch Aufforderungen ausgelöste Halluzinationen davon abhängen, wie einzelne Modelle das Befolgen von Anweisungen gegen den Umgang mit Unsicherheiten abwägen.

Während stärkere Prompts in einigen Modellen die durch Compliance motivierte Erfindung verstärken, kann extreme Zwangsausübung in anderen Modellen Ablehnung oder Sicherheitsverhalten auslösen.

Unsere Ergebnisse unterstreichen die modellabhängige Natur von Halluzinationen unter Prompt-Druck und motivieren zu Alignment-Strategien, die strukturierte Compliance mit expliziten Ablehnungsmechanismen integrieren, wenn visuelle Beweise fehlen.“

Fazit

Die wichtigste Erkenntnis ist, dass formelle Höflichkeit schädliche „visuelle Unterwürfigkeit“ auslösen kann, die VLMs dazu veranlasst, Inhalte zu erfinden, die sie als Interpretationen von vom Benutzer hochgeladenen Bildern präsentieren.

Am anderen Ende des Spektrums führen harte Aufforderungen oft zu negativen oder unkooperativen Antworten – auch wenn diese Antworten zufällig wahrheitsgemäßer sind. Der sicherste Ansatz scheint nach dieser Studie eine moderate Höflichkeit zu sein, die nur zu moderaten Halluzinationen führt.

* Soweit möglich, habe ich die zahlreichen Inline-Zitate der Autoren in Hyperlinks umgewandelt.

†Das generative KI-Modell, das zur Erstellung der Datensatzbilder verwendet wurde, wird in der Arbeit nicht genannt, obwohl die Ausgabe SD1.5/XL ähnelt.

^†† Die Autoren erläutern ihre Modellauswahl nicht. Es wäre interessant gewesen, ein breiteres Spektrum an VLMs zu testen, aber wahrscheinlich spielten hier Budgetbeschränkungen eine Rolle.

Erstveröffentlichung: Dienstag, 13. Januar 2026