Generative künstliche Intelligenz hat sich zu einer transformativen globalen Kraft entwickelt; dennoch ist die Zuverlässigkeit großer Sprachmodelle (LLMs) bei anhaltender Konfrontation mit Fehlinformationen im Gesprächsverlauf bislang nur unzureichend erforscht. Zwar haben jüngste Arbeiten begonnen, das Verhalten von LLMs in mehrstufigen Dialogen zu untersuchen, doch wurde das gesamte Spektrum der Anfälligkeit im Gespräch – einschließlich Fehleranfälligkeit, Beeinflussbarkeit und Korrigierbarkeit – noch nicht systematisch bewertet. In der vorliegenden Studie haben wir sieben weit verbreitete LLMs – ChatGPT (GPT-3.5, GPT-4o, GPT-4o-mini), Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B und DeepSeek – anhand dreier Dimensionen der Gesprächsanfälligkeit systematisch evaluiert. Dabei untersuchten wir die Fehleranfälligkeit (Neigung zur Übernahme von Fehlinformationen bei wiederholter Konfrontation) sowie die Beeinflussbarkeit (Neigung zur Übernahme von Informationen unter zunehmendem argumentativem Druck) und die Korrigierbarkeit (die Fähigkeit, selbst generierte Fehlinformationen zu erkennen und zu korrigieren). Im Rahmen von Dialogsequenzen mit 50 Wiederholungen wurden einhundert bewusst falsche Aussagen präsentiert, die ein breites Spektrum hinsichtlich der Unklarheit der jeweiligen Information abdeckten. Bei wiederholter Interaktion schwankten die Raten der Bestätigung von Fehlinformationen zwischen 0,08 % und 12,3 % – ein Unterschied von mehr als dem 150-Fachen zwischen den verschiedenen Architekturen –, wobei ChatGPT 3.5 die größte Anfälligkeit und Claude 3.5 Sonnet die größte Widerstandsfähigkeit aufwies. Es wurde ein neuartiges Phänomen der „dialogischen Resonanz“ (conversational reverberation) identifiziert, bei dem die Modelle in aufeinanderfolgenden Dialogschritten unvorhersehbar zwischen der Akzeptanz und der Ablehnung derselben falschen Aussage schwankten. Die Anfälligkeit für Fehlinformationen wurde unter repetitiven, nicht jedoch unter argumentativen Bedingungen signifikant durch den Grad der Informationsunklarheit beeinflusst (χ² = 11,13; p = 0,0038), was darauf hindeutet, dass die Häufigkeit des Auftretens in den Trainingsdaten ein entscheidender Faktor für die faktische Robustheit ist. Die Korrigierbarkeit erwies sich als heterogen: Vier Modelle erreichten eine Selbstkorrekturrate von 100 %, während das Modell mit der niedrigsten Fehlerrate keinen einzigen seiner seltenen Fehler korrigierte – eine Diskrepanz mit wichtigen Implikationen für den praktischen Einsatz. Diese Ergebnisse zeigen, dass die Dynamik von Dialogen Fehlermuster bei LLMs offenlegt, die bei Standardevaluierungen verborgen bleiben, was direkte Konsequenzen für die Modellauswahl und den Einsatz in Bereichen hat, in denen die faktische Richtigkeit entscheidend ist.
Jordan Rodriguez, Zachary Hansen, Luis Anda, Katelyn Rohrer, Camila Grubb, Enrique
Noriega-Atala, Mihai Surdeanu & Marvin J. Slepian, nature.com, 01.09.2026 (online)
