Halluzination (KI)

Halluzination bezeichnet im Kontext der künstlichen Intelligenz und insbesondere großer Sprachmodelle das Phänomen, dass ein generatives Modell Inhalte mit hoher rhetorischer Sicherheit produziert, die entweder faktisch unzutreffend sind oder nicht durch die bereitgestellten Eingabequellen gestützt werden.

Der Begriff wurde zunächst in der Computer-Vision-Forschung der späten 2010er Jahre für Object Hallucinations in Bildbeschreibungssystemen verwendet (Rohrbach u. a. 2018, Object Hallucination in Image Captioning, EMNLP 2018). Seit etwa 2022 hat er sich – verstärkt durch die öffentliche Wahrnehmung von ChatGPT – als zentrale Bezeichnung für Faktizitäts- und Treuefehler in Sprachmodellen etabliert.

Halluzination ist kein behebbarer Implementierungsfehler, sondern eine strukturelle Konsequenz der Trainingsverfahren großer Sprachmodelle, die auf Sprachverteilungen, nicht auf Faktizitätsbedingungen optimiert werden. Sie kann durch verschiedene Maßnahmen – Retrieval-Augmented Generation, Reinforcement Learning from Human Feedback, Werkzeuggebrauch, Abstention, Verifikation – gemildert, aber nicht eliminiert werden.

Zusammenfassung

Im Standardgebrauch der KI-Forschung umfasst der Halluzinations-Begriff zwei unterscheidbare Phänomene. Erstens die faktische Halluzination – die Erzeugung von Aussagen, die in der Welt nicht zutreffen (erfundene Personen, falsche Daten, nicht existierende wissenschaftliche Publikationen, fingierte juristische Präzedenzen).

Zweitens die Faithfulness-Halluzination (auch Treuefehler) – die Erzeugung von Aussagen, die nicht durch den bereitgestellten Eingabekontext gestützt sind, auch wenn sie in der Welt zutreffen könnten.

Diese Unterscheidung ist wichtig: Im Faktencheck-Kontext relevant ist primär die erste Bedeutung, in Retrieval-Augmented Generation-Systemen und beim Zusammenfassen primär die zweite.

Strukturell sind Halluzinationen eine Folge dessen, dass Sprachmodelle das nächste Token nach einer gelernten Wahrscheinlichkeitsverteilung vorhersagen, ohne dass die Verteilung in irgendeiner Form auf Faktizität konditioniert wäre – das Modell produziert das, was statistisch plausibel klingt, nicht das, was wahr ist.

Empirische Untersuchungen (Lin, Hilton, Evans 2022, TruthfulQA) haben gezeigt, dass größere Modelle nicht automatisch weniger halluzinieren – bei systematischen Falschannahmen können sie sogar zuverlässiger falsche Antworten produzieren als kleinere.

Die seit 2023 etablierten Minderungsstrategien umfassen Retrieval-Augmented Generation, Werkzeuggebrauch (Code-Ausführung, Datenbankzugriff, Web-Suche), präferenzbasiertes Training auf Wahrhaftigkeit (RLHF, Constitutional AI), explizite Abstention-Mechanismen (das Modell wird trainiert, „Ich weiß es nicht” zu antworten) sowie post-hoc-Verifikation durch separate Modelle.

Begriffsgeschichte

Vorgeschichte in Computer Vision (2017–2018)

Der Begriff Hallucination in seiner heutigen technischen Bedeutung wurde zunächst in der Bildbeschreibungs-Forschung verwendet.

Anna Rohrbach, Lisa Anne Hendricks, Kaylee Burns, Trevor Darrell und Kate Saenko publizierten 2018 Object Hallucination in Image Captioning (EMNLP 2018). Sie dokumentierten systematisch, dass Bildbeschreibungs-Modelle regelmäßig Objekte erwähnen, die im Bild nicht sichtbar sind – Objekte, die im Trainingskorpus häufig mit dem tatsächlich sichtbaren Inhalt kookkurrieren.

Die Autoren prägten den Begriff Object Hallucination und führten metrische Verfahren zu seiner Quantifizierung ein.

Neuronale Sprachverarbeitung (2019–2021)

In der neuronalen Sprachverarbeitung wurde der Begriff zunehmend für ähnliche Phänomene in der maschinellen Übersetzung, der Textzusammenfassung und der dialogbasierten Antwortgenerierung verwendet. Lee, Yoon, Dingliwal, Mayhew, Roth (2018, Hallucinations in Neural Machine Translation) und Maynez, Narayan, Bohnet, McDonald (2020, On Faithfulness and Factuality in Abstractive Summarization, ACL) etablierten die Begriffsverwendung im NLP-Bereich.

Maynez und Kollegen führten zugleich die heute übliche Unterscheidung zwischen intrinsischen Halluzinationen (Aussagen widersprechen dem Eingabekontext) und extrinsischen Halluzinationen (Aussagen sind nicht im Eingabekontext enthalten, ohne ihm direkt zu widersprechen) ein.

LLM-Wende und öffentliche Diskussion (2022–2023)

Mit der Veröffentlichung von ChatGPT am 30. November 2022 und nachfolgenden Frontier-Modellen rückte das Phänomen in die öffentliche Wahrnehmung.

Eine Reihe öffentlich gewordener Fehlfunktionen – fingierte Gerichtsurteile, die ein US-Anwalt 2023 vor Gericht vorlegte (Mata v. Avianca); erfundene Quellen in akademischen Hausarbeiten; fingierte biografische Behauptungen über lebende Personen – verschoben den Halluzinations-Begriff vom Fachterminus in die allgemeine Mediendiskussion.

Bereits Anfang 2022 hatten Stephanie Lin, Jacob Hilton und Owain Evans (Oxford / OpenAI, ACL 2022, TruthfulQA: Measuring How Models Mimic Human Falsehoods) ein verwandtes Phänomen dokumentiert. Sprachmodelle reproduzieren insbesondere bei Fragen, die menschlichen Fehlannahmen folgen (medizinische Mythen, urbane Legenden, falsche historische Behauptungen), zuverlässig die falschen, populären Antworten.

Dieses Verhalten nimmt mit der Modellgröße eher zu als ab (Inverse Scaling-Effekt).

Systematische Taxonomien und Survey-Arbeiten (2023–2024)

Mit der praktischen Bedeutung wuchs auch die Forschungsliteratur. Ji, Lee, Frieske, Yu, Su, Xu, Ishii, Bang, Madotto, Fung (2023, Survey of Hallucination in Natural Language Generation, ACM Computing Surveys) lieferten eine erste umfassende Survey-Arbeit.

Huang, Yu, Ma, Zhong, Feng, Wang, Chen, Yin, Xiong, Liu (2023, A Survey on Hallucination in Large Language Models) und Zhang u. a. (2023, Siren’s Song in the AI Ocean) etablierten ähnliche Übersichtsarbeiten für den LLM-Kontext.

Taxonomie

Faktische vs. Faithfulness-Halluzination

Die zentrale Unterscheidung der heutigen Forschungsliteratur:

Faktische Halluzination (auch Factuality Hallucination) bezeichnet Aussagen, die in der externen Welt nicht zutreffen – unabhängig vom Eingabekontext. Beispiele: erfundene wissenschaftliche Publikationen, falsche biografische Daten, fingierte Zitate.

Faithfulness-Halluzination (auch Treuefehler) bezeichnet Aussagen, die nicht durch den bereitgestellten Eingabekontext gestützt sind – unabhängig davon, ob sie in der Welt zutreffen oder nicht. Sie ist die zentrale Fehlerklasse in RAG-Systemen und beim Zusammenfassen.

Intrinsische vs. extrinsische Halluzination

Eine ergänzende Unterscheidung aus der Summarization-Forschung (Maynez u. a. 2020):

Intrinsische Halluzination: Die Ausgabe widerspricht direkt der Eingabe (Kontext, Quelldokument).

Extrinsische Halluzination: Die Ausgabe enthält Informationen, die nicht in der Eingabe erscheinen – sie können dort fehlen, weil das Modell sie hinzufügt; sie können faktisch korrekt sein, sind aber nicht durch die Eingabe gestützt.

Closed-Domain vs. Open-Domain

Closed-Domain (auch Grounded): Halluzinationen relativ zu einem definierten Korpus (etwa in RAG-Anwendungen).

Open-Domain: Halluzinationen relativ zu offenem Weltwissen ohne spezifischen Eingabekontext.

Halluzinations-Typen nach Inhalt

In der Anwendungsliteratur werden weiterhin spezifische Typen unterschieden: erfundene Quellen und Zitate, falsche Zahlen oder Statistiken, fingierte Personen oder Ereignisse, erfundene Code-Funktionen (besonders relevant bei Code-Assistenten), erfundene Rechtsentscheide (relevant in juristischen Anwendungen), erfundene medizinische Behauptungen (relevant in Gesundheitsanwendungen).

Ursachen

Strukturelle Trainingsgrundlage

Die Grundursache der Halluzination liegt in der Konstruktion großer Sprachmodelle selbst: Sie werden auf der Aufgabe trainiert, die Wahrscheinlichkeitsverteilung über das nächste Token nach einer Sequenz zu lernen. Diese Verteilung ist auf sprachliche Plausibilität, nicht auf Faktizität konditioniert.

Aussagen, die statistisch wahrscheinlich klingen, können faktisch falsch sein – das Modell hat keine direkte Information darüber, was in der Welt der Fall ist, sondern nur darüber, was Menschen darüber sagen.

Verteilung der Trainingsdaten

Trainingsdaten enthalten ihrerseits viele faktisch unzutreffende Inhalte – historische Irrtümer, populäre Mythen, kommerziell motivierte Falschbehauptungen, satirische Inhalte. Das Modell lernt diese Inhalte als legitime sprachliche Muster und kann sie unter geeigneten Bedingungen reproduzieren.

Long-Tail-Wissen

Faktisches Wissen ist in den Trainingsdaten ungleichmäßig vertreten: Häufige Fakten (Hauptstädte, prominente Personen, Standardereignisse) sind redundant präsent; seltene Fakten (Nebenfiguren, lokale Ereignisse, technische Details) sind nur sporadisch vertreten.

Bei seltenen Fakten neigen Modelle dazu, plausibel klingende, aber unzutreffende Inhalte zu generieren – sie haben keine zuverlässige Repräsentation des Sachverhalts gelernt (Mallen u. a. 2023, When Not to Trust Language Models).

Optimierungsdruck durch RLHF

Eine in den 2020er Jahren wachsend diskutierte Ursache: Reinforcement Learning from Human Feedback (RLHF) kann das Modell zu konfidenter, hilfreicher Antwortformulierung trainieren. Das verstärkt die Tendenz, auch bei Wissenslücken plausibel klingende Antworten zu produzieren statt sich zu Wissensgrenzen zu bekennen.

Statistische Unausweichlichkeit und Evaluationsanreize (Kalai u. a. 2025/2026)

Eine zunächst 2025 als Preprint veröffentlichte und 2026 in Nature erschienene Arbeit von Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala und Edwin Zhang liefert eine lerntheoretische Begründung dafür, dass Halluzinationen strukturell nicht vollständig vermeidbar sind.

Bereits bei fehlerfreien Trainingsdaten erzeugt das Next-Token-Pretraining einen statistischen Druck zur Halluzination, da selten auftretende Einzelfakten (etwa Geburtsdaten wenig bekannter Personen) im Unterschied zu regelhaften Mustern (Grammatik, Rechtschreibung) nicht zuverlässig gelernt werden können.

Die Autor:innen argumentieren zusätzlich, dass die Persistenz von Halluzinationen wesentlich durch fehlgeleitete Evaluationsanreize verstärkt wird. Dominante binäre Genauigkeitsmetriken belohnen selbstbewusstes Raten gegenüber dem Eingeständnis von Unsicherheit, wodurch Modelle systematisch dazu trainiert werden, auch bei fehlendem Wissen plausible Antworten zu erraten statt zu abstinieren.

Als Abhilfe schlagen die Autor:innen vor, bestehende Standard-Benchmarks statt separater Halluzinations-Tests direkt um explizite Straf- und Unsicherheits-Regeln zu ergänzen.

Tokenisierung und numerische Inkonsistenzen

Halluzinationen treten besonders häufig bei Zahlen, Daten, Eigennamen und seltenen Subwort-Kombinationen auf – Bereiche, in denen die Tokenisierung inkonsistente oder schlecht trainierte Repräsentationen erzeugt.

Bewertung

Benchmarks

Eine Reihe von Benchmarks adressiert die Halluzinations-Messung:

TruthfulQA (Lin u. a. ACL 2022): 817 Fragen aus 38 Kategorien, die menschliche Fehlannahmen aufgreifen.

HaluEval (Li u. a. 2023): 35.000 Beispiele aus Frage-Antwort, Dialog und Summarization.

FactScore (Min u. a. EMNLP 2023): Atomare Faktenzerlegung biografischer Texte, Verifikation gegen Wikipedia.

HalluLens: Multimodaler Halluzinations-Benchmark. [TODO: Zitat „Bouchard u. a. 2024” trotz gezielter Websuche nicht auffindbar – ein Benchmark dieses Namens existiert real, Autoren Bang et al., Jahr 2025, Titel „HalluLens: LLM Hallucination Benchmark”, arXiv 2504.17550. Das Werk erscheint jedoch unter anderen Autoren, anderem Jahr und ohne bestätigten multimodalen Fokus. Vor Freigabe klären, welches Werk gemeint ist, oder Zeile entfernen]

SimpleQA (OpenAI 2024): Kurze, präzise Faktenfragen mit verifizierbaren Antworten.

Automatische Detektionsverfahren

Methoden zur automatischen Halluzinations-Erkennung umfassen:

LLM-as-Judge: Ein zweites Sprachmodell bewertet Ausgaben auf Faithfulness; Verfahren wie RAGAS (Es u. a. EACL 2024) und G-Eval (Liu u. a. 2023) operationalisieren dies.

Self-Consistency-Verfahren: Mehrere Modellantworten auf dieselbe Frage werden auf Konsistenz geprüft; SelfCheckGPT (Manakul, Liusie, Gales 2023, EMNLP 2023) ist ein bekanntes Beispiel.

Probabilistische Indikatoren: Modelle, deren Vorhersage-Verteilung breit oder unsicher ist, halluzinieren mit höherer Wahrscheinlichkeit. Methoden wie Semantic Entropy (Farquhar, Kossen, Kuhn, Gal 2024, Nature) nutzen diese Eigenschaft systematisch.

Minderungsstrategien

Retrieval-Augmented Generation (RAG)

Die zentrale Antwortstrategie auf Halluzinationen in wissensintensiven Anwendungen. Externe Dokumente werden zur Laufzeit abgerufen und mit der Anfrage zusammen an das Modell übergeben; Faktizität kann auf die abgerufenen Quellen zurückgeführt werden. RAG reduziert Halluzinationen substantiell, eliminiert sie aber nicht – das Modell kann auch innerhalb des bereitgestellten Kontexts Faithfulness-Halluzinationen erzeugen.

Werkzeuggebrauch (Tool Use)

Anbindung an deterministische Werkzeuge – Taschenrechner, Code-Interpreter, Web-Suche, Datenbanken – verlagert faktintensive Operationen vom Modell an Systeme, die nicht halluzinieren. Diese Strategie ist besonders wirkungsvoll bei mathematischen, programmatischen und faktenbasierten Aufgaben.

Präferenz-Lernen auf Wahrhaftigkeit

RLHF, DPO und Constitutional AI können explizit auf Wahrhaftigkeit konditioniert werden – Annotator:innen oder Konstitutionsprinzipien bevorzugen ehrliche Antworten, einschließlich expliziter Wissenslücken-Eingeständnisse. Anthropics Constitutional AI enthält explizit Prinzipien wie „Be honest and acknowledge uncertainty”; Lin u. a. (2022) etablierten TruthfulQA als Trainings- und Bewertungsziel.

Abstention und Kalibrierung

Modelle können trainiert oder geprompt werden, „Ich weiß es nicht” zu sagen, wenn ihre interne Konfidenz niedrig ist. Selective Prediction (Kamath u. a. 2020) und nachfolgende Arbeiten operationalisieren diese Strategie. Die Schwierigkeit liegt in der korrekten Kalibrierung – Modelle sind typischerweise überkonfident (Guo u. a. 2017, On Calibration of Modern Neural Networks, ICML).

Verifikation und Post-Hoc-Korrektur

Nach der Generierung können separate Verifikationsmodelle oder -systeme die Ausgabe prüfen. Chain-of-Verification (Dhuliawala u. a. 2023) und Critique-and-Revise-Ansätze führen diese Verifikation im Generierungsprozess selbst durch.

Hochrisikobereiche

In mehreren Anwendungsbereichen sind Halluzinationen substantiell folgenreich:

Juristik: Erfundene Gerichtsurteile und Präzedenzfälle. Der Fall Mata v. Avianca (US-Bundesgericht, Juni 2023) wurde paradigmatisch, als ein Anwalt fingierte ChatGPT-generierte Präzedenzen einreichte und mit Sanktionen belegt wurde.

Medizin: Erfundene Studien, falsche Dosierungsangaben, fingierte Therapien. Klinische Anwendungen erfordern besonders rigorose Verifikationsschritte.

Wissenschaft: Erfundene Publikationen, falsche Zitate, fingierte Autorenschaften. In akademischen Hausarbeiten und auch in publizierten Arbeiten wurden vereinzelt LLM-generierte Halluzinationen dokumentiert.

Journalismus: Erfundene Quellen, falsche Zitate, fingierte Ereignisse. Mehrere Verlage haben nach öffentlich gewordenen Halluzinations-Vorfällen Redaktions-Richtlinien für KI-Einsatz erlassen.

Code: Erfundene Bibliotheksfunktionen und API-Methoden. Sicherheitsforschung hat 2023–2024 dokumentiert, dass solche halluzinierten Paketnamen als Angriffsfläche genutzt werden können (Slopsquatting).

Begriffliche Kritik

Der Begriff Halluzination ist selbst Gegenstand Kritik:

Anthropomorphisierung: Bender, Gebru, McMillan-Major und Shmitchell (2021, On the Dangers of Stochastic Parrots) und andere argumentieren, dass die Bezeichnung Halluzination eine kognitive Fähigkeit suggeriert (das Modell „sieht etwas, das nicht da ist”), die LLMs nicht zukommt. Sie generieren statistisch plausible Token-Folgen, ohne über etwas wie Wahrnehmung zu verfügen.

Bullshit-These: Hicks, Humphries und Slater (2024, ChatGPT is Bullshit, Ethics and Information Technology) argumentieren in Anlehnung an Harry Frankfurts Konzept des Bullshit (1986/2005), dass LLMs nicht im engeren Sinne lügen oder halluzinieren – beide Begriffe setzen eine Beziehung zur Wahrheit voraus. Stattdessen produzieren sie Aussagen, die ohne Rücksicht auf ihren Wahrheitswert formuliert sind.

Die Autoren schlagen vor, statt Halluzination den Begriff Bullshit zu verwenden.

Stigmatisierung psychischer Phänomene: Vereinzelt wird kritisiert, dass die Übertragung des psychiatrischen Begriffs Halluzination auf technische Artefakte psychische Erfahrungen verharmlosen oder stigmatisieren könnte.

Trotz dieser Kritik bleibt der Begriff in der Forschungspraxis dominant – teilweise mangels eines etablierten Alternativbegriffs, teilweise wegen seiner Anschlussfähigkeit an die öffentliche Diskussion.

Stand 2025/2026

Halluzinationen bleiben im Verlauf der Jahre 2024 bis 2026 eine der praktisch zentralen Limitationen großer Sprachmodelle. Die Praxis hat sich teilweise stabilisiert: RAG, Werkzeuggebrauch und präferenzbasiertes Training gehören zur Standardausrüstung produktiver LLM-Anwendungen.

Die seit Ende 2024 etablierten Reasoning Models (o1/o3, DeepSeek R1, Claude mit Extended Thinking) zeigen empirisch reduzierte Halluzinationsraten auf vielen Benchmarks, insbesondere in mathematischen und logischen Domänen, ohne das Problem grundsätzlich zu lösen.

OpenAI berichtete für GPT-5 (7. August 2025) einen nach eigenen Angaben um etwa 45 Prozent gegenüber GPT-4o und um etwa 80 Prozent gegenüber dem Reasoning-Modell o3 reduzierten Anteil faktischer Fehler in offenen Antworten (herstellerseitige Angabe ohne unabhängige Verifikation); Google DeepMind gab für Gemini 3 (18. November 2025) einen Wert von 72,1 Prozent auf dem Faktizitäts-Benchmark SimpleQA Verified an.

Auf der Bewertungsseite haben SimpleQA (OpenAI 2024) und Semantic Entropy (Farquhar u. a., Nature 2024) die Diskussion vorangebracht.

Eine wichtige offene Frage betrifft das Verhältnis zwischen Halluzinations-Reduktion und Hilfreichkeit: Modelle, die häufig „Ich weiß es nicht” sagen, sind weniger nützlich; Modelle, die selten „Ich weiß es nicht” sagen, halluzinieren mehr. Die optimale Balance ist anwendungsabhängig und Gegenstand laufender Forschung.

Quellenangaben

Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
Dhuliawala, Shehzaad u. a., 2024. Chain-of-Verification Reduces Hallucination in Large Language Models. In: Findings of the Association for Computational Linguistics: ACL 2024. arXiv: 2309.11495.
Dhuliawala, Shehzaad / Komeili, Mojtaba / Xu, Jing / Raileanu, Roberta u. a., 2023. Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv: 2309.11495.
Farquhar, Sebastian / Kossen, Jannik / Kuhn, Lorenz / Gal, Yarin, 2024. Detecting Hallucinations in Large Language Models Using Semantic Entropy. In: Nature 630 (8017), S. 625–630. DOI: 10.1038/s41586-024-07421-0.
Frankfurt, Harry G., 2005. On Bullshit.
Google DeepMind, 2025. Gemini 3: Introducing the Latest Gemini AI Model From Google. Google Blog, 18. November 2025. https://blog.google/products-and-platforms/products/gemini/gemini-3/
Guo, Chuan / Pleiss, Geoff / Sun, Yu / Weinberger, Kilian Q., 2017. On Calibration of Modern Neural Networks. In: Proceedings of the 34th International Conference on Machine Learning (ICML 2017), S. 1321–1330.
Hicks, Michael Townsen / Humphries, James / Slater, Joe, 2024. ChatGPT is Bullshit. In: Ethics and Information Technology 26 (2), Artikel 38. DOI: 10.1007/s10676-024-09775-5.
Huang, Lei u. a., 2023. A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. arXiv: 2311.05232.
Ji, Ziwei u. a., 2023. Survey of Hallucination in Natural Language Generation. In: ACM Computing Surveys 55 (12), Artikel 248. DOI: 10.1145/3571730.
Kalai, Adam Tauman / Nachum, Ofir / Vempala, Santosh S. / Zhang, Edwin, 2026. Evaluating Large Language Models for Accuracy Incentivizes Hallucinations. In: Nature 653 (8116), S. 1047–1051. DOI: 10.1038/s41586-026-10549-w. (Preprint: arXiv: 2509.04664, September 2025.)
Kamath, Amita / Jia, Robin / Liang, Percy, 2020. Selective Question Answering under Domain Shift. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), S. 5684–5696. DOI: 10.18653/v1/2020.acl-main.503.
Li, Junyi u. a., 2023. HaluEval: A Large-Scale Hallucination Evaluation Benchmark for Large Language Models. In: Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023), S. 6449–6464. DOI: 10.18653/v1/2023.emnlp-main.397.
Lin, Stephanie / Hilton, Jacob / Evans, Owain, 2022. TruthfulQA: Measuring How Models Mimic Human Falsehoods. In: Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (ACL 2022), S. 3214–3252. DOI: 10.18653/v1/2022.acl-long.229.
Liu, Yang / Iter, Dan / Xu, Yichong / Wang, Shuohang / Xu, Ruochen / Zhu, Chenguang, 2023. G-Eval: NLG Evaluation using GPT-4 with Better Human Alignment. In: Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023). arXiv: 2303.16634.
Mallen, Alex u. a., 2023. When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parametric Memories. In: Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (ACL 2023), S. 9802–9822. DOI: 10.18653/v1/2023.acl-long.546.
Manakul, Potsawee / Liusie, Adian / Gales, Mark J. F., 2023. SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. In: Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023), S. 9004–9017. DOI: 10.18653/v1/2023.emnlp-main.557.
Maynez, Joshua / Narayan, Shashi / Bohnet, Bernd / McDonald, Ryan, 2020. On Faithfulness and Factuality in Abstractive Summarization. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), S. 1906–1919. DOI: 10.18653/v1/2020.acl-main.173.
Min, Sewon u. a., 2023. FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation. In: Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023), S. 12076–12100. DOI: 10.18653/v1/2023.emnlp-main.741.
OpenAI, 2025. Introducing GPT-5. openai.com/index/introducing-gpt-5/, August 2025.
Rohrbach, Anna / Hendricks, Lisa Anne / Burns, Kaylee / Darrell, Trevor / Saenko, Kate, 2018. Object Hallucination in Image Captioning. In: Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing (EMNLP 2018), S. 4035–4045. DOI: 10.18653/v1/D18-1437.
Zhang, Yue u. a., 2023. Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models. arXiv: 2309.01219.

← Zurück zur Lexikon-Übersicht