KI-Detektoren (auch GPT-Detektoren oder Texterkennungstools) sind Programme, die für einen vorgelegten Text schätzen, ob ihn ein Mensch oder ein Sprachmodell geschrieben hat. Sie werden vor allem in Schulen, Hochschulen und Redaktionen eingesetzt. Die Ergebnisse sind Wahrscheinlichkeitsschätzungen, keine Beweise.
In einfachen Worten
Ein KI-Detektor soll anzeigen, ob ein Text von einer künstlichen Intelligenz geschrieben wurde. Das gelingt nur unsicher. Manche KI-Texte erkennt er nicht, und manche echten Texte hält er für KI-Texte. Besonders oft trifft das Menschen, die Englisch nicht als Muttersprache schreiben. Wer mit so einem Programm über Schuld oder Note entscheidet, kann also Falsches behaupten.
Zusammenfassung
Die hier gelesenen Studien und Herstellerangaben stimmen in einem Punkt überein: Detektoren sind für Entscheidungen über einzelne Personen nicht zuverlässig genug.
Eine Testreihe mit 14 Werkzeugen fand sie weder genau noch verlässlich (Weber-Wulff u. a. 2023). Eine zweite Studie zeigte, dass sie Texte von Nicht-Muttersprachler:innen auffällig oft als KI-Text einstufen (Liang u. a. 2023). Der Anbieter OpenAI nahm sein eigenes Werkzeug 2023 wegen geringer Genauigkeit vom Netz (OpenAI 2023).
Wie sie arbeiten
Technisch sind Detektoren Klassifikatoren: OpenAI beschreibt seinen als Sprachmodell, das auf Paaren von Menschentexten und KI-Texten zum selben Thema feinjustiert wurde (OpenAI 2023). Wie stark die Einstufung mit der Perplexität eines Textes zusammenhängt, also mit der Vorhersagbarkeit seiner Wortfolgen, zeigt die Studie von Liang u. a. weiter unten.
Befunde
Testreihe mit 14 Werkzeugen. Weber-Wulff und sieben Mitautor:innen prüften 12 öffentlich verfügbare Detektoren sowie Turnitin und PlagiarismCheck. Ihr Ergebnis: Die Werkzeuge sind weder genau noch zuverlässig. Sie stufen Texte tendenziell eher als menschlich ein, statt KI-Texte zu erkennen. Gezieltes Umschreiben, das die Studie als Verschleierung (Obfuscation) bezeichnet, verschlechterte die Leistung deutlich (Weber-Wulff u. a. 2023).
Verzerrung gegen Nicht-Muttersprachler:innen. Liang und Mitautor:innen testeten sieben verbreitete Detektoren. Bei 91 TOEFL-Aufsätzen wurden im Schnitt 61,22 Prozent fälschlich als KI-Text eingestuft. Bei 88 Aufsätzen von US-Achtklässler:innen war die Erkennung nahezu fehlerfrei. 89 der 91 TOEFL-Aufsätze (97,8 Prozent) wurden von mindestens einem Detektor als KI-Text markiert (Liang u. a. 2023).
Die Autor:innen führen das auf niedrigere Perplexität bei eingeschränktem Wortschatz zurück. Ließ man ein Sprachmodell die TOEFL-Texte sprachlich anreichern, sank die Fehlerrate auf 11,77 Prozent (Liang u. a. 2023). Das heißt zugleich: Ein einfacher Umschreibeschritt umgeht die Erkennung.
Das Werkzeug des Modellanbieters. OpenAI erkannte nach eigener Angabe 26 Prozent der KI-Texte eines englischsprachigen Testsatzes und stufte 9 Prozent der Menschentexte fälschlich als KI-Text ein.
Das Unternehmen warnte, das Werkzeug solle nicht das wichtigste Entscheidungsinstrument sein, und nannte kurze Texte unter 1.000 Zeichen, andere Sprachen als Englisch und nachträgliche Bearbeitung als Schwachstellen. Am 20. Juli 2023 wurde es wegen geringer Genauigkeit abgeschaltet (OpenAI 2023).
Folgen für die Praxis
Wer einen Detektor als Beleg verwendet, riskiert, Menschen fälschlich eines Täuschungsversuchs zu bezichtigen. Liang u. a. warnen ausdrücklich davor, die Werkzeuge in Bewertungs- und Bildungskontexten einzusetzen (Liang u. a. 2023). Als Gegenstück zum nachträglichen Raten gelten technische Markierungen an der Quelle, etwa Wasserzeichen.
Rechtlich verlangt die KI-Verordnung von Anbietern bestimmter Systeme, synthetische Ausgaben maschinenlesbar zu kennzeichnen. Das regeln die Transparenzpflichten; ein nachträglich ratender Detektor im Sinne dieses Artikels ist das nicht.
Grenzen der Belege
Die Weber-Wulff-Studie lag nur als Zusammenfassung vor, die Liang-Studie als Preprint. Beide stammen aus dem Jahr 2023. Die getesteten Werkzeuge und die verwendeten Modelle sind seither weiterentwickelt worden. Ob neuere Detektoren besser abschneiden, belegt keine der gelesenen Quellen. Die Studien betreffen englische Texte; zu deutschen Texten liegen hier keine Befunde vor.
Verwandte Begriffe
- C2PA – Standard für Herkunftsangaben in Mediendateien
- Deepfake – Fälschungen, bei denen die Herkunftsfrage besonders drängt
- KI-Kompetenz – Ausweg aus der Detektorfrage: Beschäftigte, die Ausgaben prüfen können
Quellenangaben
- Liang, Weixin / Yuksekgonul, Mert / Mao, Yining / Wu, Eric / Zou, James, 2023. GPT detectors are biased against non-native English writers. Preprint, arXiv:2304.02819; Fassung für den ICLR-2023-Workshop RTML. https://arxiv.org/abs/2304.02819, abgerufen am 3. November 2026.
- OpenAI, 2023. New AI classifier for indicating AI-written text. 31. Januar 2023, mit Nachtrag vom 20. Juli 2023. https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/, abgerufen am 3. November 2026.
- Weber-Wulff, Debora / Anohina-Naumeca, Alla / Bjelobaba, Sonja / Foltýnek, Tomáš / Guerrero-Dib, Jean / Popoola, Olumide / Šigut, Petr / Waddington, Lorna, 2023. Testing of detection tools for AI-generated text. In: International Journal for Educational Integrity, 2023. DOI: 10.1007/s40979-023-00146-z. Preprint: https://arxiv.org/abs/2306.15666, abgerufen am 3. November 2026 (Zusammenfassung gelesen).