KI-Detektoren erkennen maschinell geschriebene Texte nicht zuverlässig. Sie schätzen, wie vorhersehbar ein Text ist – und schlagen deshalb überdurchschnittlich oft bei Menschen an, die einfach schreiben. OpenAI hat sein eigenes Werkzeug nach sechs Monaten abgeschaltet, weil es zu ungenau war. Für Unternehmen heißt das: Ein Detektorergebnis trägt keine Entscheidung.
Was ein Detektor eigentlich misst
Ein KI-Detektor liest keinen Sinn. Er misst, wie erwartbar die Wortfolge ist – in der Fachsprache Perplexität. Ein Sprachmodell wählt bei jedem Schritt das wahrscheinlichste nächste Wort; der entstehende Text ist deshalb glatter und weniger überraschend als menschliches Schreiben.
Der Detektor dreht diese Logik um: Je vorhersehbarer ein Text, desto eher hält er ihn für maschinell.
Das ist der ganze Trick – und zugleich der Konstruktionsfehler. Denn Vorhersehbarkeit ist kein Merkmal von Maschinen. Sie ist auch ein Merkmal von Menschen, die in einer Fremdsprache schreiben, die knapp formulieren müssen oder die einem festen Textmuster folgen.
Die Zahlen, die man kennen sollte
OpenAI hat sein eigenes Werkzeug beerdigt. Der im Januar 2023 vorgestellte AI Text Classifier erkannte nur 26 Prozent der tatsächlich maschinell geschriebenen Texte – und stufte gleichzeitig 9 Prozent der menschlichen Texte fälschlich als KI ein. Am 20. Juli 2023 nahm OpenAI ihn wegen „geringer Treffergenauigkeit“ vom Netz.
Die wichtigste Studie kommt aus Stanford. Weixin Liang und Kollegen prüften sieben handelsübliche Detektoren gegen zwei Textsammlungen: Aufsätze US-amerikanischer Achtklässler und TOEFL-Essays von Menschen, deren Muttersprache nicht Englisch ist. Bei den Achtklässlern lagen die Detektoren nahezu fehlerfrei. Bei den TOEFL-Essays wurde mehr als die Hälfte fälschlich als KI-generiert eingestuft (Liang u. a. 2023).
Die Essays, die alle Detektoren einhellig für maschinell hielten, hatten eines gemeinsam: eine besonders niedrige Perplexität. Bestraft wurde also nicht Betrug, sondern ein begrenzter Wortschatz.
Die Anbieterzahlen und die unabhängigen Zahlen gehen auseinander. Turnitin nennt 98 Prozent Genauigkeit und unter 1 Prozent Falschmeldungen – gemessen an eigenen, kuratierten Testdaten. Unabhängige Untersuchungen kommen bei schwierigen Fällen auf 5 bis 12 Prozent. Schwierige Fälle sind: Texte in einer Fremdsprache, stark überarbeitete Entwürfe, technische Fachprosa.
Warum das für Ihr Unternehmen zählt
Rechnen Sie eine Falschmeldungsquote von fünf Prozent auf Ihren Alltag hoch. Bei 200 eingereichten Texten im Jahr – Bewerbungen, Berichte, Beiträge externer Autoren – sind das zehn Menschen, denen Sie zu Unrecht Täuschung unterstellen.
Der Schaden ist dabei einseitig verteilt. Wer tatsächlich ein Sprachmodell benutzt hat, überarbeitet den Text zwei Minuten lang und rutscht durch. Wer nichts getan hat, kann seine Unschuld nicht beweisen: Es gibt keinen Gegenbeweis zu „klingt vorhersehbar“.
Hinzu kommt die Richtung des Fehlers. Betroffen sind überproportional Menschen, die nicht in ihrer Muttersprache schreiben. Ein Detektor als Filter im Bewerbungsverfahren ist damit nicht nur unzuverlässig, sondern ein arbeitsrechtliches Risiko.
Was sich ab dem 2. August 2026 ändert
Die europäische KI-Verordnung geht das Problem von der anderen Seite an. Statt Texte nachträglich zu untersuchen, verpflichtet sie die Anbieter, ihre Ausgaben von vornherein maschinenlesbar zu kennzeichnen.
Ab dem 2. August 2026 gilt diese Pflicht für Anbieter generativer KI-Systeme in der EU. Umgesetzt wird sie über zwei Verfahren, die sich ergänzen:
- C2PA schreibt Herkunftsangaben kryptografisch gesichert in die Metadaten einer Datei.
- SynthID legt ein unsichtbares Wasserzeichen in das Material selbst, das auch einen Screenshot überlebt.
Google hat nach eigenen Angaben über 100 Milliarden Bilder mit SynthID markiert; OpenAI, Nvidia und ElevenLabs setzen dieselbe Technik ein. Bußgelder bei Verstößen: bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes.
Der Unterschied ist grundsätzlich. Ein Detektor rät anhand von Textmerkmalen. Eine Kennzeichnung weiß es, weil sie beim Erzeugen gesetzt wurde. Für Bilder, Audio und Video funktioniert das schon heute gut. Für reinen Text bleibt es schwierig – ein Wasserzeichen im Fließtext überlebt kein Kopieren und Einfügen.
Was Sie stattdessen tun können
- Verwenden Sie kein Detektorergebnis als Beweis. Als Anlass für ein Gespräch taugt es, als Grundlage einer Entscheidung nicht.
- Fragen Sie nach dem Entstehungsweg, nicht nach dem Ergebnis. Zwischenstände, Quellen, Notizen – wer einen Text wirklich geschrieben hat, kann darüber Auskunft geben.
- Regeln Sie den Einsatz, statt ihn zu verbieten. Ein Verbot erzeugt Verschleierung. Eine Regel wie „KI darf beim Entwurf helfen, die Verantwortung für Fakten bleibt bei Ihnen“ ist prüfbar.
- Achten Sie ab August 2026 auf die Herkunftsangabe. Bei Bildern und Audio ist C2PA-Metadaten oder ein SynthID-Wasserzeichen das belastbarere Signal.
- Schreiben Sie in Verträge, was gilt. Für externe Autoren und Agenturen ist die Kennzeichnungspflicht ohnehin bald Rechtslage.
Cheat Sheet: Wie belastbar ist welches Signal?
| Signal | Was es aussagt | Belastbar? |
|---|---|---|
| Detektor-Prozentwert bei Text | Wie vorhersehbar der Text ist | ✘ nein |
| Detektor bei Fremdsprachentext | Vor allem den begrenzten Wortschatz | ✘ nein, systematisch verzerrt |
| C2PA-Metadaten | Womit die Datei erzeugt wurde | ✔ ja, solange die Metadaten unangetastet sind |
| SynthID-Wasserzeichen | Ob das Material aus einem markierten Modell stammt | ✔ ja, bei Bild, Audio, Video |
| Wasserzeichen in reinem Text | wenig – überlebt kein Kopieren | ✘ nein |
| Entwürfe, Notizen, Quellen | Wie der Text entstanden ist | ✔ ja, das stärkste Signal |
Und ein Problem bleibt, das kein Detektor und keine Kennzeichnung löst: ob im Text steht, was stimmt. Dazu im Lexikon: Halluzination.