Halluzinieren war einmal ein Lob

Ein Fachbegriff aus der Bildverarbeitung wurde zur Diagnose der ganzen Branche. Was die Geschichte des Wortes „Halluzinieren“ über unsere Metaphern für Künstliche Intelligenz verrät.

Im Jahr 2000 legten zwei Informatiker in Pittsburgh eine Arbeit vor, in der sie beschrieben, wie man aus einem unscharfen Gesichtsfoto ein scharfes macht. Die Information für das scharfe Bild ist im unscharfen nicht enthalten; sie muss also von irgendwoher kommen. Sie kommt aus dem, was der Rechner über Gesichter im Allgemeinen gelernt hat. Er erfindet Pixel, die plausibel sind, und setzt sie ein.

Die beiden nannten das Verfahren „hallucinating faces“. Halluzinieren.

Es war ein Kompliment. Ein Fachbegriff für eine Fähigkeit, um die man sich bemühte, um die Wettbewerbe ausgeschrieben wurden, für die man Preise bekam. In der Bildverarbeitung heißt das bis heute so.

Dreiundzwanzig Jahre später ist dasselbe Wort die Leitkrankheit der Branche. Es erscheint in Vorstandsberichten, in Gesetzentwürfen, in Warnhinweisen unter Chatfenstern. Die Operation hat sich nicht geändert: Ein Apparat ergänzt Fehlendes durch Plausibles. Geändert hat sich, was wir davon halten.

Und jetzt sehen Sie sich das Wort noch einmal an. Es hat den Vorzeichenwechsel klaglos mitgemacht. Es hat sich nicht gewehrt, es hat nichts verraten, es steht heute im Diagnoseregister, als hätte es immer dort gestanden.

Man kann jetzt die Beschwerde vortragen, und sie wird oft vorgetragen. Sie geht so.

Wir sagen, die Maschine „lernt“. Sie lernt nicht, sie wird angepasst. Wir sagen, sie hat ein „Gedächtnis“. Sie hat einen Puffer. Wir sagen, sie „versteht“, sie „denkt“, sie „weiß“, sie „will“. Wir sagen „Training“, als säße da jemand im Trikot. Wir sagen „neuronales Netz“, und das Wort schleppt eine Gehirnzelle mit, die mit der Sache ungefähr so viel zu tun hat wie die Postkutsche mit der Briefmarke. Und dann wundern wir uns, dass die Leute glauben, in dem Ding sitze jemand.

Die Beschwerde ist berechtigt. Ich habe sie selbst mehrfach vorgetragen und dabei das angenehme Gefühl gehabt, auf der Seite der Genauigkeit zu stehen.

Nur hält sie nicht.

Denn dieselbe Beschwerde lässt sich gegen jede Wissenschaft erheben, die je etwas Neues benennen musste. Der Strom „fließt“, obwohl da nichts fließt. Das Gen ist ein „Code“, den niemand geschrieben hat. Das Atom hat eine „Hülle“, und die Erde hat ein „Feld“, auf dem nichts wächst. Es gibt kein Fachvokabular, das nicht aus zweiter Hand wäre. Wer eine unbildliche Sprache für neue Dinge verlangt, verlangt eine Sprache, die es nirgends gibt, und tut so, als sei „Gewichtsmatrix“ weniger geliehen als „Aufmerksamkeit“.

Womit wir beim Kern der Sache wären, und der ist unangenehmer, als die Beschwerde ahnt.

„Aufmerksamkeit“ ist nämlich kein Wort aus dem Feuilleton. Es ist das Fachwort. Es steht im Titel der Arbeit, mit der 2017 die heutige Architektur eingeführt wurde, und es bezeichnet dort eine Rechenoperation, die vollständig in Formeln steht: gewichtete Summen über Vektoren, die Gewichte aus Skalarprodukten. In der Mathematik dieser Operation kommt niemand vor, der aufmerkt. Es gibt kein Subjekt, keinen Fokus, keine Zuwendung. Es gibt eine Gewichtung.

Der Name aber bringt das alles mit. Und der Name ist es, der weiterreist: in die Zeitung, in den Bundestag, in den Kopf des Nutzers, der abends etwas eintippt.

Damit fällt die bequeme Erzählung. Wir haben es nicht mit einer sauberen Fachsprache zu tun, die in der Popularisierung verschmutzt wurde. Die Metapher saß am Anfang. Sie wurde von denen gewählt, die es genau wissen mussten, und sie wurde gewählt, weil sie half. Man muss ein neues Ding irgendwie rufen, sonst kann man nicht darüber reden, und man ruft es mit dem, was man hat.

Trotzdem stimmt etwas nicht mit dem Vergleich, und ich habe eine Weile gebraucht, um zu sehen, was.

Beim Strom wehrt sich der Gegenstand. Man sagt, er fließe, und das ist eine brauchbare Krücke, bis man das erste Mal misst. Dann stellt sich heraus, dass er in beide Richtungen kann, dass er sich nicht ansammelt wie Wasser in einer Senke, dass die Ladungsträger in Wirklichkeit ausgesprochen langsam unterwegs sind. Die Metapher bekommt Beulen. Sie bleibt im Gebrauch, aber jeder, der ernsthaft mit der Sache umgeht, weiß, wo sie aufhört.

Und nun nehmen Sie die Metapher „verstehen“ und prüfen Sie sie an der Sache.

Sie fragen das Modell etwas. Es antwortet. Sie fragen nach, ob es die Ironie bemerkt hat. Es sagt, ja, und erklärt sie Ihnen. Sie legen ihm eine Falle. Es geht nicht hinein, oder es geht hinein und entschuldigt sich hinterher, was noch schlimmer ist.

Die Metapher bekommt keine Beulen. Der Gegenstand kommt ihr entgegen.

Das ist, soweit ich sehe, das eigentlich Neue an dieser Klasse von Bildern: Sie sind gegen den Umgang mit der Sache immun. Wasser und Strom kann man auseinanderhalten, indem man beides anfasst. Verstehen und die Simulation von Verstehen kann man nicht auseinanderhalten, indem man mehr davon anfasst. Man bekommt dann nur mehr Anschauungsmaterial, und das Material passt.

Und damit es niemand für Parteinahme hält: Das Gegenbild ist genauso immun. Wer die Maschine einen „stochastischen Papagei“ nennt, wie es 2021 in einer der meistzitierten kritischen Arbeiten des Feldes geschah, hat ebenfalls ein Bild gewählt, das jeden Test übersteht. Sie suchen nach Nachgeplappertem, und Sie werden fündig, immer. Der Papagei ist so unwiderlegbar wie der Denker. Beide Lager reden in Bildern, die ihr Ergebnis schon enthalten, und beide halten das für Analyse.

Es gibt einen Satz, den man an dieser Stelle gern zitiert, weil er so schön aufräumt. Dijkstra schrieb 1984, die Frage, ob Maschinen denken können, sei ungefähr so erheblich wie die Frage, ob U-Boote schwimmen können.

Ein prächtiger Satz. Nur macht er im Deutschen nicht das, was er im Englischen macht.

Fragen Sie sich selbst, ganz ohne Wörterbuch: Schwimmt ein U-Boot? Ich vermute, Ihr Sprachgefühl sagt ja, ohne zu zögern. Das Boot schwimmt, das Fett schwimmt auf der Suppe, die Kerze schwimmt in der Schale. Im Englischen sagt man das nicht; ein Schiff „floats“, es „swims“ nicht. Im Russischen deckt ein einziges Verb beides ab, schwimmen und zu Schiff fahren.

Dijkstras Aphorismus ist also selbst ein Sprachbefund und kein Sachbefund. Er zeigt nicht, dass U-Boote nicht schwimmen. Er zeigt, dass das Englische an dieser Stelle eine Grenze zieht, die das Deutsche nicht zieht, und dass eine ganze philosophische Frage an dieser Grenze hängt.

Das ist tröstlich und heimtückisch zugleich. Tröstlich, weil ein Teil unserer Aufregung sich in Grammatik auflöst. Heimtückisch, weil man daraus die falsche Lehre ziehen kann, es sei ja alles nur Sprache. Ist es nicht. Wer den Kredit ablehnt, wer die Bewerbung aussortiert, wer die Diagnose stellt, das ist keine Frage der Wortwahl. Es ist nur so, dass wir über all das in Vokabeln verhandeln, die wir nicht geprüft haben.

Was folgt daraus? Nicht die Forderung nach besseren Metaphern. Bessere Metaphern gibt es nicht, es gibt nur andere, und die nächste Generation wird dieselbe Arbeit leisten wie diese.

Was fehlt, ist der Widerstand, den der Gegenstand von allein nicht leistet. Den muss man organisieren, und dafür braucht man kein besseres Bild, sondern eine Frage an das Bild.

Sie lautet: Was müsste ich beobachten, damit dieses Bild nicht stimmt?

Bei „Stromfluss“ lässt sich das beantworten, man geht ins Labor. Bei „halluziniert“ lässt es sich nicht beantworten; das Wort sagt nur, dass etwas herauskam, was nicht hätte herauskommen sollen, und schiebt die Ursache in ein Innenleben, das niemand aufmachen kann. Bei „Papagei“ lässt es sich nicht beantworten. Bei „versteht“ schon gar nicht.

Man darf Bekenntnisse haben, man sollte sie nur nicht für Befunde ausgeben und schon gar nicht in ein Gesetz schreiben.

Zurück nach Pittsburgh, zum Jahr 2000.

Die beiden Autoren brauchten ein Wort für eine Fähigkeit, und sie haben keinen Gedanken darauf verwendet, dass dieses Wort einmal eine Diagnose sein würde. Der Apparat hat seither nichts anderes getan als damals: Er ergänzt Fehlendes durch Plausibles. Wir haben unsere Meinung darüber geändert, ob wir das wollen, und dann haben wir der Maschine eine Vokabel umgehängt, die so aussieht, als sei die Änderung bei ihr eingetreten.

Das ist die Arbeit, die diese Bilder wirklich leisten. Sie beschreiben nicht den Apparat. Sie lagern unser Verhältnis zu ihm ein, und sie verschweigen dabei, wer es ausgehandelt hat.

Beim nächsten Bild, das Ihnen begegnet, fragen Sie also nur das eine: Was müsste ich sehen, damit es nicht stimmt? Fällt Ihnen darauf nichts ein, dann haben Sie kein Modell vor sich.

Dann haben Sie eine Vokabel.