Es ging nie um die Tür

Ein antiker Automat, ein Orakel mit Hebel und eine Sekretärin, die 1966 lieber allein mit einem Chatbot sprach, obwohl sie genau wusste, wie er funktioniert. Warum Durchschauen den Effekt nicht beendet.

Ein Priester zündet ein Feuer an. Die Luft in einem Hohlraum unter dem Altar wird warm und dehnt sich; sie drückt Wasser aus einem Gefäß in ein zweites; das zweite wird schwer und sinkt; ein Seil läuft über eine Rolle, und die Tempeltür geht auf. Ganz von allein. Erlischt das Feuer, kühlt die Luft ab, saugt das Wasser zurück, das Gefäß steigt, die Tür fällt zu.

Sehr hübsch. Und vollständig erklärbar. Da steckt kein Gott drin, da steckt Wärmelehre drin, und die ist an dieser Stelle nicht einmal schwierig.

Gebaut hat das ein Mann namens Heron, in Alexandria, vermutlich im ersten Jahrhundert. Er hat noch anderes gebaut, und dazu kommen wir gleich.

Vorher eine Unannehmlichkeit. Von Herons Maschinen ist keine erhalten. Keine einzige. Was wir haben, sind Texte: die Pneumatika, die Automata, teils Notizen, teils Vorlesungskram, überliefert in Handschriften, die tausend Jahre jünger sind als der Mann. Sogar die Nummer der Tür wackelt; die einen zählen sie als Automat 37, die anderen als 73. Und was die Besucher damals empfanden, als sich die Tür vor ihnen öffnete, weiß kein Mensch. Es hat keiner aufgeschrieben. Der Satz, der Eindruck müsse ungeheuer gewesen sein, ist keine Überlieferung, sondern unsere Vermutung, die wir aus dem Bauplan gezogen haben, weil sie so gut klingt.

Ich glaube also an einen Apparat, den ich nie habe laufen sehen, weil jemand ihn aufgeschrieben hat. Merken Sie sich das bitte. Wir kommen darauf zurück.

Zuerst die harmlose Maschine, denn sie ist die interessantere.

Der Gläubige tritt an einen Kasten, wirft eine Münze in einen Schlitz, das Gewicht der Münze drückt auf einen Hebel, ein Ventil öffnet sich, und unten kommt eine abgemessene Portion Weihwasser heraus. Das ist, soweit man weiß, der älteste Verkaufsautomat der Welt. Die Priesterschaft hatte den Ausschank automatisiert, lange bevor irgendwer ein Wort dafür hatte.

Und jetzt sehen Sie sich diesen Kasten genau an: Er belügt niemanden. Er kündigt an, was er tut, und tut es. Er funktioniert auch für den, der die Konstruktion kennt. Er funktioniert nachts. Er ersetzt einen Menschen, der sonst Wasser ausgeschenkt hätte, und der hätte auch nichts anderes getan.

Merken Sie sich auch das. Man wird uns später erzählen wollen, bei Heron sei alles Schwindel gewesen.

Nun die Orakel-Maschine.

Der Besucher zahlt, stellt eine Frage, auf die es ein Ja oder ein Nein gibt, und dreht an einem Rad an der Seite des Kastens. Fangen die Metallvögel obendrauf an zu singen, heißt das Ja. Schweigen sie, heißt das Nein. Im Inneren laufen Zahnräder, Seile und Riemen; ein Becher an einer Tonpfeife gleitet ins Wasser, und daher kommt das Gezwitscher.

So weit die Mechanik. Nun das Detail, an dem die ganze schöne Erzählung von der genialen Antike hängenbleibt: Der Kasten hat einen versteckten Zugriff. Ein Priester kann den Ablauf blockieren und die Vögel zum Schweigen bringen.

Das ist etwas anderes, als es zunächst aussieht. Die Maschine ist nicht gebaut, um selbständig zu antworten. Sie ist gebaut, um selbständig zu wirken und dabei steuerbar zu bleiben. Beides zusammen ist erst das Gerät. Wer nur den Automatenteil bewundert, bewundert die Hälfte.

Was Heron den Priestern verkauft hat, war demnach keine Mechanik. Es war ein Gefälle: der Unterschied zwischen denen, die den Mechanismus kennen, und denen, die ihn erleben. Wasser, Tür und Vogelgezwitscher sind Zubehör. Der Ertrag der Anlage ist dieses Gefälle.

Damit hätten wir einen Satz, den man auf jedem Podium unterbringen kann, und ich merke, dass er mir zu gut gefällt.

Halten wir ihn erst einmal fest und sehen zu, was er aushält. Zwei Kästen, ein Erbauer, wahrscheinlich dasselbe Jahrzehnt. Der eine verkauft eine Leistung. Der andere verkauft eine Zuschreibung: Er schafft keinen Ersatz für einen Menschen, sondern einen zusätzlichen Adressaten, den es vorher nicht gab. Etwas, das man fragen kann.

Übersetzen Sie das. Ein Programm, das Ihnen eine Tabelle sortiert, ist der Weihwasserautomat. Ein Programm, dem jemand abends erzählt, wie sein Tag war, ist Maschine 37. Es ist dieselbe Ware. Es hängt nicht am Apparat, sondern an der Anordnung, in die man ihn stellt.

Hier meldet sich der Herr im Publikum, der grundsätzlich recht hat, und er hat auch diesmal etwas Richtiges zu sagen. Er sagt: Ihr Vergleich hinkt, und zwar auf beiden Beinen.

Erstens sitzt heute niemand am Hebel. Bei einem großen Sprachmodell kann auch der Entwickler bei einem einzelnen Satz nicht angeben, warum genau dieser kam. Herons Priester wusste alles über seinen Kasten. Ein Labor weiß über sein Modell weniger als Heron über den seinen.

Zweitens, und da wird der Herr unangenehm: Das Gerede von der undurchschaubaren Maschine ist selbst ein Verkaufsargument. Ein Produkt, dessen Hersteller erklärt, er verstehe es nicht ganz, wirkt größer als eines mit Bedienungsanleitung. Wer das Rätselhafte betont, baut sich seinen Tempel selber. Es hat sich also nichts geändert seit Alexandria, außer der Bilanzsumme.

Der zweite Punkt stimmt, und ich nehme dafür eine Formulierung von oben zurück. Von einem Gefälle des Wissens zu reden, als wäre das eine feststehende Größe, ist zu bequem. Wissen wird hier nicht bloß ungleich verteilt, es wird bewirtschaftet.

Der erste Punkt aber führt weiter, als der Herr im Publikum ahnt. Denn wenn niemand mehr am Hebel sitzt, dann müsste Aufklärung über den Mechanismus die Wirkung beenden. Auf dieser Annahme ruht unser gesamter Vorrat an Gegenmitteln: Kennzeichnungen, Systemkarten, der Hinweis, dass hier eine Maschine antwortet. Man erkläre den Apparat, und der Zauber sei hin.

Das ist eine Behauptung über Menschen, und Behauptungen über Menschen kann man prüfen. Es gibt einen Fall.

1966 stellte Joseph Weizenbaum am MIT ein Programm vor, das ELIZA hieß; ein Skript dazu, DOCTOR genannt, spielte einen Psychotherapeuten der Rogers-Schule. Die Technik war zum Lachen einfach. Das Programm erkannte Schlüsselwörter und drehte den Satz des Benutzers zu einer Rückfrage um. Es verstand nichts. Es hatte auch nichts zu verstehen.

Weizenbaums Sekretärin kannte das Programm. Sie hatte ihm bei der Arbeit daran zugesehen. Sie wusste, dass da ein Rechner Textbausteine umsortierte. Nach kurzer Zeit am Terminal bat sie ihren Chef, den Raum zu verlassen, weil sie ungestört mit dem Programm sprechen wollte.

Sie war nicht dumm. Sie war nicht hereingelegt worden. Sie war die zweitbestinformierte Person in diesem Raum, und es fehlte ihr keine Auskunft, die man ihr hätte geben können. Sämtliche Kennzeichnungen, die wir heute für Gegenmittel halten, hatte sie bereits. Sie bat trotzdem um die Tür.

Damit fällt das Gebäude, das ich in den ersten Abschnitten aufgebaut habe. Das Gefälle war nie ein Wissensgefälle. Der Unterschied zwischen Eingeweihten und Staunenden ist nicht die Ursache der Wirkung; er ist bestenfalls ihre historische Verpackung.

Und nun sehe ich auch den Tempel anders. Ich habe die ganze Zeit unterstellt, die Leute in Alexandria hätten geglaubt, ein Gott mache die Tür auf. Belegt ist das nirgends. Alexandria war eine Stadt voller Ingenieure; dass in Tempeln Apparate arbeiteten, dürfte kein gut gehütetes Geheimnis gewesen sein. Möglich, dass viele es ahnten. Möglich, dass sie es wussten und hineingingen wie Weizenbaums Sekretärin, die ja auch alles wusste.

Dann bewirtschaftete der Priester am Hebel keine Dummheit. Er bewirtschaftete eine Bereitschaft. Und das ist ein wesentlich haltbareres Geschäft.

Ein Umstand ist mir erst hier wichtig geworden: Heron hat die Tricks aufgeschrieben.

Die Pneumatika und die Automata sind keine Zauberbücher, sondern Bauanleitungen, mit Ventilen, Leitungen, Kammern, in einer Genauigkeit, die den Nachbau erlaubt. Der Ingenieur veröffentlichte, was der Priester verbarg. Beides lief gleichzeitig, in derselben Stadt, und das eine hat das andere nicht erledigt.

Das ist die genaueste Parallele, die dieser ganze Vergleich hergibt, und sie schmeichelt uns nicht. Wir sind nicht die ahnungslosen Tempelbesucher. Wir sind Leute, bei denen die Bauanleitung im Regal steht. Modellkarten, Papers, Auswertungen, dazu die Kennzeichnungspflichten, die die europäische KI-Verordnung für den Umgang mit KI-Systemen vorsieht. Nichts davon ist verborgen. Es wird nur nicht gelesen.

Und wenn wir es ausnahmsweise doch lesen wollen, lassen wir es uns zusammenfassen. Raten Sie, von wem.

Der Priester ist nicht verschwunden, und er ist auch nicht durch ein Labor ersetzt worden. Sein Platz ist unbesetzt. Wir haben uns nur angewöhnt, in die leere Stelle hineinzureden.

Ich hatte Sie gebeten, sich etwas zu merken: dass ich an eine Maschine glaube, die ich nie habe laufen sehen, weil jemand sie aufgeschrieben hat.

Das ist der harmlose Fall. Da stimmt die Beschreibung wenigstens.

Die Tür aufzumachen war ohnehin der leichteste Teil der Anlage; das hatte Heron an einem Nachmittag gelöst. Länger gehalten hat die andere Erfindung, die keinen Namen bekam und in keinem Verzeichnis steht: die Anordnung, in der ein Mensch einen Mechanismus durchschauen kann und trotzdem hindurchgeht.

Bei der Tür ging es nie um die Tür. Sie ging auf, das war Physik. Danach musste man selber gehen.