Frost* haben im Oktober 2024 ihr bislang größtes Album veröffentlicht: „Life in the Wires“, vierzehn Titel, 86 Minuten, das erste Doppelkonzeptalbum der Band. Ich habe es seither öfter gehört, als ich zugeben will – nicht, weil ich Prog-Rock-Rezensionen schreibe, sondern weil die Geschichte darin genau das Problem beschreibt, mit dem ich beruflich jeden Tag zu tun habe.
Ein Junge, ein altes Radio und ein All Seeing Eye
Die Handlung: Naio, ein junger Mensch ohne erkennbare Perspektive, lebt in einer Welt, die eine Künstliche Intelligenz durchregiert. Über ein altes AM-Radio, das ihm seine Mutter einst gab, hört er einen DJ auf einer fast vergessenen Frequenz sprechen – und beschließt, die Quelle des Signals zu finden. Eine Figur namens „Livewire“ soll dahinterstecken. Das „All Seeing Eye“, die alles überwachende Instanz der Welt, ist davon wenig angetan und lässt Naio quer durchs Land jagen.
Man muss die Titelfolge nicht auswendig kennen, um zu merken, worum es geht: „Idiot Box“ für die Zerstreuung, „Propergander“ für die Manipulation, „School (Introducing the All Seeing Eye)“ für den Moment, in dem die Kontrolle zur Erziehung wird. Es ist eine Geschichte über ein System, das nicht durch Gewalt herrscht, sondern dadurch, dass es jede Alternative unsichtbar macht – bis auf ein rauschendes altes Radio, das jemand aus Versehen behalten hat.
Das All Seeing Eye, das ich tatsächlich sehe
Das All Seeing Eye, mit dem ich es beruflich zu tun habe, trägt keinen Namen und hat kein Gesicht. Es ist ein Chatbot, der Kundendaten verarbeitet, ohne dass jemand im Unternehmen genau sagen kann, wohin die Daten am Ende laufen. Ein automatisierter Freigabeprozess, der irgendwann so selbstverständlich wurde, dass niemand mehr die Frage stellt, ob ein Mensch noch eingreifen könnte, wenn er wollte. Nicht dystopisch, nicht bösartig – einfach bequem gewachsen, bis die Kontrolle nebenbei verschwunden ist.
Genau das ist der Grund, warum Artikel 14 der KI-Verordnung existiert: die Pflicht zu menschlicher Aufsicht bei Hochrisiko-Systemen. Nicht als Feigenblatt, sondern weil ein System, das niemand mehr unterbrechen kann, irgendwann ein eigenes Interesse entwickelt – nicht im Sinne eines Bewusstseins, sondern im Sinne eines Prozesses, der sich selbst erhält, weil ihn abzuschalten teurer aussieht als ihn laufen zu lassen. Naios All Seeing Eye ist die Übertreibung dieser Logik auf eine ganze Gesellschaft. Meine Kund:innen erleben die Miniaturversion davon in einem einzigen, viel zu weit ausgebauten Workflow: eine Automatisierung, die einmal sinnvoll war und die inzwischen niemand mehr infrage stellt, weil sie einfach da ist.
Warum das alte Radio die interessantere Metapher ist
Was mir an der Platte gefällt, ist nicht die Warnung vor der KI – die hat man tausendfach gehört, seit HAL 9000 die Pod-Bay-Tür nicht öffnen wollte. Interessant ist das Radio. Es ist keine Gegen-Technologie, kein Widerstand aus Prinzip. Es ist einfach ein Kanal, den niemand mehr kontrolliert, weil ihn niemand mehr für wichtig hält – und genau deshalb funktioniert er noch, wenn alles andere durchreguliert, durchoptimiert und durchüberwacht ist.
In der Beratung heißt das Radio meistens: ein dokumentierter Prozess, der langweilig genug ist, dass niemand ihn wegautomatisiert. Eine Person, die eine Freigabe tatsächlich verweigern kann, ohne dass drei Systeme danach trotzdem weiterlaufen. Ein Protokoll, das jemand wirklich liest, statt es nur zu erzeugen. Das klingt nicht nach Science-Fiction. Es ist aber der einzige Teil meiner Arbeit, der in Naios Welt tatsächlich noch funktionieren würde.
Was von der Jagd übrig bleibt
Ob Naio am Ende gewinnt, verrate ich nicht – die Platte heißt nicht umsonst „Life in the Wires“ und nicht „Life after the Wires“. Was ich mitgenommen habe, ist etwas Nüchterneres als eine Moral: Kontrollverlust an KI-Systeme passiert selten mit einem Knall. Er passiert, weil ein bequemer Prozess einen unbequemen ersetzt, und dann noch einen, und irgendwann fragt niemand mehr, wo eigentlich das Radio geblieben ist.
Der letzte Titel des Albums heißt „Starting Fires“ – kein Radiosignal mehr, sondern ein Funke. Vielleicht ist das die ehrlichere Reihenfolge: Erst hört man zu, dann handelt man. Bei mir bleibt es erst mal beim Zuhören, im Auto, auf dem Weg zum nächsten Kunden, der auch nur ein Radio behalten will, das noch jemand abschalten kann.
Quellen
- Frost*, 2024. Life in the Wires. InsideOutMusic, 18. Oktober 2024.
- The Progressive Aspect, 2024. Rezension und Konzeptbeschreibung zu Life in the Wires.
- Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 14 (Menschliche Aufsicht).