Autonome Waffensysteme (englisch lethal autonomous weapon systems, LAWS) sind Waffen, die Ziele ohne menschliche Entscheidung im Einzelfall auswählen und bekämpfen können. Um ihr Verbot wird seit über einem Jahrzehnt völkerrechtlich gestritten, bislang ohne bindendes Ergebnis.
Zusammenfassung
Der Streit dreht sich weniger um Technik als um eine Schwelle: Ab wann ist die menschliche Beteiligung an einer Tötungsentscheidung so gering, dass sie nicht mehr zählt? Der dafür geprägte Begriff heißt meaningful human control – bedeutsame menschliche Kontrolle.
Die Befürworter eines Verbots führen drei Gründe an: eine Verantwortungslücke, weil im Schadensfall niemand zurechenbar entschieden hat; die Gefahr eines Wettrüstens mit billigen, skalierbaren Systemen; und ein grundsätzliches Argument der Menschenwürde.
Die Gegenseite verweist auf mögliche Präzisionsgewinne und darauf, dass ein Verbot ohne Beteiligung der militärisch führenden Staaten wirkungslos bliebe. Genau diese Staaten blockieren bislang jede bindende Regelung.
Die KI-Verordnung der EU hilft hier nicht: Nach Artikel 2 Absatz 3 gilt sie nicht für Systeme, die ausschließlich militärischen, Verteidigungs- oder Zwecken der nationalen Sicherheit dienen.
Begriffsgeschichte
Zu den frühen Stimmen zählt der Physiker und Rüstungskontrollforscher Mark Gubrud, der schon in den 1990er Jahren vor einem Wettrüsten mit autonomen Systemen warnte – im selben Aufsatz, in dem er den Ausdruck artificial general intelligence prägte.
2013 gründete sich die Campaign to Stop Killer Robots, ein Bündnis von Nichtregierungsorganisationen unter Beteiligung von Human Rights Watch. Sie brachte das Thema aus der Fachdebatte in die politische Öffentlichkeit.
Im Mai 2014 befassten sich die Vertragsstaaten des UN-Waffenübereinkommens (CCW) erstmals förmlich mit dem Thema; zwei weitere informelle Expertentreffen folgten 2015 und 2016. Die Überprüfungskonferenz setzte Ende 2016 eine Regierungsexpertengruppe ein, die 2017 erstmals tagte. Sie ist bis heute das zentrale Verhandlungsforum – und hat bis heute keinen bindenden Text vorgelegt.
Am 28. Juli 2015 veröffentlichte das Future of Life Institute auf der IJCAI-Konferenz einen offenen Brief für ein Verbot offensiver autonomer Waffen, maßgeblich getragen von Stuart Russell und Toby Walsh. Bis Jahresende trug er über 22.000 Unterschriften, darunter mehr als 3.000 KI- und Robotikforschende (Future of Life Institute 2015).
2017 folgte mit Slaughterbots ein von Russell und dem Future of Life Institute veröffentlichtes Kurzvideo, das einen Angriff durch Schwärme billiger Kleindrohnen mit Gesichtserkennung durchspielt. Es wurde im November 2017 bei den CCW-Beratungen in Genf gezeigt.
Am 22. Dezember 2023 verabschiedete die UN-Generalversammlung mit Resolution 78/241 erstmals einen eigenen Beschluss zum Thema: 152 Staaten dafür, 4 dagegen, 11 Enthaltungen. Er verpflichtet zu nichts, verlagert die Debatte aber aus dem blockierten CCW-Rahmen in die Generalversammlung.
Methodische Grundlagen
Die Autonomiestufe. Entscheidend ist nicht, ob ein System sich selbst bewegt, sondern ob es die Zielauswahl selbst trifft. Automatische Abwehrsysteme gegen anfliegende Geschosse gelten überwiegend als unproblematisch, weil ihr Einsatzrahmen eng und vorab menschlich gesetzt ist.
Meaningful human control. Der zentrale Begriff der Verhandlungen. Er verlangt, dass die menschliche Beteiligung ausreicht, um Urteil, Verantwortung und Verhältnismäßigkeit zu sichern – bloße Anwesenheit im Entscheidungsweg genügt nicht. Damit ist er die militärische Zuspitzung dessen, was zivil menschliche Aufsicht heißt.
Die Verantwortungslücke. Wenn ein System eine Tötungsentscheidung trifft, die niemand vorab so getroffen hat, greift weder die Zurechnung zum Bedienenden noch die zum Hersteller sauber. Diese Lücke ist das rechtliche Kernargument der Verbotsbefürworter.
Prüfbarkeit im humanitären Völkerrecht. Jede Waffe muss Unterscheidung zwischen Kombattanten und Zivilpersonen sowie Verhältnismäßigkeit einhalten. Ob ein lernendes System diese Prüfungen zuverlässig leistet, ist offen – und im Einsatz kaum nachweisbar.
Anwendungsfelder
Loitering Munition. Über einem Gebiet kreisende Munition, die Ziele selbstständig sucht, gilt als der praktisch relevanteste Fall und ist in mehreren Konflikten eingesetzt worden.
Drohnenschwärme. Der in Slaughterbots durchgespielte Fall: viele billige Systeme mit gemeinsamer Zielsuche, deren Wirkung nicht in der Einzelwaffe liegt, sondern in der Menge.
Automatische Abwehrsysteme. Der etablierte Grenzfall – hohe Autonomie, aber eng gesetzter Einsatzrahmen und rein defensive Funktion.
Kontroversen und Kritik
Bleibt ein Verbot wirkungslos? Der stärkste Einwand gegen die Verbotsforderung ist nicht moralisch, sondern praktisch: Die Staaten mit den weitesten Programmen verhandeln nicht mit. Die Gegenposition verweist auf Chemiewaffen und Blendlaser, wo Ächtung auch ohne Vollständigkeit Wirkung entfaltete.
Definitionsstreit als Verzögerung. Seit über zehn Jahren wird um die Bestimmung des Gegenstands gestritten. Kritiker:innen halten dies für kein Erkenntnisproblem, sondern für ein Verhandlungsinstrument.
Sind Maschinen die besseren Kombattanten? Vertreter dieser These führen an, Systeme kennten weder Angst noch Rache. Dagegen steht, dass genau die Fähigkeiten fehlen, auf die es im humanitären Völkerrecht ankommt – Kontextverständnis und die Beurteilung von Absichten.
Menschenwürde. Ein Argument, das unabhängig von Trefferquoten gilt: Über Leben und Tod eines Menschen dürfe nicht ein Verfahren entscheiden, das ihn als Datenmuster behandelt. Es ist das am schwersten zu widerlegende und zugleich am schwersten zu operationalisierende.
Verwandte Begriffe
- Stuart Russell – prägende Stimme der Verbotsdebatte
- Human Compatible – sein Buch, das die Argumente ausführt
- EU AI Act – nimmt militärische Anwendungen ausdrücklich aus
- Biometrisches Fernidentifizierungssystem – zivile Entsprechung der Technik, auf der die Zielauswahl in den durchgespielten Szenarien beruht
Quellenangaben
- Future of Life Institute, 2015. Autonomous Weapons: An Open Letter from AI & Robotics Researchers. Veröffentlicht am 28. Juli 2015 auf der IJCAI 2015.
- Vereinte Nationen, Generalversammlung, 2023. Resolution 78/241: Lethal autonomous weapons systems. Verabschiedet am 22. Dezember 2023.
- Future of Life Institute / Russell, Stuart, 2017. Slaughterbots. Kurzfilm, gezeigt bei den CCW-Beratungen in Genf im November 2017.
- Internationales Komitee vom Roten Kreuz, 2018. The (im)possibility of meaningful human control for lethal autonomous weapon systems. ICRC Humanitarian Law & Policy Blog.