Open Washing bezeichnet die Praxis, ein KI-Modell als offen oder Open Source zu bewerben, obwohl die dafür maßgeblichen Angaben – Trainingsdaten, Trainingscode, Methodik – tatsächlich zurückgehalten werden. Der Begriff überträgt das Muster des Greenwashing auf die Offenheitsdebatte um Sprachmodelle und wurde 2024 in der Forschung zur EU-KI-Verordnung systematisch untersucht.
In einfachen Worten
Manche Firmen sagen: Unser KI-Modell ist offen. Jeder darf es nutzen. Aber sie zeigen nur das fertige Modell. Sie sagen nicht, mit welchen Texten oder Bildern es gelernt hat. Und sie zeigen nicht, wie das Training genau lief. So kann niemand von außen prüfen, was in dem Modell steckt. Das nennt man Open Washing – wie beim Greenwashing, bei dem sich Firmen umweltfreundlicher darstellen, als sie sind.
Zusammenfassung
Offenheit bei KI-Modellen ist keine binäre Eigenschaft, sondern eine Frage des Umfangs: Manche Anbieter veröffentlichen nur die fertigen Modellgewichte (Open Weights), andere zusätzlich Trainingscode, wieder andere auch die vollständigen Trainingsdaten und eine detaillierte Methodenbeschreibung. Je nachdem, wie viel davon fehlt, sinkt die Möglichkeit, das Modell unabhängig zu prüfen, zu reproduzieren oder auf Verzerrungen und Risiken zu untersuchen.
Open Washing bezeichnet den Fall, in dem ein Anbieter die Bezeichnung „offen” oder „Open Source” für ein Modell beansprucht, dessen tatsächliche Offenheit deutlich hinter dieser Zuschreibung zurückbleibt – meist, weil nur die Gewichte, nicht aber Daten oder Trainingsmethodik zugänglich sind.
Andreas Liesenfeld und Mark Dingemanse dokumentierten das Muster 2024 systematisch im Kontext der EU-KI-Verordnung, deren Ausnahmeregeln für Open-Source-Modelle einen wirtschaftlichen Anreiz zur Selbstbezeichnung als offen schaffen.
Begriffsgeschichte
Der Begriff Washing zur Bezeichnung irreführender Selbstdarstellung stammt aus dem Greenwashing, das seit den 1980er Jahren Unternehmen beschreibt, die sich als umweltfreundlich darstellen, ohne die zugrunde liegenden Praktiken entsprechend zu ändern. Die Übertragung auf KI-Offenheit folgt derselben Logik: eine attraktive Selbstbezeichnung ohne die dafür eigentlich nötige Substanz.
Mit dem Aufstieg großer Sprachmodelle ab 2020 wurde „Open Source” zu einem wirksamen Marketingbegriff. Modelle wie Metas Llama-Reihe bezeichneten sich selbst als offen, obwohl weder die vollständigen Trainingsdaten noch der Trainingscode veröffentlicht wurden – nur die fertigen Gewichte unter einer Lizenz mit Nutzungseinschränkungen, die von der Open Source Initiative (OSI) nicht als Open-Source-konform anerkannt wird.
Die OSI veröffentlichte 2024 mit der Open Source AI Definition 1.0 erstmals einen verbindlichen Maßstab, der Trainingsdaten-Angaben, Code und Gewichte gemeinsam verlangt – ein Versuch, dem Begriff wieder eine überprüfbare Bedeutung zu geben.
Liesenfeld und Dingemanse untersuchten 2024 systematisch, wie sich als offen bezeichnete Modelle im Rahmen der neuen EU-KI-Verordnung tatsächlich verhalten, und prägten dabei den Begriff Open Washing für die dabei beobachtete Diskrepanz zwischen Selbstbezeichnung und tatsächlicher Transparenz.
Der von Stanford betriebene Foundation Model Transparency Index misst seit 2023 systematisch, wie viele Transparenzkriterien einzelne Anbieter tatsächlich erfüllen, und findet dabei regelmäßig Lücken auch bei Anbietern, die sich selbst als offen bezeichnen.
Methodische Grundlagen
Abstufungen der Offenheit. Prüfbar sind mehrere getrennte Ebenen: die Modellgewichte selbst, der Trainingscode, die Trainingsdaten oder zumindest eine detaillierte Beschreibung ihrer Herkunft, sowie die Lizenzbedingungen für Nutzung und Weiterverbreitung. Open Washing entsteht typischerweise dort, wo nur die erste Ebene erfüllt ist, die Bezeichnung aber alle vier suggeriert.
Die OSI-Definition als Prüfmaßstab. Die Open Source AI Definition der Open Source Initiative verlangt für die Bezeichnung „Open Source AI” ausreichende Informationen über die Trainingsdaten, um ein im Wesentlichen gleichwertiges System nachzubauen, zusätzlich zu Code und Gewichten. Nach diesem Maßstab erfüllen die meisten als „offen” vermarkteten Sprachmodelle die Bedingung nicht.
Regulatorischer Anreiz. Die EU-KI-Verordnung sieht für als Open Source qualifizierte KI-Systeme reduzierte Pflichten vor. Das schafft einen wirtschaftlichen Anreiz, die Bezeichnung zu beanspruchen, unabhängig davon, ob die Offenheit tatsächlich den Prüfkriterien der Verordnung entspricht – ein Mechanismus, den Liesenfeld und Dingemanse als Ursache eines Teils der beobachteten Diskrepanzen identifizierten.
Transparenz-Indizes als Gegeninstrument. Werkzeuge wie der Foundation Model Transparency Index versuchen, die Behauptung von der tatsächlichen Offenheit zu trennen, indem sie standardisiert prüfen, welche konkreten Angaben ein Anbieter tatsächlich veröffentlicht, statt sich auf Eigenbezeichnungen zu verlassen.
Anwendungsfelder
Regulatorische Einordnung. Aufsichtsbehörden und Forschende nutzen den Begriff, um zu prüfen, ob ein als offen deklariertes Modell tatsächlich die regulatorischen Ausnahmen für Open-Source-Systeme verdient oder nur deren Bezeichnung beansprucht.
Beschaffungsentscheidungen. Unternehmen, die ein Modell aus Gründen der Prüfbarkeit oder Anpassbarkeit auswählen, müssen zwischen echter und behaupteter Offenheit unterscheiden, um die tatsächlich benötigten Freiheiten zu erhalten.
Wissenschaftliche Reproduzierbarkeit. Forschende, die Ergebnisse eines Modells unabhängig nachvollziehen wollen, stoßen bei Open-Washing-Fällen typischerweise an dieselbe Grenze: Ohne Trainingsdaten oder -code lässt sich weder das Training wiederholen noch die Herkunft beobachteten Verhaltens vollständig zurückverfolgen.
Kontroversen und Kritik
Uneinheitliche Maßstäbe. Es gibt keinen allgemein anerkannten Schwellenwert, ab dem ein Modell als „offen genug” gilt – die OSI-Definition ist ein Vorschlag unter mehreren, und Anbieter können mit guten Gründen abweichende Kriterien für angemessen halten.
Rechtfertigung durch Sicherheitsbedenken. Manche Anbieter begründen das Zurückhalten von Trainingsdaten nicht mit Marketing, sondern mit Sicherheits- oder Datenschutzerwägungen – etwa um Missbrauch durch Nachbildung riskanter Fähigkeiten zu erschweren. Kritiker halten dem entgegen, dass diese Begründung die Selbstbezeichnung als „offen” trotzdem nicht rechtfertigt.
Zielkonflikt zwischen Offenheit und Wettbewerbsvorteil. Trainingsdaten und Trainingsmethodik gehören zu den wertvollsten Betriebsgeheimnissen eines KI-Unternehmens. Der Vorwurf des Open Washing trifft damit einen echten wirtschaftlichen Zielkonflikt, nicht nur eine kommunikative Nachlässigkeit.
Stand 2025/2026
Open Washing ist Stand 2025/2026 ein etablierter Prüfbegriff in der Regulierungsdebatte, ohne dass sich die zugrunde liegende Praxis wesentlich geändert hätte. Die meisten großen Modellanbieter veröffentlichen weiterhin nur Gewichte, während standardisierte Prüfinstrumente wie der Transparency Index die Lücke zwischen Anspruch und tatsächlicher Offenheit zunehmend sichtbar machen.
Verwandte Begriffe
- Open-Source-LLM – der Begriff, dessen uneinheitliche Verwendung Open Washing erst ermöglicht
- Llama – vielzitiertes Beispiel eines als offen vermarkteten, nach OSI-Maßstab aber nicht offenen Modells
- EU-KI-Verordnung – Regelwerk, dessen Ausnahmen für Open-Source-Systeme den wirtschaftlichen Anreiz zum Open Washing schaffen
Quellenangaben
- Bommasani, Rishi u. a., 2024. The Foundation Model Transparency Index v1.1. Stanford CRFM. arXiv: 2407.12929.
- Liesenfeld, Andreas / Dingemanse, Mark, 2024. Rethinking Open Source Generative AI: Open-Washing and the EU AI Act. In: Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’24). ACM, Rio de Janeiro. DOI: 10.1145/3630106.3659005.
- Open Source Initiative, 2024. The Open Source AI Definition 1.0. opensource.org, 28. Oktober 2024.