Ein nachgeschalteter Anbieter (Art. 3 Nr. 68 KI-VO, englisch „downstream provider”) ist im Sinne der KI-Verordnung ein Unternehmen, das ein bestehendes KI-System oder -Modell in ein eigenes System integriert. Unter bestimmten Voraussetzungen wird es dadurch selbst zum rechtlich verantwortlichen Anbieter, obwohl es das zugrunde liegende Modell nicht ursprünglich entwickelt hat.
Zusammenfassung
Nicht jede Integration oder Anpassung eines fremden Modells macht das nachgeschaltete Unternehmen automatisch zum eigenständigen Anbieter. Reine Zugriffsschichten oder Benutzeroberflächen, die ein unverändertes universell einsetzbares KI-Modell lediglich zugänglich machen, ohne zusätzliche KI-Funktionalität hinzuzufügen, gelten ausdrücklich nicht als nachgeschaltete Anbieterschaft.
Begriffsgeschichte
Der Begriff entstand als notwendige Ergänzung zur Regelung universell einsetzbarer KI-Modelle, weil solche Modelle typischerweise nicht direkt bei Endnutzer:innen ankommen, sondern über mehrere Zwischenstationen – Feinabstimmung, Integration in Anwendungen, Weiterverkauf – die eigentliche Wertschöpfungskette durchlaufen, bevor sie in einem konkreten Produkt landen.
Methodische Grundlagen
Als Anhaltspunkt dafür, ob eine Anpassung so wesentlich ist, dass sie eine eigenständige Anbieterschaft begründet, gilt unter anderem, ob der für die Modifikation verwendete Trainingsaufwand ein Drittel des Trainingsaufwands des ursprünglichen Modells übersteigt.
Bei geringfügigem Fine-Tuning bleiben die Pflichten des nachgeschalteten Akteurs demgegenüber auf die von ihm selbst vorgenommene Änderung beschränkt, während die Verantwortung für das zugrunde liegende Basismodell beim ursprünglichen Anbieter verbleibt.
Anwendungsfelder
Die Regelung betrifft insbesondere Unternehmen, die Foundation Models großer Anbieter durch eigenes Fine-Tuning für spezialisierte Anwendungen anpassen. Ein freiwilliger Verhaltenskodex des ursprünglichen Modellanbieters befreit nachgeschaltete Anbieter dabei nicht automatisch von eigenen Prüf- und Nachweispflichten – jedes Unternehmen in der Kette muss die für sein eigenes System einschlägigen Anforderungen der Verordnung unabhängig erfüllen.
Kontroversen und Kritik
Kritiker:innen bemängelten, der Ein-Drittel-Schwellenwert für den Trainingsaufwand sei ein technisch nachvollziehbares, aber praktisch schwer prüfbares Kriterium, da nachgeschaltete Unternehmen selten Einblick in den exakten Trainingsaufwand des ursprünglichen Modells haben.
Zudem bleibt in der Fachliteratur umstritten, wie sich Haftungsfragen entlang der Kette lösen lassen, wenn ein Schaden auf einer Kombination aus Eigenschaften des Basismodells und der nachträglichen Anpassung beruht.
Verwandte Begriffe
- Anbieter (KI-VO) – die Rolle, in die ein nachgeschalteter Akteur unter bestimmten Bedingungen hineinrutscht
- Betreiber (KI-VO) – weitere zentrale Akteursrolle der KI-VO, die von der Anbieterrolle abzugrenzen ist
Quellenangaben
- Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689, Artikel 3 Nummer 68, Erwägungsgrund 109. Amtsblatt der Europäischen Union, 12. Juli 2024.