Künstliche Intelligenz verändert die Geschäftswelt. Für kleine und mittlere Unternehmen (KMU) bietet sie neue Effizienzpotenziale – vom Kundenservice bis zur Produktionsplanung. Doch: Nicht alles, was technologisch machbar ist, ist auch erlaubt. Die EU hat mit der KI-Verordnung verbindlich geregelt, welche KI-Anwendungen in Europa nicht eingesetzt werden dürfen.
Was ist verboten – und warum?
Die KI-Verordnung unterscheidet zwischen akzeptablen, risikobehafteten und verbotenen Anwendungen. Verbotene Praktiken sind solche, die als besonders gefährlich für die Rechte, Sicherheit oder Würde von Menschen gelten. Hier eine Übersicht – mit Beispielen aus der Praxis:
Unterschwellige Beeinflussung
Verboten sind KI-Systeme, die Menschen manipulieren, ohne dass diese es bemerken – etwa durch visuelle oder akustische Reize unterhalb der Wahrnehmungsschwelle oder durch psychologisch gezielte Einflussnahme.
Beispiel: Ein Online-Shop setzt ein KI-gestütztes Interface ein, das per Eye-Tracking subtile Farbänderungen nutzt, um Kinder zu Kaufentscheidungen zu drängen.
Ausnutzung von Schutzbedürftigkeit
KI darf nicht gezielt auf besonders verletzliche Gruppen abzielen, z. B. Kinder, Senioren oder Menschen mit Behinderung – vor allem, wenn diese dadurch systematisch benachteiligt oder manipuliert werden.
Beispiel: Eine Sprachassistenz in einem Pflegeheim schlägt Bewohnern gezielt kostenpflichtige Zusatzangebote vor, obwohl diese nicht vollständig urteilsfähig sind.
Social Scoring
Systeme, die Menschen bewerten, basierend auf ihrem Verhalten, ihrem Aufenthaltsort oder ihrer Finanzlage – ohne direkten Bezug zu einer konkreten Entscheidung – sind untersagt.
Beispiel: Ein Finanzdienstleister nutzt eine KI, die Kundenprofile nach „Zuverlässigkeit“ erstellt und bestimmte Angebote automatisch blockiert.
Predictive Policing
Voraussagen über potenzielles Fehlverhalten von Einzelpersonen durch KI – etwa bei Straftaten – sind verboten, sofern sie nicht auf individuellen Verdachtsmomenten beruhen.
Beispiel: Ein Sicherheitsunternehmen setzt ein Tool ein, das Personen im öffentlichen Raum basierend auf deren Kleidung oder Bewegungsmustern als „potenziell auffällig“ einstuft.
Scraping von Gesichtsbildern
Das massenhafte Sammeln von öffentlich zugänglichen Bildern (z. B. aus sozialen Netzwerken), um daraus Datenbanken für Gesichtserkennung zu erstellen, ist untersagt.
Beispiel: Ein Start-up entwickelt eine Zugangskontrolle, die Gesichter aus dem Internet abgleicht, um Besucher automatisch zu identifizieren.
Emotionserkennung am Arbeitsplatz oder in der Schule
Systeme, die Emotionen von Beschäftigten oder Schülern in Echtzeit erkennen und daraus Rückschlüsse ziehen, sind nicht erlaubt.
Beispiel: Ein Callcenter nutzt eine Kamera-gestützte Software, um angeblich unmotivierte Mitarbeiter automatisch zu identifizieren.
Biometrische Echtzeit-Fernidentifikation
Die automatische Gesichtserkennung im öffentlichen Raum in Echtzeit – etwa zur Verfolgung oder Kategorisierung von Personen – ist weitgehend untersagt.
Beispiel: Ein Einzelhändler möchte per Kameraanalyse bestimmte Kundentypen erkennen und personalisierte Werbung anzeigen.
⸻
Warum betrifft das gerade KMU?
Kleine und mittlere Unternehmen setzen häufig KI-Systeme ein, ohne deren volle Tragweite zu kennen – z. B. durch Drittanbietertools, Cloud-Dienste oder „KI-as-a-Service“. Dadurch entsteht ein Risiko, unbeabsichtigt gegen europäisches Recht zu verstoßen. Das kann nicht nur zu Bußgeldern führen, sondern auch das Vertrauen der Kundschaft untergraben.
⸻
So machen Sie Ihre KI zukunftssicher
- Bestandsaufnahme: Prüfen Sie alle KI-gestützten Anwendungen in Ihrem Betrieb. Was leistet die Software? Welche Daten werden verarbeitet? Gibt es automatisierte Entscheidungen?
- Risikobewertung: Lassen Sie durch Experten analysieren, ob eine Anwendung unter die Kategorie „verboten“ oder „hochriskant“ fällt.
- Lieferantencheck: Klären Sie, ob Drittanbieter, von denen Sie KI-Dienste beziehen, alle EU-Vorgaben einhalten.
- Schulungen für Teams: Stellen Sie sicher, dass Verantwortliche und die operativ Tätigen im Unternehmen KI-kompetent im Sinne der KI-Verordnung sind.
- Verantwortung übernehmen: Entwickeln Sie eine interne Richtlinie zur KI-Nutzung – einfach, klar und verbindlich.
⸻
Fazit
Die KI-Verordnung ist kein Innovationshindernis – sie ist ein Wegweiser für verantwortungsvolle Digitalisierung. Wer als KMU frühzeitig handelt, sichert nicht nur die Rechtssicherheit, sondern verschafft sich auch einen Wettbewerbsvorteil. Denn vertrauenswürdige Technologie überzeugt langfristig – intern wie extern.
⸻
