Aktuelles

Blog — 29. Januar 2025

Verbotene KI-Praktiken: Was Sie ab 2. Februar 2025 beachten müssen

Julia Hirsch — Wie Sie bereits aus unseren vorherigen Blog-Beiträgen zur KI-Verordnung erfahren haben, verfolgt die KI-Verordnung einen risikobasierten Ansatz, indem sie die KI-Systeme in verschiedene Kategorien mit unterschiedlichen Pflichten einteilt. Neben den vielen positiven Anwendungsmöglichkeiten von KI kann diese Technologie auch missbraucht werden und neue und mächtige Instrumente für Manipulation, Ausbeutung und soziale Kontrolle bieten. Ab dem 2. Februar 2025 treten wichtige Vorschriften in Kraft, darunter das Verbot gemäß Art. 5 KI-VO, bestimmte KI-Praktiken zu verwenden, in Betrieb zu nehmen oder in den Verkehr zu bringen. Ziel dieser Verbotsvorschrift ist es, vor allem die Grundrechte der Bürger in der EU zu schützen und menschenwürdige sowie diskriminierungsfreie Technologien zu gewährleisten. Was dies für Anbieter und Betreiber bedeutet, erläutern wir in diesem Beitrag.

Risikobasierter Ansatz der KI-Verordnung

Das Ziel der KI-Verordnung ist es, ein verhältnismäßiges und wirksames Gesetz für KI-Systeme zu sein. Hierzu kategorisiert sie KI-Systeme nach ihrem Risiko für Grundrechte, Sicherheit und Gesundheit. Praktiken mit einem „inakzeptabel hohen Risiko“ werden vollständig verboten, da sie nach der KI-Verordnung keine vertrauenswürdige und ethisch vertretbare KI mehr darstellen.

Verbotene KI-Praktiken laut Art. 5 KI-VO

Folgende KI-Praktiken (vereinfacht) dürfen ab dem 2. Februar 2025 weder verwendet, in Betrieb genommen noch in Verkehr gebracht werden:

Manipulation und unterschwellige Beeinflussung von Personen und Personengruppen
Ausnutzung der Schutzbedürftigkeit
• Bewertung / Einstufung von Personen basierend auf Verhalten oder Charaktereigenschaften (Social Scoring)
Risikobewertung von Straftaten
Gewisse Datenbanken zur Gesichtserkennung
Bestimmte Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
Biometrische Kategorisierung von Personen und Personengruppen
Biometrische Fernidentifikation in Echtzeit im öffentlichen Raum außer zu bestimmten Strafverfolgungszwecken

Diese Praktiken stellen eine erhebliche Gefahr für den Datenschutz, die Diskriminierungsfreiheit und die Grundrechte der EU-Bürger dar.

Weitere rechtliche Vorgaben und Überschneidungen

Neben den Verboten der KI-Verordnung können weitere Vorschriften relevant sein, etwa aus dem Datenschutzrecht, dem Antidiskriminierungsrecht oder dem Wettbewerbsrecht, nach denen bestimmte KI-Praktiken rechtswidrig sind (ganz zu schweigen von Rechtsverletzungen nach anderen Normen, z.B. nach dem Urheberrecht). Wenn Sie sich das erste Mal mit den Anforderungen der KI-Verordnung auseinandersetzen, empfehlen wir als 1. Schritt eine sog. KI-Inventur zu machen. Sobald Sie wissen, welche KI-Systeme Sie bereits einsetzen, können Sie erkennen, ob diese Systeme unter eine der verbotenen KI-Praktiken fallen.

Konsequenzen bei Verstößen

Die Nichtbeachtung der Verbote kann erhebliche Sanktionen nach sich ziehen:
• Geldbußen von bis zu 35 Millionen Euro oder bis zu 7 % des weltweiten Jahresumsatzes eines Unternehmens – je nachdem, welcher Betrag höher ist.
• Zivilrechtliche Konsequenzen, wie Schadensersatzforderungen oder Unterlassungsklagen.
• Verstöße gelten zudem als Verletzung von Sorgfaltspflichten und Schutzgesetzen.

Unterstützung und Leitlinien

Die EU-Kommission arbeitet derzeit an detaillierten Leitlinien zur Auslegung von Art. 5 KI-VO. Diese sollen Klarheit über die Anwendung der Vorschriften schaffen. Bis zur Veröffentlichung helfen wir Ihnen gerne, rechtliche Fragen zu klären und die Einhaltung der KI-Verordnung sicherzustellen. Ebenso unterstützen wir Sie gerne bei den vorherigen Schritten zum Beispiel bei der KI-Inventur.

 

Dieses Bild wurde mithilfe des KI-Tools DALL-E generiert.

 

Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.

Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0