Julia Hirsch — Künstliche Intelligenz (KI) hat mittlerweile tiefgreifende Auswirkungen auf zahlreiche Branchen und Lebensbereiche. Teil II erklärt den Anwendungsbereich und die wichtigen Begriffe der KI-Verordnung.

Anwendungsbereich der KI-Verordnung: Für wen gilt das Regelwerk?
Die KI-Verordnung hat einen umfassenden Anwendungsbereich und betrifft eine Vielzahl von Akteuren, sowohl innerhalb als auch außerhalb der Europäischen Union. Wenn Sie sich einer dieser Personengruppen oder Unternehmen zugehörig fühlen, fallen Sie voraussichtlich unter die Verordnung:
Anbieter von KI-Systemen, die ihre KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob der Anbieter seinen Sitz innerhalb der EU oder in einem Drittland hat.
Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
Anbieter und Betreiber außerhalb der EU (Sitz oder sich dort befinden), wenn die vom KI System hervorgebrachte Ausgabe in der Union verwendet wird;
Einführer und Händler von KI-Systemen
Produkthersteller, die KI-Systeme als Teil ihres Produkts unter eigenem Namen oder eigener Marke in Verkehr bringen oder in Betrieb nehmen.
Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
Betroffene Personen, die sich in der Union befinden.
Diese breite Reichweite soll sichererstellen, dass die Verordnung auf alle relevanten Akteure im Zusammenhang mit KI-Systemen Anwendung findet, unabhängig davon, wo sie niedergelassen sind oder ihre Produkte entwickeln. Damit wird gewährleistet, dass auch internationale Anbieter die europäischen Standards einhalten müssen, sobald ihre KI-Produkte im Binnenmarkt genutzt werden.
Diese breite Reichweite soll sichererstellen, dass die Verordnung auf alle relevanten Akteure im Zusammenhang mit KI-Systemen Anwendung findet, unabhängig davon, wo sie niedergelassen sind oder ihre Produkte entwickeln. Damit wird gewährleistet, dass auch internationale Anbieter die europäischen Standards einhalten müssen, sobald ihre KI-Produkte im Binnenmarkt genutzt werden.

Weitere wichtige Begriffe und Definitionen der KI-Verordnung
Der KI-Verordnung führt eine Reihe von weiteren Begriffen und Definitionen ein, die das Verständnis und die Umsetzung der Verordnung erleichtern sollen. Diese Begriffe sind entscheidend, um den Geltungsbereich der KI-Verordnung klar abzugrenzen und sicherzustellen, dass Unternehmen die Anforderungen präzise erfüllen können. Hier sind einige der wichtigsten Begriffe und Definitionen, die im KI-Verordnung festgelegt sind:

Risikokategorien von KI-Systemen
Der KI-Verordnung führt eine risikobasierte Kategorisierung von KI-Systemen ein, die das Herzstück der Regulierung bildet. Ein Risiko nach der KI-Verordnung ist die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens Diese Kategorien helfen dabei, das Ausmaß der Regulierung basierend auf dem potenziellen Risiko, das ein KI-System für die Sicherheit oder Grundrechte darstellt, zu bestimmen:

• Minimales Risiko: Diese Kategorie umfasst KI-Systeme, die wenig bis kein Risiko für die Nutzer oder die Gesellschaft darstellen, wie z.B. KI-gesteuerte Videospiele oder Spam-Filter. Solche Systeme unterliegen keinen besonderen Anforderungen oder Regulierungen und können weitgehend frei entwickelt und eingesetzt werden.
• Begrenztes Risiko: Diese Systeme müssen bestimmte Transparenzanforderungen erfüllen. Beispielsweise müssen Betreiber informiert werden, wenn sie mit einem KI-System interagieren, wie es bei Chatbots der Fall ist. Diese Anforderung zielt darauf ab, den Nutzern die Möglichkeit zu geben, informierte Entscheidungen zu treffen.
• Hochrisiko: Hochrisiko-KI-Systeme unterliegen strengen Anforderungen, da sie erhebliche Risiken für die Gesundheit, Sicherheit oder die Grundrechte der Menschen darstellen können, indem sie unter anderem das Ergebnis der Entscheidungsfindung wesentlich beeinflussen. Dazu gehören zum Beispiel Systeme, die in kritischen Infrastrukturen, im Bildungswesen, bei der Rekrutierung oder in der Strafverfolgung eingesetzt werden. Diese Systeme müssen ein Risikomanagement-System einführen, Daten-Governance- und Dokumentationsanforderungen entsprechen und weitere umfangreiche Pflichten erfüllen.
• Unzumutbares Risiko: KI-Systeme, die ein unannehmbares Risiko darstellen, werden nach der KI-Verordnung vollständig verboten. Dazu gehören Technologien, die beispielsweise zur manipulativen Überwachung oder sozialen Bewertung (Social Scoring) eingesetzt werden, wie dies in einigen Ländern bereits vorkommt. Solche Anwendungen werden als unvereinbar mit den europäischen Werten und Grundrechten betrachtet.

Weitere wichtige Begriffe: Anbieter, Nutzer, KI-System, Risikobewertung
• Anbieter: natürliche oder juristische Personen, die KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck entwickeln, entwickeln lassen, unter eigenem Namen oder der Handelsmarke in Verkehr bringen oder in Betrieb nehmen.
• Betreiber: natürliche oder juristische Personen, die ein KI System in eigener Verantwortung verwendet, außer wenn es im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet wird;
• KI-System: maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;
• KI-Modell mit allgemeinem Verwendungszweck: ein KI Modell – das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann

Diese Begriffe und Definitionen dienen als erster Überblick, um sich mit der KI-Verordnung vertraut zu machen, die Anforderungen besser zu verstehen und sicherzustellen, dass ihre KI-Systeme den gesetzlichen Vorgaben entsprechen.

In a nutshell
• Die KI-Verordnung ist das weltweit erste Regelwerk, dass nach einem risikobasieren Ansatz unterschiedliche Akteure in die Pflicht nimmt.
• Die KI-Verordnung möchte damit eine sichere und ethisch vertretbare KI-Nutzung zu regeln, während innovative Entwicklungen nicht unnötig behindert werden sollen, garantieren.
• Die Pflicht zum Aufbau von KI-Kompetenz in der Belegschaft gilt schon ab dem 2. Februar 2025.

Wir unterstützen Sie bei allen Fragen zur rechtsicheren Entwicklung und Einsatz von künstlicher Intelligenz. Wir verstehen nicht nur die rechtlichen Implikationen von KI, sondern setzen sie auch selbst ein.

Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.

Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0