Julia Hirsch — Künstliche Intelligenz (KI) hat mittlerweile tiefgreifende Auswirkungen auf zahlreiche Branchen und Lebensbereiche. Teil I beleuchtet den Hintergrund sowie die Grundsätze und Zielsetzung der KI-Verordnung.

Diese technischen Fortschritte treffen allerdings auf gewisse Risiken: IT-Sicherheit, ethisches Training und Einsatzfelder von KI sowie rechtliche Spannungsfelder rund um Urheberrechte und Datenschutz sind nur einige Hürden, mit denen sich Anbieter und Nutzer von KI konfrontiert sehen.

Auf diese Herausforderungen hat die EU mit dem weltweit ersten Regulierungsversuch, der KI-Verordnung, reagiert. Die KI-Verordnung vom August 2024 verfolgt einen risikobasierten Ansatz, indem sie KI-Systeme in unterschiedliche Risikoklassen – von verbotener bis zu risikoarmer KI – unterteilt. Einer gewissen Sonderstellung haben zudem sog. KI-Systeme mit allgemeinem Verwendungszweck („GPAI“), z.B. solchen wie ChatGPT oder Microsoft Copilot. Weiterhin legt die KI-Verordnung verschiedenen Akteuren, allen voran Anbietern (Entwicklern) und Betreibern (Nutzern) von KI gewisse Pflichten auf.

Für Unternehmen, die in der EU ansässig sind oder ihre Produkte auf den europäischen Markt bringen möchten, ist es daher unerlässlich, die Vorgaben der KI-Verordnung zu verstehen und umzusetzen, unabhängig davon, ob sie KI-Systeme entwickeln, anbieten oder nutzen. Diese Einführung gibt einen ersten Überblick über die grundlegenden Aspekte der KI-Verordnung.

Hintergrund und Entstehung der Verordnung: Was lange währt ist endlich gut?
Ein wichtiger Meilenstein in der Entstehung des KI-Verordnung war die Veröffentlichung des „White Paper on Artificial Intelligence“ im Februar 2020, in dem die Europäische Kommission erste Vorschläge für eine KI-Regulierung präsentierte. Auf Grundlage dieses Dokuments und der darauffolgenden Rückmeldungen wurde der KI-Verordnung weiter modifiziert. Der risikobasierte Ansatz der KI-Verordnung soll sicherstellen, dass besonders risikoreiche Anwendungen strengeren Kontrollen unterliegen, während innovative Entwicklungen nicht unnötig behindert werden. Die Pflichten für Hochrisiko-KI-Systeme und GPAI greifen ab Mitte 2025 – 2026, für verbotene KI-Systeme (z.B. bestimmte biometrische Gesichtserkennungstools) sogar bereits ab Februar 2025. Ob dieses Ziel, eine Regulierung ohne Innovationen zu behindern hierdurch erreicht wird, bleibt abzuwarten.

Wann gilt die KI-Verordnung? 
Was mit einem ersten Entwurfsvorschlag im April 2021 der EU-Kommission begann, wurde in den Trilog-Abstimmungen im Dezember 2023 weiter modifiziert. Im Mai 2024 stimmte der Rat der EU dem Entwurf zu, sodass die KI-Verordnung am 1. August 2024 in Kraft trat.
Die meisten Pflichten der KI-Verordnung gelten erst zwei Jahr nach ihrem Inkrafttreten, ab dem 2. August 2026. Allerdings greifen gewisse Pflichten für Unternehmen bereits vorher, in abgestufter zeitlicher Reihenfolge.
Zunächst gelten die Regelungen für verbotene KI und der Aufbau von KI-Kompetenz im Unternehmen ab sechs Monaten nach Inkrafttreten der Verordnung, also schon ab dem 2. Februar 2025. Hierbei wird die Pflicht zum Aufbau von KI-Kompetenz eine der umfangreichsten Pflichten sein, die die meisten Unternehmen betreffen wird.
Die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie die teilweise Möglichkeit zur Verhängung von Bußgeldern gelten genau 1 Jahr nach Inkrafttreten, ab dem 2. August 2025.

Ziele der KI-Verordnung
Der Zweck dieser Verordnung besteht darin, das Funktionieren des Binnenmarkts zu optimieren und die Einführung einer menschenzentrierten und vertrauenswürdigen Künstlichen Intelligenz (KI) zu fördern. Gleichzeitig soll ein hohes Schutzniveau für Gesundheit, Sicherheit sowie die in der Charta der Grundrechte verankerten Werte, wie Demokratie, Rechtsstaatlichkeit und Umweltschutz, gewährleistet werden. Hierdurch soll die Union vor schädlichen Auswirkungen von KI-Systemen geschützt und gleichzeitig Innovationen in diesem Bereich unterstützt werden.

Schutz der Grundrechte und Sicherheit der Bürger
Eines der Hauptziele der KI-Verordnung ist der Schutz der Grundrechte und der Sicherheit der EU-Bürger. Da KI-Systeme zunehmend in sensible Bereiche wie Gesundheitsversorgung, Strafverfolgung, Bildung und Beschäftigung integriert werden (sollen), wächst die Sorge über mögliche Diskriminierung, Fehlinformationen und ungerechte nicht nachvollziehbare Entscheidungsprozesse – zu Recht, denn die Ergebnisse (Output) der KI-Systeme sind immer nur so gut, wie der Datensatz, mit dem die KI vorher trainiert wurde.
Die KI-Verordnung soll sicherstellen, dass KI-Systeme fair, transparent und nachvollziehbar agieren. Insbesondere das Grundrecht auf informationelle Selbstbestimmung und der Schutz personenbezogener Daten soll durch die KI-Verordnung weiterhin gewahrt bleiben. Durch klare Regeln und Vorschriften soll verhindert werden, dass KI-Technologien zur Überwachung oder Manipulation von Menschen missbraucht werden.

Förderung von Innovation und Vertrauen in KI-Technologien
Ein weiteres wichtiges Ziel der KI-Verordnung ist die Förderung und der Schutz von Innovation in der KI-Branche, ohne gleichzeitig die Entwicklung und den Einsatz neuer Technologien zu behindern. Die KI-Verordnung will ein Umfeld schaffen, in dem Unternehmen weiterhin in KI investieren und innovative Lösungen entwickeln können, die den gesellschaftlichen Fortschritt vorantreiben. Gleichzeitig ist es wichtig, dass die Menschen Vertrauen in die KI-Technologien haben. Durch die Etablierung eines klaren Rechtsrahmens soll der KI-Verordnung dazu beitragen, dass Unternehmen vertrauenswürdige KI-Systeme entwickeln, die von den Nutzern als sicher und verlässlich angesehen werden.

Wir unterstützen Sie bei allen Fragen zur rechtsicheren Entwicklung und Einsatz von künstlicher Intelligenz. Wir verstehen nicht nur die rechtlichen Implikationen von KI, sondern setzen sie auch selbst ein.

Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.

Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0