Aktuelles
Blog — 29. Januar 2025
Aufbau von KI-Kompetenz: Die ersten Pflichten der KI-Verordnung gelten ab Februar 2025
Julia Hirsch — Ab dem 2. Februar 2025 tritt die erste Pflicht aus der KI-Verordnung in Kraft: Anbieter und Betreiber von KI-Systemen müssen ein ausreichendes Maß an KI-Kompetenz aufbauen. Ziel dieser Regelung ist es, die Chancen von KI-Systemen optimal zu nutzen und gleichzeitig Risiken für Sicherheit und Gesundheit zu minimieren. Denn nur Akteure, die über ausreichende Kompetenzen im Umgang mit KI verfügen, können die Vorgaben der Verordnung erfüllen und sicherstellen. Wenn Sie beispielsweise Ihren Mitarbeitenden im Unternehmen Anwendungen wie ChatGPT zur Verfügung stellen, sind Sie verpflichtet, sicherzustellen, dass diese über die erforderlichen Kompetenzen im Umgang mit KI verfügen.
Braucht jedes Unternehmen einen KI-Beauftragten?
Die Verordnung selbst definiert den Begriff „KI-Kompetenz“ nicht näher. Geeignete Maßnahmen könnten Schulungen, Fortbildungen, interne Richtlinien, Checklisten oder die Teilnahme an Zertifizierungsprogrammen sein. Eine Möglichkeit, die Kompetenz zentral zu organisieren, kann die Ernennung eines KI-Beauftragten – vergleichbar mit der Einführung des Datenschutzbeauftragten unter der DSGVO – sein. Dies bietet sich insbesondere dann an, wenn die Bündelung und Zentralisierung von Kompetenzen und Entscheidungen innerhalb des Unternehmens sinnvoll erscheint. Ausdrücklich vorgesehen ist dies aber nicht.
Beispiel: Ihre internen Unternehmensleitlinien sehen vor, dass die Nutzung und der Umgang mit KI zentral gesteuert werden. In diesem Fall kann ein speziell ausgebildeter KI-Beauftragter die notwendige Anlaufstelle für Mitarbeitende sein. Voraussetzung dafür ist eine sogenannte KI-Inventur: Dabei werden vorhandene KI-Systeme identifiziert und strategische Leitlinien für deren Nutzung verabschiedet.
Wer ist verpflichtet, die Vorgaben zu erfüllen?
Die Pflicht zum Aufbau von KI-Kompetenz gilt für alle KI-Systeme, d. h. für sämtliche KI-Systeme, die nicht unter eine Ausnahme vom Anwendungsbereich von Artikel 2 der KI-Verordnung fallen (z. B. KI-Systeme für militärische Zwecke, Verteidigungszwecke oder für Zwecke der nationalen Sicherheit oder KI-Systeme für Zwecke der wissenschaftlichen Forschung und Entwicklung). Ob Ihr Unternehmen in den Anwendungsbereich fällt, können Sie schnell und einfach mithilfe unseres AI-Act-Checks überprüfen.
Obwohl die KI-Verordnung die Verpflichtung zur Kompetenzentwicklung vorsieht, enthält sie keine konkreten Sanktionen bei Verstößen. Insofern hat diese Pflicht zunächst einen Appel-Charakter. Dennoch könnte eine unzureichende Schulung von KI-Kompetenzen bei Schäden durch KI-Systeme als Verletzung von Sorgfaltspflichten ausgelegt werden. Dies unterstreicht die Relevanz der Umsetzung, auch ohne direkte Normierung von Bußgeldern.
Berücksichtigung individueller Anforderungen
Artikel 4 der KI-Verordnung legt fest, dass bei der Auswahl und Gestaltung von Maßnahmen die technischen Kenntnisse, die Ausbildung und der Erfahrungshintergrund der Adressaten sowie der Einsatzkontext der KI-Systeme berücksichtigt werden müssen (sog. Proportionalitätsprinzip; umso weniger Kenntnisse zu KI bei einer Person vorhanden sind, desto mehr Ausbildungsmaßnahmen sollten erfolgen). Damit rückt die betroffene Person in den Mittelpunkt: Sie muss ausreichend informiert und geschult werden, um die Auswirkungen von KI-Entscheidungen nachvollziehen zu können.
Um KI-Kompetenz, beispielsweise beim Einsatz von ChatGPT, aufzubauen, könnten Sie in einer KI-Guideline festlegen, welche Daten und Informationen Ihre Mitarbeitenden eingeben dürfen und wie die Ergebnisse weiterverarbeitet sowie redigiert werden müssen. Im Vorfeld sollten Sie Ihren Mitarbeitenden ein Grundverständnis über die Funktionsweise von ChatGPT, d.h. Large Language Models, deren Training und Output, vermitteln und sie für Risiken wie Bias, Halluzinationen, Fehlentscheidungen und Datenschutz- sowie Geheimnisschutzverstößen bei nicht anonymisierter Eingabe von personenbezogenen Daten und Ihren Geschäftsgeheimnissen sowie denjenigen des Kunden sensibilisieren.
Unterstützung bei der Umsetzung
Zukünftig wird das EU-Gremium für künstliche Intelligenz bzw. das Amt für künstliche Intelligenz der EU-Kommission bei der Entwicklung von Maßnahmen und Instrumenten zur Förderung von KI-Kompetenzen beratend zur Seite stehen. Bis dahin und auch bei sonstigen Fragen stehen wir Ihnen gerne zur Verfügung, um gemeinsam maßgeschneiderte Lösungen für den Aufbau von KI-Kompetenzen in Ihrem Unternehmen zu entwickeln.
Was ist jetzt zu tun?
Neue Pflichten und Vorschriften können uns zu Recht überfordern. Wir empfehlen Ihnen daher mit diesen drei Maßnahmen zu starten:
• Bestandsaufname der bereits verwendeten und zukünftig geplanten KI-Systeme (KI-Inventur),
• Schulungskonzept überlegen und
• Richtlinien und/oder Checklisten entwickeln
Gerne unterstützen wir Sie jederzeit bei den unterschiedlichen Maßnahmen.
Dieses Bild wurde mithilfe des KI-Tools DALL-E generiert.
Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.
Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0