KI-Kompetenz gemäß Art 4 KI-VO
In CHG News, data & technology, Kanzlei11. February 202511. February 2025

KI-Kompetenz gemäß Art 4 KI-VO

  1. Einleitung
    • Die Entwicklung künstlicher Intelligenz führt zu vielfältigen Einsatzmöglichkeiten in unterschiedlichen Branchen und Tätigkeitsfeldern. Aus diesem Grund hat die Europäische Union mit der Verordnung über künstliche Intelligenz (VO [EU] 2024/1689; KI-Verordnung, kurz: KI-VO oder AI Act) einen einheitlichen Rechtsrahmen geschaffen, der auf sichere, transparente und vertrauenswürdige KI-Anwendungen schaffen soll.
    • Die KI-VO, deren Bestimmungen nach unterschiedlichen Fristen umzusetzen sind, schafft ein Reglement, das auf einem risikobasierten Ansatz beruht und insbesondere Hochrisiko-KI-Systeme einer strengen Prüfung unterwirft. Mit der KI-VO werden Anforderungen an die Entwicklung und Nutzung von KI-Systemen unionsweit verbindlich geregelt. Im Fokus steht die Gewährleistung von Compliance und Sicherheit, insbesondere im Hinblick auf Datenschutz, Verbraucherrechte, Haftungsfragen und den Schutz vor Diskriminierung. Es handelt sich weltweit um eine der ersten umfassenden Regulierungen von KI.
    • Eine der vieldiskutierten Pflichten der KI-VO ist die sogenannte „KI-Kompetenz von Mitarbeitern“. Diese Verpflichtung ist bereits ab dem Februar 2025 anzuwenden und damit eine der ersten Vorgaben, die wirksam werden.
    • Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen, sind von der neuen Verordnung betroffen und sollten sich mit den Anforderungen vertraut machen.
  2. Rechtliche Grundlagen
    • Wer KI-Systeme einsetzt, muss nach Art 4 KI-VO Maßnahmen treffen um (nach besten Kräften) sicherzustellen, dass Mitarbeiter und externe Personen, die mit KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Erfasst sind damit nicht nur direkte Mitarbeiter, sondern mitunter auch externe Dienstleister, wenn diese für den Auftraggeber mit KI-Systemen befasst sind.
    • Zu berücksichtigen sind die individuellen technischen Kenntnisse, die Erfahrungen, die Ausbildung und Schulungen sowie der Kontext, in dem KI-Systeme eingesetzt werden sollen. Daraus kann abgeleitet werden, dass es keinen objektiven Maßstab gibt, wann ein „ausreichendes“ Maß an KI-Kompetenz vorliegt, sondern es vom konkreten Einzel- und Anwendungsfall abhängt. Mit anderen Worten: Bei einem Hochrisiko-KI-System wird eine andere Kompetenz erforderlich sein als bei der Verwendung eines Tools zur Findung von Marketingideen.
    • Damit wird die Entscheidung über die notwendigen Maßnahmen und die Verantwortung darüber direkt in die Sphäre des Unternehmens verlagert. Ziel der KI-Kompetenz ist, dass die Personen über die notwendigen Konzepte verfügen, um Entscheidungen über KI-Systeme zu treffen. Darunter wird auch die Kenntnis über die KI-Verordnung selbst verstanden.
  3. Voraussetzungen
    • Damit die in Art 4 KI-VO verankerte Pflicht zur KI-Kompetenz erfüllt wird, müssen die Verantwortlichen ein Verständnis für die technischen Grundlagen von KI-Systemen, deren Trainingsprozesse, den Umfang der Datenerhebung und den Funktionsweisen von KI-Systemen entwickeln. Auch ein solides Wissen über mögliche Manipulationsrisiken oder Fehlerquellen gehört zum erforderlichen Fachwissen, um Compliance zu gewährleisten.
    • Unternehmen müssen sicherstellen, dass alle relevanten Mitarbeiter und Entscheidungsträger diese Kompetenzen aufbauen, sei es durch interne Schulungen, externe Workshops oder Zertifizierungsprogramme, die den Vorgaben der KI-VO entsprechen und sowohl technische als auch juristische und ethische Aspekte abdecken.
    • Wichtig ist in diesem Zusammenhang, dass das Wissen stets auf dem neuesten Stand gehalten wird, weil sich die Rechtslage und die technischen Möglichkeiten in diesem Bereich rasant weiterentwickeln.
  4. Dokumentationspflichten
    • Die KI-VO sieht vor, dass Verantwortliche die erforderliche KI-Kompetenz jederzeit belegen können sollten. Es ist daher empfehlenswert, die durchgeführten Schulungen, die behandelten Themen und die Teilnehmerlisten fortlaufend zu protokollieren, um im Fall einer behördlichen Prüfung einen strukturierten Nachweis erbringen zu können.
    • Genauso sollten interne Richtlinien (die arbeitsrechtlich als Weisung qualifiziert werden) geschaffen werden, welche die internen Prozesse zur Entwicklung und zum Betrieb von KI-Systemen abbilden und den fortlaufenden Prozess hinsichtlich sich ändernder gesetzlicher Anforderungen organisieren. Zertifikate, die von Bildungsanbietern ausgestellt werden, können zusätzlich als Beleg für die erfolgte Qualifizierung dienen.
    • Eine lückenlose und verständlich aufbereitete Dokumentation entlastet im Konfliktfall, weil sie die Einhaltung der regulatorischen Vorgaben nachvollziehbar macht und frühzeitig eventuelle Mängel erkennen lässt.
    • Die KI-VO folgt im Hinblick auf die Sanktionen dem bekannten Muster hoher Bußgelder, wie man es bereits aus der DSGVO kennt. Auch zivilrechtliche Folgen sind denkbar, wenn etwa Kunden oder Dritte infolge mangelnder KI-Kompetenz geschädigt werden und Schadenersatzansprüche geltend machen.
  5. Fazit
    • KI-Kompetenz von Mitarbeitern ist der Schlüssel, um die Innovationskraft künstlicher Intelligenz für Ihr Unternehmen nutzen zu können. Nach Art 4 KI-VO sind die Chancen von KI mit den Anforderungen an Datenschutz, Verbraucherschutz und ethische Standards in Einklang zu bringen und setzen eine systematische Schulung von Mitarbeitern über Chancen und Risiken gleichermaßen voraus.