KI-Kompetenz: Eine ausdrückliche Vorgabe des AI Act

Potenziell sehr weiter Anwendungsbereich

Die meisten Pflichten des AI Act knüpfen an eine Risikoklassifizierung von KI-Systemen an.  Welche Vorschriften für ein bestimmtes KI- System gelten, hängt daher regelmäßig von seiner Einstufung ab.

Eine Ausnahme davon bilden die Vorgaben zur KI-Kompetenz, der sogenannten AI Literacy. Sie gelten unabhängig von der Risikoeinstufung und bringen eine Verpflichtung für Unternehmen, durch geeignete Maßnahmen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Potenziell betroffen sind neben Anbietern auch Betreiber von KI-Systemen und damit insbesondere auch Unternehmen, die ein KI-System nicht selbst entwickeln, sondern dieses „nur“ in eigener Verantwortung zu beruflichen Zwecken verwenden. Der mögliche Kreis der verpflichteten Unternehmen ist nicht auf Hochrisikobereich beschränkt und damit ein sehr großer. Das gerade auch deshalb, weil KI mittlerweile von einer Vielzahl an Unternehmen aller Größen und Branchen gerne eingesetzt wird.

Was genau meint man mit KI-Kompetenz?

Der AI Act versteht unter KI-Kompetenz insbesondere die Fähigkeiten, KI-Systeme sachkundig einzusetzen und sich dabei der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden. Sinngemäß geht es also darum, dass derjenige, der ein KI-System verwendet, versteht, was er dabei tut.

Welche Schritte sind notwendig, um compliant zu sein?

Die konkret zu ergreifenden Maßnahmen zur Vermittlung von KI-Kompetenz sind unterschiedlich. Sie hängen von der konkreten Situation ab. Es ist nicht nur der Einsatzbereich des jeweiligen KI-Systems, sondern vor allem auch die technischen Kenntnisse der Mitarbeiter sowie deren Erfahrung, Ausbildung und bisherige Schulung zu berücksichtigen. Nicht selten wird in einem ersten Schritt daher eine Bestandsaufnahme des individuellen Kenntnisstandes unter den Mitarbeitern notwendig sein, bevor die weiteren Maßnahmen festgelegt werden können. Als solche kommen beispielsweise Schulungen für Mitarbeiter (bzw. Freelancer) zur Vermittlung von KI-Kenntnissen sowie Verhaltensregeln beim Einsatz von KI in Betracht. Letztere empfehlen sich auch, um bestimmten anderen Risiken, die der Einsatz von KI durch Mitarbeiter mit sich bringen kann, vorzubeugen.

Ab wann gilt diese Verpflichtung?

Der AI Act ist kürzlich in Kraft getreten. Seine Regelungen werden zeitlich gestaffelt nach Ablauf bestimmter Fristen gelten. Die Vorgaben zur KI-Kompetenz werden bereits mit Ablauf von 6 Monaten nach Inkrafttreten verpflichtend. Es bleibt daher nicht mehr viel Zeit für eine fristgerechte Umsetzung. Eine fehlende Compliance würde insbesondere auch ein erhöhtes Haftungsrisiko für das betroffene Unternehmen bringen, weil sich im Ernstfall daraus der Vorwurf

Zum Weiterlesen:

Stefan Humer, Rechtsanwalt an unserem Wiener Standort, hat über die Bedeutung dieses Themas vor Kurzem mit Der Presse gesprochen. Hier geht es zum Artikel: KI-Gesetz: Was jetzt auf die Firmen zukommt | DiePresse.com.