Seit Februar 2025 müssen Anbieter und Betreiber von KI-Systemen gemäß Artikel 4 der KI-Verordnung Maßnahmen ergreifen, um ein ausreichendes Niveau an KI-Kompetenzen bei ihrem Personal sicherzustellen (Artikel 3 und 4). KI-Kompetenzen sind nach Art. 3 Nr. 56 KI-Verordnung die Fähigkeiten, die Kenntnisse und das Verständnis, die es Beschäftigten ermöglicht, „KI- Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu machen“.

KI-Kompetenz muss sein

Gemäß der KI-Verordnung haben Anbieter und Betreiber von KI‑Systemen nach bestem Wissen und Gewissen sicherzustellen, dass eigenes Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über entsprechende KI-Kompetenzen verfügen. Mögliche Maßnahmen können Schulungen, KI-Guidelines, Weiterbildungs- und Zertifizierungsprogramme und praxisorientiertes Lernen in divers zusammengesetzten Teams sein.

Ausgestaltung als Appell 

Artikel 4 KI-Verordnung ist allerdings nicht als konkrete Verpflichtung, sondern vielmehr als ein Appell an den Arbeitgeber ausgestaltet. Dies zeigt sich unter anderem darin, dass ein Verstoß weder bußgeld- noch strafbewehrt ist. Es drohen damit keine unmittelbaren Geldstrafen bei unzureichender Umsetzung. Das Unterlassen von Maßnahmen nach Art. 4 stellt jedoch eine Sorgfaltspflichtverletzung dar, die bei Eintritt eines Schadens eine Schadensersatzpflicht auslösen könnte.

Verbotene KI-Anwendungen

Ebenfalls seit Februar 2025 sind gemäß Artikel 5 KI-Verordnung KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Dazu gehören sogenannte Social- Scoring-Anwendungen, die Menschen aufgrund ihres Sozialverhaltens oder ihrer persönlichen Eigenschaften bewerten und klassifizieren, wie auch die biometrische Identifizierung von Menschen in öffentlich zugänglichen Räumen in Echtzeit. Ebenso verboten sind alle KI-Systeme zur Emotionserkennung am Arbeitsplatz.

Einrichtung von KI-Reallaboren und KI-Behörden

Anfang August 2025 müssen darüber hinaus die Mitgliedstaaten auch mindestens ein KI-Reallabor auf nationaler Ebene eingerichtet haben, welches bis August 2026 einsatzbereit sein muss. Die Einrichtung von KI‑Reallaboren sollen zu folgenden Zielen beitragen: Innovationen und Wettbewerbsfähigkeit sowie die Entwicklung eines KI‑Ökosystems erleichtern, Rechtssicherheit verbessern, Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI‑Reallabor beteiligten Behörden ermöglichen und eine Beschleunigung des Zugangs von KI‑Systemen zum Unionsmarkt erleichtern, insbesondere wenn diese von KMU – einschließlich Start-up-Unternehmen – angeboten werden.

Zentrale Anlaufstellen

Darüber hinaus müssen die Mitgliedstaaten zentrale Anlaufstellen und Behörden benennen, Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen erlassen und über den Stand der finanziellen und personellen Ressourcen der zuständigen Behörden berichten. In Deutschland ist die Bundesnetzagentur als zentrale Anlaufstelle und zuständige Behörde für die Umsetzung des AI-Acts vorgesehen. Weiter muss die Kommission auch Leitlinien für die praktische Umsetzung von Klassifizierungsregeln für KI-Systeme mit hohem Risiko (Artikel 6) veröffentlichen.

Quelle: ZDH

Mehr dazu beim ZDH