Der EU AI Act – Was Sie jetzt wissen müssen

Mittlerweile hat fast jeder davon gehört. Doch was ist der AI Act überhaupt, wen betrifft er und welche Auswirkungen hat er?

Dieser Beitrag erklärt, was Sie jetzt wissen müssen – kompakt, verständlich und praxisrelevant.

Was ist der AI Act?

Der AI Act ist die erste umfassende KI-Regulierung der EU und wurde bereits im Juli 2024 im offiziellen Amtsblatt veröffentlicht. In Kraft getreten ist sie einen Monat später. Seitdem gibt es gestaffelte Übergangsfristen, wodurch nach und nach immer mehr Regelungen gelten, so zum Beispiel die Regelung für verbotene Praktiken, die seit Februar 2025 gilt.

KI-Systeme und KI-Modelle mit allgemeinem Verwendungszeck werden basierend auf der zugrundeliegenden Technologie und dem Anwendungskontext in vier Stufen einsortiert:

• Minimales Risiko (z. B. KI-Spamfilter)
• Begrenztes Risiko (z. B. KI-Chatbots im Kundenservice)
• Hohes Risiko (z. B. KI-Systeme zur Bewerberauswahl)
• Nicht annehmbares Risiko (z. B. KI-Systeme zur sozialen Bewertung) VERBOTEN

Je höher das Risiko, desto strenger die Anforderungen und Verpflichtungen.

Warum wird der AI Act benötigt?

Mit dem zunehmenden Einsatz von KI-Systemen stiegen auch die Unsicherheiten aufgrund fehlender rechtlicher Rahmenbedingungen. Viele Fragen wurden aufgeworfen: Was ist erlaubt? Worauf muss ich achten? Wer übernimmt die Verantwortung für Schäden, die durch den fehlerhaften Einsatz von KI entstehen?

Durch die Veröffentlichung des AI Acts sollen diese Fragen geklärt werden, um den Anbietern, Betreibern und Nutzer:innen von KI mehr Sicherheit zu geben.

Neben diesem Aspekt spielen aber auch die Förderung von Innovation sowie der Schutz von Gesundheit, Sicherheit und Grundrechten eine zentrale Rolle.

Wer ist von dem AI Act betroffen?

Die Zielgruppe des AI Acts sind KI-Anbieter, die KI-Systeme in der EU entwickeln oder in der EU in Verkehr bringen und KI-Betreiber, die KI-Systeme im eigenen Betrieb einsetzen. Mitarbeitende selbst sind nicht die direkten Adressaten des AI Acts. Dennoch sind sie indirekt betroffen und sollten im Sinne des Unternehmens rechtskonform handeln, um das Unternehmen vor Sanktionen zu schützen.

Was hat es mit der AI Literacy bzw. KI-Kompetenz auf sich?

In Artikel 4 verlangt der AI Act, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um eine ausreichende KI-Kompetenz bei ihren Mitarbeitenden und Personen, die ein KI-System auf ihre Anweisung hin nutzen, sicherzustellen. Dabei müssen sowohl das Nutzerprofil, beispielsweise die Vorkenntnisse und Erfahrungen einer Person, als auch der Nutzungskontext, etwa das eingesetzte KI-System und der konkrete Anwendungsfall, berücksichtigt werden.

Konkret stellt die Bundesnetzagentur drei Stufen vor, nach denen Maßnahmen strukturiert sein können:

1. Schaffung eines grundlegenden Verständnisses von Daten und KI in der Organisation
2. Aufbau fortgeschrittener KI-Kompetenzen
3. Rollenspezifische Trainings mit individuellen Schwerpunkten

Diese Struktur ist weder verpflichtend noch abschließend, sondern dient als Orientierung.

Die Pflicht zur Sicherstellung von ausreichender KI-Kompetenz gilt bereits seit Februar 2025. Ab August 2026 drohen bei Verstößen zusätzlich zu möglichen Haftungsrisiken auch weitere Sanktionen im Rahmen des AI Acts. Unternehmen sollten daher frühzeitig geeignete Qualifizierungsmaßnahmen ergreifen.

 

Quellen:

EU AI Act (Europäische Kommission)

Hinweispapier KI-Kompetenzen nach Artikel 4 KI-Verordnung (Bundesnetzagentur)