EU AI Act
Zusammenfassung des EU AI Acts
Der AI Act ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz in der Europäischen Union. Sein Ziel ist es, sichere und vertrauenswürdige KI zu fördern, während gleichzeitig Grundrechte und Innovation geschützt werden.
Die Risikokategorien im Detail
Verbotene KI-Praktiken
- Social Scoring (soziale Bewertung durch den Staat)
- Kognitive Verhaltensmanipulation
- Ungezieltes Auslesen von Gesichtsbildern ("Scraping")
- Emotionserkennung am Arbeitsplatz oder in Schulen
- Predictive Policing basierend auf Profiling
Hochrisiko-KI-Systeme
- Einsatz in kritischen Infrastrukturen
- Personalwesen (z.B. Bewerber-Screening)
- Strafverfolgung und Justiz
- Bildung und Berufsausbildung
- Strenge Pflichten zu Datenqualität und Aufsicht
Mittleres Risiko / Transparenzpflichten
- Chatbots und konversationelle KI-Systeme
- KI-generierte Texte, Bilder, Audio, Video
- Emotionserkennung und biometrische Kategorisierung
- Transparenzpflicht: Nutzer müssen informiert werden
- Kennzeichnungspflicht für KI-generierte Inhalte
- Maschinenlesbare Wasserzeichen für synthetische Medien
Geringes Risiko
- Spam-Filter, Produktempfehlungen, Suchfunktionen
- KI-gestützte Videospiele und Entertainmentsysteme
- Interne Planungs- und Analysetools ohne automatisierte Entscheidungen mit Außenwirkung
- Keine strengen Pflichten, freiwillige Kodizes empfohlen
Umsetzungszeitstrahl
Inkrafttreten der Verordnung
⚠ Bereits abgelaufen – Handlungsbedarf!
Verbote (unannehmbares Risiko) gelten
⚠ Bereits abgelaufen
Pflichten für GPAI-Modelle gelten
Hochrisiko-Pflichten (Anhang I) gelten
Alle Hochrisiko-Pflichten gelten vollumfänglich
Wen betrifft der AI Act?
Anbieter
Unternehmen, die ein KI-System entwickeln (lassen) und unter eigenem Namen auf den Markt bringen.
- Risikoklassifizierung durchführen
- Technische Dokumentation erstellen
- Qualitätsmanagementsystem einrichten
Betreiber
Unternehmen oder Behörden, die ein KI-System in eigener Verantwortung nutzen.
- Einsatz gemäß Bedienungsanleitung
- Menschliche Aufsicht gewährleisten
- Meldepflicht bei Vorfällen
Importeur / Händler
Akteure, die KI-Systeme aus Drittländern auf dem EU-Markt bereitstellen.
- Konformität des Anbieters prüfen
- Sicherstellen der CE-Kennzeichnung
- Kooperation mit Behörden
Bußgelder bei Verstößen (Penalties)
Der EU AI Act sieht empfindliche Strafen vor, die deutlich über denen der DSGVO liegen können. Die genaue Höhe richtet sich nach der Art des Verstoßes und der Unternehmensgröße:
- Verbotene KI-Praktiken: Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist).
- Verstoß gegen Hochrisiko-Pflichten: Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.
- Falsche Angaben gegenüber Behörden: Bis zu 7,5 Millionen Euro oder 1 % des weltweiten Jahresumsatzes.
- Ausnahme für KMU und Startups: Bei KMU greift als Strafe in der Regel der geringere der beiden Beträge (Festbetrag oder Umsatzanteil), um die wirtschaftliche Existenz nicht zu gefährden.