EU AI Act 2025–2027: Pflichten, Risiken, Übungen

EU AI Act 2025–2027: Pflichten, Risiken, Übungen

Der EU AI Act tritt gestaffelt in Kraft – mit unmittelbaren Auswirkungen auf Alltag und Projekte in Unternehmen und Verwaltung. Wer KI plant, einkauft oder betreibt, muss seine Rolle im Gesetz klären, Use Cases korrekt einordnen und Prozesse für Aufsicht, Protokollierung und Vorfälle aufsetzen. Dieser Beitrag bündelt die wesentlichen EU AI Act Pflichten für Anbieter und Betreiber, ordnet Fristen ein und liefert drei Übungen für die Praxis. Eine vertiefende Einordnung bietet die EU AI Act Schulung und Roadmap.

Zeitachse: Was wann gilt

Die Anwendung erfolgt in Etappen. Entscheidend sind vier Stichtage, die Planungssicherheit geben und Prioritäten setzen:

• Seit 2. Februar 2025 gelten insbesondere die Verbote aus Art. 5 sowie Maßnahmen zur Entwicklung von KI-Kompetenz nach Art. 4. Art. 4 schreibt kein bestimmtes individuelles Kompetenzniveau, kein einheitliches Schulungsformat und kein EU-Zertifikat vor.
• Seit 2. August 2025 gelten wesentliche Regeln für Modelle mit allgemeinem Verwendungszweck, unter anderem zu Dokumentation und Informationen für nachgelagerte Anbieter.
• Seit 2. August 2026 gelten weitere allgemeine Anwendungs- und Transparenzregeln nach Maßgabe der Verordnung.
• Für Hochrisiko-KI nach Anhang III gilt die Anwendung grundsätzlich ab 2. Dezember 2027; für produktbezogene Hochrisiko-KI nach Anhang I grundsätzlich ab 2. August 2028. Einzelne Pflichten können eigene Anwendungszeitpunkte haben.

Die Staffelung ist gewollt: Zuerst werden gefährliche Praktiken gestoppt, dann GPAI-Regeln etabliert, anschließend greifen die umfassenden Anforderungen. Verstöße können nach Art. 99 mit erheblichen Bußgeldern geahndet werden; Marktaufsichtsbehörden und das AI Office koordinieren die Durchsetzung.

Rollen, Definitionen, Risikoklassen

Rollen bestimmen Pflichten: Betreiber verwenden ein KI-System unter eigener Verantwortung. Ob eine Organisation Anbieter, Betreiber, Einführer oder Händler ist, hängt von ihren konkreten Handlungen und Umständen ab; sie kann je nach Tätigkeit mehrere Rollen einnehmen. Daneben gibt es nachgelagerte Anbieter im Umfeld von Modellen mit allgemeinem Verwendungszweck. Ein KI-System ist ein maschinenbasiertes System, das mit unterschiedlichen Autonomiegraden Ausgaben wie Vorhersagen, Inhalte oder Entscheidungen erzeugt – breiter gefasst als nur Deep Learning. Wichtig ist die korrekte Einordnung des konkreten Systems, nicht nur der zugrundeliegenden Technik.

Die Risikoklassifizierung erfolgt dreistufig: (1) verbotene Praktiken (Art. 5), etwa manipulative Techniken oder bestimmte Formen biometrischer Echtzeit-Identifikation; (2) Hochrisiko-Systeme nach Art. 6 i. V. m. Anhang III (z. B. Beschäftigung, Bildung, Kreditwürdigkeit, kritische Infrastruktur); (3) Transparenzpflichten für bestimmte Systeme (z. B. Chatbots) sowie sonstige Anwendungen mit begrenztem Risiko. Für bestimmte Betreiber hochriskanter KI-Systeme kann in den in Art. 27 genannten Fällen eine Grundrechte-Folgenabschätzung erforderlich sein. Art. 50 regelt dagegen Transparenzpflichten für bestimmte KI-Systeme.

Konkrete Pflichten: Vom Design bis zum Betrieb

Anbieter hochriskanter Systeme müssen ein Risikomanagement etablieren, Datenqualität sichern, technische Dokumentation und Transparenz bereitstellen, Genauigkeit/Robustheit/Cybersicherheit nachweisen und vor dem Inverkehrbringen eine Konformitätsbewertung durchführen (Art. 9–16, 43). Hinzu kommen CE-Kennzeichnung, Marktüberwachung nach dem Inverkehrbringen (Art. 47) sowie Informations- und Kooperationspflichten (Art. 49). GPAI/GenAI-Anbieter adressieren zusätzlich Dokumentation, Downstream-Informationen und systemische Risiken (Art. 53/55, Code of Practice).

Betreiber sind für den verantwortlichen Einsatz zuständig. Je nach System und Rolle gelten insbesondere Art. 26 für Betreiber hochriskanter Systeme, Art. 27 für die Grundrechte-Folgenabschätzung in den dort genannten Fällen sowie Art. 72 und 73 für Überwachung und die Meldung schwerwiegender Vorfälle. Technisch bedeutet das unter anderem sauberes Logging, definierte Eingriffs- und Stop-Entscheidungen sowie belastbare Betriebsanleitungen. Praktische Hinweise zur Umsetzung liefern IT-Teams: Operative Umsetzung von Oversight und Logging.

Drei Übungen für sofortige Operationalisierung

1) Use-Case-Qualifizierung: Reale Fälle (Bewerbervorauswahl, Kreditprüfung, Chatbot, GenAI-Content, Gesichtsdatenbank) werden entlang von Rolle, Risikokategorie und maßgeblichen Artikeln (Art. 5, 6, Anhang III, 50) klassifiziert – mit einer klaren Stop- oder Freigabe-Entscheidung. Ziel: Sicherheit in der Erstbewertung und konsistente Dokumentation.

2) Oversight-Tabletop: Ein Hochrisiko-System liefert ein fragwürdiges Ergebnis. Aus Anleitung und Oversight-Vorgaben wird abgeleitet, wer eingreifen darf, wann Ausgaben ignoriert/übersteuert werden und ob ein Incident vorliegt (Art. 13, 14, 26, 72, 73). Ergebnis: geübte Entscheidungswege, klare Trigger und Beweisführung über Protokolle.

3) GPAI-Vendor-Due-Diligence: Teams prüfen Modellanbieter zu Dokumentation, Downstream-Information, Trainingsdaten-Zusammenfassung, Urheberrechtsstrategie, Code of Practice und möglichem Systemrisiko (Art. 53/55). Das schärft die Trennung zwischen Modell- und Systempflichten. Hinweise zur Moderation und Einbettung in Projektpläne: Projektleitung: Übungen und Tabletop für Compliance-Checks.

Fazit: Der AI Act ist kein reines Rechtsprojekt, sondern Organisationsarbeit über mehrere Jahre. Wer Rollen sauber klärt, Use Cases strukturiert klassifiziert, Oversight und Incident-Prozesse dokumentiert und GPAI-Lieferketten prüft, reduziert Haftungsrisiken und ist gegenüber Marktaufsicht und Beschwerden prüffest aufgestellt.