KI-Kompetenz nach Art. 4 nachweisen: Was Unternehmen praktisch dokumentieren sollten

Wer KI-Kompetenz nach Art. 4 nachweisen will, sollte nicht nach einer Einzelmaßnahme suchen. In der Praxis zählt ein nachvollziehbares Zusammenspiel aus Rollenbezug, Schulung, internen Leitplanken, freigegebenen Tools und dokumentierten Verantwortlichkeiten. Genau das ist für Unternehmen meist die belastbarste Orientierung.

Wichtig ist dabei die richtige Erwartungshaltung: Art. 4 der KI-Verordnung verlangt nach heutigem Verständnis kein magisches Zertifikat und auch keinen gesetzlich fest vorgegebenen Nachweisordner. Trotzdem ist Dokumentation sinnvoll, weil sie zeigt, dass KI-Nutzung nicht zufällig, sondern organisiert erfolgt. Dieser Beitrag bietet eine rechtlich informierte Orientierung zur praktischen Umsetzung und ersetzt keine Rechtsberatung.

Für Geschäftsführer, Compliance-Verantwortliche, Datenschutz, IT, HR und Fachabteilungen heißt das: Der Nachweis entsteht nicht erst am Ende als schönes Dokument. Er entsteht während der Umsetzung. Wenn Rollen geklärt, Schulungen durchgeführt, Tools freigegeben, Einsatzgrenzen beschrieben und Aktualisierungen geplant sind, wird KI-Kompetenz greifbar und nachvollziehbar.

Was Art. 4 KI-Kompetenz grundsätzlich verlangt

Der Artikel 4 KI-VO verpflichtet Anbieter und Betreiber von KI-Systemen dazu, sicherzustellen, dass Personen, die mit KI arbeiten oder diese verantworten, über ein angemessenes Maß an KI-Kompetenz verfügen. Maßgeblich sind dabei unter anderem technische Kenntnisse, Erfahrung, Ausbildung und der Einsatzkontext. Die Bundesnetzagentur beschreibt KI-Kompetenz zudem als Fähigkeiten, Kenntnisse und Verständnis für den sachkundigen Einsatz von KI sowie für Chancen, Risiken und mögliche Schäden.

Entscheidend ist also nicht, ob jemand einmal ein Webinar besucht hat. Entscheidend ist, ob Menschen im Unternehmen KI so nutzen, prüfen und steuern können, wie es zu ihrer Rolle und zum jeweiligen Risiko passt.

Zwischenfazit: Art. 4 ist keine reine Schulungspflicht im engen Sinn. Es geht um ein angemessenes Kompetenzniveau für die konkrete Nutzung und Verantwortung im Unternehmen.

KI-Kompetenz nach Art. 4 nachweisen: Warum eine Standardschulung oft nicht reicht

Viele Unternehmen starten mit einer Basisschulung. Das ist sinnvoll, reicht als alleiniger Nachweis aber oft nicht aus. Der Grund ist einfach: KI-Nutzung ist nicht überall gleich riskant. Wer im Marketing Textentwürfe erstellt, braucht andere Leitplanken als HR bei Bewerbervorauswahl oder ein Backoffice-Team bei der Verarbeitung vertraulicher Inhalte.

Eine einmalige Standard-Schulung ist vor allem dann zu dünn, wenn sie keinen Rollenbezug hat, keine Einsatzgrenzen definiert und nicht dokumentiert wird. Ein schlechtes Beispiel wäre ein allgemeines Webinar ohne Teilnehmerliste, ohne Schulungsinhalte und ohne interne Regeln zur Nutzung freigegebener Tools.

Deutlich belastbarer ist ein anderer Ansatz: rollenspezifische Basisschulung, dokumentierte Leitplanken, klare Tool-Freigaben und regelmäßige Aktualisierung. Das bedeutet nicht, dass jedes Unternehmen ein großes Compliance-Programm braucht. Es bedeutet nur, dass der Nachweis zur tatsächlichen KI-Nutzung passen sollte.

Die merkfähige Kernbotschaft lautet deshalb: Nicht Zertifikat zuerst, sondern nachvollziehbares Kompetenzsystem.

Warum der Rollenbezug so wichtig ist

Ein Kompetenznachweis ohne Rollenbezug bleibt häufig zu abstrakt. Eine Person, die KI nur für erste Formulierungsvorschläge nutzt, benötigt andere Hinweise als eine Person, die KI-Ergebnisse fachlich freigibt oder über neue Tools entscheidet. Deshalb sollten Unternehmen nicht nur dokumentieren, dass geschult wurde, sondern auch, für wen die Schulung gedacht war und welche Nutzungssituation sie abdeckt.

Das macht die Umsetzung auch für kleinere Unternehmen handhabbarer. Statt alle Mitarbeitenden mit denselben Details zu überfrachten, kann ein Grundniveau für alle KI-nutzenden Personen festgelegt und für sensiblere Rollen ergänzt werden. So entsteht ein nachvollziehbares Kompetenzsystem, ohne unnötige Bürokratie aufzubauen.

KI-Kompetenz nach Art. 4 nachweisen: Welche Unterlagen in der Praxis sinnvoll sind

Wenn Unternehmen KI-Kompetenz nach Art. 4 nachweisen wollen, helfen vor allem Unterlagen, die Schulung und Organisation zusammenführen. Behördliche und institutionelle Orientierungshilfen empfehlen zwar keinen starren Pflichtkatalog, aber eine strukturierte Dokumentation der Maßnahmen.

Mindestbausteine eines nachvollziehbaren Nachweis-Sets

• Schulungsnachweise: Datum, Format, Inhalte, Zielgruppe, Teilnahme
• Teilnehmerlisten: Wer wurde wann zu welchem Thema sensibilisiert oder geschult?
• Rollenübersicht: Welche Teams nutzen KI, prüfen Ergebnisse oder geben Anwendungen frei?
• Interne KI-Leitlinie: Was ist erlaubt, was ist untersagt, wann ist menschliche Prüfung Pflicht?
• Liste freigegebener Tools: Welche Systeme dürfen genutzt werden, unter welchen Bedingungen?
• Anwendungsfall-Übersicht: Wo wird KI eingesetzt und wie sensibel ist der Kontext?
• Verantwortlichkeiten: Wer pflegt Leitplanken, wer prüft neue Tools, wer aktualisiert Inhalte?
• Review-Rhythmus: Jährliche Auffrischung oder Update bei neuen Tools, Prozessen oder Risiken

Eine typische Nachweismappe kann also aus Schulungsagenda, Teilnehmerliste, Rollenmatrix, KI-Leitlinie, Tool-Liste, Review-Datum und verantwortlicher Person bestehen. Das ist deutlich hilfreicher als die Aussage, man sei „compliant“.

Zwischenfazit: Dokumentation ist oft wichtiger als ein plakatives Label. Nicht weil das Gesetz einen bestimmten Ordner verlangt, sondern weil Nachvollziehbarkeit organisatorische Reife zeigt.

Was in der Dokumentation besonders nachvollziehbar sein sollte

Hilfreich ist eine Dokumentation vor allem dann, wenn sie den Weg von der KI-Nutzung zur Kompetenzmaßnahme sichtbar macht. Unternehmen können zum Beispiel festhalten, welche KI-Anwendungen genutzt werden, welche Personengruppen damit arbeiten, welche Risiken im Alltag relevant sind und welche Schulungsinhalte genau darauf reagieren. Dadurch wird erkennbar, dass Schulung, Leitlinie und Tool-Freigabe zusammengehören.

Auch der Aktualisierungsrhythmus ist wichtig. Wenn neue Tools eingeführt werden, Aufgabenbereiche hinzukommen oder sich interne Prozesse ändern, sollte geprüft werden, ob Schulungsinhalte und Leitplanken noch passen. Eine kurze Review-Notiz mit Datum, verantwortlicher Person und Ergebnis kann hier bereits viel Klarheit schaffen.

Welches Kompetenzniveau welche Rollen brauchen

Der Begriff angemessen ist der Kern von Art. 4. In der Praxis sollten Unternehmen deshalb nach Rolle, Risiko, Einsatzkontext und Tool-Nutzung unterscheiden.

Allgemeine KI-Nutzung mit niedrigem bis mittlerem Risiko

Ein KMU im Marketing nutzt generative KI für Textentwürfe. Hier kann ein pragmatisches Set genügen: Kurzschulung zu Chancen und Grenzen, Prompt- und Freigabeleitlinie, Kennzeichnung interner Entwürfe und Benennung einer fachlichen Freigabeinstanz. Wer in diesem Umfeld KI-Kompetenz nach Art. 4 nachweisen will, muss vor allem zeigen, dass Mitarbeitende Ergebnisse prüfen und keine unkontrollierte Veröffentlichung erfolgt.

Typische Inhalte für dieses Grundniveau sind etwa: Ergebnisse kritisch prüfen, keine vertraulichen Informationen in nicht freigegebene Tools eingeben, KI-Ausgaben nicht ungeprüft veröffentlichen und interne Freigaberegeln beachten. Damit wird KI-Kompetenz nicht theoretisch verstanden, sondern auf konkrete Alltagssituationen bezogen.

Sensiblere Anwendungsfälle mit erhöhtem Bedarf

Anders sieht es in HR aus. Wer KI für Stellenanzeigen, Vorselektion oder Analyse von Bewerbungen einsetzt, braucht ein höheres Sensibilisierungsniveau. Dann gehören Diskriminierungsrisiken, menschliche Kontrolle, Einsatzgrenzen und Dokumentation deutlich stärker in den Vordergrund. Ähnlich ist es in Verwaltung oder Backoffice, wenn KI-Assistenten für Protokolle, Zusammenfassungen oder Recherche mit vertraulichen Informationen genutzt werden. Dort sind Tool-Freigabe, Datenschutz- und Vertraulichkeitshinweise sowie Schulung zur Prüfung möglicher Halluzinationen zentral.

Je nach Branche und Anwendungsfall können weitere Anforderungen relevant werden, etwa aus Datenschutz, Arbeitsrecht, Vergaberecht, Branchenregulierung oder internen Governance-Vorgaben. Genau deshalb sollte das Kompetenzniveau nicht pauschal, sondern kontextbezogen festgelegt werden.

Verantwortliche Personen brauchen einen anderen Blick

Personen, die KI-Tools freigeben, Leitlinien pflegen oder Schulungsmaßnahmen organisieren, benötigen zusätzlich ein Verständnis für Verantwortlichkeiten und interne Steuerung. Sie müssen nicht zwingend jedes technische Detail beherrschen. Sie sollten aber erkennen können, wann ein Anwendungsfall genauer geprüft werden muss, wer intern beteiligt werden sollte und wie Änderungen dokumentiert werden.

Gerade in KMU liegt diese Verantwortung häufig nicht in einer eigenen Compliance-Abteilung, sondern bei Geschäftsführung, IT, Datenschutz, HR oder Fachbereichsleitung. Umso wichtiger ist eine einfache Rollenmatrix, die sichtbar macht, wer KI nutzt, wer prüft, wer entscheidet und wer die Dokumentation aktuell hält.

So können KMU mit überschaubarem Aufwand starten

Nicht jedes Unternehmen braucht sofort ein umfangreiches KI-Governance-Programm. Für viele KMU ist ein einfaches, aber sauberes Startpaket der beste Weg. Wer KI-Kompetenz nach Art. 4 nachweisen möchte, kann mit vier Bausteinen beginnen:

1. 1-Seiten-KI-Richtlinie: Erlaubte Nutzung, Verbote, Prüfpflichten, Umgang mit sensiblen Daten
2. Rollenübersicht: Wer nutzt KI, wer prüft Ergebnisse, wer gibt Tools frei?
3. Basisschulung: Grundlagen, Risiken, Qualitätsprüfung, Vertraulichkeit, Einsatzgrenzen
4. Nachweisliste: Schulungstermine, Teilnehmende, freigegebene Tools, nächstes Review

Damit entsteht kein bürokratisches Monster, sondern ein dokumentierbares Mindestniveau. Genau das ist für viele kleinere Organisationen der realistische erste Schritt.

Wenn Sie den Aufbau strukturiert angehen wollen, kann eine EU AI Act Schulung helfen, Rollenbezug, Leitplanken und Dokumentation sauber zusammenzubringen. Für Unternehmen mit regionalem Umsetzungsbedarf ist auch eine KI-Compliance Beratung in NRW ein passender Anschluss, etwa wenn mehrere Fachbereiche beteiligt sind oder bereits konkrete KI-Anwendungen im Einsatz sind.

Ein pragmatischer Ablauf für den Start

Ein sinnvoller Einstieg beginnt mit einer kurzen Bestandsaufnahme: Welche KI-Tools werden genutzt, von welchen Teams, für welche Aufgaben und mit welchen Daten? Danach kann das Unternehmen festlegen, welche Anwendungen erlaubt, eingeschränkt oder zunächst nicht freigegeben sind. Erst daraus ergeben sich passende Schulungsinhalte.

Im nächsten Schritt werden Rollen und Verantwortlichkeiten dokumentiert. Wer darf Tools freigeben? Wer prüft fachliche Ergebnisse? Wer aktualisiert die Leitlinie? Wer sammelt Schulungsnachweise? Diese Fragen müssen nicht kompliziert beantwortet werden, sollten aber nicht offenbleiben. Anschließend können Basisschulung, Teilnehmendenliste und Review-Termin ergänzt werden.

So entsteht ein Nachweis, der nicht auf einem einzelnen Zertifikat beruht, sondern auf einem nachvollziehbaren Prozess. Das ist besonders hilfreich, wenn später neue Tools hinzukommen oder Fachbereiche ihre KI-Nutzung ausweiten.

Wie man KI-Kompetenz dokumentiert, ohne falsche Versprechen zu machen

Der häufigste Fehler ist nicht zu wenig Aktivität, sondern die falsche Kommunikation. Unternehmen sollten nicht behaupten, eine Schulung allein erfülle alle Pflichten. Sinnvoller sind Formulierungen wie: „Wir haben mit Blick auf Art. 4 KI-Kompetenz Rollen definiert, Schulungen durchgeführt, Leitplanken dokumentiert und einen Aktualisierungsprozess eingerichtet.“ Das ist sachlich, nachvollziehbar und dokumentierbar.

Ebenso wichtig: Art. 4 enthält nach aktuellem Verständnis keine ausdrücklich normierte Dokumentationspflicht und keine isolierte Bußgeldnorm nur für fehlende Nachweisunterlagen. Trotzdem ist eine saubere Dokumentation ratsam, weil sie im Organisationskontext relevant sein kann und interne Steuerung erleichtert. Diese Einordnung ist eine Praxiseinschätzung auf Basis offizieller Orientierungshilfen, keine Rechtsberatung.

Ein gutes internes Minimum für die Dokumentation umfasst daher:

• Ziel und Geltungsbereich der KI-Nutzung
• Rollen und Verantwortliche
• geschulte Personengruppen und Inhalte
• freigegebene und nicht freigegebene Tools
• Einsatzgrenzen bei sensiblen Daten oder risikoreichen Fällen
• Prüf- und Freigaberegeln
• Datum der letzten Aktualisierung

Zwischenfazit: Wer nachvollziehbar dokumentiert, verspricht nicht zu viel und schafft trotzdem eine belastbare Grundlage.

Gute und schlechte Nachweislogik im Vergleich

Ein schwacher Ansatz wäre: Es gibt ein allgemeines Webinar, aber keine Teilnehmerliste, keine dokumentierten Inhalte, keine Tool-Freigabe und keine Regeln für sensible Daten. Dann bleibt unklar, ob die Maßnahme tatsächlich zur KI-Nutzung im Unternehmen passt.

Ein deutlich besserer Ansatz wäre: Das Unternehmen dokumentiert die genutzten KI-Anwendungen, beschreibt Rollen, führt eine Basisschulung durch, ergänzt bei sensibleren Aufgaben zusätzliche Hinweise und legt fest, wann Inhalte überprüft werden. Damit wird sichtbar, dass KI-Kompetenz nicht nur behauptet, sondern organisatorisch verankert wird.

Nächster sinnvoller Schritt

Wenn Sie KI-Kompetenz im Unternehmen nicht nur schulen, sondern auch in Rollen, Leitplanken und Dokumentation übersetzen möchten, ist der nächste sinnvolle Schritt meist eine strukturierte Bestandsaufnahme. Darauf aufbauend kann eine passende EU AI Act Schulung helfen, ein realistisches Nachweis-Set für Ihre Teams aufzubauen. Das ist besonders dann sinnvoll, wenn bereits mehrere Fachbereiche KI nutzen oder sensible Anwendungsfälle betroffen sind.

Praktisch bedeutet das: Erst klären, welche KI-Nutzung tatsächlich stattfindet. Dann Rollen, Risiken und Einsatzgrenzen beschreiben. Danach Schulung und Dokumentation so aufsetzen, dass sie zum Unternehmen passen. So bleibt die Umsetzung realistisch, nachvollziehbar und dokumentierbar.

Quellen und fachliche Orientierung

• Bundesnetzagentur: Hinweispapier KI-Kompetenzen nach Artikel 4 KI-Verordnung
• BMDS: Kompetenzaufbau gemäß Art. 4 AI Act (KI-VO)
• Art. 4 KI-VO – Wortlaut und Einordnung
• IHK Hannover: Verpflichtungen im AI-Act – KI-Kompetenzen im Unternehmen sichern
• Haufe: Sicherstellung der KI-Kompetenz als neue Arbeitgeberpflicht

Autor: Niklas Entenmann