EU AI Act und ISO/IEC 42001: Der Doppelhebel für auditfähige KI – Ihr 90‑Tage‑Fahrplan

Die EU hat mit dem AI Act einen risikobasierten Ordnungsrahmen für Künstliche Intelligenz geschaffen. Für Unternehmen in der DACH‑Region bedeutet das: KI muss nicht nur leistungsfähig, sondern systematisch beherrschbar, nachvollziehbar und auditierbar sein. ISO/IEC 42001 bietet dafür den passenden Managementsystem‑Rahmen (AIMS – AI Management System), der Strategien, Prozesse und Verantwortlichkeiten so strukturiert, dass Compliance und Wertschöpfung Hand in Hand gehen. Wer in den nächsten 90 Tagen ein praktikables Fundament legt, reduziert Haftungsrisiken, verkürzt Auditzeiten und beschleunigt die sichere Skalierung von KI in der Linie.

Kernprinzip: Bauen Sie auf vorhandene GRC‑, Informationssicherheits- (z. B. ISO 27001) und Datenschutz‑Strukturen auf, ergänzen Sie KI‑spezifische Prozesse und beschränken Sie sich auf pragmatische Artefakte mit hohem Compliance‑Nutzen.

Use‑Case‑Inventar und Risikoklassifizierung – der Startpunkt

Ein vollständiges, gepflegtes KI‑Use‑Case‑Inventar ist die Grundlage jeder Umsetzung. Es dient als Register für Governance, Risikosteuerung und Audits.

So gehen Sie vor:

Definition: Was zählt als KI‑System? Legen Sie Kriterien fest (z. B. ML‑Modelle, generative Modelle, regelbasierte Systeme mit Lernkomponenten, zugekaufte KI‑Funktionen in SaaS).
Erfassung pro Use Case: Zweck, Geschäftsbereich, Architektur, Modelltyp, Datenquellen, betroffene Personengruppen, Anbieter/Cloud, Integration in Prozesse/Produkte, Entscheidungskritikalität, bestehende Kontrollen, Owner.
Risikoklassifizierung entlang des EU AI Act:
- Verbotene Nutzungen prüfen und ausschließen (z. B. manipulative Praktiken, bestimmte Formen der biometrischen Massenüberwachung).
- Hochrisiko: Systeme in sicherheitsrelevanten Produkten oder in Bereichen wie Beschäftigung, Kreditvergabe, kritische Infrastrukturen, Bildung oder Gesundheitsversorgung.
- Begrenztes Risiko: Transparenzpflichten (z. B. Kennzeichnung von KI‑Interaktionen, synthetischen Inhalten).
- Minimales Risiko: Standard‑Good‑Practice anwenden, Monitoring etablieren.
Ergebnis: Eine priorisierte Liste mit Klassifizierung, Gap‑Analyse und erforderlichen Maßnahmen je Use Case.

Tipp: Nutzen Sie ein zentrales, revisionssicheres Register (z. B. GRC‑Tool oder Data Catalog) mit Versionierung und Freigabe-Workflow.

Governance und Rollen: Klarheit in der Linie

Effektive KI‑Governance bündelt Verantwortung, beschleunigt Entscheidungen und erhöht die Auditfähigkeit. ISO/IEC 42001 strukturiert die Elemente nach Plan‑Do‑Check‑Act.

Empfohlene Rollen und Gremien:

Executive‑Sponsorship (CIO/CDO): Setzt KI‑Leitlinie, Budget, Prioritäten; verantwortet das AIMS.
Fachbereichs‑Owner: Eigentum an Use Cases, Business‑KPIs, Human Oversight im Prozess.
Legal/Compliance/Datenschutz: Auslegung EU AI Act, DPIA‑/Folgenabschätzungen, Vertragsklauseln, Betriebsvereinbarungen.
Informationssicherheit/IT‑Risk: Technische Kontrollen, Logging, Zugriff, Schwachstellenmanagement.
Data/ML Engineering: Datenqualität, Modellregistrierung, Tests, Deployment, Monitoring.
Betriebsrat/Personalvertretung: Frühzeitige Einbindung bei mitbestimmungspflichtigen Anwendungen (z. B. Personaleinsatzplanung, Leistungs-/Verhaltenskontrolle).
KI‑Steuerungskreis: Cross‑funktionales Gremium für Priorisierung, Freigaben, Risikoentscheidungen und Eskalationen.
Audit/IKS: Unabhängige Prüfungen, Wirksamkeitskontrollen, kontinuierliche Verbesserung.

Verankern Sie Verantwortlichkeiten in RACI‑Matrizen, verknüpft mit dem Use‑Case‑Inventar.

Lieferanten- und Modell‑Governance: Drittparteien beherrschen

Ein Großteil der KI‑Wertschöpfung erfolgt mit Modellen, Services und Daten externer Anbieter. Daraus folgen Due‑Diligence‑Pflichten.

Bausteine:

Lieferantendatenblatt: Anbieter, Hosting, Subprozessoren, Zertifizierungen (z. B. ISO 27001), Sicherheits- und Datenschutzklauseln, Support‑/Änderungsprozesse.
Konformitätsnachweise: Für Hochrisiko‑Systeme des Anbieters CE‑Kennzeichnung/Erklärung (sofern anwendbar), technische Dokumentation, Risiko- und Testberichte.
Modell‑Register: Versionen, Trainingsdatenquellen, Release‑Notes, bekannte Limitierungen, Lizenzbedingungen, Nutzungsrestriktionen.
SLA/KPIs: Verfügbarkeit, Latenz, Vorfalls‑ und Change‑Benachrichtigung, Modell‑Drift‑Informationen.
Third‑Party‑Risk: Bewertungsverfahren, Rezertifizierung, Exit‑Strategien, Escrow/Verschlüsselung von Artefakten.
Generative KI: Nutzungsrichtlinien, Prompt/Output‑Kontrollen, Inhaltskennzeichnung, Urheberrechts- und Markenrisiken.

Erzielen Sie Transparenz über Model Lineage (Herkunft, Training, Fine‑Tuning, Einsatzkontext) – idealerweise als „Chain of Custody“ vom Datensatz bis zur Entscheidung.

Datenherkunft und Dokumentation: Nachvollziehbarkeit sichern

Für Governance und Audits sind strukturierte Artefakte entscheidend:

Datasheets for Datasets: Herkunft, Erhebungszeitraum, Rechtsgrundlagen, Lizenzen, Schutzklassen, Repräsentativität, Datenqualitätsmetriken, bekannte Bias‑Quellen.
Model Cards: Zweck, Einsatzgrenzen, Trainingsdatenbeschreibung, Metriken (Accuracy, Recall, Robustheit), Fairness‑Ergebnisse, bekannte Failure‑Modes, empfohlenes Human Oversight.
Prozessdokumentation: End‑to‑End‑Ablauf vom Datenimport bis zur Entscheidung, inklusive Kontrollen, Freigaben und Logging‑Punkten.
Datenschutz & Ethik: Verknüpfung mit DPIA/Folgenabschätzungen; Mechanismen für Betroffenenrechte, Widerspruch und Erklärbarkeit.

Pflegen Sie diese Artefakte versionskontrolliert und referenzieren Sie sie im Use‑Case‑Inventar.

Technische und organisatorische Maßnahmen: Wirksamkeit vor Formalismus

Setzen Sie auf wenige, aber belastbare Kontrollen – abgestimmt auf das Risikoprofil.

Kernmaßnahmen:

Bias‑ und Fairness‑Tests: Geeignete Metriken je Anwendungsfall (z. B. demografische Parität, Equalized Odds), Subgruppen‑Analysen, Interventionspläne.
Robustheit & Sicherheit: Adversarial Tests, Resilienz gegen Daten-/Prompt‑Injektionen, Out‑of‑Distribution‑Erkennung, Cybersecurity‑Kontrollen.
Human Oversight: Klar definierte Eingriffsrechte, Schwellenwerte für manuelle Prüfung, „Kill Switch“, Vier‑Augen‑Prinzip bei kritischen Entscheidungen.
Logging & Nachvollziehbarkeit: Lückenlose Protokollierung von Eingaben, Model‑Version, Parametern, Entscheidung und Feedback; datenschutzkonform, mit angemessenen Aufbewahrungsfristen.
Monitoring im Betrieb: Leistungs‑, Drift‑ und Fairness‑Monitoring; Alarmierung und Auto‑Rollback‑Strategien.
Incident Handling: Schweregrade, Eskalationswege, Ursachenanalyse, Korrekturmaßnahmen; zeitnahe Meldung schwerwiegender Vorfälle an die zuständigen Stellen gemäß gesetzlichen Vorgaben.
Schulung & Befähigung: Rollenbasierte Trainings für Fachbereich, Entwickler, Legal/Compliance; Onboarding‑Pflicht für neue Use Cases.

Diese Kontrollen bilden das Rückgrat Ihrer Audit‑Readiness und fließen in das AIMS nach ISO/IEC 42001 ein.

Ihr 90‑Tage‑Fahrplan

Phase 1 (Tage 1–30): Transparenz und Leitplanken schaffen

Kick‑off und Scope: Unternehmensweit definieren, welche Einheiten/Use Cases im Fokus stehen.
KI‑Leitlinie & Risikokriterien: Risiko‑Taxonomie, Klassifizierungsregeln, Freigabeprozesse verabschieden.
Inventar aufsetzen: Minimal viable Register, Erfassung der Top‑20 Use Cases (nach Risiko/Umsatz/Regulatorik).
Governance etablieren: Steering Committee, RACI, Owner je Use Case; Betriebsrat und Datenschutz frühzeitig einbinden.
Artefakt‑Templates: Datasheets, Model Cards, Test‑/Validierungsprotokolle, Change‑/Deployment‑Checklisten.
Quick‑Scan: Erste Gap‑Analyse gegen EU AI Act‑Pflichten für priorisierte Use Cases.

Phase 2 (Tage 31–60): Kontrollen implementieren und priorisierte Risiken adressieren

Hochrisiko‑Use Cases: Detaillierte Risikobehandlung, Human‑Oversight‑Design, Testpläne (Bias/Robustheit), Protokollierungs‑Setup.
Lieferantengovernance: Due‑Diligence durchführen, SLAs nachschärfen, Konformitätsnachweise einholen.
Datenherkunft: Datasheets vervollständigen, Datenqualitätsprüfungen und Governance‑Workflows implementieren.
Technische Basis: Modell‑Register, CI/CD mit Freigabe‑Gates, Monitoring‑Pipelines aufsetzen.
Schulungen: Zielgruppenspezifische Trainings (Entwickler, Fachbereiche, Compliance); Awareness für Transparenzpflichten.

Phase 3 (Tage 61–90): Nachweisfähigkeit und Skalierung sichern

Evidence‑Repository: Revisionssichere Ablage für alle Artefakte und Protokolle, Traceability von Anforderung bis Kontrolle.
Interner Audit‑Dry‑Run: Stichprobenprüfung 2–3 kritischer Use Cases, Findings und Maßnahmenplan.
Betriebsreife: Incident‑Management testen (Tabletop), Eskalationsketten verproben, Reporting‑Templates finalisieren.
Skalierungsplan: Rollout‑Roadmap, Meilensteine, Budget/CapEx‑OpEx, Kennzahlen und Verantwortlichkeiten.
Management Review: Reifegradbewertung des AIMS, Prioritäten für Quartal 2 festlegen.

KPIs, die Compliance messbar machen

Lenken Sie über wenige, aussagekräftige Kennzahlen:

Inventarabdeckung: Anteil der identifizierten KI‑Use Cases im Register (Ziel: >95% in 90 Tagen).
Klassifizierungsquote: Anteil Use Cases mit finaler EU‑AI‑Act‑Risikoklasse (Ziel: >90%).
Hochrisiko‑Abdeckung: Anteil Hochrisiko‑Use Cases mit dokumentiertem Oversight‑Konzept, Testnachweisen, Logging (Ziel: 100%).
Dokumentationsqualität: Vollständigkeit von Model Cards und Datasheets (Ziel: >90% Pflichtfelder erfüllt).
Test‑Coverage: Anteil kritischer Modelle mit Bias‑/Robustheits‑Tests pro Release (Ziel: >90%).
Time‑to‑Detect: Zeit bis zur Erkennung signifikanter Modell‑Drifts/Vorfälle (Ziel: <24h).
Lieferantentransparenz: Anteil Drittmodelle mit Konformitäts- und Sicherheitsnachweisen (Ziel: >95%).
Trainingsquote: Anteil relevanter Rollen mit absolvierter KI‑Compliance‑Schulung (Ziel: >90%).
Audit‑Findings: Anzahl/Schweregrad wiederkehrender Abweichungen (Ziel: Trend sinkend).

Verknüpfen Sie KPIs mit automatisierten Reports aus Inventar, Model Registry und Monitoring.

Kompakte Checkliste für den Alltag

[ ] KI‑Leitlinie verabschiedet, Scope und Risikokriterien definiert
[ ] Zentrales Use‑Case‑Inventar mit Ownern und Klassifizierung befüllt
[ ] Frühzeitige Einbindung von Datenschutz und Betriebsrat sichergestellt
[ ] Templates für Datasheets, Model Cards, Testprotokolle im Einsatz
[ ] Hochrisiko‑Use Cases mit Human‑Oversight‑Konzept freigegeben
[ ] Bias‑/Robustheits‑Tests in CI/CD integriert; Freigabe‑Gates aktiv
[ ] Vollständiges Logging und revisionssichere Ablage konfiguriert
[ ] Incident‑Management (Meldewege, Schweregrade) definiert und getestet
[ ] Lieferantendokumente (SLA, Konformität, Security) geprüft und nachgehalten
[ ] Trainingsprogramm für relevante Rollen ausgerollt und dokumentiert
[ ] Evidence‑Repository und Traceability bis zur Auditfähigkeit aufgebaut
[ ] Management Review und Verbesserungsplan terminiert

Branchenspezifische Hinweise für DACH‑Unternehmen

Fertigung

Qualitätsprüfung/Visionsysteme: Bei sicherheitsrelevanten Komponenten Hochrisiko‑Anforderungen prüfen; Schnittstellen zur Maschinenverordnung berücksichtigen.
Predictive Maintenance: Typisch begrenztes/minimales Risiko; Fokus auf Datenqualität, Monitoring und klare Verantwortlichkeiten.
Robotik/HRC: Human Oversight, Not‑Aus‑Konzepte, betriebliche Mitbestimmung und Sicherheitszertifizierungen früh adressieren.

Finanzdienstleistungen

Kreditvergabe/Scoring: In der Regel Hochrisiko; strenge Fairness‑/Diskriminierungsprüfungen, Transparenz gegenüber Kunden, nachvollziehbare Begründungen.
Handel/Handelssysteme und Betrugserkennung: Robuste Modelle, dokumentierte Schwellenwerte, False‑Positive‑Management.
Aufsichtsumfeld: Nationale und europäische Leitlinien (z. B. MaRisk/BAIT, EBA‑Leitlinien) mit dem AIMS verzahnen.

Gesundheitswesen

Diagnostik/Triage‑Tools: Hochrisiko; klinische Validierung, Human Oversight durch ärztliches Personal, Integration mit Qualitätsmanagement (z. B. ISO 13485) und Datenschutz.
Patientendaten: Strenge Datenherkunft, Einwilligungen/Erlaubnistatbestände, differenziertes Logging mit Zugriffsbeschränkungen.

Handel (Retail)

Personalisierung/Recommendations: Meist begrenztes Risiko; Transparenz über KI‑gestützte Empfehlungen, Kontrolle von Relevanz/Bias.
Bild-/Biometrieeinsatz: Rechtlich besonders sensibel; bestimmte Anwendungen sind verboten bzw. hoch reguliert – Nutzung nur nach sorgfältiger Prüfung und mit klaren Schutzmaßnahmen.
Dynamische Preisgestaltung: Governance gegen diskriminierende Effekte; Audit‑Trails und Erklärbarkeit sicherstellen.

Audit‑Readiness und kontinuierliche Verbesserung

Zielbild ist ein lebendes AIMS, das Compliance‑Anforderungen nachweisbar erfüllt und zugleich Innovation ermöglicht:

Evidence‑First: Jeder Risikoeintrag, jede Freigabe, jeder Test hinterlässt eine prüfbare Spur.
Traceability: Anforderungen des EU AI Act werden auf Kontrollen gemappt; je Kontrolle existieren klare Nachweise und Verantwortliche.
Interne Audits: Quartalsweise Stichprobenprüfungen, Findings mit Fristen/Ownern und Wirksamkeitskontrolle.
Management Review: Regelmäßige Bewertung von Leistungskennzahlen, Risiken, Ressourcen; Entscheidungen werden dokumentiert.
Lessons Learned: Vorfälle, Drifts und Nutzerfeedback fließen in Daten- und Modellverbesserungen ein.
Skalierung: Neue Use Cases durchlaufen einen definierten Intake‑Prozess mit schneller Erstklassifizierung und risikoadäquaten Kontrollen.

Mit einem fokussierten 90‑Tage‑Programm, klaren KPIs und einer praxistauglichen Checkliste setzen Sie die Anforderungen des EU AI Act effizient um, verankern ISO/IEC‑42001‑konforme Prozesse und schaffen die Grundlage, KI sicher, compliant und messbar wertstiftend in der DACH‑Region zu skalieren.