EU AI Act und ISO/IEC 42001 vereint: Der 90‑Tage‑Blueprint für belastbare AI‑Governance

Wenn Sie KI in Ihrem Unternehmen skalieren möchten, benötigen Sie ein Governance-System, das regulatorische Sicherheit und geschäftlichen Nutzen gleichermaßen adressiert. Der EU AI Act setzt den Rahmen für risikobasierte Anforderungen entlang des gesamten KI‑Lebenszyklus; ISO/IEC 42001 liefert dazu das Managementsystem, mit dem Sie diese Anforderungen strukturiert planen, umsetzen, überwachen und verbessern. Zusammen ermöglichen beide, KI sicher, compliant und messbar wirksam zu betreiben – von der ersten Idee bis zum produktiven Betrieb.

Ziel dieses Beitrags ist ein 90‑Tage‑Blueprint, mit dem mittel‑ bis Großunternehmen in Industrie, Finanzdienstleistung, Gesundheitswesen und Handel ein praxistaugliches AI‑Governance‑System aufbauen. Im Fokus stehen: klare Risikoklassifizierung von Use Cases, ein belastbares AI‑Inventar samt Kontrollkatalog, Rollen und Gremien (z. B. AI Board), Lieferantenmanagement, technische Dokumentation und Konformitätsbewertung, Schnittstellen zu GDPR/ISO 27001 sowie branchenspezifische Besonderheiten. Ergänzend erhalten Sie Quick Wins, KPI‑Vorschläge, Audit‑Readiness‑Checklisten und Hinweise zu typischen Fallstricken.

Ihr 90‑Tage‑Blueprint: Von der Gap‑Analyse zur Betriebsverankerung

Phase 1 (Tage 1–30): Verstehen, fokussieren, Grundlagen schaffen

Gap‑Analyse: Abgleich aktueller Praktiken mit EU‑AI‑Act‑Anforderungen und ISO/IEC‑42001‑Kapiteln (Kontext der Organisation, Führung, Planung, Betrieb, Bewertung, Verbesserung).
Scope & Priorisierung: Definition des organisatorischen Geltungsbereichs (Regionen, Einheiten, Produkte), Festlegung kritischer Use Cases nach Risiko und Geschäftsimpact.
AI‑Inventar (MVP): Erfassung erster Use Cases inkl. Zweck, Daten, Modelle, Anbieter, betroffene Gruppen, Risikoindizien.
Governance‑Rahmen: Entwurf der AI‑Policy, Charter für ein AI Board, Rollensteckbriefe (z. B. AI Owner, Model Owner, Data Steward, Compliance, CISO, DPO).
Schulungsplan: Grundlagentraining zu EU AI Act, ISO/IEC 42001, Risiko‑/Kontrollprinzipien.

Phase 2 (Tage 31–60): Steuern, dokumentieren, absichern

Risikoklassifizierung: Bewertung aller priorisierten Use Cases (verboten, hoch, begrenzt, minimal; inkl. Begründung und Mitigations).
Kontrollkatalog: Definition und Zuordnung technischer, organisatorischer und prozessualer Kontrollen je Use‑Case‑Risiko.
Lieferantenmanagement: Due‑Diligence‑Prozess, vertragliche Anforderungen, Auditrechte und Monitoring.
Technische Dokumentation: Aufbau der Technical Files inkl. Datengovernance, Trainings‑/Testkonzept, Leistungsmetriken, Human Oversight, Robustheit, Sicherheitsmaßnahmen.
Schnittstellen: Integration mit GDPR (z. B. DPIA‑Trigger) und ISMS nach ISO/IEC 27001 (Asset‑, Zugriffs‑, Änderungs‑ und Incident‑Management).

Phase 3 (Tage 61–90): Nachweisfähigkeit, Messbarkeit, Betrieb

Konformitätsbewertung: Interne Prüfungen gegen den Kontrollkatalog; wo erforderlich Vorbereitung auf externe Bewertungen.
Betriebsverankerung: Einbindung in SDLC/MLOps, Freigabeprozesse, Retrain‑Governance, Incident‑/Change‑Prozesse, Post‑Market‑Monitoring.
KPI‑Set & Dashboards: Einführung von Leistungs‑, Risiko‑ und Compliance‑Kennzahlen (siehe unten).
Audit‑Readiness: Review‑Zyklus, Probenachweise, Checklisten, Mock‑Audits, Maßnahmenplan für Abweichungen.
Enablement: Rollenspezifische Trainings, Lessons Learned, Plan für kontinuierliche Verbesserung.

Risikoklassifizierung von Use Cases: pragmatisch und belastbar

Vorgehen in vier Schritten:
1) Kategorisierung: Einordnung in verbotene, hoch‑, begrenzt‑ oder minimal‑riskante Anwendungen gemäß EU‑AI‑Act‑Risikologik.
2) Kontextanalyse: Zweck, betroffene Personen, Einsatzumfeld, Automatisierungsgrad, Auswirkungen bei Fehlentscheidungen, mögliche Bias‑Risiken.
3) Kontrollen & Mitigation: Auswahl geeigneter Kontrollen (z. B. menschliche Aufsicht, Datenqualitätsanforderungen, Erklärbarkeit, Schwellenwerte).
4) Freigabe & Review: Dokumentierte Entscheidung des AI Boards, Re‑Bewertung bei wesentlichen Modell‑/Datenänderungen.

Beispiele je Branche:

Industrie: Visuelle Qualitätsprüfung (typisch begrenztes bis hohes Risiko, je nach Auswirkung auf Sicherheit/Produktion); prädiktive Wartung (meist begrenztes Risiko, Fokus auf Datenqualität und Falsch‑Negativ‑Kosten).
Finance: Kreditwürdigkeitsprüfung (häufig hochriskant wegen Auswirkungen und Diskriminierungspotenzial); Betrugsprävention (begrenztes bis hohes Risiko; Transparenz zu Fehlalarmen, Kundenkommunikation).
Healthcare: Triage‑Unterstützung/Diagnose (idR hochriskant; strenge klinische Validierung, menschliche Aufsicht, robuste Monitoring‑Prozesse); Ressourcenplanung (meist begrenzt).
Retail: Personalisierung/Empfehlungen (begrenztes Risiko; Fairness und Transparenz beachten); dynamische Preisgestaltung (abhängig vom Kontext; besondere Sorgfalt bei Verbraucherschutz und Diskriminierungsrisiken).

AI‑Inventar und Kontrollkatalog: das Rückgrat Ihrer Governance

AI‑Inventar: zentrale, versionierte Quelle für alle KI‑Systeme, Use Cases und Pipelines mit u. a.:

Identifikatoren, Sponsoren, Business‑Ziele, betroffene Prozesse/Standorte
Modelltyp/Version, Trainings‑/Inferenzumgebung, Datenquellen, Merkmale sensibler Daten
Risikoeinstufung, betroffene Stakeholder, potenzielle Schäden/Abhängigkeiten
Lieferanten/Third Parties, Lizenz‑/Nutzungsbedingungen, SLAs
Kontrollen, Testergebnisse, Freigaben, Gültigkeitszeitraum, Re‑Review‑Zyklus
Monitoring‑KPIs, Incidents, Changes, Retraining‑Historie

Kontrollkatalog: strukturierte Bibliothek mit Zuordnung zu EU‑AI‑Act‑Pflichten und ISO/IEC‑42001‑Kapiteln, z. B.:

Governance & Führung: AI‑Policy, Rollen, AI Board, Ethikgrundsätze, Interessenkonflikte
Risikomanagement: systematische Risikoidentifikation, Bewertung, Behandlungspläne, Akzeptanzkriterien
Datengovernance: Datenherkunft, Einwilligungen/Legitimation, Qualität, Repräsentativität, Drift‑Detektion
Technische Qualität: Trainings‑/Test‑/Validierungspläne, Robustheit, Resilienz, Security‑Tests
Transparenz & Erklärbarkeit: Dokumentation, Nutzerinformationen, Entscheidungspfad, Limitations
Human Oversight: Eingreifschwellen, Vier‑Augen‑Prinzip, Notfall‑/Abschaltmechanismen
Betriebsprozesse: Change‑/Release‑Management, Incident‑/Problem‑Management, Backup/Recovery
Post‑Market‑Monitoring: Metriken, Feedbackkanäle, Major‑Incident‑Meldungen, Verbesserungszyklen

Rollen, Gremien und Lieferantensteuerung

Rollen und Gremien:

AI Board: quorumfähiges Gremium mit Business, Technik, Recht/Compliance, Risiko, DPO und ggf. Betriebsrat. Aufgaben: Policy‑Freigaben, Risikoentscheidungen, Ausnahmegenehmigungen, Eskalationen.
AI Owner (Business): Nutzenverantwortung, Budget, Zielmetriken, Go‑/No‑Go.
Model Owner (Tech): Modellqualität, Dokumentation, Monitoring, Changes.
Data Steward: Datenqualität, Lineage, Zugriffssteuerung, Löschkonzepte.
Compliance/Risk: Vorgaben, Second‑Line‑Reviews, Audits.
DPO/CISO: Datenschutz‑ und Security‑Fachaufsicht.

Lieferanten‑/Third‑Party‑Management:

Due Diligence: Architekturübersicht, Trainingsdatenherkunft, Leistungsmetriken, Bias‑/Robustheitstests, Security‑Zertifikate, Lebenszyklus‑Prozesse.
Vertragliche Anforderungen: Konformitätszusicherungen, Audit‑/Pen‑Test‑Rechte, Schwachstellen‑Meldepflichten, Leistungs‑/Verfügbarkeits‑SLAs, Sub‑Prozessor‑Transparenz.
Überwachung: Onboarding‑Checks, periodische Reviews, Performance‑/Drift‑Monitoring, Incident‑Prozesse, Exit‑Strategien.

Technische Dokumentation und Konformitätsbewertung

Technische Dokumentation (Technical File) je Use Case:

Zweck, Systemgrenzen, Zielpopulation, Intended Use/Limitations
Datenmanagement: Quellen, Rechte, Qualität, Vorverarbeitung, Bias‑Analysen
Modellbeschreibung: Architektur/Version, Trainingsprotokolle, Hyperparameter, Feature‑Katalog
Validierung: Testpläne, Szenarien, Metriken (Accuracy, Recall, AUC, FNR/FPR), Robustheit gegen Störungen, Stress‑/Adversarial‑Tests
Human Oversight: Bedienkonzept, Eingriffsmöglichkeiten, Schwellen, Fail‑Safes
Sicherheit: Bedrohungsmodell, Härtung, Zugriff, Logging, Supply‑Chain‑Risiken
Betrieb: Deployment, Monitoring, Drift‑Überwachung, Retraining‑Trigger, Rollback
Änderungen/Incidents: Change‑Logs, Root‑Cause‑Analysen, Korrektur‑/Vorbeugemaßnahmen
Nutzerinformationen: Transparenzhinweise, Gebrauchsanweisungen, Einschränkungen

Konformitätsbewertung:

Interne Bewertung gegen Ihren Kontrollkatalog und anwendbare Pflichten des EU AI Act; Nachweisführung über Probenachweise.
Für hochriskante Anwendungen: strengeres Qualitäts‑/Risikomanagement, dokumentierte Human‑Oversight‑Mechanismen, verstärktes Monitoring; bei bestimmten Kategorien ggf. externe Stellen je Produktbereich erforderlich.
Post‑Market‑Monitoring: kontinuierliche Leistungs‑/Risikobeobachtung, schwerwiegende Vorfälle und Korrekturen dokumentieren und melden, Lessons Learned in Verbesserungszyklen überführen.

Schnittstellen zu GDPR und ISO/IEC 27001

GDPR:

Rechtmäßigkeit & Zweckbindung: Rechtsgrundlagen prüfen (z. B. Einwilligung, Vertrag, berechtigtes Interesse), Zweck klar dokumentieren.
DPIA: Datenschutz‑Folgenabschätzung für hochriskante Szenarien; Verzahnung mit AI‑Risikobewertung.
Datenminimierung & Speicherbegrenzung: Feature‑Selektion, Pseudonymisierung/Anonymisierung, Retention‑Policies.
Betroffenenrechte: Auskunft, Berichtigung, Widerspruch; Gestaltung von Prozessen für modellgetriebene Entscheidungen.
Transparenz: Nutzer‑/Kundenhinweise zu KI‑Einsatz, insbesondere bei automatisierten Einzelentscheidungen.

ISO/IEC 27001:

Asset‑Management: KI‑Modelle, Trainingsdaten, Pipelines als Informationswerte im ISMS registrieren.
Zugriff & Identitäten: Least‑Privilege, Secrets‑Management, getrennte Rollen für Training/Deployment/Monitoring.
Änderungs‑ und Release‑Management: abgestimmte Prozesse zwischen AIMS (ISO/IEC 42001) und ISMS.
Incident‑Management: Security‑ und AI‑Incidents konsolidiert erfassen, Playbooks für Modell‑/Datenvorfälle.
Lieferkette: Sicherheit von Modell‑Repos, Bibliotheken, Container‑Images; SBOMs, Signaturen, Patch‑Prozesse.

Branchenspezifika, Quick Wins und typische Fallstricke

Industrie/Fertigung:

Besonderheiten: Sicherheitsrelevanz (Maschinen, Anlagen), Echtzeit‑Anforderungen, OT/IT‑Schnittstellen.
Quick Wins: Visuelle QA‑Pipelines mit klaren Schwellenwerten und Human‑in‑the‑Loop; standardisierte Datenerfassung an Linien.
Fallstricke: Unzureichende Domänenvalidierung unter Werksbedingungen; fehlende OT‑Security‑Absicherung.

Finance:

Besonderheiten: Diskriminierungsrisiken, Erklärbarkeit, Modell‑Risikomanagement, strenge Aufsichtserwartungen.
Quick Wins: Standardisierte Champion‑/Challenger‑Tests, Scorecards mit Stabilitätsmetriken; Frühwarn‑Driftindikatoren.
Fallstricke: Black‑Box‑Modelle ohne Erklärbarkeit in der Kreditvergabe; unklare Verantwortlichkeiten zwischen Fachbereich, Risk und IT.

Healthcare:

Besonderheiten: Patientensicherheit, klinische Validierung, Interoperabilität, strikte Datenschutzvorgaben.
Quick Wins: Klinisch kuratierte Datensätze, prospektive Validierung im Shadow‑Mode; klare Oversight‑Workflows.
Fallstricke: Übertragbarkeitsprobleme zwischen Einrichtungen; mangelnde Dokumentation für klinische Anwender.

Retail:

Besonderheiten: Verbrauchertransparenz, Fairness bei Personalisierung/Preisen, schnelle Iterationszyklen.
Quick Wins: Consent‑Management für Personalisierung, A/B‑Test‑Governance, Content‑Filter für generative Modelle.
Fallstricke: Intransparente Preisalgorithmen; unkontrollierte Nutzung externer generativer Tools durch Fachbereiche.

KPIs für Wirksamkeit, Risiko und Compliance

Leistungs‑/Business‑KPIs:

Conversion/Uplift je Use Case
Time‑to‑Decision/Time‑to‑Resolution
Kosten pro Entscheidung/Prozess

Risiko‑/Qualitäts‑KPIs:

Model‑Drift (Daten‑/Konzeptdrift‑Indikatoren, z. B. PSI, KL‑Divergenz)
Incident‑Rate (Anzahl/Schweregrad AI‑Incidents pro Zeitraum)
Bias‑Metriken (z. B. Demographic Parity Difference, Equalized Odds Gap)
Falsch‑Positiv/Negativ‑Raten in kritischen Prozessen
Robustheits‑Score (Ergebnisse aus Stress‑/Adversarial‑Tests)

Compliance‑/Governance‑KPIs:

Abdeckung AI‑Inventar (% aller KI‑Assets erfasst)
Risiko‑Assessments abgeschlossen (% priorisierter Use Cases bewertet)
Dokumentationsvollständigkeit (% Technical Files vollständig/aktuell)
Zeit bis Freigabe (Durchlaufzeit AI Board)
Schulungsquote je Rolle
Vendor‑Compliance‑Score (Erfüllung vertraglicher/technischer Anforderungen)

Audit‑Readiness‑Checkliste und Betriebsverankerung

Audit‑Readiness‑Checkliste (Auszug):

AI‑Policy, AI‑Board‑Charter, Rollenbeschreibungen, Schulungsnachweise
Vollständiges AI‑Inventar mit Risikoklassifizierung und Freigaben
Use‑Case‑Technical‑Files inkl. Daten‑, Modell‑, Test‑ und Oversight‑Dokumentation
Nachweise zu Bias‑/Robustheits‑/Security‑Tests, Monitoring‑Reports, Incident‑Logs
DPIAs und GDPR‑Artefakte; ISMS‑Bezüge (27001) zu Assets, Zugängen, Changes, Incidents
Lieferantenakten: Due‑Diligence‑Ergebnisse, vertragliche Zusicherungen, SLA‑Berichte
Post‑Market‑Monitoring‑Pläne, Major‑Incident‑Prozeduren, Korrekturmaßnahmen
Protokolle des AI Boards (Entscheidungen, Ausnahmen, Eskalationen)

Betriebsverankerung:

Integration in SDLC/MLOps: Gate‑Reviews, Modell‑Versionierung, Feature Stores, Canary‑Releases, Rollback‑Mechanismen
Kontinuierliche Verbesserung: Plan‑Do‑Check‑Act‑Zyklus nach ISO/IEC 42001, regelmäßige Management‑Reviews
Change‑ und Retrain‑Governance: Kriterien, Frequenz, Nachweisführung
Schulungen: rollenspezifisch (Business, Data Science, Engineering, Risk/Compliance, Operations)
Kultur & Kommunikation: klare Leitlinien zur verantwortungsvollen KI‑Nutzung, Meldewege für Bedenken

Mit diesem 90‑Tage‑Blueprint schaffen Sie ein belastbares AI‑Governance‑System, das die Anforderungen des EU AI Act adressiert, die Prinzipien der ISO/IEC 42001 verankert und zugleich messbaren Geschäftsnutzen liefert. Entscheidend ist die pragmatische Umsetzung: schnell sichtbare Ergebnisse (Inventar, Policy, Kontrollen) kombinieren mit strukturierter Nachweisführung und konsequentem Monitoring. So wird KI in Ihrem Unternehmen nicht nur compliant, sondern nachhaltig wirksam.