EU AI Act und ISO/IEC 42001 pragmatisch verzahnen: Ihr 90‑Tage‑Fahrplan zur auditfähigen KI‑Governance

Die Regulierung von Künstlicher Intelligenz nimmt Fahrt auf. Der EU AI Act definiert klare Pflichten nach Risikoklassen, während ISO/IEC 42001 ein strukturiertes Managementsystem für KI (Artificial Intelligence Management System, AIMS) bereitstellt. Für mittelständische und große Unternehmen in der DACH-Region bedeutet das: KI-Initiativen müssen nicht nur innovativ, sondern nachweislich steuerbar, sicher und revisionsfest sein. Der effizienteste Weg dorthin ist ein fokussierter 90‑Tage‑Fahrplan, der Governance, Compliance und Wertschöpfung zusammenbringt – mit messbaren Ergebnissen für Audit-Readiness.

Der 90‑Tage‑Fahrplan im Überblick

Tage 1–30: Sichtbarkeit schaffen und Risiken steuern

• Use-Case-Inventar aufbauen, Business-Ziele und Stakeholder je Anwendungsfall erfassen.
• Erste Einstufung nach EU-AI‑Risikoklassen vornehmen und kritische Lücken identifizieren.
• Governance‑Kernteam bestimmen (Owner, Risk, Legal/Privacy, Security, Data/ML, Fachbereich).
• Gap‑Analyse gegenüber ISO/IEC 42001 und EU AI Act; Priorisierung von High‑Risk‑Fällen.
• Lieferanten- und Drittanbieter-Landschaft erfassen; Vertrags- und Dokumentationslage sichten.

Tage 31–60: AIMS aufsetzen und Artefakte etablieren

• Policy‑Stack und Prozesse gemäß ISO/IEC 42001 entwerfen und beschließen.
• Vorlagen für Risikoanalysen, Daten- und Modelldokumentation, Human‑Oversight definieren.
• Monitoring‑Design und Incident‑Playbooks ausarbeiten; DSGVO‑Verzahnung klären (DPIA etc.).
• Lieferantendue‑Diligence starten; Pilot‑Use‑Cases mit vollständiger Dokumentation umsetzen.
• Trainings für Rollen und Human‑in‑the‑Loop‑Akteure durchführen.

Tage 61–90: Liveschaltung absichern und Revisionstauglichkeit belegen

• Technische und organisatorische Kontrollen produktiv nehmen (Monitoring, Logging, Zugriffe).
• Interne Vorab‑Audits/Readiness‑Checks durchführen; Befunde beheben.
• Verträge und SLAs mit Drittanbietern finalisieren; Nachweispaket (Audit‑Pack) erstellen.
• KPIs und Dashboards in das Performance‑Management integrieren.
• Lessons Learned und Management‑Review nach ISO/IEC 42001 durchführen.

Anwendungsfälle nach EU AI Act einstufen – so gehen Sie vor

Der EU AI Act unterscheidet grundsätzlich vier Risikostufen für KI‑Systeme, ergänzt um besondere Pflichten für generative/General‑Purpose‑Modelle:

• Unzulässiges Risiko: Bestimmte Praktiken sind verboten (z. B. Systeme zur manipulativen Verhaltensbeeinflussung mit hohem Schadpotenzial oder Social Scoring durch staatliche Stellen). Solche Vorhaben sind zu stoppen bzw. gar nicht erst zu starten.
• Hochrisiko: KI‑Systeme, die über Sektoren/Anwendungsfelder mit erheblichem Sicherheits- oder Grundrechtsbezug eingesetzt werden (z. B. sicherheitsrelevante Komponenten in Produkten, Beschäftigungs- und Kreditentscheidungen, medizinische Kontexte). Es gelten strenge Anforderungen an Risikomanagement, Datenqualität, Technische Dokumentation, Logging, Human Oversight, Genauigkeit/Robustheit/Sicherheit und Konformitätsbewertung.
• Begrenztes Risiko: Transparenzpflichten, z. B. Kennzeichnung von Chatbots oder synthetischen Inhalten und Hinweise, die eine informierte Entscheidung ermöglichen.
• Minimales Risiko: Keine spezifischen Verpflichtungen, aber Good‑Practice‑Kontrollen sind empfehlenswert.

Vorgehen zur Einstufung:
1) Use-Case präzisieren: Ziel, Nutzer, Entscheidungen, Output‑Wirkung, betroffene Produkte/Prozesse.
2) Kontext prüfen: Ist der Use‑Case in Annex‑ähnlichen Hochrisikobereichen (z. B. kritische Infrastrukturen, Beschäftigung, Kredit, Gesundheit, Bildung, Sicherheit) verortet oder Teil eines Produkts mit Sicherheitskomponente?
3) Betroffene Rechte & Sicherheit: Berührt der Use‑Case Gesundheit, Sicherheit oder Grundrechte von Personen? Entsteht signifikantes Fehlerrisiko?
4) Rolle bestimmen: Sind Sie Anbieter/Entwickler, Einführer, Integrator oder Verwender (Deploying Entity)? Pflichten variieren je Rolle.
5) Drittmodelle/GPAI: Wird ein General‑Purpose‑Modell (z. B. Foundation/GPT‑ähnlich) genutzt? Verlangen Sie Dokumente zur Modellbeschreibung, Nutzungsbeschränkungen und bekannten Risiken; bestimmen Sie zusätzliche Sorgfaltspflichten als Verwender.
6) Dokumentieren und entscheiden: Risikoklasse, Pflichten, Kontrollen und Open‑Points im Use‑Case‑Steckbrief festhalten. Bei Hochrisiko: Konformitätsbewertungsweg und Verantwortlichkeiten definieren.

Praxistipp: Entscheiden Sie risikobasiert und konservativ. Grenzfälle als „begrenzt bis hoch“ markieren, vorläufige Schutzmaßnahmen aktivieren und die Einstufung im Governance‑Gremium validieren.

Governance‑Betriebsmodell nach ISO/IEC 42001

ISO/IEC 42001 liefert die Blaupause für ein AIMS – analog zu ISO‑Managementsystemen, aber auf KI zugeschnitten. Schlüsselelemente für Ihr Betriebsmodell:

• Führung & Policy: Verbindliche KI‑Grundsätze (Zweckbindung, Fairness, Sicherheit, Transparenz), eine AI‑Policy und Rollenmodell. Management‑Commitment und Ressourcen gesichert.
• Rollen & Gremien:
  • AI Governance Board (Leitung, Fachbereiche, Risk, Legal/Privacy, Security, Data/ML).
  • Use‑Case Owner, Model Owner, Data Steward, Human‑Oversight‑Rollen.
  • Compliance‑Funktionen (Risikomanagement, Interne Revision) mit Eskalationswegen.
• Lifecycle‑Prozesse: Ideation, Use‑Case‑Scoping, Datenbeschaffung, Entwicklung, Test/Val‑idierung, Freigabe, Betrieb/Monitoring, Änderung/Stilllegung – mit definierten Gates und Nachweisen.
• Risikomanagement: Systematische Gefahrenermittlung, Bewertung und Maßnahmensteuerung, inkl. Bias‑, Robustheits‑ und Sicherheitsrisiken sowie Lieferantenrisiken.
• Unterstützung: Kompetenzaufbau, Schulungen, Kommunikation, Dokumentenlenkung und Tool‑Unterstützung (z. B. MLOps, Model Registry, Ticketing).
• Performance & Verbesserung: KPIs, interne Audits, Management‑Reviews und Korrekturmaßnahmen.

Ergebnis: Ein wiederholbares, revisionssicheres Betriebsmodell, das Compliance nach EU AI Act ermöglicht und gleichzeitig Time‑to‑Value für KI‑Initiativen verkürzt.

Zentrale Artefakte, die Revisionssicherheit schaffen

• AI Policy & Standard Operating Procedures: Verbindliche Regeln für Entwicklung, Bezug, Einsatz und Stilllegung von KI.
• Use‑Case‑Steckbrief & Risikoklassifizierung: Zweck, Business‑Nutzen, Stakeholder, Risikoklasse, Rolle(n), betroffene Rechte, Kontrollen.
• AI‑Risikobewertung/AIIA: Methodik, Szenarien, Restrisiko, Entscheide des Governance‑Gremiums.
• Datenkatalog & Datenblätter: Herkunft, Rechtmäßigkeit, Qualität, Repräsentativität, Aufbewahrung, Löschkonzept, Datenfluss (Lineage).
• Modellkarten & Technische Dokumentation: Architektur, Trainings-/Testdaten, Metriken, Limitierungen, Sicherheits- und Robustheitstests, Versionierung.
• Human‑Oversight‑Konzept: Entscheidungsrechte, Eingriffsschwellen, Vier‑Augen‑Prinzip, Override/Kill‑Switch, Schulungsnachweise der Aufsichtspersonen.
• Monitoring‑Plan & Logs: Performance-, Drift-, Fairness‑Metriken, Alarmierung, Ereignisprotokolle, Change‑History.
• Konformitäts- und Prüfakte (Audit‑Pack): Vollständige Evidenzsammlung pro Use‑Case, inkl. Beschlüsse, Prüfberichte und Testergebnisse.
• Datenschutz‑Artefakte: Rechtmäßigkeitsprüfung, DPIA, Verarbeitungsverzeichnis, Verträge (AVV), Transfer‑Impact‑Assessment (bei Drittlandtransfers).

Praxisnahe Checklisten

Lieferanten- und Drittanbieter-Risiken

• Klassifizierung: Welche Rolle übernimmt der Anbieter (Modell, API, Plattform, Integrator)? Welche Ihrer Pflichten bleiben bestehen?
• Nachweise anfordern: Modellkarten, Sicherheits-/Robustheitsberichte, Dokumente zur Trainingdaten‑Governance, Nutzungsbeschränkungen, Change‑Logs.
• Vertragsklauseln: Gewährleistung der EU‑AI‑Achtung, Bereitstellung erforderlicher Nachweise, Informationspflichten bei Vorfällen/Changes, Audit‑ und Testrechte, SLA zu Verfügbarkeit/Qualität, Exit‑Regelungen.
• Datenschutz: AVV/Joint‑Controllership klären, Datenlokation, Subunternehmer, Übermittlungen in Drittländer, Verschlüsselung.
• Sicherheit: Pen‑Test‑Berichte, Secure‑SDLC, Schwachstellenmanagement, Geheimhaltungs- und IP‑Klauseln.
• Risikoentscheid: Freigabe durch Governance‑Gremium mit dokumentiertem Restrisiko und Kompensationsmaßnahmen.

Monitoring & Incident‑Handling

• Metriken definieren: Genauigkeit, Fehlerraten, Stabilität, Drift (Daten/Concept), Fairness‑Indikatoren, Latenz, Kosten.
• Schwellen & Alerts: Toleranzgrenzen, Eskalationsregeln, On‑Call‑Pläne, Kill‑Switch‑Kriterien.
• Logging & Nachvollziehbarkeit: Eingaben/Ausgaben (wo zulässig), Modellversion, Feature‑Werte, Entscheidungen, Oversight‑Eingriffe.
• Tests im Betrieb: Canary‑Releases, Shadow‑Mode, A/B‑Tests, regelmäßige Re‑Validierung.
• Vorfallprozess: Triage, Root‑Cause‑Analyse, Sofortmaßnahmen, Korrekturmaßnahmen, Kommunikation an Stakeholder und – falls einschlägig – an Aufsichtsstellen gemäß regulatorischen Pflichten.
• Übungen: Table‑Top‑Simulationsübungen, Lessons Learned und Aktualisierung der Playbooks.

Verzahnung mit DSGVO und Branchenvorgaben

• Rechtmäßigkeit: Zweckbindung, Rechtsgrundlage, Interessenabwägung/Einwilligung, Datenminimierung.
• DPIA/Folgenabschätzung: Bei hohem Risiko für Betroffene verpflichtend; Ergebnisse mit AI‑Risikobewertung synchronisieren.
• Betroffenenrechte: Auskunft, Berichtigung, Löschung, Widerspruch, Einschränkung – Verfahren auch für KI‑Outputs klären.
• Datensicherheit: Zugriffskontrollen, Pseudonymisierung/Anonymisierung, Schlüsselmanagement, Protokollierung.
• Branchenregeln:
  • Finanz: DORA/IKT‑Resilienz, EBA/ESMA‑Leitlinien, BAIT/VAIT/MaRisk, Modellrisikomanagement.
  • Gesundheit: Medizinprodukterecht/MDR, klinische Bewertung, Qualitätsmanagement (z. B. ISO 13485) und Datenschutz im Gesundheitswesen.
  • Fertigung: Produktsicherheits- und Maschinenrecht, funktionale Sicherheit, OT‑Security.
  • Handel: Verbraucherinformationen, Preis- und Werbevorschriften, Plattform‑Transparenz.

Branchenspezifische Quick Wins

Fertigung

• Visuelle Qualitätsprüfung zunächst im Shadow‑Mode einführen und mit menschlicher Abnahme koppeln; so gewinnen Sie belastbare Daten für Risiko- und Performance‑Nachweise.
• Datenpipeline für Sensor-/Bilddaten mit automatisierten Datenqualitätschecks implementieren; frühe Drift‑Erkennung reduziert Ausschuss.
• Maschinen‑nahe KI klar von Sicherheitsfunktionen trennen; bei Sicherheitskomponenten frühzeitig Hochrisiko‑Pfad wählen.

Finanzdienstleistung

• Explainability‑Layer für Kreditentscheidungsmodelle etablieren (lokale Erklärungen, Scorecards) und diese in die Human‑Oversight‑Prüfschritte integrieren.
• Modellinventar mit Risikoklassifizierung und Versions‑Historie als Single Source of Truth; jährliche Re‑Validierung automatisieren.
• Outsourcing‑Kontrollen an DORA/MaRisk ausrichten; Cloud‑/Modell‑Provider mit strengem Due‑Diligence‑Raster bewerten.

Gesundheitswesen

• Klinische Validierung mit realitätsnahen, representativen Datensätzen dokumentieren; Bias‑Analysen für relevante Patientengruppen verpflichtend.
• Strikte Trennung von Trainings‑, Validierungs- und Betriebsdaten; Zugriff nur für befugte Rollen, Audit‑Trail vollständig.
• Human‑in‑the‑Loop‑Protokolle für ärztliche Freigaben definieren; Haftungsfragen mit Rechtsabteilung klären.

Handel

• Generative KI für Content mit Transparenzkennzeichnung und Style‑Guides; Marken‑ und Rechtsprüfungen in den Workflow integrieren.
• Nachfrage‑Prognosen mit Monitoring auf Saison-/Trend‑Drift; automatische Re‑Kalibrierung mit Freigabe durch den Fachbereich.
• Chatbots mit klaren Eskalationspfaden zum Service‑Team; Nutzerhinweise und Logging für Streitfall‑Nachweise.

KPIs für Audit‑Readiness und Steuerung

• Coverage & Reifegrad
  • Anteil inventarisierter Use‑Cases an der erwarteten Gesamtheit (>95%).
  • Anteil mit formaler EU‑AI‑Risikoklassifizierung und Rollenfestlegung (>90% binnen 60 Tagen).
  • Reifegrad des AIMS nach ISO/IEC 42001 (Selbstbewertung/externes Pre‑Assessment).
• Dokumentation & Kontrollen
  • Vollständigkeit zentraler Artefakte je Use‑Case (>95% Pflichtfelder).
  • Anteil High‑Risk‑Fälle mit abgeschlossener Konformitäts‑ und Testdokumentation (>90% vor Go‑Live).
  • Zeit bis Evidenzbereitstellung für Audits (<5 Werktage).
• Monitoring & Betrieb
  • Anteil produktiver Modelle mit aktivem Drift‑/Fairness‑Monitoring (100% High‑Risk, >80% sonst).
  • Mean Time to Detect/Recover bei KI‑Vorfällen (MTTD/MTTR) im vereinbarten Zielkorridor.
  • Anzahl signifikanter Vorfälle pro Quartal und Trend.
• Lieferanten & Drittparteien
  • Anteil kritischer Lieferanten mit abgeschlossener Due‑Diligence und vertraglichen Zusicherungen (>95%).
  • Quote fristgerechter Sicherheits‑/Compliance‑Updates seitens Anbieter.
• Menschen & Kompetenzen
  • Trainingsquote relevanter Rollen (Owner, Oversight, Dev, Ops, Compliance) >90% mit Wissens‑Checks.
  • Anzahl dokumentierter Oversight‑Eingriffe und daraus abgeleiteter Verbesserungen.

Diese KPIs gehören in ein Executive‑Dashboard mit Drill‑Down bis auf Use‑Case‑Ebene; sie dienen zugleich als Frühindikatoren für Audit‑Risiken.

Von der Strategie zur Umsetzung – pragmatisch, schnell, revisionssicher

Mit einem dreistufigen 90‑Tage‑Ansatz erreichen Sie rasch Transparenz, setzen ein schlankes, aber wirksames AIMS nach ISO/IEC 42001 auf und führen die notwendigen Kontrollen bis zur Audit‑Tauglichkeit in den Betrieb über. Entscheidend ist die Kombination aus:

• klarer Risikoklassifizierung nach EU AI Act,
• etablierten Governance‑Rollen und Lifecycle‑Gates,
• konsistenter, überprüfbarer Dokumentation,
• belastbaren Betriebs‑ und Incident‑Prozessen,
• enger Verzahnung mit Datenschutz und branchenspezifischen Vorgaben,
• sowie Kennzahlen, die Fortschritt und Wirksamkeit belegen.

So stellen Sie sicher, dass Ihre KI‑Projekte schnell Nutzen stiften – und zugleich den steigenden Anforderungen von Prüfern, Aufsichtsbehörden und Ihren eigenen Stakeholdern standhalten.