AI Governance, Security und Safety – Modulares Fachseminar (Vertiefung für Sachverständige)

Adressatenkreis: CISO, IT-Auditoren, Sicherheits-Architekten, AI Risk Officers, Compliance-Spezialisten, Datenschutzbeauftragte mit technischem Hintergrund.

AI-Sicherheitsarchitektur und Design vertieft

• Referenzarchitekturen für klassische ML-Systeme, LLM-Anwendungen und Agenten

• Sichere Integrationsmuster: RAG, Function Calling, Tool Use, Multi-Agent-Systeme

• Zero-Trust-Prinzipien für KI-Workloads (NIST SP 800-207, CISA ZTMM)

• Secrets Management, Schlüsselverwaltung und vertrauliche Inferenz (Confidential Computing)

AI-Lebenszyklus und Changemanagement

• Phasen: Anforderungen, Datenkuration, Training, Validierung, Deployment, Monitoring, Decommissioning

• MLOps und LLMOps: Pipelines, Versionierung, Modell-Registry, Feature Stores

• Changemanagement: Modell-Updates, Re-Training, Re-Validierung, Approval-Gates

• Konfigurationsmanagement und Reproduzierbarkeit von KI-Systemen

Datenmanagement und Datenkontrollen vertieft

• Data Lineage und Datenqualitäts-Metriken für KI

• Bias Detection, Fairness-Metriken und Mitigation-Techniken

• Sensitive Data Handling: PII-Erkennung, Maskierung, Redaktion in Prompts und Outputs

• Synthetische Daten: Einsatzszenarien, Risiken, Qualitätssicherung

Bedrohungs- und Schwachstellenmanagement vertieft

• OWASP Top 10 für LLMs und ML – praktische Beispiele und Mitigationen

• MITRE ATLAS: Taktiken, Techniken und Verfahren für Angriffe auf KI-Systeme

• Red Teaming, Penetration Testing und automatisiertes Adversarial Testing für KI

• Schwachstellenmanagement für Modelle, Bibliotheken und Pre-trained Components

Security Controls und Monitoring im Detail

• Identity und Access Management für KI-Komponenten, Agenten und Service-Accounts

• Logging und Telemetry: Prompts, Outputs, Tool-Aufrufe, Token-Verbrauch, Anomalien

• Detection Engineering für KI-spezifische Bedrohungen (Drift, Misuse, Exfiltration)

• Integration in SIEM/XDR und Security-Operations-Prozesse

Provider-, Deployer- und Lieferketten-Audit

• Pflichten und Schnittstellen zwischen Provider und Deployer (EU AI Act)

• Audit von Foundation Models, Modellanbietern und Cloud-AI-Diensten

• Vertragsklauseln, SLAs und technische Nachweise (Model Cards, System Cards, Audits)

• Open-Source-Modelle: Lizenzen, Risiken, Verifizierbarkeit

AI-Audit-Methodik und Werkzeuge

• Audit-Planung und -Design für KI-Systeme (in Anlehnung an AAIA-Praxisfeld)

• Stichprobenverfahren, Evidenzsammlung und Datenanalyse-Techniken

• Nutzung von KI im Auditprozess: Continuous Auditing, automatisierte Kontrollen

• Aufbau und Strukturierung von AI-Audit-Berichten

Praxis-Workshop: Fallstudien und integrierte Anwendung

• Fallstudie 1: AI-Risikobewertung und Kontroll-Mapping für ein generatives Use Case

• Fallstudie 2: Threat Modelling für eine LLM-basierte Kundenanwendung (STRIDE / MITRE ATLAS)

• Fallstudie 3: Vorbereitung eines AI-Audits – Anforderungen, Checklisten, Berichtsstruktur

• Reflexion, offene Diskussion, Roadmap zur Umsetzung im eigenen Unternehmen

• wie Sie eine wirksame AI Governance mit Politik, Rollen und Verantwortlichkeiten etablieren,

• wie Sie KI-Risiken systematisch bewerten und mit den Frameworks EU AI Act, NIST AI RMF und ISO/IEC 42001 in Einklang bringen,

• wie Sie KI-spezifische Bedrohungen erkennen und mit geeigneten Sicherheitskontrollen begegnen (OWASP LLM Top 10, MITRE ATLAS),

• wie Sie KI-Systeme entlang des Lebenszyklus prüfen, monitoren und auditieren,

• wie Sie Lieferketten, Foundation Models und externe KI-Dienste vertraglich und technisch absichern und

• wie Sie eine Roadmap für AI Governance, Security und Audit in Ihrem Unternehmen aufbauen.

Zierlgruppe

• Administratoren

• Projektleiter

• Planer

• Entscheider

• Führungskräfte

Das Seminar richtet sich an CISO, Sicherheits-, Compliance- und Datenschutzverantwortliche, IT-Auditoren, Risikomanager sowie an Geschäftsleitung, CIO und CTO mittelständischer und großer Unternehmen, die KI verantwortungsvoll, sicher und prüfbar einsetzen möchten.