KI-Compliance & KI-Verständnis im Gesundheitswesen in Online

Intensivseminar für Krankenhäuser, Kliniken und medizinische Einrichtungen

Künstliche Intelligenz hält immer stärker Einzug in den klinischen Alltag – von radiologischen Befunden über Triage-Entscheidungen bis hin zu generativer Dokumentation. Gleichzeitig steigen die regulatorischen Anforderungen enorm: Der EU AI Act stellt gerade im Gesundheitswesen besonders hohe Ansprüche an Sicherheit, Transparenz, Datenqualität und menschliche Kontrolle. Dieses Seminar vermittelt Projektverantwortlichen, Datenschutzbeauftragten und medizinischen Leitungskräften ein fundiertes technisches, regulatorisches und organisatorisches Verständnis für den KI-Einsatz im Krankenhaus. Mit zahlreichen Praxisfällen aus Radiologie, Notaufnahme, Pflege und klinischer Dokumentation wird vermittelt, wie KI-Modelle funktionieren, welche Risiken bestehen und wie man Pflichten aus dem AI Act im Krankenhausalltag konkret umsetzt.

Ziel

Die Teilnehmenden

• verstehen, wie moderne KI-Modelle (Machine Learning, Deep Learning, NLP) im Gesundheitswesen funktionieren.

• gewinnen ein klares Bild darüber, wo KI heute bereits im Krankenhaus eingesetzt wird – und welche Systeme keine KI sind.

• kennen typische Risiken medizinischer KI: Fehlklassifikationen, Modell-Drift, Überanpassung, Halluzinationen, Bias.

• erlernen die Risikoklassen des EU AI Acts und verstehen, warum nahezu alle klinischen Systeme als Hochrisiko-KI gelten.

• wissen, welche Pflichten Krankenhäuser als Deployer treffen: Human Oversight, Logging, Dokumentation, Monitoring, Incident Reporting.

• lernen, wie DSFA, Grundrechtsfolgenabschätzung und KI-Risikomanagement im klinischen Umfeld angewendet werden.

• können eine KI-Governance-Struktur für ihr Krankenhaus entwickeln – inkl. Rollen, Prozessen und Onboarding neuer KI-Tools.

• bearbeiten praxisnahe Fallbeispiele zu Radiologie-KI, Sepsis-Alerts, generativer Arztbriefassistenz und KI-gestützter Triage.

Inhalt

• Ziele, KI-Beispiele aus dem Krankenhaus, regulatorischer Rahmen

• Grundlagen: Was ist KI und was nicht?

• KI in der medizinischen Praxis (Radiologie, Pflege, Dokumentation)

• Modellfunktionen: Trainingsdaten, Validierung, klinische Metriken (Sensitivity, Specificity, ROC)

• KI-Technologien im Krankenhaus (symbolische KI, ML, DL, NLP, Predictive Analytics)

• Risiken beim KI-Einsatz: technisch, organisatorisch, ethisch, Datenschutz

• Rollen nach EU AI Act: Anbieter, Betreiber (Deployer), Händler – mit Klinikbeispielen

• Risikoklassen und hohe Anforderungen für Diagnostiksysteme

• Pflichten für Krankenhäuser als Deployer: Human Oversight, Monitoring, Logging, Incident Reporting

• Klinisches KI-Risikomanagement inkl. PDCA-Zyklus

• KI-Governance &interne KI-Richtlinie (Erlaubnis-/Verbotsprinzip)

• Workshops &Praxisfälle

Zielgruppe

Das Seminar richtet sich an:

• Projektverantwortliche in Kliniken

• Digitalisierungs-, Qualitäts- und Risiko-Management

• Datenschutzbeauftragte &IT-Sicherheitsbeauftragte

• Ärztliche Leitung, Pflegedirektion, Stabsstellen Digitalisierung

• Mitarbeitende, die KI-Projekte begleiten oder bewerten müssen.

Vorkenntnisse in Datenschutz oder Technik sind hilfreich, aber nicht zwingend.

Seminarprogramm

1. Begrüßung &Einführung

• Ziele der Schulung

• Warum KI-Compliance im Krankenhaus besonders kritisch ist

• Der EU AI Act als zentrale gesetzliche Grundlage

• Überblick: Wo kommt KI heute bereits im Krankenhaus vor?

2. Was ist KI – und was nicht? (mit Klinikbeispielen)

• Abgrenzung: KI vs. klassische Regelsoftware

• Typische KI-Anwendungen im Krankenhaus:

  • Bildgebung (CNN zur Tumorerkennung)

  • Triage in der Notaufnahme

  • Pflege-Dokumentation

  • Generative KI für Arztberichte (inkl. Halluzinationsrisiken)

• Klinikbeispiele:

  • KI = CNN für Tumorerkennung

  • KI = NLP-Diktatmodell im OP

  • Keine KI = starrer Medikationsalgorithmus ohne ML

3. Funktionsweise moderner KI im Gesundheitswesen

• Machine Learning &Deep Learning

• Trainingsdaten, Validierung, klinische Modellmetriken (Sensitivity, Specificity, ROC)

• Besonderheiten medizinischer Modelle

  • Drift

  • Überanpassung

  • Herausforderungen bei seltenen Erkrankungen

• Praxisbeispiele:

  • Radiologie-KI erkennt Blutungen

  • NLP für OP-Dokumentation

4. Überblick: KI-Technologien im Krankenhaus

• Symbolische KI (z. B. Medikamenteninteraktions-Check)

• Überwachtes Lernen (Tumorklassifikation)

• Unüberwachtes Lernen (Infektionscluster)

• Generative KI (Arztbrief-Assistenten)

• Predictive Analytics (Bettenmanagement, Peak-Prognose Notaufnahme)

5. Risiken beim Einsatz von KI im Krankenhaus

• Technische Risiken

  • Falschklassifikationen

  • Halluzinationen

  • Modell-Drift

  • Überanpassung

• Datenschutzrisiken

  • Nutzung sensibler Gesundheitsdaten (Art. 9 DSGVO)

  • unbeabsichtigte Patientendaten-Leaks

  • Risiken Cloud-basierter Modelle

• Organisatorische Risiken

  • Automation Bias

  • fehlende menschliche Kontrolle

  • Prozesslücken im Stationsalltag

• Ethische Risiken (Bias &Fairness)

  • Benachteiligung bestimmter Patientengruppen

  • ungleiche Datenqualität

  • Herausforderungen in Triage-Situationen

6. Rollen im EU AI Act – speziell für das Gesundheitswesen

• Anbieter (Provider)

• Betreiber (Deployer)

• Händler (Distributor)

• Klinikbezogene Abgrenzungsbeispiele:

  • Eigenentwickeltes ToolKrankenhaus = Hersteller + Deployer

  • Eingekaufte Radiologie-KIKrankenhaus = Deployer

  • SaaS-KIHersteller = Provider, Klinik = Deployer

7. Risikoklassen nach EU AI Act – Fokus Hochrisiko-KI

• Überblick über alle vier Risikokategorien

• Verbotene KI im Gesundheitswesen (z. B. Emotionserkennung bei Patientinnen)

• Hochrisiko-KI: Warum nahezu alle klinischen Systeme betroffen sind

• Einstufungskriterien

• Klinikspezifische Hochrisiko-Beispiele

  • KI zur Medikamentendosierung

8. AI Act – Pflichten je nach Risikoklasse (Fokus: Krankenhaus als Deployer)

• Verwendung nur konformer Systeme

• Sicherstellung der Human Oversight

• Erforderlichkeit einer DSFA (DSGVO)

• Logging &Datenspeicherung

• Dokumentationspflichten

• Umgang mit Fehlern &Vorfällen (Incident Reporting)

• Pflicht zur Mitarbeiterschulung

• Praxisbeispiele:

  • Monitoring einer Radiologie-KI

  • Dokumentation von Alerts

  • Vorgehen bei fehlerhaften Diagnosen

9. Risikomanagement für KI – praxisnah im Krankenhaus

• Risikoidentifikation &-bewertung

• medizinische Risikometriken

• typische Risikomuster für Diagnostik-KI

• Kontrolle &Monitoring

• PDCA-Zyklus für KI-Systeme im klinischen Dauerbetrieb

10. KI-Richtlinie für das Krankenhaus (Governance-Struktur)

• Erlaubnis-/Verbotsprinzip

• Kriterien für zulässige KI

• Rollen &Verantwortlichkeiten

• PDCA-Zyklus

• Standardprozess für neue KI-Projekte(OnboardingRisikobewertungImplementierungMonitoringStilllegung)

11. Praxisfälle &Workshops

• Gemeinsame Bearbeitung typischer KI-Szenarien:

• Radiologie-KI zur Blutungserkennung

• Generative KI für Arztbriefe

• KI-basierte Triage

• Patienten-ChatbotWiderruf: Sie können als Privatkunde (Verbraucher) Ihren Vertrag mit der Bitkom Akademie widerrufen. Alle Informationen dazu finden Sie in unseren AGB auf unserer Website.