Digital Health

Die Digitalisierung im Gesundheitswesen und Einführung der elektronischen Patientenakte (ePA) ermöglichen den Zugriff auf immer mehr Daten und den Einsatz von KI zur Unterstützung medizinischer Entscheidungen in einer Weise, die bisher nicht möglich war. Im sicherheitskritischen Gesundheitswesen, wo Menschenleben auf dem Spiel stehen, ist die Gewährleistung von vertrauenswürdiger und robuster KI von entscheidender Bedeutung.

Daher entwickeln wir erklärbare und zuverlässige KI-Modelle, insbesondere für Entscheidungsunterstützungssysteme, welche die Analyse von Patientendaten erleichtern sollen. Diese Modelle zielen darauf ab, medizinisches Fachpersonal bei der Entscheidungsfindung und Erstellung individueller Behandlungspläne für Patientinnen und Patienten zu unterstützen oder einen möglichen Krankheitsverlauf vorherzusagen. In verschiedenen Forschungsprojekten haben wir umfangreiche Erfahrung im Umgang mit realen Herausforderungen und Problemen im Gesundheitswesen gesammelt. Zum Beispiel sind Daten häufig unvollständig, unstrukturiert, in ihrem Umfang begrenzt oder über verschiedene Institutionen verteilt (Zamanian et al. 2023). In enger Zusammenarbeit mit medizinischen Experten und der Industrie nutzen wir unser wissenschaftliches Fachwissen, um das Gesundheitswesen technologisch voranzubringen und die Patientenversorgung zu verbessern.

• Analyse von ePA-Daten mit Hilfe von KI (z. B. datengestützte Analyse von Patientendaten bei Frühgeborenen)
• KI-basierte Vorhersage von gesundheitlichen Problemen und Komplikationen (z.B. nach Stent-Implantation bei Koronarer Herzerkrankung (Pachl et al.2021))
• Zeitreihenanalyse zur Überwachung von Krankheitsverläufen anhand sequenzieller Patientendaten (z.B. Vitalwerte, Laborwerte)
• Optimierung von Behandlungsplänen und -strategien durch Wirksamkeitsanalysen und kausale Inferenz (Artikel: "Medizintechnik – KI hilft, medizinische Probleme zu verstehen”)
• Föderiertes Lernen, d.h. kollaboratives Modelltraining mit über verschiedenen Einrichtungen verteilten Daten ohne Datenzentralisierung
• Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter Entscheidungsunterstützung (Schröder et al. 2023a, Schröder et al. 2023b)
• Generative KI zur Unterstützung in komplexen Informationsstrukturen (z.B. Analyse von Wirkketten, Diagnosen, Patientendaten)

In der medizinischen Bildgebung und Diagnostik unterstützt KI bereits heute Ärztinnen und Ärzte in der Praxis, z.B. bei der Auswertung von Röntgen-, MRT- oder CT-Bildern. Trotz der fortschreitenden digitalen Transformation in Deutschland und zunehmenden Digitalisierung im Gesundheitswesen ist gerade im Bereich des Medical Imaging die Entwicklung von vertrauenswürdiger KI oft schwierig, weil nur geringe Datenmengen (Little Data) verfügbar sind, insbesondere im Falle seltener Krankheiten. Für das Training & Testen von KI-Modellen sind grundsätzlich große bis sehr große Datenmengen (Big Data) notwendig, um eine hohe Genauigkeit und Zuverlässigkeit der KI-Entscheidungen zu erreichen.

Unsere Forschungsansätze zeigen, dass mit den richtigen KI-Methoden bereits mit wenigen Daten sehr zuverlässige und erklärbare KI-Modelle zur Bildklassifikation entwickelt werden können. Wie “wenige” Daten ausreichend sind, hängt dabei ganz vom Anwendungsfall ab - zwischen einer Handvoll und einigen Tausenden Bildern. Neben “klassischen” KI-Methoden erproben wir auch Zukunftstechnologien wie Quantencomputing, z.B. durch hybride Quantum-KI-Modelle zur Bildklassifikation von Brustkrebs. 

• Erklärbare KI (xAI)-Methoden zur Gewährleistung von Transparenz von KI-basierter medizinischer Bildauswertung (z.B. Prototype Learning, Concept Learning)
• KI-Modelle mit Integration von Fachexperten-Wissen
• Vertrauenswürdige KI (bereits mit kleinen Datensätzen)
• Lernen von Teilaufgaben
• Quantengestützte KI

Die Gewährleistung der Sicherheit und Vertrauenswürdigkeit von KI-Systemen ist ein entscheidender Schritt vor deren Einsatz in Gesundheitseinrichtungen. Diese Anforderung spiegelt sich in der zunehmenden Veröffentlichung von Normen und Standards wider, wie dem EU-Gesetz zur Regulierung von künstlicher Intelligenz (AI ACT 2021). Die Herausforderung für KI-Entwickler und KI-Anbieter besteht daher darin, die High-Level-Anforderungen in den Standards in die detaillierte technische Ebene zu übersetzen und durch geeignete Methoden und Konzepte zu operationalisieren. Neben der Begründung, wie ein KI-System die geforderten Normen erfüllt, umfasst dies auch das Aufsetzen von gültigen und transparenten Prüfverfahren, um den langwierigen und kostspieligen Zertifizierungsprozess für KI-Systeme zu unterstützen. 

Mit unserem KI-Verifikations-Framework haben wir eine Lösung entwickelt, um die Vertrauenswürdigkeit von KI-Modellen zu überprüfen - auf der Grundlage wissenschaftlicher Erkenntnisse und Erfahrungen aus angewandten Projekten. Unser Framework deckt verschiedene Anwendungsfälle, KI-Modelle und Datenquellen ab und dokumentiert gründlich Argumente und Zusicherungen als Beleg, dass das konkrete KI-Projekt geforderte Normen und Vorschriften einhält. Die Sicherheits- und KI-Experten müssen die Dokumentation nur noch mit minimalem Zeit- und Arbeitsaufwand überarbeiten und feinjustieren. Basierend auf der "safeAI"-Expertise des Fraunhofer IKS, die sich bereits in der Automobil- und Bahnindustrie bewährt hat, bietet das Framework einen Fahrplan für die sichere Entwicklung und effektive Verifikation von KI.

• Validierung & Verifikation von KI-Modellen unter Berücksichtigung von Vorschriften wie dem EU AI Act
• Standardisierte Ansätze und Benchmarks für die Verifikation von KI
• Forschung zu sicheren und vertrauenswürdigen KI-Qualitätsmerkmalen