Neue Leitlinie für KI im Gesundheitswesen: Fraunhofer HHI bringt Expertise in wegweisendes Paper ein

fTeilen

Forschende des Fraunhofer Heinrich-Hertz-Instituts (HHI) haben an einem
wegweisenden Paper im renommierten Journal The BMJ mitgearbeitet.

Das
Paper „FUTURE-AI: international consensus guideline for trustworthy and
deployable artificial intelligence in healthcare“ erklärt das FUTURE-AI-
Framework, eine Leitlinie für die Entwicklung und den Einsatz
vertrauenswürdiger KI-Tools im Gesundheitswesen.

Für eine erfolgreiche Einführung von Künstlicher Intelligenz (KI) im
Gesundheitswesen ist es entscheidend, dass Patient*innen, medizinisches
Personal und Gesundheitsorganisationen begründetes Vertrauen in die
Technologie aufbauen. Derzeit fehlen jedoch klare, international
anerkannte Richtlinien für die Entwicklung, Bewertung und Implementierung
KI-basierter Medizintechnologien.

Um diese Leerstelle anzugehen, wurde 2021 das FUTURE-AI-Konsortium
gegründet. Es besteht aus 117 interdisziplinären Expert*innen aus 50
Ländern auf sechs Kontinenten – darunter Fachleute aus den Bereichen KI,
klinische Forschung, biomedizinische Ethik und den Sozialwissenschaften.
Über einen Zeitraum von zwei Jahren hat das Konsortium die FUTURE-AI-
Leitlinie entwickelt. Dafür haben die Expert*innen 30 Best Practices
definiert, die technische, klinische, ethische und rechtliche Aspekte
berücksichtigen. Das entstandene Konzept deckt den gesamten Lebenszyklus
von KI im Gesundheitswesen ab.

Neben den neuesten Erkenntnissen aus mehreren Forschungsprojekten zu KI in
der Medizin brachten die Forschenden des Fraunhofer HHI ihre Expertise aus
verschiedenen KI-Standardisierungsgremien ein, u.a. der „AI for Health“
Initiative der Vereinten Nationen (Internationale Fernmeldeunion,
Weltgesundheitsorganisation, Weltorganisation für geistiges Eigentum), die
Grundlagen für internationale Standards für den Einsatz von KI im
Gesundheitswesen erarbeitet.

„Im Gesundheitswesen brauchen wir internationale Standards und eine
rigorose Evaluation zum Einsatz von KI in komplexen klinischen Settings.
Nutzende müssen den Technologien, die ihre Diagnoseprozesse und
Behandlungen unterstützen, vertrauen können. Medizinische KI-Systeme
sollten daher nicht nur technisch und klinisch sicher und effektiv,
sondern auch ethisch und transparent sein“, erklärt Eva Weicken, Chief
Medical Officer am Fraunhofer HHI.

Das Fraunhofer HHI arbeitet aktuell an mehreren Projekten und Initiativen
im Bereich „Trustworthy AI“ und KI im Gesundheitswesen. So entwickelt das
Institut im Projekt TEF-Health eine europaweite Testinfrastruktur für KI
und Robotik im Gesundheitswesen. Zudem ist das Fraunhofer HHI Mitglied in
weiteren nationalen und internationalen Initiativen zur Prüfung und
Zertifizierung von KI-Technologien, beispielsweise mit dem TÜV-Verband und
dem Bundesamt für Sicherheit in der Informationstechnik.