Mehr Transparenz für künstliche Intelligenz
Ein internationales Forschungsteam mit Beteiligten der Technischen
Universität Braunschweig hat ein standardisiertes Register für die Arbeit
mit künstlicher Intelligenz (KI) in der Biomedizin vorgeschlagen, um die
Reproduzierbarkeit der Ergebnisse zu verbessern und Vertrauen in die
Benutzung von KI-Algorithmen in der biomedizinischen Forschung und
zukünftig auch im Klinikalltag zu schaffen. Ihren Vorschlag haben die
Wissenschaftlerinnen und Wissenschaftler in der Fachzeitschrift „Nature
Methods“ präsentiert.
In den letzten Jahrzehnten konnten aufgrund neuer Technologien
verschiedenste Systeme entwickelt werden, die z. B. in der Krebsforschung
riesige Mengen von biomedizinischen Daten erzeugen können. Parallel dazu
entwickelten sich völlig neue Möglichkeiten, diese Daten mit Methoden der
künstlichen Intelligenz zu untersuchen und auszuwerten. Beispielsweise
können KI-Algorithmen auf Intensivstationen anhand großer Datenmengen von
mehreren Überwachungssystemen frühzeitig ein Kreislaufversagen
vorhersagen, indem sie viele komplexe Informationen aus verschiedenen
Quellen gleichzeitig verarbeiten, was die menschlichen Fähigkeiten weit
übertrifft.
Dieses große Potential von KI-Systemen führt zu einer unüberschaubaren
Anzahl von biomedizinischen KI-Anwendungen, die sich aber nicht immer an
bewährte Verfahren halten oder über deren Funktionsweise, verwendete
Algorithmen oder die Datenherkunft in wissenschaftlichen Publikationen nur
unvollständige Angaben gemacht werden. Dadurch werden die Beurteilung und
umfassende Vergleiche von KI-Modellen erschwert.
Die Entscheidungen der KIs sind nicht immer nachvollziehbar und es
entstehen Ergebnisse, die nicht vollständig reproduzierbar sind. Diese
Situation ist natürlich gerade in der klinischen Forschung unhaltbar, da
hier das Vertrauen in KI-Modelle und transparente Forschungsberichte von
entscheidender Bedeutung sind, um die Akzeptanz von KI-Algorithmen zu
steigern und verbesserte KI-Methoden für die biomedizinische
Grundlagenforschung zu entwickeln.
Ein internationales Forschungsteam mit Beteiligung der Abteilung Data
Science in Biomedicine des Peter L. Reichertz Instituts für Medizinische
Informatik (PLRI) hat zur Lösung dieses Problems das Register AIMe
(“registry for artificial intelligence in biomedical research”)
vorgeschlagen. Das von der Wissenschaftsgemeinschaft betriebene Register
ermöglicht es, Autorinnen und Autoren neuer biomedizinischer KI-Methoden
leicht zugängliche, durchsuchbare und zitierfähige Berichte zu erstellen.
Diese Berichte können von der wissenschaftlichen Gemeinschaft untersucht
und geprüft werden.
Das frei zugängliche Register ist unter https://aime-registry.org abrufbar
und besteht aus einem anwenderfreundlichen Webdienst, der durch den AIMe-
Standard führt. Damit können Nutzerinnen und Nutzer von biomedizinischer
KI vollständige und standardisierte Berichte zu den verwendeten KI-
Modellen erstellen, indem alle relevanten Informationen zu der KI-
Anwendung abgefragt werden. Im Anschluss an die Eingabe wird eine
eindeutige AIMe-Kennung erstellt, die dafür sorgt, dass der Eintrag
langfristig auffindbar bleibt und in Publikationen angegeben werden kann.
Dadurch können Autorinnen und Autoren in Artikeln für Fachzeitschriften
auf die aufwendige Beschreibung aller Facetten der verwendeten KI
verzichten und einfach auf den Eintrag im AIMe-Register verweisen.
Da das Register als eine von der Wissenschaftscommunity betriebene
Webplattform konzipiert ist, kann jede Nutzerin und jeder Nutzer zu
bestehenden Einträgen Fragen stellen, Kommentare abgeben und
Verbesserungen vorschlagen. Dieses Feedback aus der wissenschaftlichen
Gemeinschaft wird auch in der jährlichen Aktualisierung des AIMe-Standards
aufgenommen und interessierte Forschende können dem AIMe-Lenkungsausschuss
beitreten, um sich stärker in die weitere Standardisierung der
biomedizinischen KI einzubringen.
„Im AIMe-Register können nicht nur neue KI-Methoden in zitierfähiger Form
registriert werden. Sie können auch nach vorhandenen Methoden für ihr
spezifisches Anwendungsgebiet suchen. Sie müssen also das Rad nicht jedes
Mal neu erfinden und können sich sicher sein, dass die benutzte KI-Methode
ordentlich evaluiert ist und sich an die AIMe-Standards hält. KI
Entwickler wie auch KI Anwender werden immens vom AIMe-Register
profitieren“, berichtet Professor Tim Kacprowski, Leiter der Abteilung
Data Science in Biomedicine des PLRI und Mitglied des Braunschweiger
Zentrums für Systembiologie (BRICS).
