KI in der Psychiatrie: DGPPN fordert klare Standards für einen sicheren Einsatz
Was kann Künstliche Intelligenz (KI) für die psychiatrische Versorgung
leisten und welche Voraussetzungen müssen erfüllt sein, damit
Psychiaterinnen und Psychiater KI verantwortungsvoll in der Behandlung von
Menschen mit psychischen Erkrankungen nutzen können? Dazu hat die DGPPN
jetzt das Positionspapier „Einsatz von KI in Psychiatrie und
Psychotherapie“ veröffentlicht.
KI ist längst im Alltag der Menschen angekommen; Sprachmodelle wie ChatGPT
oder Claude werden von vielen sogar genutzt, um sich Rat bei psychischen
Problemen zu holen. Allerdings wurden diese Anwendungen nicht für die
Therapie psychischer Erkrankungen entwickelt und können für Betroffene
durchaus Gefahren bergen. Spezifisch entwickelte KI-Anwendungen dagegen
können neue Möglichkeiten für die psychiatrisch-psychotherapeuti
Versorgung eröffnen.
„Die neuen Techniken lassen sich in der Diagnostik und Therapie einsetzen
und können auch bei administrativen Tätigkeiten unterstützen. Unter
bestimmten Voraussetzungen können sie so dazu beitragen, die Versorgung
von Menschen mit psychischen Erkrankungen maßgeblich zu verbessern“,
erläutert Prof. Dr. Peter Zwanzger, Leiter des DGPPN-Referats „Digitale
Psychiatrie und Psychotherapie“ und federführender Autor des neuen
Positionspapiers. KI ist in der Lage, große Datenmengen auszuwerten und
darin Muster zu erkennen, die die Diagnostik verbessern könnten. Daten aus
Smartwatches oder anderen tragbaren Sensoren könnten dazu beitragen, eine
psychische Krise oder einen drohenden Rückfall früher zu erkennen. Und
auch in der Therapie könnten KI-Anwendungen vielfältig unterstützend
eingesetzt werden. Darüber hinaus bietet die Automatisierung von
Dokumentations- und Verwaltungsaufgaben die Chance, Fachkräfte zu
entlasten und mehr Zeit für den direkten Kontakt mit den Patientinnen und
Patienten zu schaffen.
Dafür entscheidend ist jedoch, dass die Systeme für die Zielgruppe und den
konkreten Anwendungszweck sicher und wirksam sind. „ChatGPT und
vergleichbare Modelle wurden nicht für Menschen mit psychischen
Erkrankungen konzipiert. Bei ungeregelter Nutzung können sie für diese
Zielgruppe gefährlich sein“, warnt Peter Zwanzger. Gleichzeitig liegen
mittlerweile Studien vor, die deutlich belegen, dass spezifisch
entwickelte Systeme für die Behandlung psychischer Erkrankungen wirksam
sein können – insbesondere bei leichten und mittelschweren
Beeinträchtigungen. Peter Zwanzger führt aus: „Wenn wir KI-Systeme
verantwortungsvoll für die Behandlung von Menschen mit psychischen
Erkrankungen einsetzen möchten, müssen wir sicherstellen, dass die
Anwendungen für diesen Zweck konzipiert wurden und nachgewiesenermaßen
wirksam sind. Wir sollten in Psychiatrie und Psychotherapie nur Systeme
einsetzen, die vor ihrer Zulassung – wie andere Medizinprodukte auch – auf
Sicherheit, Wirksamkeit und ihren Nutzen für die Betroffenen überprüft
wurden.“
Die DGPPN fordert deshalb in ihrem Papier verbindliche Standards für den
Einsatz von KI in der psychiatrisch-psychotherapeuti
Diese Standards müssen die Europäische KI-Verordnung (EU-AI-Act)
berücksichtigen und sollten sich an etablierten Verfahren und Prinzipien
der Medizinprodukteregulierung orientieren. Ebenso wichtig sind
Datenschutz und Transparenz des Einsatzes: Patientinnen und Patienten
müssen erkennen können, wann sie mit KI interagieren und jederzeit darauf
vertrauen können, dass ihre Daten sicher verarbeitet und gespeichert
werden.
Mit dem Positionspapier „Einsatz von KI in Psychiatrie und Psychotherapie“
hat die DGPPN eine fachliche Grundlage für den weiteren Austausch mit
Wissenschaft, Versorgung, Politik und den zuständigen Institutionen
geschaffen. Die Fachgesellschaft wird sich dafür einsetzen, dass die
besonderen Anforderungen der psychiatrisch-psychotherapeuti
Versorgung bei der Gestaltung künftiger Standards für den Einsatz von KI
angemessen berücksichtigt werden.
