Großes Potenzial für das Gesundheitswesen

Künstliche Intelligenz (KI) hält zunehmend Einzug in den Gesundheitsbereich. Schon heute trägt sie unter anderem dazu bei, die Versorgung zu verbessern und Prozesse effizienter zu gestalten. In Zukunft werden sich weiter zahlreiche neue Anwendungsfelder ergeben. Zugleich müssen damit einhergehende Herausforderungen stärker in den Blick genommen und entsprechende Gebote formuliert werden.

Wenn von KI die Rede ist, steht zunächst die Frage nach der Definition von (künstlicher) Intelligenz im Raum. Für Kognitionswissenschaftler ist Intelligenz die Fähigkeit, in einer unbekannten und komplexen Situation mit wenig Aufwand eine gute Lösung zu finden, während sich IT-Ingenieure freuen, wenn ihre Maschine mit enormem Rechenaufwand aus 300 bis 1.000 Beispielen lernt, eine Strukturerkennungsaufgabe zu lösen. Im Grunde ist KI der Überbegriff für Anwendungen, bei denen Maschinen menschenähnliche Intelligenzleistungen erbringen. Das Erstaunliche dabei ist, dass die Maschinen sich diese Fähigkeit selbst beibringen. Daher spricht die Bundesregierung auf ihrer KI-Webseite von selbstlernenden Systemen, was die eigentliche Neuartigkeit der aufkeimenden Technologie tatsächlich gut charakterisiert. Es meint, dass die Maschine sich selbstständig einen Lösungsweg sucht. Sie geht dafür tief in die Merkmalsstruktur des Problems hinein, weshalb man auch von Deep Learning spricht. Dabei wählt sie Merkmalsstrukturen aus, die für Außenstehende weitgehend undurchsichtig bleiben.

Wenn Maschinen etwas lernen, das bisher nur Menschen zugetraut wurde und gleichzeitig nicht wirklich nachvollziehbar ist, wie die Maschinen das gemacht haben, löst dies einerseits Faszination aus, andererseits aber auch Unsicherheit bis hin zur Angst vor dem Unbekannten. So wundert es nicht, dass die aktuelle gesellschaftliche Debatte rund um KI emotional aufgeladen und stark polarisiert ist – und sich diese Polarität im besonders sensiblen Bereich der Gesundheit noch verstärkt.

Gesundheit ist ein hohes Gut. Und nicht nur in einer Leistungsgesellschaft ist es auch ein heikles Gut. Schon eine genetische Prädisposition, so die Befürchtung, könnte zu Nachteilen führen, überdurchschnittlich hohe Krankheitsanfälligkeit oder eine psychische Erkrankung ebenso. Zudem gibt es schambehaftete Erkrankungen wie Depressionen oder Geschlechtskrankheiten, die lieber im geschützten Raum der ärztlichen Schweigepflicht besprochen werden wollen, als sie einer Maschine anzuvertrauen, deren Arbeitsweise und Wertesystem man weder versteht noch vertraut.

Auf der anderen Seite sind wahrlich verlockende Wunderdinge über KI zu hören. Sie könne Diagnosen genauer stellen als Ärzte, Therapien personalisierter planen, Operationen sicherer durchführen, Krankheiten verhindern, empathisch reagieren, die Kosten im Gesundheitssystem senken, medizinische Fachkräfte entlasten, sogar die Medizin menschlicher machen. Sie wäre nie müde, niemals unhöflich, stets geduldig und immer verfügbar. Es gilt also, sehr genau hinzuschauen.

Symptome

Tritt ein Krankheitssymptom auf, gibt es für die Fragen, ob und wenn ja wie schnell eine Person zum Arzt gehen sollte und welche Krankheit sich hinter dem Symptom verbergen könnte, KI-Systeme aus der Gruppe der Symptom-Checker. Solche Anwendungen helfen, die Dringlichkeit des Handelns und die Erkrankungen hinter Symptomen abzuschätzen. Die Installationen solcher Apps nehmen zu und sind ein Indiz dafür, dass es in der Gesellschaft einen Bedarf an solchen KI-Systemen zu geben scheint. Eine retrospektive Validierungsstudie unter der Leitung von Prof. Dr. Annette Wagner von der Medizinischen Hochschule Hannover konnte zeigen, dass in 64 Prozent der untersuchten (schweren) Fälle die KI die richtige Diagnosestellung signifikant hätte beschleunigen können und dadurch dem Gesundheitssystem auch erhebliche Kosten erspart geblieben wären. KI in der Diagnosefindung könnte also nicht nur medizinisch, sondern auch gesamtwirtschaftlich positive Effekte erzeugen.

Immer mehr Menschen nutzen zudem sogenannte Wearables wie Smartphone oder Smartwatch, um über lange Zeiträume sogenannte digitale Biomarker zu messen, wie zum Beispiel die Anzahl der Schritte pro Tag, Gehgeschwindigkeit, Gangsymmetrie, bipedale Abstützungsdauer, Herzfrequenz, Sauerstoffsättigung und Schlafqualität, oder um ein Zwei-Kanal-EKG durchzuführen. Kombiniert man die medizinische Kompetenz der Symptom-Checker mit solchen Sensor- Werten aus den Wearables, lässt sich erahnen, dass in naher Zukunft ernst zu nehmende Gesundheitseinschätzungen bereits vor den Toren des Gesundheitssystems stattfinden und Erkrankte mit validen Vordiagnosen in den Warteräumen der Arztpraxen und Kliniken auftauchen könnten.

Diese Entwicklung soll auch an anderer Stelle helfen: Die Notaufnahmen von Krankenhäusern werden immer häufiger von Menschen aufgesucht, die weder dringlich noch von einem Klinikum versorgt werden müssen. Das führt zu hohen und unnötigen Kosten sowie einer Überlastung medizinischen Fachpersonals, zudem geht dies zulasten der Patienten, die tatsächlich eine Notaufnahme in Anspruch nehmen müssen. KI könnte helfen, eine angemessene Steuerung von Erkrankten in das Gesundheitssystem sicherzustellen. In den USA und Asien ist dies bereits heute in verschiedenen Kontexten gelebter Alltag.

Diagnose

Blickt man auf die Leistungserbringer, so spielt KI sowohl bei der Diagnose wie auch in der Therapie eine Rolle: zwei Bereiche, die menschlichen Akteuren vorbehalten sind, in denen sich aber KI anschickt, substanziell helfen zu können.

Grundsätzlich dürften nur Ärzte Diagnosen stellen. KI wird das auch in absehbarer Zeit nicht tun, da sie keinen eigenen Rechtskörper hat und somit keine Verantwortung übernehmen kann. Sehr wohl aber ist KI in der Lage, die Diagnosestellung zu unterstützen. KI-Systeme können im Wartebereich mit der Anamnese beginnen. Sie haben keinen Zeitdruck und eine breite Wissensbasis, können Standard-Fragen bearbeiten und bei komplexen Situationen seltene Erkrankungen in Erwägung ziehen. Am Ende beschreiben sie alles in einem übersichtlichen, strukturierten Report, sodass ärztliches Personal auf einen Blick informiert ist, wenn es dem Patienten gegenübertritt. Das spart Zeit und Gedankenkraft, sichert Qualität und eröffnet Freiraum für menschliche Begegnung.

Schließt sich an die Anamnese eine komplexere Untersuchung an, ist die KI in ihrem Element. Schon heute hilft KI bei der Analyse von Bildern in Radiologie, Dermatologie, Endoskopie und Pathologie und sie ist dafür teilweise bereits in den entsprechenden Geräten vorinstalliert. KI hilft zudem, Anomalien in Herz- und Lungengeräuschen zu entdecken, Spermienbeweglichkeit unter dem Mikroskop zu beurteilen, in Bewegungsmustern von spielenden Kindern Hinweise auf Autismus aufzuspüren oder komplexe Veränderungen in EEG- und EKG-Aufzeichnungen zu erkennen. Bei der Sepsis-Erkennung hat KI das Potenzial, Erkrankten und Personal in den Intensivstationen unter die Arme zu greifen – zumindest verheißt dies eine 2019 in der Fachzeitschrift Nature veröffentliche Studie, in der geprüft wurde, wie gut ein von einem britischen Unternehmen entwickelter Algorithmus diese komplexe Aufnahme in der Intensivstation löst.

Ziel ist bei all dem, nicht die automatisierte Befundung, sondern die behandelnde Person auf Auffälligkeiten hinzuweisen, hinter denen sich eine Pathologie verbergen könnte – KI als qualitätssichernde, dokumentierende, mitarbeitende Instanz. Für Assistenzärzte ergibt sich hier die Chance, schnell zu lernen (up-skilling), indem die eigene Einschätzung gegen die der KI gesetzt wird. Allerdings besteht auch die Gefahr, kognitiv abzuschalten und bewusst oder unbewusst den Befund der KI zu überlassen (de-skilling). Dass kognitive Kompetenzen auf menschlicher Seite dabei komplett verloren gehen, darf allerdings bezweifelt werden, denn am Ende verantwortet immer noch der Mensch das Geschehen und er sollte somit ausreichend motiviert sein, Sorgfalt walten zu lassen.

Therapie

Auch in der Therapie gewinnt die KI zunehmend an Bedeutung. Als sogenannte Digitale Therapeutika hilft KI, Erkrankungen zu kurieren oder Funktionsfähigkeit wiederherzustellen. Im Gewand digitaler Gesundheitsanwendungen (DiGA) wird KI bereits per Rezept verschrieben, um beispielsweise kurierende Übungen bei Rückenschmerzen zu kontrollieren und personalisierte Verbesserungsvorschläge zu ihrer Durchführung zu geben. Ein vielversprechender Vorreiter für KI in der personalisierten therapeutischen Intervention ist die Diabetologie und man darf davon ausgehen, dass bereits in wenigen Jahren die Einstellung des Blutzuckers flächendeckend durch KI-Systeme unterstützt werden wird. Schon heute nicht mehr wegzudenken ist der Einsatz von KI in der robotergestützten Chirurgie. KI hilft bei der ruhigen Instrumentenführung, der Analyse des Gesichtsfeldes und zukünftig auch bei der Durchführung von Standardnähten. Nicht fehlen in dieser Auflistung darf das erhebliche Potenzial, das KI in der Personalisierung onkologischer Therapien verspricht. Es ist anzunehmen, dass KI in nicht allzu ferner Zukunft auch in Tumorboards und onkologischen Konzilen fester Bestandteil sein wird. Auch die Pflege profitiert von KI, wenn sie zum Beispiel mithilfe einer KI-App sicherer den Wundtypus ermitteln kann.

Weitere Anwendungsbereiche

Bei der Planung, Entwicklung, Testung und Zulassung von Medikamenten ist KI bereits heute eine wertvolle Hilfe. Immer wieder betonen beispielsweise die Biontech-Gründer Prof. Dr. Ugur Sahin und Prof. Dr. Özlem Türeci, dass die schnelle Entwicklung und Anpassung ihres Covid-Impfstoffes ohne KI nicht möglich gewesen wären. Sehr vielversprechend ist der Einsatz von KI auch beim sogenannten Repurposing (oder Repositioning) von Medikamenten, also der Nutzung bestehender und zugelassener Medikamente in anderen Kontexten.

Ärzte verbringen mehr als 40 Prozent ihrer Zeit mit Verwaltungsaufgaben, bei der Pflege sieht es nicht viel besser aus. So ist es keine Überraschung, dass derzeit viel mit KI im Kontext der Arztbrieferstellung und Dokumentation experimentiert wird, um dem medizinischen Fachpersonal diese Arbeit abzunehmen, sodass dieses mehr Zeit für die Interaktion mit Patienten hat.

Ebenso im Bereich der Medizinethik zeigt KI ihr Potenzial. So berichten der Medizinethiker Prof. Dr. Kurt W. Schmidt aus Frankfurt und der KI-Wissenschaftler Fabian Lechner aus Marburg, dass das multimodale Sprachmodell GPT-4 durchaus geeignet ist, bei der Beurteilung komplexer medizinethischer Fälle zu helfen.

Und auch wenn es um menschliche Eigenarten wie Empathie geht, zeigte eine Studie, dass von GPT-4 formulierte Antworten auf Patientenfragen im Durchschnitt von den Patienten als empathischer empfunden wurden als die des medizinischen Fachpersonals.

GPT

Doch GPT birgt auch Gefahren. Bei GPT handelt es sich um eine mit gigantischen Textmengen aus dem Internet trainierte KI (ein sogenanntes Transformer-Sprachmodell), die darauf spezialisiert ist, auf der Basis von Wahrscheinlichkeiten vorherzusagen, welche Wörter und Sätze Menschen in einem Kontext in welcher Reihenfolge verwenden werden. Dieses Sprachmodell verarbeitet allein die Wortfolgen (nicht aber den Sinn der Wörter), ist die bislang wirkmächtigste Inkarnation von KI und liefert Antworten auf Fragen und Aufgaben in Klartext, der in Eloquenz und Wortgewandtheit von menschlichen Texten nicht sicher zu unterscheiden ist. Dadurch wird suggeriert, dass die Maschine verstanden hat, was man wissen wollte. Dem ist allerdings nicht so.

Denn GPT hat keine Bedeutungsebene, sondern generiert Wort- und Satzgebilde entlang statistischer Zusammenhänge, die erst im Gehirn des Lesenden Sinn entfalten.

Daher entstehen Situationen, wie sie KI-Wissenschaftlerin Nadine Frauke Schlicker erlebte. Sie fragte GPT, wie sicher es sich denn sei, dass die von GPT aufgeführte Literaturangabe richtig sei. „Ich bin mir sicher“ war die Antwort. Auf die Rückfrage „Auf einer Skala von 0 bis 100 Prozent – wie sicher bist du dir, dass das die richtige Literaturstelle ist?“ lautete die Antwort „Ich bin mir zu 100 Prozent sicher“. Doch war die von GPT angegebene Literaturangabe nicht nur falsch, sondern eine komplett wortstatistisch erfundene. GPT weiß nicht, was es nicht weiß und hat kein Gefühl für Nicht-Wissen. Entsprechend ist es keine verlässliche Wissensquelle.

Eine Maschine wie GPT in diesem Zustand in den Verkehr zu bringen, verletzt das, was im deutschen Rechtssystem als „berechtigte Sicherheitserwartung“ von Anwendern bezeichnet wird. Ethische Gebote wurden hier hinter ökonomische und marktstrategische Verlockungen zurückgestellt, nach dem Motto „erst die Algorithmen, dann die Moral“.

Regeln und Gebote

Verbote allein sind hier jedoch keine Lösung, sondern dürfen nur eingesetzt werden, um menschenrechtswidrige Entwicklungen zu unterbinden (siehe Artificial Intelligence Act der EU). Vielmehr müssen punktuelle Verbote behutsam kombiniert werden mit Regeln und Geboten für KI – besonders im sensiblen Gesundheitssystem. An derartigen regulatorischen Rahmen für KI arbeiten derzeit nationale und internationale Verbände mit dem Ziel, KI risikoarm in das Gesundheitssystem zu integrieren.

Ein weiteres wichtiges Gebot der Stunde ist nicht zuletzt, Wege zu finden, wie KI ethisch ausgerichtet werden kann (vorstellbar wäre eine Art Hippokratischer Eid für jene KI-Entwickler, die Entscheidungsunterstützungssysteme für die Medizin entwickeln). Zudem sollte verstärkt in den Fokus rücken, was Medizin eigentlich menschlich macht – und daher nicht von Maschinen geleistet werden kann. Bei vielen Symptomen, Diagnosen, Therapien und Fragen sind Empathie und Zwischenmenschlichkeit gefragt, die keine Maschine per definitionem je wird haben können.

Weitere Artikel aus ersatzkasse magazin. (5. Ausgabe 2023)