"Die Zulassungsinstrumente greifen nicht bei KI"

Künstliche Intelligenz (KI) spielt im Klinikalltag in Deutschland bisher kaum eine Rolle, doch die Technologie hat großes Potenzial, die medizinische Versorgung zukünftig zu verbessern. Eine der großen Fragen ist, wie die Qualität solcher Hightech-Anwendungen gesichert werden kann. Prof. Dr. Klaus Juffernbruch ist Informatiker und Mediziner. Der Vorsitzende der Expertengruppe „Intelligente Gesundheitsnetze“ des Digital-Gipfels der Bundesregierung spricht im Interview mit ersatzkasse magazin. über die Notwendigkeit, neue Verfahren zur Bewertung von KI zu entwickeln und die Schwierigkeit, Datenschutz und technische Innovationen in Einklang zu bringen.

Sie sind Informatiker und Mediziner, ahnten Sie schon früh, dass diese Fächerkombination zukunftsweisend ist?

Tatsächlich hat sich diese Kombination als zukunftsträchtig erwiesen. Wobei ich in erster Linie aus reinem Interesse sowohl Informatik als auch Medizin studiert habe. Als ich dann fertig war mit dem Studium, war die Zeit der Ärzteschwemme und es war sehr schwer, eine Stelle als Mediziner zu bekommen. Letztendlich wurde ich an einer Klinik eingestellt, weil diese für ein Forschungsprojekt zur KI einen Diplominformatiker brauchte. Dann wurde ich neugierig auf die Industrie und habe bei einem IT- und Beratungsunternehmen angefangen, das für den Bereich Gesundheitswesen unbedingt einen Arzt haben wollte. Auch daran zeigt sich, dass die digitale Welt immer mehr mit dem Gesundheitswesen in Berührung kommt.

Seit 2012 sind Sie Vorsitzender der Expertengruppe „Intelligente Gesundheitsnetze“ des Digital-Gipfels der Bundesregierung. Worum geht es da, was ist das Ziel eines solchen Netzwerks?

Der Digital-Gipfel beruht auf einer sehr guten Grundidee, nämlich dass es einen Ort geben muss, an dem offene Diskussionen geführt werden können. Beteiligt sind Politik, Industrie, Forschungseinrichtungen und Verbände. Es gibt unterschiedliche Bereiche, jeweils unter Federführung eines Ministeriums. Dabei geht es darum, dass wir uns die technischen Entwicklungen anschauen und überlegen, wie man diese dem Bürger zugutekommen lassen kann und wo regulatorische Stellschrauben, in unserem Fall im hoch regulierten Bereich des Gesundheitswesens, möglicherweise anders gedreht werden müssen. Nur weil etwas technisch möglich ist, heißt es ja nicht, dass es sinnvoll ist. Die Frage ist auch immer, welche technischen Errungenschaften sich im Ausland etablieren und ob vielleicht hierzulande neue Gesetzesvorschläge ratsam sind, um das zu ermöglichen, was sich woanders bewährt hat.

KI ahmt menschliche Intelligenz nach und verbessert sie sogar. In umfangreichen Datensätzen erkennen KI-Algorithmen Muster und ziehen daraus Schlüsse – etwa in Form von konkreten Empfehlungen an den Menschen. Wo steht Deutschland momentan in Sachen KI bezogen auf das Gesundheitswesen?

Bezogen auf die Anwendung im klinischen Alltag ist KI in Deutschland noch ganz neu. Ich habe kürzlich eine Zahl gelesen, da war die Rede von 30 zugelassenen KI-Anwendungen, das ist wenig. Und selbst wenn die zugelassen sind, haben nur wenige Krankenhäuser solche Technik auch im Einsatz. Natürlich stürzen sich die Universitäten und Forschungseinrichtungen auf dieses Thema, aber wir stehen noch am Anfang. Es wird noch einige Jahre dauern, bis sich KI in der Versorgung flächendeckend etabliert hat.

Und im europäischen Vergleich?

Es ist ja kein Geheimnis, dass wir in Deutschland ein bisschen, um nicht zu sagen sehr hinterher hinken, was digitale Anwendungen insgesamt anbelangt. Hier sind wir sehr konservativ. Was verwundert. Als Industrieland sollten wir eigentlich Vorreiter sein. Vor allem bei der hervorragenden Qualität unserer Ärzte und medizinischen Versorgung sowie unserer Ingenieure hätten wir alle Möglichkeiten. Wir könnten viel mehr aus der Digitalisierung machen, wenn wir uns nicht so oft selbst Beschränkungen auferlegen würden.

Was für Beschränkungen sind das?

KI funktioniert nur mit sehr großen Datenmengen. Hier wäre es wünschenswert, wenn wir Daten aus Deutschland zur Verfügung
hätten. Derzeit hört man besonders von Start-Ups, dass diese ihre Daten irgendwo im Internet erwerben. Das heißt, wir wissen so gut wie nichts über diese Daten, weder woher sie kommen noch wie die Qualität ist. Ein Beispiel: Sie wollen eine KI schaffen, die Ihnen auf einem Röntgenbild des Brustkorbs sagt, ob eine Lungenentzündung vorliegt. Dafür zeigen Sie dem neuronalen Netz viele Röntgenbilder und erklären, wann eine Lungenentzündung vorhanden ist und wann nicht. Das neuronale Netz wird so geschult. Was aber, wenn die Diagnosen zu den Trainingsbildern falsch sind? Wenn sie nicht wissen, woher diese Daten kommen, ist das Ganze überhaupt nicht qualitätsgesichert. Bei Daten aus Deutschland wären wir in der Lage, die Qualität wesentlich besser zu kontrollieren.

Das Digitale-Versorgung-Gesetz sieht ja eine Forschungsdatenbank vor, gespeist aus Daten der gesetzlichen Krankenkassen.  Diese soll dann öffentlichen Einrichtungen für Forschungszwecke zur Verfügung stehen. Entspricht das Ihren Erwartungen?

Grundsätzlich befürworte ich Datensammlungen und große Datenbanken, eben vor allem mit Daten deutscher Bürger. Aber ich bin natürlich auch ein Freund des Datenschutzes. Es ist immer eine Gratwanderung: Was sollte der Gesetzgeber vorgeben und wie weit geht die Freiheit des Einzelnen? Natürlich sollte jeder souverän über seine Daten verfügen können, dafür gibt es unter anderem die Datenschutzgrundverordnung. Gleichzeitig aber erwartet jeder Bürger, dass er die bestmögliche Gesundheitsversorgung bekommt. Insofern gibt es einen Widerspruch, wenn man einerseits sagt, wir stellen die Daten nicht bereit, die wir bräuchten, um die Forschung und damit die Versorgung voranzutreiben, und andererseits die beste Versorgung fordert. Diesen Widerspruch muss man im gesellschaftlichen Konsens auflösen.

Was schlagen Sie vor?

Es kann auf jeden Fall nicht sein, dass Daten unkontrolliert irgendwo in der Welt auftauchen. Wir bräuchten ein Gesetz, das regelt, dass bestimmte Daten in bestimmten Formen, egal ob anonymisiert oder pseudonymisiert, für bestimmte Zwecke genutzt werden können. Auch die Forschung und die Industrie brauchen Klarheit, unter welchen Bedingungen sie Daten bekommen und nutzen dürfen. Dies sollte so gemacht werden, dass die Interessen des Einzelnen geschützt werden, aber
genauso das Interesse der Allgemeinheit nach besserer Versorgung berücksichtigt wird.

Welchen Stellenwert hat der Datenschutz in Deutschland?

In Deutschland wird Datenschutz oft vorgeschoben, um andere Interessen zu verschleiern. Wenn man sich die ganze Diskussion um die Telematikinfrastruktur (TI) oder eben KI anschaut, dann zeigt sich, dass der Datenschutz oft von Interessenverbänden
hochgehalten wird, um technische Entwicklungen zu verhindern. Auf der anderen Seite aber zeigt sich, dass für genau diese Leute an anderer Stelle der Datenschutz überhaupt keine Rolle spielt.

Können Sie ein Beispiel nennen?

Ich würde mir wünschen, dass die vielen Ärzte und Ärzteverbände, die aus Datenschutzgründen gegen die TI sind, sich genauso vehement dafür einsetzen, dass das Faxen in Deutschland abgeschafft wird. Faxen ist eine völlig ungeschützte Kommunikation und im deutschen Gesundheitswesen werden tagtäglich Millionen von Patienteninformationen über Faxe ausgetauscht. Aber gegen die TI, die eine hochabgesicherte verschlüsselte Kommunikation mit Arztbriefen ermöglichen würde, sperrt man sich mit allen Mitteln. Das kann ich nicht nachvollziehen.

Sie sagen aber auch, dass neue Medizinprodukte, die auf KI beruhen, nicht ungesteuert ins Gesundheitssystem kommen dürfen. Wie bewerten Sie diesbezüglich die Zulassungsverfahren?

Es gibt ja zugelassene Systeme und genauso gibt es Medizinprodukteverordnungen, da könnte man sagen, prima, aber dem ist nicht so. Regulierungsbehörden selbst geben zu, dass ihre traditionellen Instrumente nicht darauf ausgerichtet sind, maschinelles Lernen und KI zu bewerten. Zum Beispiel gibt es Anstrengungen der amerikanischen Regulierungsbehörde FDA, diese Zulassungsverfahren neu zu designen. Auch andere Regulierungsbehörden, etwa die Europäische Arzneimittelagentur (EMA),
haben erkannt, dass die traditionellen Zulassungsinstrumente nicht greifen und dass wir neue Standards entwickeln müssen. Die Frage ist, kann ich bei Diagnostik, beispielsweise bei der Auswertung von Mammografie-Aufnahmen oder der Beurteilung von pathologischen mikroskopischen Präparaten, auf die KI vertrauen und wenn ja, wie kann ich das messen? Menschen irren sich, KI kann sich auch irren. Aber was mich interessiert ist, wie oft sich die KI irrt. Und wenn wir dann noch einen Schritt
weitergehen und KI einsetzen wollen, um Therapieempfehlungen auszusprechen, stoßen wir ganz schnell auf das Problem, dass Medizin leider nicht überall eine exakte Wissenschaft ist.

Wie lässt sich das Problem lösen?

Wenn ein System therapeutische Vorschläge macht, zum Beispiel zu einer Operation rät oder nicht, muss ich wissen, ob diese den medizinischen Leitlinien entsprechen. In diesem Fall haben die Regulierer erkannt, dass die derzeitigen Zulassungsmechanismen oft zu kurz greifen. Was für ein Röntgengerät der vernünftige und richtige Weg der Zulassung war, ist mit Blick auf KI-Systeme oft nicht zeitgemäß. Womöglich erhält ein Hersteller die Zulassung, was aber keine Garantie dafür ist, dass das System gut und sicher ist. Die Zulassungsbehörden müssen auch bei KI-Systemen für Therapieempfehlungen selbst in der Lage sein zu testen und nicht nur zu schauen, ob der Hersteller bestimmten Prozeduren folgt. Daran schließt sich noch eine zweite große Herausforderung an: KI liefert ein Resultat, aber nicht immer kann man nachvollziehen, wie die KI zu ihrem Ergebnis gekommen ist. KI muss erklärbar und nachvollziehbar sein, das fordert auch die Bundesregierung ganz explizit.

KI wird auch die Arzt-Patient-Beziehung verändern. Welche Rolle hat der Arzt in Zukunft?

Wir haben ja heute bei allen Gesundheitsberufen das Problem, dass wir einen erheblichen Fachkräftebedarf haben, den der Markt nicht decken kann. Egal ob es Ärzte, Pflegekräfte oder Logopäden sind. Wir müssen uns also überlegen, wie wir die Fachkräfte von unnötigen Arbeiten entlasten und wie wir ihre Produktivität stärken können. Ein Beispiel: Radiologen gucken sich jeden Tag viele Röntgenaufnahmen des Brustkorbs an. Das meiste ist Routine, das ist für den Arzt nicht spannend, aber auch bei Routine muss man sich ganz genau konzentrieren, um nicht nachlässig zu werden. Und da könnte eine KI schon vieles vorsortieren und vorbefunden. Das unterstützt den Radiologen in seiner Bewertung. Oder nehmen Sie den Faktor Zeit. Die Patienten wünschen sich oft, dass Ärzte sich mehr Zeit für Erklärungen nehmen. Man könnte also einen Teil der durch KI eingesparten Zeit dafür verwenden, mit dem Patienten besser ins Gespräch zu kommen oder Wartezeiten für Patienten zu verkürzen.

Also Sie glauben nicht, dass die Ärzte und Pflegekräfte in Zukunft arbeitslos werden?

Nein. Auf absehbare Zeit auf keinen Fall. Aber KI kann die Arbeit für Pflegekräfte und Ärzte deutlich erleichtern. Es gibt inzwischen auch Geräte, die sich direkt an den Verbraucher wenden. Etwa den von einem Berliner Start-Up entwickelten Symptomchecker Ada, eine App, die sich jeder kostenlos runterladen und sich über mögliche Krankheiten informieren kann. Das ist quasi die Steigerung von Dr. Google. Heute informieren sich schon etliche Patienten über ihre Krankheit vorab, tauchen beim Arzt auf und sagen, ich habe folgende Krankheit und am besten schreiben Sie mir das und das Medikament auf.

Der informierte Patient. Was halten Sie davon?

Ich finde es gut, wenn sich Patienten über ihre Krankheiten informieren, weil es dieses Gefälle verringert, der Arzt als Halbgott in Weiß und der Patient als unwissender Bittsteller. Allerdings helfen die ungefilterten Rechercheergebnisse bei Google nicht wirklich weiter. Deshalb gibt es Bestrebungen in Deutschland, ein nationales Gesundheitsportal zu errichten, das qualitätsgesicherte Informationen bereithält – ein richtiger Weg. Aber nehmen wir mal an, es gäbe eine gute KI, auch damit könnten Patienten besser informiert werden. Wenn sie also Instrumente hätten, die ihnen sagen, es ist dringend oder nicht, gehen sie zum Hausarzt, Facharzt oder mit dem Rettungswagen in die Klinik, wäre das ein großer Fortschritt.

Wie schätzen Sie die Bereitschaft der Ärzte gegenüber der KI generell ein?

Die Erfahrung zeigt, dass die Nutzung neuer Entwicklungen im Gesundheitswesen von zwei Faktoren abhängt. Zum einen von der medizinischen Notwendigkeit und Sinnhaftigkeit, zum anderen von der Vergütung. Wenn das Fax besser bezahlt ist als der elektronische Arztbrief, nutzt keiner den E-Arztbrief. Das wird jetzt gerade geändert, aber bisher war es so. Wir müssen die finanziellen Anreize so setzen, dass der, der die beste Qualität für die Patienten liefert, auch das meiste Geld verdient. Zugegeben, schwierig umzusetzen, aber meines Erachtens ein richtiger Weg.

Was raten Sie den Skeptikern unter den Ärzten?

„Wer nicht handelt wird behandelt“. Dieser Spruch trifft auch die Ärzteschaft in Sachen Digitalisierung. Denn der Patient lässt sich nicht vorschreiben, wo er was im Internet sucht und welche Technik er nutzt. Auch die Krankenkassen lassen sich von den Ärzten auf Dauer nicht beschneiden. Ich würde mir eine Ärzteschaft wünschen, die aktiv diese Neuerungen vorantreibt, anstatt zu schauen, was machen andere und sich dann aufs Protestieren zu beschränken.

Weitere Artikel aus ersatzkasse magazin. 6. Ausgabe 2019