Drei Fragen an Prof. Dr. Judith Simon

von ersatzkasse magazin.

Veröffentlicht am 05.10.2023 Erschienen in Ausgabe 5. Ausgabe 2023

Der Deutsche Ethikrat hat im Frühjahr 2023 eine Stellungnahme zum Thema Künstliche Intelligenz (KI) veröffentlicht. Auch die Bereiche medizinische Forschung und Gesundheitsversorgung werden darin diskutiert. Prof. Dr. Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg und Sprecherin der Arbeitsgruppe „Mensch und Maschine“ des Ethikrats, gibt Einblick in den aktuellen Debattenstand.

KI-Forschung gibt es schon lange. Was hat den Ethikrat dazu bewogen, im Jahr 2023 eine ausführliche Stellungnahme dazu abzugeben?

KI-basierte Systeme bilden die Basis sozialer Medien und werden zunehmend in vielen Bereichen eingesetzt – in der Medizin ebenso wie im Bildungssystem oder der Verwaltung. Dort entfalten sie vielfältige Auswirkungen von ethischer Relevanz. Daher lag es nahe, dass auch der Ethikrat sich mit KI beschäftigt. Darüber hinaus haben uns auch die Bundestagsfraktionen über den damaligen Bundestagspräsidenten Wolfgang Schäuble gebeten, dass wir uns mit Künstlicher Intelligenz und dem Wechselverhältnis zwischen Mensch und Maschine beschäftigen. Dieser Bitte sind wir natürlich sehr gerne nachgekommen.

Stichwort Gesundheitssektor: Welche Chancen, aber auch welche Risiken sehen Sie hier beim Einsatz von KI?

KI-gestützte digitale Produkte eröffnen vielfältige Chancen im Gesundheitssektor: von verbesserter Diagnostik über die beschleunigte Entwicklung neuer Medikamente bis hin zu neuen Möglichkeiten in der Therapie. Kern vieler Systeme ist die Erkennung von Mustern in Daten, welche für Klassifikation und Prognose verwendet werden können. Entsprechend breit ist das Spektrum möglicher Einsatzbereiche und Potenziale. Allerdings gibt es natürlich auch zahlreiche Risiken. Diese reichen vom Schutz der Privatsphäre und der Sicherheit der Produkte über Fragen zum Schutz vor Diskriminierung bis hin zu Fragen der Transparenz und Nachvollziehbarkeit algorithmischer Entscheidungen.

Welche ethischen Fragen stellen sich speziell in den KI-Anwendungsfeldern medizinische Forschung und Versorgung?

Zwei Themen haben wir besonders viel Aufmerksamkeit gewidmet: einerseits der Frage, welche Auswirkungen es insgesamt auf die verschiedenen Beteiligten – Ärzt:innen, Pfleger:innen, Patient:innen etc. – hat, wenn wir zunehmend Entscheidungen an Software delegieren, die wir mitunter nicht verstehen. Das zweite Thema sind systematische Verzerrungen und Diskriminierung. Softwaresysteme, in der Medizin und anderswo, funktionieren oft nicht gleich gut für beispielsweise Männer und Frauen oder Menschen unterschiedlicher Hautfarbe. Dies ist ein großes Problem, welches stärker in den Blick genommen werden muss.