KIVertrauen in eine gut reglementierte Blackbox?

Wiesbaden (pag) – KI im medizinischen Kontext ist stark reglementiert und damit grundsätzlich vertrauenswürdig, glaubt der Institutsleiter für KI in der Medizin der Philipps-Universität Prof. Martin Hirsch in einem Talk der Deutschen Gesellschaft für Innere Medizin. Neben der Vertrauensfrage werden auch Medizinethik und das ärztliche Selbstverständnis thematisiert.

KI-Expertin Nadine Schlicker, Philipps-Universität Marburg, konstatiert, KI generiere bereits hochwertigen medizinischen Outcome. Doch: „Wir wissen leider nicht, wie diese KI-Systeme zu diesen Ergebnissen kommen.“ Durch partielle Intransparenz sei sie nicht vollständig überwach- und kontrollierbar. Dennoch gebe es diverse Anforderungen an KI im medizinischen Kontext, reguliert im AI-Act der EU, erinnert Schlicker. Durch das stark reglementierte Zulassungsverfahren für Medizinprodukte sei man „vor nicht vertrauenswürdigen Systemen relativ gut geschützt“, so Hirsch. Trotz diverser Indikatoren gebe es keine absolute Sicherheit für die Vertrauenswürdigkeit von KI, mahnt Schlicker. Hirsch ergänzt: „Das war nie anders in der Zusammenarbeit von Menschen“.

Medizinethiker Prof. Kurt Schmidt, Evangelische Akademie Frankfurt, glaubt, „KI könnte ein weiterer zusätzlicher Gesprächspartner für meine eigene ethische Entscheidungsfindung sein“. Ethikberatung unterstütze das Entscheiden, ohne Verantwortung abzunehmen. Einen KI-Vorschlag abzuwählen helfe, die eigene Argumentation aufzubauen oder zu hinterfragen. „KI könnte zur qualitativen Verbesserung der Entscheidungsfindung führen“, weil sie potenziell neue Aspekte beleuchte. Auf der Kontraseite stünden die Suggestion falscher Sicherheit durch KI und die Diskriminierung von marginalisierten Gruppen.

Kardiologe Dr. Christian Becker, Universitätsmedizin Göttingen, adressiert das ärztliche Selbstverständnis: „Dürfen wir bei der Versorgung von Patientinnen und Patienten KI vorenthalten?“ Eine weitere Frage: „Sind wir offen für Neuerungen, so wie wir auch für neue Therapien offen sind?“. Der Kardiologe resümiert: Ärzte sollten sich offen mit dem Wandel durch KI auseinandersetzen, Risiken berücksichtigen, aber Chancen in den Vordergrund stellen. Viele ärztliche Bereiche blieben auch gänzlich unangetastet.