Direkt zu:

22.03.2023

EthikratKI darf menschliche Entfaltung nicht vermindern

Berlin (pag) – In seiner aktuellen Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ untersucht der Deutsche Ethikrat die Auswirkungen digitaler Technologien auf das menschliche Selbstverständnis und Miteinander. Ein Anwendungsbereich, den das Gremium exemplarisch beleuchtet, ist die Medizin.

Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln für die ethische Bewertung“, betont Ratsvorsitzende Prof. Alena Buyx bei der Vorstellung der Stellungnahme.

Das Gremium hebt hervor, dass es für die ethische Bewertung von KI nicht genüge, nur die Technologien zu verstehen. Auch die komplexen Wechselwirkungen zwischen Mensch und Technik sowie gesellschaftliche Effekte müssten beachtet werden. Deshalb lautet die Schlüsselfrage für den Rat: Werden menschliche Autorschaft und die Bedingungen für verantwortliches Handeln durch den Einsatz von KI erweitert oder vermindert?

Damit setzt er sich exemplarisch in vier Anwendungsbereichen auseinander –darunter Medizin. Dabei zeigt sich, dass die Beurteilung von KI immer kontext-, anwendungs- und personenspezifisch erfolgen muss.

Für den Medizinbereich richten sich Empfehlungen unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten, auf die Vermeidung ärztlicher Kompetenzverluste und auf das Ziel, die Privatsphäre von Patientinnen und Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang zu bringen. Dabei gilt es, das Vertrauensverhältnis zwischen allen beteiligten Personen zu schützen und die vollständige Ersetzung medizinischer Fachkräfte zu vermeiden. In der Stellungnahme steht auch: „Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl und ist auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Versorgungsbereichen ein akuter Personalmangel besteht.“

Verwandte Artikel