Direkt zu:

Interviews
28.11.2018

Interview des Monats mit Prof. Judith Simon Digitalisierung kann Transparenz zum Wohl von Diagnostik und Therapie bringen

Computerethik, wertebasiertes Programmieren – was hat man sich darunter vorzustellen? Was sind konkrete Anwendungsfelder im Gesundheitswesen? Prof. Judith Simon, Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie an der Universität Hamburg, erklärt es im Interview des Monats. Sie ist seit kurzem Mitglied des Deutschen Ethikrates und der Datenethikkommission der Bundesregierung.

Digitalrat, Datenethikkommission, Enquete-Kommission, Agentur für Sprunginnovationen: Sind so viele Gremien der Digitalisierung angemessen oder Ausdruck einer politischen Überforderung?
Prinzipiell finde ich: Je mehr Aufmerksamkeit auf das Thema gelegt wird, desto besser! Endlich wird es politisch ernst genommen, dass Deutschland bei der Digitalisierung in vielen Bereichen hinterherhinkt und deutlicher Aufholbedarf besteht. Auch haben einige der Gremien, wie etwa die Enquete-Kommission, andere Adressaten. Und Digitalrat und Datenethikkommission unterscheiden sich beispielsweise deutlich hinsichtlich Aufstellung und Besetzung. Aber natürlich besteht bei den diversen Gremien auch eine Gefahr.

Nämlich?
Dass die Regierung Rosinenpickerei betreibt, sprich sich später aus den Empfehlungen nur das heraussucht, was sie hören möchte. Aber davon gehe ich jetzt erst einmal nicht aus.

Findet zwischen den Gremien ein Austausch statt oder schmort jeder im eigenen Saft?
Es sind ja alle gerade erst gestartet. Deshalb findet der Austausch bisher – als erster Schritt – vor allem zwischen den Vorsitzenden der jeweiligen Gremien statt. Darüber hinaus kennen sich natürlich auch einige der Mitglieder untereinander, so dass es auch informellen Austausch gibt. Ich würde es durchaus begrüßen, wenn dieser Austausch ausgeweitet würde.

Ein Schwerpunkt Ihrer Engagements im Deutschen Ethikrat ist Computerethik. Was ist das genau?
Dabei geht es um alle ethischen Fragen, die sich durch digitale Technologien ergeben – sowohl in der Entwicklung als auch in der Nutzung und Gestaltung. Eine Frage lautet etwa: Welche Verantwortung tragen Entwickler und Programmierer für Technologien – Stichwort Professionsethik, wie man es auch bei den Ärzten kennt. Ein weiteres Thema sind die ethischen Maßstäbe für die Nutzung von Informationstechnologien: Wie sollen Unternehmen mit den Daten ihrer Kunden umgehen? Welche Werte sollten Regierungen in der Nutzung digitaler Technologien abwägen? Aber auch: Was soll der einzelne Nutzer tun – wo endet Meinungsfreiheit und wo beginnt Hassrede? Ein dritter Fokus liegt wiederum auf einer ethischen Analyse der Technologien selbst.

Das bedeutet?
Man beschäftigt sich mit den – ob bewusst oder unbewusst – in Technologien eingeschriebenen Werten und deren gesellschaftlichen Konsequenzen.

In diesem Kontext haben Sie kürzlich das wertebasierte Programmieren als wichtige Herausforderung genannt. Was kann man sich darunter vorstellen?
Da muss ich kurz etwas ausholen: Schon seit Ende der 1990er Jahre gibt es eine Bewegung, die sich sowohl aus der Philosophie als auch aus der Informatik speist. Führende Köpfe sind etwa Helen Nissenbaum und Batya Friedman, die sich mit der Frage beschäftigt haben, wie von der Gesellschaft geteilte, positive Werte bewusst in Technologien eingeschrieben werden können. Das kann etwa der Schutz der Privatsphäre sein oder auch umfassendere Werte wie Gleichheit oder Gerechtigkeit. Hintergrund ist, dass Informatiker und Informatikerinnen oft bestimmte Vorannahmen über die Welt oder auch Stereotypen des idealen Nutzers teilweise unbewusst in Technologien einschreiben. Beim wertebasierten Programmieren will man diesen Vorgang konstruktiv wenden, sprich bestimmte gesellschaftliche Leitwerte auf die Spezifikationen der Software-Entwicklung herunterbrechen.

Könnten Sie dafür ein konkretes Beispiel nennen – aus dem Gesundheitsbereich?
Am naheliegendsten ist natürlich, wie die Privatsphäre von Patienten bereits durch bestimmte Designentscheidungen in der Software geschützt werden kann. Häufig wird das über Zugriffsrechte oder Verschlüsselung geregelt. Aber Fragen des wertebasierten Designs gehen natürlich über Privatsphärefragen hinaus.  Stellen wir uns vor, Sie entwickeln ein Zeitmanagement- oder Controllingsystemen für Kliniken. Hierbei nehmen Sie bewusst oder unbewusst eine Gewichtung von Tätigkeiten vor. Und wenn in diesem System Zeit für Gespräche mit Patienten keine Kategorie ist, wird dies vermutlich auch nicht adäquat berücksichtigt werden. Diese Designentscheidung hat dann durchaus massive Konsequenzen für den Arbeitsalltag der Pfleger, Ärzte, Patienten und Angehörige.
Der Forschungszweig Value Sensitive Design propagiert daher sowohl die Berücksichtigung von Werten im Design- und Entwicklungsprozess als auch die frühzeitige Einbindung nicht nur von direkten Softwarenutzern, sondern auch von denjenigen, die nur indirekt von Designentscheidungen betroffen sind.

Sie beschäftigen sich auch mit Vertrauen, Vertrauenswürdigkeit –gerade im Umgang mit Daten im Gesundheitswesen sind das wichtige Werte. Wo sehen Sie die größten Hürden und Potenzial von Digitalisierung und Big Data?
Ich sehe auf der Forschungsebene große Chancen, existente Daten noch einmal neu auszuwerten, um unbekannte Krankheitszusammenhänge zu erforschen. Da besteht viel Potenzial. Allerdings können wir aufgrund von Anforderungen der informierten Zustimmung nicht auf alle bereits erhobenen Daten erneut zurückgegreifen. Wir benötigen daher an manchen Stellen neue Regelungen, die sicherstellen, dass Versicherte und Patienten bereitwillig ihre Daten zu Forschungszwecken spenden. Gleichzeitig müssen diese Regelungen sicherstellen, dass Daten nicht missbraucht oder zum Nachteil von Versicherten und Patienten verwendet werden können.
 
Und wie sieht es mit Digitalisierung in der normalen Versorgungswelt aus?
Da besteht deutlicher Nachholbedarf. Dem einzelnen Bürger kann es deutliche Vorteile bringen, wenn er seine Daten wie etwa Laborergebnisse zusammenführt und dazu einen einfachen Zugang hat. Unnötige Doppeluntersuchungen ließen sich auf diese Weise vermeiden. Digitalisierung kann dann Transparenz zum Wohl von Diagnostik und Therapie bringen. Solche Prozesse müssen natürlich vertrauenswürdig gestaltet werden. Es ist sicherzustellen, dass beispielsweise nur der Hausarzt und der Dermatologe meine Daten sehen können – nicht aber meine Versicherung, wenn ich das nicht möchte. Der Datenzugriff muss sowohl durch Zugriffsrechte als auch durch IT-Sicherheit gut geschützt sein. Da sehe ich noch Hürden bei der Umsetzbarkeit. In Dänemark hat man sich für ein zentrales elektronisches System entschieden, über das der Patient direkten Zugang zu seinen Daten hat.

Das setzt ein erhebliches Vertrauen voraus, dass die Daten dort gut geschützt sind.
Das stimmt. Aber unabhängig von der Datenfrage wollen Patienten rasch und unkompliziert mit ihrem Arzt kommunizieren. Dazu wurde bisweilen mit Kanälen, wie z.B. WhatsApp gearbeitet, die aus Sicherheitsperspektive hoch fragwürdig sind. Es müssen also Softwarelösungen geschaffen werden, die sicher sind, aber gleichzeitig einfach nutzbar sind. Da besteht ein wirklich sehr großer Bedarf.