Prof. Dr. Judith Simon Thesen zu Gerechtigkeit & Diskriminierung
Vortrag bei der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“
Die Mitglieder der Enquete-Kommission haben sich am 3. Juni 2019 schwerpunktmäßig mit dem Thema Daten befasst. Die Philosophin Prof. Judith Simon von der Universität Hamburg referiert in der Sitzung öffentlich zu Fragen von Gerechtigkeit und Diskriminierungsfreiheit. Sie konzentriert sich in ihrem Vortrag vor allem auf Aspekte der Diskriminierung, die sie als „ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen“ versteht.
Im Kontext der Künstlichen Intelligenz (KI) problematisiert die Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie, dass beim maschinellen Lernen Prognosen und Empfehlungen die Vergangenheit in die Zukunft fortschrieben, weil dort mit Daten der Vergangenheit trainiert werde. Dadurch könnten „bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potenziell verstärkt werden.“ Diese Diskriminierung sei ein Effekt von „technisch-methodischen Entscheidungen“ und erfolge nicht unbedingt mit Absicht. Simon mahnt an, gesetzliche Anforderungen zu formulieren, die Software-Entwickler etwa verpflichten, Maßnahmen zur Minimierung von Diskriminierung nachzuweisen.
Anforderungen an die Minimierung von Diskriminierung sollten sich grundsätzlich an der Eingriffstiefe sowie daran, ob ein System unumgänglich ist, orientieren. Simon betonte zudem, dass nicht nur die Software- Entwickler in der Pflicht seien: „Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische, sondern eine gesellschaftliche und politische Frage.“