Wie Algorithmen verständlich werden

Forderungen nach Transparenz und Nachvollziehbarkeit bestimmen längst die politische Debatte über ADM in Deutschland sowie auf europäischer und internationaler Ebene. So legen etwa die im April 2019 vorgestellten Ethik-Leitlinien für vertrauenswürdige Künstliche Intelligenz (KI) der Hochrangigen Expertengruppe der Europäischen Kommission fest, dass (End-)Nutzer über den Einsatz von KI informiert werden müssen. Auch die KI-Strategie der Bundesregierung benennt „transparente Verfahren und Nachvollziehbarkeit für Bürgerinnen und Bürger“ als eine Voraussetzung für den Erfolg von KI. Das im Oktober 2019 vorgestellte Gutachten der Datenethikkommission identifiziert konkrete Anforderungen an die Transparenz und Nachvollziehbarkeit für Betroffene. Und auch in verschiedenen rechtlichen Bestimmungen und Gesetzesvorhaben schlagen sich Transparenzforderungen bereits nieder. Nicht nur aus der im Mai 2018 in Kraft getretenen Datenschutzgrundverordnung (DSGVO) ergeben sich bestimmte Informationspflichten. Die im Frühjahr 2019 beschlossene EU-Richtlinie zur Reform des europäischen Verbraucherschutzes sieht z. B. Informationen über Preispersonalisierung und Produktrankings vor, während im Entwurf des Digital Service Act u. a. Transparenzanforderungen für Algorithmen in der Content Moderation geplant sind. In Deutschland sieht der aktuelle Entwurf des neuen Medienstaatsvertrags für Nutzer eine höhere Transparenz der Funktionsweise von Algorithmen in sozialen Netzwerken vor.

Dennoch bleiben die Forderungen und Bestimmungen oftmals abstrakt. Das vorliegende Papier möchte zur Vertiefung der Debatte beitragen, indem es die Begriffe „Transparenz“ und „Nachvollziehbarkeit“ weiter konkretisiert. Dazu wirft es auch einen Blick in drei verschiedene Anwendungsbereiche von algorithmischer Entscheidungsfindung, die für unser gesellschaftliches Zusammenleben zentral sind: öffentliche Sicherheit/Polizeiarbeit, Personalwesen/Recruiting und Gesundheit. Wie kann Nachvollziehbarkeit hier für Bürger:innen, Bewerber:innen und Patient:innen hergestellt werden? Ziel ist es, das Thema Transparenz und Nachvollziehbarkeit an praktischen Beispielen zu erörtern und damit greifbarer zu machen.