Brücken bauen statt polarisieren: Wie Algorithmen den digitalen Diskurs verbessern können

Kriege, Klimawandel, Pandemien: Die Welt sieht sich mit großen Herausforderungen konfrontiert. Angesichts der globalen Auswirkungen sollte die oberste Priorität eigentlich darin liegen, gemeinsam Lösungen zu entwickeln. Doch die Realität sieht anders aus: Die Suche nach dem Verbindenden gerät durch zunehmende Polarisierung und Fragmentierung immer mehr ins Abseits. Das zeigt sich unter anderem darin, dass die pluralistischen liberalen Gesellschaften in Deutschland wie auch in anderen Demokratien immer gespaltener werden, während autoritäre politische Führungsstile mehr Unterstützung gewinnen.

Die Eskalation von Polarisierung und Fragmentierung beobachten wir insbesondere auf den digitalen Kommunikations- und Informationsplattformen. Die Diskurse sind häufig von gegensätzlichen, unvereinbaren Standpunkten geprägt. Eine zentrale Rolle hierbei spielen die Empfehlungsalgorithmen der Plattformen. Sie wählen aus, welche Inhalte Nutzer:innen angezeigt bekommen – und welche nicht – und steuern damit deren Aufmerksamkeit.

Ein allgemeiner Zusammenhang zwischen Polarisierung und den Empfehlungssystemen von Social-Media-Plattformen ist zwar umstritten. Doch gibt es immer mehr Studien dazu, dass soziale Netzwerke in ausgewiesen Fällen zu der Verbreitung von Fehlinformationen, Radikalisierung oder Aufruf zur Gewalt beigetragen haben.

Zwar gehen die großen Onlineplattformen aufgrund von gestiegenem politischem Druck und gesetzlichen Vorgaben wie dem Digital Services Act (DSA) gezielter gegen strafrechtlich relevante Inhalte vor. Doch unter dem Strich bleibt das oftmals Symptombekämpfung, anstatt die Wurzel des Problems zu adressieren.

Der Schlüssel liegt darin, wie die Empfehlungsalgorithmen der großen Plattformen Inhalte sortieren und auswählen. Das geschieht auf Basis verschiedener Kriterien. Hauptkriterium bildet gegenwärtig die Maximierung von Interaktion mit Inhalten. Das heißt, die Algorithmen berechnen die Wahrscheinlichkeit, dass mit einem Inhalt interagiert wird und bestimmen auf diese Weise, was den Nutzer:innen in welcher Reihenfolge angezeigt wird. Ausschlaggebend ist dabei nicht die Qualität der Inhalte, sondern der Anreiz, dass diese möglichst oft geklickt, geliked und kommentiert werden. Der Grund dafür ist einfach: Längere Verweildauer und mehr Aktivitäten der Nutzer:innen bedeuten höhere Werbeeinahmen.

Das Problem hierbei: Menschen neigen psychologisch dazu, vor allem dann aufmerksam zu sein, wenn sie Gefahren wahrnehmen oder Sensationen vermuten – unabhängig von ihrem Wahrheitsgehalt. Spalterische, anfeindende oder sensationsheischende Inhalte haben es angesichts der interaktionsgetriebenen Empfehlungssysteme deshalb leichter, große Verbreitung zu finden.

Doch das ließe sich ändern: Die Empfehlungsalgorithmen von Plattformen müssten gar nicht darauf ausgerichtet sein, primär die Interaktion mit Inhalten zu maximieren. Genauso könnten sie Inhalte anzeigen, die positive Interaktionen und konstruktive Auseinandersetzungen auslösen. Dafür müssten den Algorithmen weitere Auswahlkriterien zugrunde gelegt werden: zum Beispiel die Wahrscheinlichkeit, dass Nutzer:innen, die aus unterschiedlichen gesellschaftlichen Gruppen stammen, Inhalten zustimmen. Solche Empfehlungssysteme werden auch als Bridging-Algorithmen bezeichnet. Ihre Wirksamkeit haben sie bereits in der Praxis bewiesen:

 Das erste Beispiel ist das Umfragesystem „Polis“, welches 2012 entwickelt wurde und von der NGO „The Computational Project“ betrieben wird. Dieses Open-Source-Software-Tool zielt darauf ab, Meinungsbilder in Diskussionen zu visualisieren, um möglichst konsensfähige Debattenbeiträge zu identifizieren. Es kam bereits erfolgreich für verschiedene Fragestellungen zum Einsatz. Wir stellen in der Web-Publikation den prominentesten Fall vor: Um in Taiwan im Rahmen eines demokratischen Prozesses ein Meinungsbild über die Markteinführung von Uber zu erfassen, setzte man dort 2015 „Polis“ ein.

Das zweite Anwendungsbeispiel ist die Funktion „Kollektive Anmerkungen“ (engl. Community Notes) zur Moderation von Inhalten auf Twitter/X. Damit können Nutzer:innen gemeinsam Kommentare zu potenziell irreführenden Beiträgen verfassen. Das Besondere dabei ist, dass nur diejenigen Ergänzungen veröffentlicht werden, die von Personen mit sonst unterschiedlichen Meinungen als hilfreich bewertet wurden.

Diese Beispiele, die wir in der Web-Publikation, vorstellen, zeigen, dass digitale Diskurse keine Verstärker für gesellschaftliche Polarisierung und Spaltung sein müssen. Doch um das zu ändern, sind insbesondere die Tech-Konzerne gefordert. Sie müssten die Empfehlungsalgorithmen der von ihnen betriebenen Social-Media-Plattformen so ausrichten, dass nicht mehr ausschließlich die größtmögliche Interaktion im Fokus steht.

Dabei bedarf es keiner kompletten Neuausrichtung. Die bestehenden Empfehlungssysteme müssten lediglich um Bridging-Kriterien ergänzt werden. Welchen Effekt das hätte, hat auch Facebook bereits erkannt. In den von der Whistleblowerin Frances Haugen veröffentlichten „Facebook Papers“ finden sich Hinweise auf verschiedene Experimente, die das Unternehmen mit Bridging-Algorithmen durchgeführt hat. Die Ergebnisse deuten darauf hin, dass Empfehlungssysteme, die die Zustimmung von Personen aus unterschiedlichen Gruppen stärker berücksichtigen, für eine signifikant verbesserte Diskursqualität sorgen

Der Nachteil von Bridging-Algorithmen aus Sicht der Tech-Konzerne liegt auf der Hand: Ihr Einsatz ist weniger profitabel als die auf Interaktionsmaximierung fokussierten Algorithmen. Daher erscheint es unwahrscheinlich, dass die Onlineplattformen aus eigenem Antrieb etwas verändern werden. Vielmehr braucht es dazu größeren öffentlichen und letztlich politischen Druck, möglicherweise auch in Form von Regulierung. Doch diese Auseinandersetzung gilt es zu führen. Denn die Empfehlungsalgorithmen sind ein wichtiger Hebel, um das Problem der emotional aufgeladenen Schlagabtausche im digitalen Raum, die mit starker Polarisierung einhergehen, an der Wurzel zu packen. Ein anderer digitaler Diskurs ist möglich – und wäre essenziell für die Stärkung der Demokratie weltweit.