Das Problem 🤬

Das Problem liegt insbesondere in den Empfehlungssystemen der großen Onlineplattformen. Sie basieren auf algorithmischen Systemen, sortieren die Inhalte auf den Plattformen und wählen aus, was den Nutzer:innen angezeigt wird.

Dies geschieht auf der Grundlage bestimmter Kriterien. Das Hauptkriterium der meisten Empfehlungssysteme von Plattformen ist es, Interaktionen mit Inhalten zu maximieren. Die Algorithmen berechnen die Wahrscheinlichkeit, dass mit einem Inhalt interagiert wird, und sortieren auf dieser Grundlage.

Dabei ist das entscheidende nicht die Qualität der Inhalte, sondern dass die Inhalte möglichst viel geklickt, geliked, geteilt oder kommentiert werden.

Der Grund dahinter ist simpel: Durch eine größere Verweildauer auf der Plattform werden höhere Werbeeinnahmen erzielt.

Das führt zu einem Problem, denn: Psychologisch neigen Menschen dazu, vor allem dann aufmerksam zu sein, wenn sie Gefahren wahrnehmen oder Sensationen vermuten – unabhängig von ihrem Wahrheitsgehalt. Spalterische, anfeindende oder sensationslustige Inhalte haben es vor dem Hintergrund der auf Interaktionsmaximierung ausgerichteten Empfehlungssysteme leichter, große Verbreitung zu finden. Das Nachsehen haben rationale, konstruktive oder abwägende Inhalte.

Da Plattformen inzwischen eine so dominante Rolle in gesellschaftlichen Diskursen spielen, sind Journalist:innen, Politiker:innen oder Influencer:innen letztendlich darauf angewiesen, Inhalte nach den Kriterien der Empfehlungssysteme zu erstellen, um Reichweite und Aufmerksamkeit zu erlangen.
@DailyLoud

Ein aktiver Schütze hat am Mittwochmorgen in der Nähe des UPMC-Kinderkrankenhauses in Pittsburgh „Hunderte von Schüssen“ abgefeuert und dabei mindestens zwei Polizeidrohnen abgeschossen, während die Behörden die Anwohner aufforderten, sich von der „extrem aktiven“ Szene fernzuhalten.

@freemonotheist

Ich denke, dass das Stillen privat erfolgen sollte – nicht in der Öffentlichkeit –, wenn der Intimbereich der Frau entblößt ist. Wir müssen bedenken, welche Auswirkungen das auf andere Menschen hat, nicht nur auf die Mutter. Abstand ist wichtig.

@PopBase

Apple warnt iPhone-Benutzer davor, neben ihrem Telefon zu schlafen, während es aufgeladen wird, da dies zu „Feuer, elektrischem Schlag, Verletzungen oder Schäden am iPhone oder anderem Eigentum“ führen kann.

@Markus Krall

Falls fürs Fliegen oder Bahnfahren wieder Masken, Tests oder Impfpässe verlangt werden, schlage ich folgende Form des Protests vor: Jeder kauft sich das billigste Flugticket, dass er finden kann, egal wohin, auch wenn er da gar nicht hin will. Dann ab zum Flughafen oder Bahnhof und bei Beförderungsverweigerung in den Durchgang setzen und sich unter Absingen schmutziger Lieder wegtragen lassen. Wenn wir das zu Tausenden, besser zu Zehntausenden machen, bricht der Laden zusammen. Besser als ankleben. #ZivilerUngehorsam

👏❤️🔥👎🥳🙄🔥👏😩😆🤨🚀

Die Alternative 🤝

Doch es geht auch anders. Die Empfehlungssysteme von Plattformen müssten nicht nur darauf ausgerichtet sein, die Interaktion mit Inhalten zu maximieren. Genauso könnten die Empfehlungssysteme auch andere Inhalte präferieren. Das heißt: Nicht die besonders reißerischen oder sensationellen Inhalte werden bevorzugt, sondern Inhalte, die eine ausgleichende Wirkung haben und konstruktive Auseinandersetzungen fördern.

Dafür müssen die Algorithmen so entwickelt sein, dass bei der Sortierung von Inhalten auch andere Kriterien berücksichtigt werden, zum Beispiel die Wahrscheinlichkeit, dass unterschiedliche Gruppen Inhalten zustimmen. Nach diesem Grundsatz funktionieren das bzw. die Bridging-Algorithmen, die gegenseitiges Verständnis und produktive Auseinandersetzungen fördern.

Das Prinzip von „Polis“

Ein solcher Ansatz wird auch von „“, einem Projekt der US-amerikanischen Nichtregierungsorganisation „The Computational Democracy Project“, verfolgt. Im Mittelpunkt dieses Projektes steht die die Visualisierung von Meinungsbildern in Diskussionen, um möglichst konsensfähige Debattenbeiträge zu identifizieren.

Konkret funktioniert das so:

1

Zu einem bestimmten Thema wird eine sogenannte „Konversation“ gestartet, an der (ausgewählte) Personen teilnehmen können. Ein Beispiel dafür ist das folgende Thema:

Autofreie Innenstädte in Deutschland

In vielen Großstädten in Deutschland sind Autos und andere Kraftfahrzeuge omnipräsent. Bei zunehmendem Individualverkehr sorgt das für Staus, Unfälle und überfüllte Innenstädte.

2

Zu diesem Thema verfassen Moderator:innen oder Teilnehmer:innen verschiedene Statements, die jeweils einen Standpunkt zum Ausdruck bringen. Teilnehmer:innen können dann über diese Statements abstimmen.

Nico C.

Pendler:innen sind auf ihr Auto angewiesen, auch um damit in Innenstädte zu kommen.

Bewerte dieses Statement

3

“ ermittelt dann die Statements, die möglichst konsensfähig sind. Das heißt: Die Software bevorzugt solche Beiträge, bei denen möglichst viele Teilnehmer:innen eine gleiche oder ähnliche Position vertreten, die bei anderen Beiträgen unterschiedliche Meinungen haben. Das wird auch genannt.

Nico C.

Pendler:innen sind auf ihr Auto angewiesen, auch um damit in Innenstädte zu kommen.

Claudia A.

In der Innenstadt sollten nur noch emissionsfreie Autos fahren dürfen.

Marie-Anne B.

Lieferverkehr, Busse, Krankentransporte und andere öffentliche Fahrzeuge sollten weiterhin erlaubt sein.

Toby G.

Bei autofreien Innenstädten müsste es gute Alternativen geben: mehr Busse und Bahnen, bessere Radwege, und ausreichend Parkmöglichkeiten außerhalb.

Ellen L.

Anwohner:innen sollten weiterhin mit dem Auto nach Hause fahren und dort parken können.

Laura B.

In der Innenstadt geht es Autofahrern mit ihren prolligen SUVs doch sowieso nur ums Angeben.

Max M.

Jetzt wollen die Grünen uns auch noch das Autofahren verbieten!

Ana L.

Ein Verbot des Autoverkehrs in der Innenstadt wäre eine Einschränkung der persönlichen Freiheit.

Günther G.

Durch fehlende Parkmöglichkeiten in den Innenstädten wird den ansässigen Geschäften geschadet.

Robin S.

Autofreie Innenstädte führen zu besserer Luftqualität und weniger Lärm.

4

Bei algorithmischen Empfehlungssystemen, die auf die Maximierung von Interaktion ausgerichtet sind – so wie aktuell bei vielen Onlineplattformen – sähe das Ergebnis nach dem sogenannten anders aus:

Bridging-Ranking

Marie-Anne B.

Lieferverkehr, Busse, Krankentransporte und andere öffentliche Fahrzeuge sollten weiterhin erlaubt sein.

Ellen L.

Anwohner:innen sollten weiterhin mit dem Auto nach Hause fahren und dort parken können.

Robin S.

Autofreie Innenstädte führen zu besserer Luftqualität und weniger Lärm.

Toby G.

Bei autofreien Innenstädten müsste es gute Alternativen geben: mehr Busse und Bahnen, bessere Radwege, und ausreichend Parkmöglichkeiten außerhalb.

Claudia A.

In der Innenstadt sollten nur noch emissionsfreie Autos fahren dürfen.

sind jedoch nicht in allen Situationen gleich effektiv einsetzbar.

Sie funktionieren besonders gut bei Fragestellungen, die offen formuliert sind und verschiedene Aussagen zulassen.

Weniger geeignet sind sie hingegen für Fragestellungen, die auf einfache Ja- oder Nein-Antworten abzielen oder eine Hierarchisierung oder Priorisierung erfordern.

Es ist wichtig, dass die gestellten Fragen oder Themen Raum für konstruktive Auseinandersetzungen bieten, d. h. die Teilnehmer:innen müssen tatsächlich am Standpunkt der anderen Seite interessiert sein. Themen, bei denen die Standpunkte bereits stark verhärtet sind, eigenen sich weniger gut.

Praxisbeispiele ⚙️

Bridging-Algorithmen funktionieren nicht nur in der Theorie, sondern auch in der Praxis. Bei den folgenden Beispielen sind Rankingsysteme, die gegenseitiges Verständnis und konstruktive Auseinandersetzungen fördern, schon zum Einsatz gekommen.

vTaiwan

Polis

Im Jahr 2015 setzte die Plattform vTaiwan „Polis“ ein, um in einem demokratischen Prozess die Meinungen zur Markteinführung des Fahrdiensts UberX zu ermitteln.

Twitter/X

Kollektive Anmerkungen

Mit „Kollektive Anmerkungen“ (engl.: „Community Notes“) hat X (ehemals Twitter) eine Funktion eingeführt, mit der Nutzer:innen gemeinsam Ergänzungen zu potenziell irreführenden Beiträgen verfassen können.

Ausblick 🔍

Polarisierung und Fragmentierung digitaler Diskurse stellen ein ernsthaftes Problem dar.

Große Onlineplattformen müssen inzwischen angesichts des gestiegenen politischen Drucks und gesetzlicher Vorgaben wie dem gezielter strafrechtlich gegen relevante Inhalte vorgehen. Doch muss auch die Funktionsweise und das Geschäftsmodell der Plattformen stärker in den Fokus rücken, um nicht nur die Symptome, sondern noch stärker die Wurzel des Problems anzupacken.

Die Recherchen zu Bridging-Algorithmen haben folgende Erkenntnisse ergeben:

1

Plattformen nutzen Ihre Empfehlungsalgorithmen so, dass die größtmögliche Interaktion im Fokus steht.

Das tun sie, um die Verweildauer der Nutzer:innen und damit die Werbeeinnahmen zu steigern. Sie könnten die Algorithmen aber auch anders ausrichten, um mehr dazu beizutragen, digitale Diskurse zu verbessern. Eine Möglichkeit ist der Einsatz von Bridging-Algorithmen, die eine ausgleichende Wirkung haben und konstruktive Auseinandersetzungen fördern. Dass Bridging-Algorithmen nicht nur in der Theorie, sondern auch in der Praxis funktionieren, veranschaulichen die beiden Beispiele „Polis“ und „Kollektive Anmerkungen“.

2

Der positive Effekt von Bridging-Algorithmen auf digitale Diskurse ist großen Onlineplattformen wie Meta bekannt.

In den von der Whistleblowerin Frances Haugen veröffentlichten „Facebook Papers“ finden sich Hinweise auf verschiedene Experimente, die das Unternehmen mit Bridging-Algorithmen durchgeführt hat. Das Ergebnis: Empfehlungssysteme, die die Zustimmung von Personen aus unterschiedlichen Gruppen stärker berücksichtigen, ermöglichen eine signifikant verbesserte Diskursqualität.

3

Gegenwärtig unternehmen die Onlineplattformen jedoch wenig, um ihre Empfehlungssysteme zu ändern.

Meta beispielsweise hat die ersten Experimente bei Facebook bislang nicht weiter verfolgt. Der finanzielle Nachteil von Bridging-Algorithmen ist zu offensichtlich: Ihr Einsatz reduziert die Verweildauer auf den Plattformen und mindert damit die Werbeeinahmen.

Damit sich etwas ändert und Bridging-Algorithmen eine breitere Anwendung finden, sind vor allem drei Voraussetzungen nötig:

Wir brauchen mehr Evidenz darüber, welche Bridging-Kriterien sich wie auf die Diskursqualität auswirken. Das Aufkommen neuer Plattformen wie BlueSky, die es Nutzer:innen ermöglichen, die Empfehlungsalgorithmen frei zu wählen, bietet ein günstiges Zeitfenster, um Bridging-Algorithmen in der Praxis zu testen.

Plattformen müssen ihrer gesellschaftlichen Verantwortung stärker gerecht werden und bessere digitale Diskurse mithilfe ihrer Empfehlungssysteme ermöglichen. Dies erfordert keine vollständige Neuausrichtung, sondern lediglich die Ergänzung der bestehenden Empfehlungssysteme um Bridging-Kriterien, wie z.B. die Wahrscheinlichkeit, dass zwei unterschiedliche Meinungsgruppen denselben Inhalten oder Aussagen zustimmen.

Parallel dazu muss sich der öffentliche und politische Druck auf Onlineplattformen verstärken. Kommen die Anbieter ihrer gesellschaftlichen Verantwortung von selbst nicht nach, braucht es auch Regulierung, um Veränderungen herbeizuführen.

Das sind keine leichten Aufgaben. Doch es gilt, diese Auseinandersetzung zu führen. Denn Empfehlungsalgorithmen können ein wichtiger Hebel sein, um das Problem der Polarisierung im digitalen Raum wirksamer angehen zu können.

Ein anderer digitaler Diskurs ist möglich – und wäre essenziell für die Stärkung konstruktiver Diskurse weltweit.

Ansprechpartner

Sie haben Fragen oder Anmerkungen? Dann melden Sie sich gern jederzeit bei uns.

Dr. Felix Sieker

Dr. Felix Sieker

Project Manager, Programm Digitalisierung und Gemeinwohl

Was gibt es noch zu wissen?