Digital verzerrte Wirklichkeit

Soziale Netzwerke sind nicht nur kollektiver Zeitvertreib und milliardenschweres Geschäftsmodell, sondern auch Einfallstor für Manipulation durch Parteien, Regierungen und Radikale aller Art. Wie massiv das Problem geworden ist, warum es uns alle betrifft und was dagegen helfen könnte.

Am 9. November 2016, um 2:30 morgens US-Ostküstenzeit, starrten auf der ganzen Welt Menschen ungläubig auf die Bildschirme von Smartphones, Computern und Fernsehgeräten. Donald Trump hatte gerade den Bundesstaat Wisconsin für sich und die Republikaner entschieden und lag damit im Rennen um die US-Präsidentschaft uneinholbar vor seiner Kontrahentin Hillary Clinton von den Demokraten.

Dem überraschenden Sieg folgte eine beispiellose Amtszeit, an deren Ende das Land noch gespaltener sein würde als im Herbst 2016: Trumps Präsidentschaft war geprägt von Tabubrüchen, Skandalen, Angriffen auf Medien und WidersacherInnen sowie Unwahrheiten im großen Stil. Laut der Washington Post kommunizierte der 45. US-Präsident allein im ersten Jahr seiner Amtszeit 2.140 Lügen oder irreführende Behauptungen. Viele davon veröffentlichte er auf dem Nachrichtendienst Twitter, wo sie millionenfach geteilt wurden.

Gleich im Jänner 2017 bezeichnete Trump die BesucherInnenschar bei seiner Angelobung als größte in der US-Geschichte. Von JournalistInnen mit dem Gegenteil konfrontiert, schuf seine Beraterin Kellyanne Conway den Terminus „alternative Fakten“.

Die ehemalige Literaturkritikerin der New York Times, Michiko Kakutani, schreibt in ihrem Buch „The End of Truth“ gar von einem „postfaktischen Lexikon“ der Ära Trump, das neben den berühmten „Fake News“ auch „Fake Science“ und „Fake History“ kennt. Bei deren Verbreitung halfen Millionen „Fake Follower“.

Die Diskussion darüber, wer und was einen Präsidenten Trump möglich gemacht hatte, zogen sich über dessen gesamte Amtszeit.

Im September 2020 hielt der Abschlussbericht des Geheimdienstausschusses des US-Senats nach dreijähriger Untersuchung noch einmal fest, was davor schon bekannt war: Dass das russische Unternehmen Internet Research Agency im Auftrag des Kreml versucht hatte, die US-Wahl 2016 zu beeinflussen. Und zwar indem sie half, die Gegenkandidatin Clinton zu schwächen – durch eine groß angelegte Desinformations-Kampagne via Facebook und Twitter sowie durch die sukzessive Veröffentlichung der E-Mails aus ihrem gehackten Account.

Manipulierte WählerInnen. Ebenfalls im September des Vorjahres veröffentlichte der britische Fernsehsender Channel 4 Belege für eine weitere massive WählerInnenbeeinflussung im Vorfeld der Wahl 2016: Die dem Sender zugespielten Daten zeigten, dass Trumps Kampagnenteam im Wahlkampf auf Facebook versucht hatte, insgesamt 3,5 Millionen Schwarze WählerInnen davon abzuhalten, ihre Stimme abzugeben – mit für diese Gruppe zugeschnittenen Werbungen, die unter anderem negative Äußerungen Clintons über Schwarze Jugendliche enthielten.

Trumps Kampagnenteam hatte deren Einsatz zuvor bestritten.

Die Zahlen legen nahe, dass die Taktik „Voter Suppression“ aufging. 2016 gingen weniger Schwarze WählerInnen zur Wahl, was AnalystInnen zufolge zu Trumps knappen Siegen in den Bundesstaaten Wisconsin und Michigan beitrug.

Insgesamt wurden laut Channel 4 200 Millionen Menschen in Kategorien eingeteilt und dementsprechend adressiert. Eine gewichtige Rolle bei diesem sogenannten „Mikrotargeting“ spielte die 2013 von Trumps ehemaligem Chefstrategen Steve Bannon mitgegründete britische Beratungsfirma Cambridge Analytica. Das Unternehmen wurde später durch seine Praktiken weltberühmt und brachte u.a. Facebook in Erklärungsnot.

Über Umwege machte sich die Firma die persönlichen Daten von Millionen Facebook-NutzerInnen für Wahlkämpfe zunutze – in den USA genauso wie in Asien oder Südamerika. 2018 beantragte das Unternehmen die Insolvenz, der Firmen-Nachfolger Emerdata war da aber schon ein paar Monate alt.

Globales Problem. Das Phänomen ist längst ein globales. Wie das Oxford Internet Institute 2019 in einem Bericht darlegte, hat die Einflussnahme durch Social Media und der Einsatz digitaler Propaganda massiv zugenommen.

Waren solche Manipulationstechniken 2017 in 28 Ländern verbreitet, zählten die ForscherInnen zwei Jahre später bereits 70. Immer mehr Regierungen, Parteien und sonstige politische AkteurInnen nutzen die Möglichkeiten von Big Data und Automatisierung, um die öffentliche Meinung zu beeinflussen.

Die Verbreitung von Fake News sei Teil einer dysfunktionalen neuen Normalität, heißt es in dem Bericht.

„Desinformationen wurden wohl schon immer eingesetzt, um politischen Gegnern zu schaden, Gesellschaften zu destabilisieren und Regime zu legitimieren“, sagt die deutsche Digitalexpertin Ann Cathrin Riedel (vgl. ihren Kommentar auf Seite 36) in einem Interview der Süddeutschen Zeitung. „Neu ist, dass sich Desinformationen dank der Digitalisierung mit rasanter Geschwindigkeit verbreiten.“

Regime & PR-Firmen. Die digitale Desinformation wird zunehmend zu einer Bedrohung für die Demokratie – in den USA genauso wie etwa in Südafrika oder Brasilien. „Keine Wahl ist immun gegen Einflussnahme aus dem Ausland“, schreibt die renommierte Extremismusforscherin Julia Ebner in ihrem Buch „Radikalisierungsmaschinen“.

Matías Ponce und sein Co-Autor Omar Rincón sprechen in Bezug auf Lateinamerika – allen voran Brasilien, El Salvador und Guatemala – sogar von einer „Fakekratie“ (vgl. Buchtipps S. 37 sowie Beitrag dazu im kommenden Jänner-Extrablatt).

Manipuliert wird von nationalen wie internationalen AkteurInnen: Die britische PR-Firma Bell Pottinger geriet 2017 in Bedrängnis, nachdem Details über eine orchestrierte Social Media-Kampagne in Südafrika bekannt wurden.

Im Auftrag einiger lokaler Unternehmer hatte die Firma versucht, Spannungen zwischen weißer und Schwarzer Bevölkerung zu erzeugen, mit dem Ziel, den damaligen Präsidenten Jacob Zuma trotz Korruptionsvorwürfen an der Macht zu halten.

Das sei der bekannteste Fall auf dem afrikanischen Kontinent, erklärt Herman Wasserman, der an der Universität von Kapstadt den Einfluss von Falschinformationen im Globalen Süden untersucht. Aber bei weitem nicht der einzige.

2020 machten Berichte über Ableger russischer Trollfabriken in Nigeria Schlagzeilen. Diese hatten es nach der US-Wahl 2016 erstmals zu weltweiter Berühmtheit gebracht – ebenso wie die Serienproduktion von Fake News im heutigen Nord-Mazedonien.

Die Beispiele zeigen: Wer in welchem Auftrag und mit welcher Absicht Desinformation für die digitale Welt produziert, ist nicht so einfach zu durchschauen.

Selfies von Neonazis. Bilder und Videos auf dem Onlinedienst Instagram, das sind vor allem Aufnahmen von paradiesischen Stränden und kunstvoll in Szene gesetztem Essen, die obligatorischen Selfies und unzählige Katzen-Videos. Doch auf der Plattform, die mittlerweile zum Facebook-Konzern gehört, finden sich – oft erst auf den zweiten Blick erkennbar – rechtsextreme Inhalte und AktivistInnen, die um neue Mitglieder für ihre radikalen Bündnisse werben.

Die deutsche Plattform Correctiv zeigte im Juni 2020 nach monatelanger Recherche auf, wie die rechte Szene in Deutschland und anderen Ländern Instagram für ihre Zwecke nutzt. Mit vermeintlich unverfänglichen Accounts, die erst nach und nach beginnen, Artikel über die angebliche Islamisierung Europas und rassistische Fotos zu teilen – und mit diesen problematischen Inhalten tausende Menschen erreichen.

Ähnliche Praktiken sind auch auf Facebook oder Twitter bekannt, zudem gewinnen Messenger-Dienste wie Whatsapp oder Telegram an Bedeutung.

ExtremistInnen seien stärker vernetzt als je zuvor, fasst Expertin Ebner zusammen, nationalistische Bewegungen agierten transnational. Die „Radikalisierungsmaschinen“ seien „künstlich intelligent, emotional manipulativ und wirken mit Macht in die Gesellschaften hinein“, so die österreichische Forscherin.

Benutzt werden sie von Rechtsradikalen wie der Identitären Bewegung in Europa und den Alt-Right in den USA, von DschihadistInnen bis zu radikalen Antifeministinnen.

Für das Londoner Institute for Strategic Dialogue recherchierte Ebner zwei Jahre undercover bei all diesen Gruppen. Die hätten zwar oberflächlich wenig gemeinsam, ihre internen Funktionsweisen seien aber ähnlich. Beschäftigen sollte das laut Ebner uns alle, denn niemand, der das Internet nutzt, sei gefeit vor Radikalisierungsfeldzügen.

Öffentlichkeit im Wandel. „Was ist das weltweit mächtigste journalistische Instrument?“, fragt die Digitalexpertin Ingrid Brodnig in ihrem Buch „Übermacht im Netz“. „Ist es das Schaltpult von CNN oder die Website der New York Times? Nein, das mächtigste journalistische Instrument unserer Zeit ist der Facebook-Algorithmus.“

Die sozialen Medien sind heute zentraler Bestandteil der Öffentlichkeit, die zuvor überwiegend von den herkömmlichen Medien hergestellt wurde, konstatieren Maik Fielitz und Holger Marcks (vgl. Interview Seite 34), Autoren des Buchs „Digitaler Faschismus“.

Gerade deshalb ist es wichtig, genau im Blick zu haben, welche Rolle Facebook & Co dabei übernehmen. Die Bestandsaufnahme vieler ExpertInnen ist durchaus düster: „Die Hoffnung in der Anfangsphase des Internets war ja, dass es ein demokratisches Instrument sein wird“, schreibt Brodnig. Diese Erwartung habe sich nicht erfüllt.

Auch Fielitz und Marcks schlagen in dieselbe Kerbe. Nach einer „Romanze zwischen Demokratie und sozialen Medien“, die etwa die „Occupy“-Bewegungen und den „Arabischen Frühling“ möglich machten, sei es mit der Illusion, das World Wide Web diene dem gesellschaftlichen Fortschritt, vorbei.

Samantha Bradshaw vom Oxford Internet Institute hält fest: „Anfangs als Kraft für Demokratie und Freiheit gepriesen, stehen die sozialen Medien für ihre Rolle bei der Verbreitung von falschen Informationen, beim Aufruf zur Gewalt und beim schwindenden Vertrauen in demokratische Institutionen zunehmend auf dem Prüfstand.“

Populismus im Vorteil. Alle AkteurInnen können sich natürlich die Möglichkeiten der sozialen Medien zunutze machen – Bewegungen wie Black Lives Matter oder Fridays for Future wären ohne sie kaum zu globalen Massenbewegungen geworden. Doch die Karten sind nicht gleichmäßig verteilt: Der Mix aus Beschleunigung, Personalisierung und Emotionalisierung der öffentlichen Kommunikation hilft vor allem jenen Kräften, die vermeintlich einfache Antworten haben, beschreiben die Wissenschaftler Fielitz und Marcks.

So werden Debatten verzerrt, Sündenböcke präsentiert, Verschwörungsmythen verbreitet. Während NutzerInnen sozialer Medien den Eindruck haben, sie würden selbstbestimmt wählen, woher sie ihre Informationen beziehen, sorgen die Algorithmen dafür, dass manche Inhalte sichtbarer sind als andere.

Dahinter steht das Geschäftsmodell der Technologiekonzerne: Wichtig für den Werbeumsatz ist die Verweildauer – und die ist bei problematischen Inhalten oft höher, so Extremismus-Expertin Ebner.

Die massenhafte Verbreitung dieser Inhalte werde aus ähnlichen Gründen toleriert: „Wenn ein Indikator für Performance die Zahl der User ist, hast du wenig Anreize, Bots und Fake-Accounts zu entfernen“, schreibt Ebner.

Selbst wenn die großen Netzwerke Schritte gegen Desinformation und Hetze versprochen und zum Teil schon umgesetzt haben, passiert dies eher zögerlich. Laut Journalistin und Autorin Brodnig sollten wir nicht darauf warten: „Wenn wir eine dystopische Zukunft verhindern wollen, dürfen wir nicht blind darauf vertrauen, dass irgendwelche Unternehmen unsere Interessen vertreten werden“, schreibt sie.

Antworten gesucht. Was also tun? Viele Organisationen versuchen, mit Faktenchecks den kursierenden Falschinformationen Recherche entgegenzus

Antworten gesucht. Was also tun? Viele Organisationen versuchen, mit Faktenchecks den kursierenden Falschinformationen Recherche entgegenzusetzen.

Twitter begann während des US-Wahlkampfs 2020, umstrittene Aussagen des amtierenden Präsidenten Trump mit Warnhinweisen zu versehen – das betraf an manchen Tagen alle seiner Tweets.

Gegen radikale AkteurInnen formierte sich etwa die von den Vereinten Nationen unterstütze Initiative „Tech against Terrorism“, die Vorgehensweisen zur Identifizierung und Entfernung terroristischer Inhalte sammelt und auch kleineren Unternehmen zur Verfügung steht.

Die EU-Kommission brachte im Dezember ein Gesetzespaket auf den Weg, das die Marktmacht von „Internetriesen“ beschränken soll. Damit will die EU schneller und schlagfertiger auf „Hassrede, Verleumdung und illegale Produkte“ reagieren, so die Ankündigung. Doch bis zur endgültigen Einigung über diese Gesetze könnten noch Jahre vergehen.

Unter dem Namen „baltische Elfen“ schlossen sich tausende Online-AktivistInnen aus Litauen und anderen Ländern zusammen, um den Desinformationskampagnen russischer Trolle etwas entgegenzuhalten. Entdecken die „Elfen“ Fake News, schreiben sie in Foren sowie in sozialen Medien dagegen an.

In Deutschland entstand 2018 aus einer Aktion des Satirikers Jan Böhmermann eine digitale Bewegung, der sich 60.000 Menschen anschlossen. Ziel war es, gegen das rechtsextreme Netzwerk „Reconquista Germanica“ vorzugehen, das vor den deutschen Bundestagswahlen 2017 die sozialen Medien organisiert mit Hass-Kommentaren füllte.

Die AktivistInnen begannen mit ebenso konzertierten Aktionen der Gegenrede. Im Herbst 2020 entstand in Zusammenarbeit mit der Hanns-Seidl-Stiftung daraus ein Portal, das einen Leitfaden gegen Falschinformationen und Hetze liefert. Wie effektiv diese Formen der Gegenrede letztlich sind, ist noch wenig erforscht.

Sozialwissenschaftler und Buchautor Marcks gibt zu bedenken, dass man, wenn man Fake News widerspricht, damit die Sichtbarkeit der Inhalte erhöht.

Für ihn, wie für viele andere ExpertInnen, führt kein Weg an der Regulierung der Plattformen durch Druck der Politik vorbei.

Das Netz zurückerobern. Auf Seiten der NutzerInnen fordern viele seit Langem, die Medien-KonsumentInnen mit mehr digitaler Kompetenz auszustatten – am besten bereits ab dem Schulalter. Brodnig plädiert zudem für digitale Debattenräume, die der Allgemeinheit gehören, damit der öffentliche Diskurs nicht von den Entscheidungen einzelner Unternehmen abhängt.

Die vielfältigen Lösungsansätze zeigen: Klare, eindimensionale Erfolgsrezepte gibt es keine, da alle Eingriffe Grenzen haben oder Folgen nach sich ziehen.

KritikerInnen von Gesetzen, die kommerzielle Social-Media-Netzwerke zum Löschen von problematischen Inhalten verpflichten, fürchten etwa, solche Gesetze könnten zu übertriebener Zensur führen.

Das Netz zurückzuerobern, schreibt Digitalexpertin Brodnig, sei jedenfalls unser aller Aufgabe. Dabei gehe es um die Frage, in welcher Zukunft, in welcher Gesellschaft wir künftig leben möchten: „Es gibt nicht die eine, einzig denkbare Variante des Internets. Es gibt viele mögliche Spielformen“, schreibt sie am Ende des Buches „Übermacht im Netz“.

Als erster Schritt hilft vielleicht das Ergebnis der US-Wahl 2020 gegen systematische Desinformation. Zumindest auf dem offiziellen Twitter-Account des US-Präsidenten sollten damit künftig weniger Fake News verbreitet werden.

Christina Bell, ehemalige Südwind-Magazin-Redakteurin, ist freie Journalistin. Im Hauptberuf leitet sie die Kommunikationsabteilung der Wiener Sozialorganisation Neunerhaus.

Weiterlesen: Im Kommentar „Willkommen in der Fakekratie!“ geht Matías Ponce konkreter auf die Situation in Lateinamerika ein. Der Beitrag wird im Jänner-Extrablatt per E-Mail an AbonnentInnen versendet.

Da Sie schon mal hier sind: Qualitätsjournalismus kostet Geld, und ist wichtiger denn je. Seit 2017 ist das Südwind-Magazin vollkommen unabhängig. Unterstützen Sie unsere kritische Berichterstattung mit einem Abo oder einer Spende. Vielen Dank!