Film: The Cleaners (2018), Regisseure: Hans Block und Moritz Riesewick, Lesedauer: 10 Minuten, Bild: Gebrueder Beetz Filmproduktion

Sie sind die digitale Müllabfuhr. Content-Moderatoren sichten Websites und Social-Media-Portale für US-Konzerne wie Facebook, Twitter oder Google. Kinderpornografie und Videos oder Bilder über Gewalt und Mobbing gehören zu den Inhalten, die sie täglich filtern, um die Plattformen der großen Technologieunternehmen sauber zu halten.

Klingt erstmal vernünftig. Allerdings arbeiten Content-Moderatoren nicht im Silicon-Valley, sondern bei Drittfirmen und in Entwicklungsländern wie den Philippinen, schlecht ausgebildet und völlig unterbezahlt. In ihrer ersten Dokumentation ,The Cleaners‘ porträtieren die Regisseure Hans Block und Moritz Riesewick die Schattenindustrie in Manila, dem weltweit größten Outsourcing-Standort für Content Moderation, in dem die Beschäftigten täglich mehr als 25.000 anstößige Bilder und Videos sichten.

Das Internet von seinen Sünden befreien

Im Fokus stehen dabei vor allem die persönlichen Schicksale der Moderatoren, die die Regisseure wie Antihelden darstellen. Sie nehmen ihren Job zwar unglaublich ernst, können die Auswirkungen ihrer – mitunter dramatischen Fehlentscheidungen – aber kaum einschätzen. In düster gefilmten Räumen erzählen die Protagonisten von der Gewalt, die sie täglich schlucken müssen, über den Druck, den das auf sie ausübt und die psychischen Probleme, die so ein Job mit sich bringt. Draußen leuchten die Hochhäuser der Großstadt in grellem Licht, an einem der Tower blinkt die Aufschrift ,In God We Trust‘ als vermeintlich martialisches Zeichen gegen die Dunkelheit in dieser Welt. Natürlich wirkt das erstmal emotional aufgeladen, ist es aber gar nicht. Schließlich ist das Symbol der ,Aufopferung‘ (engl. ,sacrifice‘) ein zentrales Element der philippinischen Kultur, weshalb auch die gezeigten Kreuzigungsszenen keineswegs übertrieben sind. Sich in der Öffentlichkeit einmal ans Kreuz nageln zu lassen oder täglich stundenlang Gewaltvideos zu konsumieren, wird in Manila als Heldentat angesehen, weil zumindest Letzteres dem Gemeinwohl dient.

Delete or Ignore?

Heikel daran ist allerdings die Frage danach, welche Richtlinien darüber entscheiden, was im Netz bleiben darf und was zwingend weg soll. Die Vorschriften seien äußerst objektiv, meinen die Tech-Konzerne. In der Praxis sieht das allerdings anders aus. Schließlich haben die Content-Moderatoren weder eine adäquate Ausbildung, also beispielsweise einen journalistischen Hintergrund, noch sind sie in der Lage dazu, alle kulturellen Zusammenhänge in ihrer Vollständigkeit zu erfassen und ein Bild dementsprechend einzuordnen. Wenn also zum Beispiel nackte Körper von Facebook verbannt werden sollen, dann werden im Zweifelsfall auch Aktfotos gelöscht, die im Westen als Kunst durchgehen. Ist das nicht Zensur? Zumindest eine unterbewusste. Für die Angestellten zählen aber nur zwei Größen, nur schwarz und weiß: ,Delete‘ oder ,Ignore‘. Fünf Sekunden für jede Entscheidung.

Digitale Säuberungen verhindern politischen Diskurs

Das Internet gewissermaßen ,gewaltfrei‘ zu machen, birgt außerdem die Gefahr, dass ganze Diskurse wegbrechen, die unbedingt geführt werden müssten. Beispielsweise muss die Organisation ,AirWars‘, die über Open-Source-Meldungen im Netz Anschläge auf Zivilisten überwacht, alle gefundenen Bilder erstmal archivieren, weil sie von Facebook und Co. gelöscht werden könnten. Zu viele der Bilder würden als IS-Material klassifiziert und dann von den Plattformen genommen werden, so Abdul Wahhaban, Mitarbeiter der NGO. Dass die Kriegsmeldungen ein wichtiger Bestandteil für die geleistete journalistische Arbeit sind und eben keine Provokation, können die Content-Moderatoren auf den Philippinen aber kaum erfassen.

Warum Facebook und Co. die Jobs trotzdem an Drittfirmen auslagern, dazu will in ,The Cleaners‘ niemand Stellung nehmen. Wer trägt am Ende die Verantwortung für das, was im Netz rumgeht? Und wenn Großkonzerne ihre Richtlinien für die Löschung von Inhalten nicht einmal offen legen müssen, wohin führt das dann? Definitiv zu einer Gefährdung der Demokratie.

Social-Media-Plattformen befeuern Konflikte

Ich möchte an dieser Stelle zwar nicht behaupten, dass die Tech-Konzerne schuld an den gesellschaftlichen Spaltungen sind, die momentan in der Welt herrschen. Die Art der Kommunikation, die z.B. von Facebook ausgeht, ist dennoch ein Problem. Wenn Facebook Inhalte für seine Nutzer filtert, dann werden dieselben in ihrer Filterblase nur noch bestärkt, anstatt einen Perspektivwechsel zu wagen. Genau das befeuert Konflikte –  so wie zum Beispiel den Genozid an den muslimischen Rohingyas in Myanmar.

I really don’t know how Zuckerberg and co sleep at night

frustet der Forscher und Analyst Raymond Serrato gegenüber dem Guardian. Über 15.000 Facebook-Posts der Hardliner-Gruppe Ma Ba Tha hat er untersucht. Die Interaktionen innerhalb der Anti-Rohingyas-Gruppe seien nach den ersten Kommentaren im August 2016 auf satte 200% gestiegen und regelrecht explodiert. Warum Facebook die Hetzposts nicht rausgenommen hat? Ganz einfach: Je mehr geteilt wird, desto besser.

Auch das sogenannte ,IP-Blocking‘ ist ein Instrument für soziale Netzwerke, um Inhalte verschwinden zu lassen, die nicht gern gesehen sind. So drohte Recep Tayyip Erdoğan zum Beispiel mit der Zensur aller sozialen Plattformen, wenn nicht bestimmte Inhalte (darunter z.B. Karikaturen über den Präsidenten) entfernt würden. Schlecht für Facebook, denn das bedeutet weniger Nutzer und damit weniger Einfluss. Die Inhalte wurden entsprechend rausgenommen. Zwar können die Bilder und Videos außerhalb der Türkei immer noch angeschaut werden, nicht aber im Land selber. Betreibt Facebook damit Meinungsbildung? Auf jeden Fall.

Dementsprechend ist ,The Cleaners‘ ein verstörendes Porträt am Puls unserer Zeit, für die noch etwas typisch zu sein scheint: die Bequemlichkeit der Nutzer, die sich im Internet rumtreiben. Wir müssen allmählich aus unserem Dornröschenschlaf erwachen und fragen: Was passiert mit unseren Daten?

Nicht, dass Social Media uns nicht auch von einem großen Nutzen sein kann, das zeigen Organisationen wie ,AirWars‘, aber auch im Internet haben wir Rechte und Pflichten, denen wir unbedingt nachgehen sollten, um unsere Demokratie zu schützen.