TikTok: Junge Content-Moderatoren über ihre belastende Arbeit

Ein Industriegebiet am Rande von Lissabon. Ein schlichtes und schmuckloses Eckhaus. Darin: die Büros eines portugiesischen Unternehmens, das auch für eine der größten Plattformen der Welt, für TikTok, arbeitet. Der Auftrag nennt sich: Content-Moderation, das Sichten und Prüfen einiger der vielen Millionen Videos, die täglich gepostet werden.

Ein sensibler Job. Content-Moderatoren sind so etwas wie die Sicherheitskräfte des Internets. Sie sollen - unterstützt von technischen Systemen - dafür sorgen, dass die Nutzer nichts Gefährliches oder Illegales zu sehen bekommen.

TikTok Deutschland verspricht: "Wenn ein Video auf TikTok hochgeladen wird, durchläuft es unseren Moderations- und Widerspruchsprozess." Denn: "Wir sind hier, um zu unterhalten, nicht um zu schockieren oder Fehlinformationen zu verbreiten."

Im vergangenen Jahr hat TikTok Deutschland die Abteilung "Trust and Safety", in der Content-Moderatoren fest angestellt waren, allerdings geschlossen. Weit über 100 Mitarbeiter wurden entlassen. Der Vorwurf lautete damals: TikTok würde die sensible Aufgabe der Content-Moderation auslagern, auch an Künstliche Intelligenz und an Subunternehmen.

Ein solcher Drittanbieter ist das Unternehmen in Lissabon. Unter den Beschäftigten sind viele Deutsche, die meisten auffällig jung. Sie sei über eine Online-Job-Agentur nach Portugal vermittelt worden, sagt eine Mitarbeiterin in der ZDF-Dokumentation "Die Wahrheit über Social Media". Eine besondere Ausbildung sei nicht nötig gewesen. Nach vier Wochen Schulung habe sie sofort anfangen können.

Es sei, so die Schilderung mehrerer deutscher Mitarbeiter, ein harter Job. In zwei Schichten würden sie stundenlang Videos und Fotos anschauen, darunter brutale Aufnahmen: Enthauptungen, tote Kinder, abgetrennte Genitalien. Binnen Sekunden müssten sie dann entscheiden, welche Inhalte problematisch sind und welche nicht.

Der Lohn: fünf Euro Grundgehalt in der Stunde, dazu Zuschläge für Wohnen und Essen. Das entspricht, so teilt das Unternehmen dem ZDF später mit, dem portugiesischen Lohnniveau, liegt aber deutlich unter dem deutschen Mindestlohn.

Die Sicherheitsvorkehrungen sind umfassend. Die Mitarbeiter dürfen kein Handy mit in die Büros nehmen. Wie die Arbeit im Auftrag von TikTok genau abläuft, soll niemand wissen.

Für die ZDF-Doku ist es trotzdem gelungen, Einblicke zu erhalten. Dem ZDF wurden während der Recherche versteckte Aufnahmen aus dem Innern der Firma zugespielt. Darauf sieht man: ein Großraumbüro, gestrichen in den TikTok-Farben, das TikTok-Logo an der Wand. An dutzenden Schreibtischen sitzen die Content-Moderatoren.

Im Sekundentakt tauchen bei den Content-Moderatoren neue Inhalte auf den Bildschirmen auf: pornographische Bilder, ein Mädchen, das sich selbst verletzt hat, und eines, das nicht mehr essen will. Dazu: politisch extremer Content, Judenhass, Nazi-Inhalte.

Auf vielen Postings finden sich versteckte Codes: 88, die Zahlenfolge für "Heil Hitler", oder das rechtsextreme White-Power-Zeichen. Auch diese Symbole müssen die Mitarbeiter in Sekunden erkennen. Eigentlich unmöglich, schildert eine junge Deutsche:

Das Unternehmen teilt später auf Nachfrage mit, "die Beschreibung, dass Mitarbeiter Inhalte systematisch und in beschleunigtem Tempo überprüfen - und dies als eine standardmäßige, geförderte Praxis gilt -", entspräche nicht ihren operativen Richtlinien.

Die Mitarbeiterin berichtet dem ZDF außerdem, dass es ihre Aufgabe sei, Jugendliche unter 13 zu erkennen und deren Konten zu sperren. Das Alter der Nutzer würde sie oft in Sekunden schätzen müssen. "Man soll halt auf die Brüste schauen, wie weit die entwickelt sind. Das heißt, wir sollen uns dann bei minderjährigen Mädchen ganz genau die Brüste anschauen."

Auf den versteckten Aufnahmen ist auch zu sehen, wie ein Content-Moderator während der Nachtschicht vor dem Bildschirm schläft. Die Videos, die er kontrollieren soll, laufen weiter. Das passiere häufiger, sagt eine der Mitarbeiterinnen dem ZDF.

Ein anderer junger Deutscher berichtet: "Ich habe Kollegen, die betrinken sich während der Nachtschicht, so dass sie unten auch nochmal in den Hof kotzen, gehen hoch und schlafen, während dort keiner mehr moderiert an deren Stelle." Natürlich könnten dann Videos durchgewunken werden, die sie eigentlich hätten rausfischen müssen, sagt er. "Die schauen sich die Videos halt nicht an."

TikTok teilt dem ZDF in einer Stellungnahme mit, man wolle die automatisierte Moderation verbessern. "Wir setzen uns weiterhin voll und ganz für den Schutz der Sicherheit und Integrität unserer Plattform ein und investieren weiterhin in großem Umfang in Sicherheit."

Tipps und Hilfe für Jugendliche und deren Bezugspersonen

Meldung von strafbaren Inhalten