Wut als Geschäftsmodell: Polarisierende KI-Inhalte auf Facebook

"Es droht eine neue Flüchtlingswelle - soll Deutschland die Grenzen schließen?" "Muslimische Kinder geben Mitschüler nicht die Hand, weil er eine Kreuzkette trägt". Oder: "Muslimische Anwohner fühlen sich gestört von den Kirchenglocken und fordern eine Abschaffung."

Solche Schlagzeilen in Kombination mit KI-generierten Bildern bekommen viele Facebook-Nutzer in Massen in ihre Feeds gespült. Das Schema ist häufig gleich: ein maximal polarisierendes Aufreger-Thema und die Aufforderung an Nutzer, ein Like, ein Herz oder eine andere Reaktion dazulassen.

Allein in deutscher Sprache gibt es Dutzende solcher Seiten, die täglich Massen solcher KI-Posts verbreiten. Viele haben Hunderttausende, teils sogar Millionen Abonnenten. Menschen nehmen sie als echte Informationsquellen wahr. Wie funktioniert ihr Geschäftsmodell?

Allein auf den Bildpost zur angeblichen Flüchtlingswelle, veröffentlicht Ende März von einer Facebook-Seite namens "Das Echo", reagieren fast 37.000 Nutzer. Unter dem Post entlädt sich Wut - "Niemanden mehr reinlassen, haben genug Gesocks hier", schreibt eine Nutzerin und bekommt über 1.300 Likes. Die oben genannten Schlagzeilen sind nur Beispiele für einen größeren Trend.

Weil die Facebook-Algorithmen solche hoch interaktiven Posts mit vielen Reaktionen mit zusätzlicher Reichweite belohnen, erreichen diese Inhalte viele Menschen. Und wer einmal mit solchen Posts interagiert hat, einen Kommentar dagelassen hat, der bekommt sie noch häufiger angezeigt. Das gesamte Ausmaß solcher primär auf KI-Inhalte setzenden Viral-News-Seiten kann schwer gemessen werden. Seiten ändern ihren Namen, werden gelöscht und wieder neu aufgebaut.

Julia Smirnova vom Institut Cemas beobachtet seit Jahren, wie sich Desinformation im Netz verbreitet. "Die Posts versuchen bei Nutzenden Emotionen wie Angst oder Empörung auszulösen. Viele dieser Posts sind wie eine Frage formuliert: Das heißt, die Nutzer werden ganz aktiv nach ihrer Meinung gefragt", erklärt Smirnova.

Viele der Seiten geben sich als neutrale Nachrichten- oder Humorseiten. Doch die Themenauswahl folgt oft einem klaren Muster: Islam-Angst, Klima, Gendern oder die AfD. Mal sind die Inhalte der Posts komplett erfunden, mal werden jahrealte Aufreger-News aus der ganzen Welt neu verpackt. Quellenverweise fehlen meist.

"Der primäre Zweck dieser Seiten ist nicht politisch, der primäre Zweck dieser Seiten ist kommerziell, aber die Betreiber dieser Seiten sind zynisch genug, um bewusst mit polarisierenden politischen Inhalten Geld zu verdienen", sagt Smirnova.

"Sollte man der AfD einfach mal eine Chance geben?" Oder: "Würdest du die AfD mitregieren lassen?" Dazu das Bild einer KI-generierten Alice Weidel vor jubelnden Bürgern. Vergleichbare Fragen veröffentlichen viele der Seiten teils wöchentlich. Und solche Framings sind ganz im Sinne der AfD.

Belastbare Hinweise, dass solche Seiten Inhalte im Auftrag von politischen Gruppen verbreiten, gibt es bislang nicht.

• Faktencheck: Nein, vom Ukraine-Geld der EU wurde keine Luxusjacht gekauft

Was vielen Viral-News-Seiten bei der Reichweite hilft: Sie starten häufig nicht bei null. "Das Echo" etwa mit über 100.000 Abonnenten ist erst seit diesem Jahr unter diesem Namen aktiv - zuvor war es über zehn Jahre lang eine Fußball-Seite und anschließend Werbepage für einen Onlineshop aus Hamburg. Bestehende Seiten zu einem Thema werden also umgewidmet und dann als virale News-Seiten weiterbetrieben. Teils werden Seiten inklusive ihrer Abonnenten weiterverkauft.

Einkommen erzielen die meisten der Seiten durch Werbenachrichten, die sie zwischen den News-Posts veröffentlichen und worin auf Amazon oder eigene Webseiten verlinkt wird. Kaufen Nutzer dort, bekommt der Seitenbetreiber durch sogenanntes Affiliate Marketing häufig noch einen Anteil des Kaufpreises.

Durch Künstliche Intelligenz haben sich die Betriebskosten solcher Seiten in den sozialen Medien drastisch reduziert, Sprachbarrieren sind ebenfalls kein Problem mehr. Immer wieder sitzen Betreiber deshalb gar nicht in Deutschland, sondern wegen niedrigeren Lebenshaltungskosten oder Steuern im Ausland.

"Man kann diesen Prozess in vielen Fällen einfach automatisieren, sodass die Betreiber dieser Seiten damit experimentieren können, welche Themen eher viral gehen. Sie können einfach hunderte Posts täglich erstellen", erklärt Smirnova. Teils gebe es im Ausland sogenannte "Content Farms", die Inhalte in verschiedenen Sprachen produzieren.

Eine Alice Weidel Fangruppe auf Facebook mit mehreren Tausend Mitgliedern wird etwa von mehreren Moderatoren aus Indien geleitet, die sie täglich mit KI-Inhalten über kriminelle Ausländer füttern. Mehrere große deutschsprachige virale Newsseiten haben laut den Transparenzangaben von Facebook Administratoren, die in Pakistan oder Zypern sitzen.

ZDFheute kontaktierte mehrere der Seiten mit Fragen zu ihren Aktivitäten, erhielt aber keine Antwort.