KI-Influencer: Was Avatare mit Konsum und Frauenbild machen

Auf Instagram heißt sie Emily Pellegrini, 23 Jahre alt und aus L.A. "Fun loving girlie" steht in ihrer Beschreibung. Und: AI Influencer.

Pellegrini ist KI-generiert. Mehr als 360.000 Menschen folgen ihr. Erstellt wurde sie von einem Mann, der sich Professor EP nennt und anonym bleiben will. User können auf einer anderen Plattform mit Emily chatten, sexuelle und personalisierte Inhalte anfragen - für Geld.

Professor EP begann allein, heute besteht sein Kernteam aus etwa 25 Personen. Allein mit Emily Pellegrini habe das Team von März 2023 bis Mai 2025 über 2,5 Millionen US-Dollar Umsatz erzielt. Denn User abonnieren Accounts wie ihren, um exklusiven Content zu sehen, der mittlerweile komplett automatisch generiert wird, so Prof. EP gegenüber ZDFheute.

Sogenannte "High Spender" verbringen laut Prof. EP teils mehrere Stunden täglich im Chat, bauen emotionale Beziehungen auf und investieren über Monate hinweg.

Die Nachfrage steige exponentiell.

Laut Medienpsychologin Jessica Szczuka liegt das daran, dass der Mensch darauf getrimmt ist, soziale Hinweisreize wie Sprache als menschlich zu erkennen. Unser Hirn sei noch nicht dazu in der Lage, zu sagen: "Hey, das verhält sich zwar wie ein Mensch, aber es ist nicht zwingend ein Mensch", erklärt Szczuka.

Der Reiz liege darin, dass sich die soziale Erfahrung in dem Moment so anfühlen kann, wie in einer Interaktion mit einem Menschen. Nach Beenden des Chats sei den Nutzenden aber üblicherweise bewusst, dass es nicht real war.

• Chatbots als virtuelle Partner: Wie KI-Apps emotionale Nähe schaffen

Es gebe für Prof. EPs Team klare Grenzen, sagt er selbst. Man distanziere sich zum Beispiel von KI-Influencern, die extrem jung wirkten oder Gewaltfantasien bedienten.

KI-Influencer können laut Medienethikerin Jessica Heesen allerdings auch problematisch sein, etwa wenn Frauen verdinglicht, also wie Gegenstände behandelt werden:

Ob das Ganze zu einem Problem werde, hänge vor allem davon ab, wie die User und Creator die Anwendung nutzen: "Wo kommen die Trainingsdaten her? Behandeln sie in Zukunft vielleicht ihre Freundin so wie eine KI, weil die so ähnlich aussieht? Oder behandeln sie ihre KI wie ihre Freundin? Hätten wir so eine Vermenschlichung von Maschinen, was wir eigentlich aus ethischer Perspektive auch nicht unbedingt wollen?", fasst Heesen zusammen.

Zu den tatsächlichen Auswirkungen fehlen laut Heesen noch abschließende Daten.

Das Phänomen, dass sich Inhalte aus dem Pornografiekonsum - etwa aggressive Szenen - auf das reale Leben übertragen, ist laut Jessica Szczuka kleiner, als man annehmen würde, muss aber dennoch ernst genommen werden: "Wenn wir uns den Konsum von aggressiver Pornografie angucken, sind die Effektstärken davon, dass man das auf die reale Welt überträgt, extrem klein. Aber sie sind da."

Bei KI komme es sehr auf die jeweiligen Plattformen an. Es gebe Algorithmen ohne Regulierung, die stark auf extreme Inhalte setzen. Szczuka sieht deshalb eine Verantwortung bei den Firmen: Technische Schutzmechanismen wären sinnvoll. Rechtliche Vorgaben würden in Zukunft wohl folgen.

Es gebe bislang zudem keine Anhaltspunkte, dass KI-Influencer unser Sexualverhalten anders beeinflussen als reale Pornografie. Die Forschung müsse darüber hinaus noch klären, was überhaupt der Reiz am Menschlichen ist.

Auch Animationsfilme lösen demnach Emotionen bei Menschen aus. "Das heißt, zum jetzigen Zeitpunkt zu sagen, das wird unsere Sexualität maßgeblich verändern, kann man noch nicht", so Szczuka.

Der Konsum KI-generierter Figuren könne aber, wie andere Medien auch, das Körperbild mit hoher Wahrscheinlichkeit negativ beeinflussen.

Laut Szczuka ist das Problem allerdings längst in der Mitte der Gesellschaft. Durch die Inszenierung von Körperbildern auf Social Media gebe es bereits heute vor allem deutlich mehr jugendliche Mädchen mit Essstörungen. Die KI werde damit genauso weitermachen.

Szczuka sieht die im AI-Act vorgesehenen Kennzeichnungen von KI als ersten richtigen Schritt, um Leute darauf aufmerksam zu machen, dass das, was gerade konsumiert wird, nicht menschlich ist: "Denn wie das die Erwartung dann im Hinblick auf Körper schärft, ist noch schwer abzusehen."

Gleichzeitig sind Menschen für gewöhnlich nicht von der Umwelt abgeschottet und können Künstliches vom Menschlichen unterscheiden, so Szczuka.