Neue Google-KI ermöglicht Flut an falschen Nachrichten-Clips

In der US-Stadt Springfield ist die Stimmung am Kochen. Hunderte Anwohner protestieren gegen den Umbau der örtlichen Schule in eine Werft für Luxusyachten. "40 Jahre lebe ich schon hier - und noch nie habe ich so eine dumme Idee gehört", ruft ein älterer Mann in die Kamera einer Reporterin, im Hintergrund halten Demonstranten Schilder hoch - eine Nachrichtensprecherin kommentiert mit ernstem Blick, dass der Bürgermeister zur Kritik bislang schweige.

All das: völlig erfunden und doch täuschend echt. 28 Minuten Zeit und ein Guthaben im Wert von acht US-Dollar - das brauchte der niederländische Verifikations-Experte Henk van Ess, um mit Googles neuem KI-Video-Generator Veo 3 diesen bedenklich realistisch wirkenden Nachrichtenbeitrag zu generieren. Wie er vorging, beschreibt er in seinem Blog.

Verfügbar ist Veo 3 seit wenigen Tagen - vorerst nur für Google-Nutzer aus den USA und nach Abschluss eines Bezahl-Abonnements. Doch schon innerhalb kurzer Zeit findet man im Netz eine ganze Reihe viraler Inhalte, die Nachrichtensendungen, Influencer-Videos oder Werbeclips imitieren - und in Zukunft womöglich gezielt genutzt werden könnten, um Chaos und Desinformation zu verbreiten.

"Wir erleben gerade das Ende des Prinzips, wonach etwas sehen zu können, auch heißt, es glauben zu können. Wir sind über den Punkt hinaus, dass die breite Öffentlichkeit zwischen einem authentischen Video und einem Fake unterscheiden kann", sagt Henk van Ess ZDFheute. Er trainiert weltweit Journalisten in digitalen Recherchemethoden.

Für van Ess ist Veo 3 ein einschneidender Moment. "Zuvor musste man verschiedene Werkzeuge nutzen, um erfundene Nachrichtenbeiträge zu erstellen - eins für Video, eins für Audio. Jetzt gibt es alles aus einer Hand und für professionelle Akteure zu verschwindend geringen Kosten."

Die hohe Geschwindigkeit, mit der solche Inhalte erstellt werden können, macht sie besonders wirksam im Fall von Katastrophen oder Anschlägen, wenn oft nur wenige gesicherte Informationen verfügbar sind und sich kurze Videos rasend schnell verbreiten.

KI-generierte Videos waren bislang auch darum leicht zu identifizieren, da sie optisch unnatürlich makellos wirkten. Doch Angebote wie Veo 3 können den Stil wackeliger Handyaufnahmen und live eingesprochener Selfie-Videos von Augenzeugen immer besser imitieren. Auch Kameraeinstellungen mit Reportern im Bild, wie man sie aus professionellen Nachrichtensendungen kennt, gelingen realistisch.

"Um Videos glaubhafter erscheinen zu lassen, muss man sie schlechter aussehen lassen. Echte Desinformation ist häufig pixelig und amateurhaft. Mit Veo 3 ist sowas technisch möglich", schildert van Ess.

In seinen Nutzerrichtlinien für generative KI schreibt der Betreiber Google, dass es Nutzern untersagt ist, "Fehlinformationen oder Falschdarstellungen" zu verbreiten. Explizit als nicht erlaubt genannt werden dort etwa "irreführende Behauptungen im Zusammenhang mit behördlichen oder demokratischen Prozessen".

Auch "Inhalte, die gewalttätigen Extremismus oder Terrorismus fördern", werden dort untersagt. An anderer Stelle werden auch "fehlerhafte Katastrophenwarnungen oder Falschmeldungen zu anhaltenden Gewalttätigkeiten" verboten. Wann all das anfängt, ist häufig Auslegungssache.

Van Ess sagt ZDFheute, dass er bei seinem Versuch keine Sicherheitsmaßnahmen der Software habe überwinden müssen. Er habe mit Springfield bewusst ein völlig fiktives Beispiel gewählt.

Von der Wirksamkeit der Google-Richtlinien ist er nicht überzeugt: "Dass Google in seinen Guidelines festhält, dass Nutzer keine gefährliche Falschinformation erstellen dürfen, ist wie eine Mutter, die ihrem Kind sagt, dass es keine Kekse klauen darf. Eine Kontrolle über die Veo-3-Inhalte scheint es offenbar nicht zu geben - wie sonst ist zu erklären, was in den vergangenen Tagen an erfundenen Inhalten online verbreitet wurde?"

Ein Google-Sprecher verweist auf Anfrage darauf, dass es wichtig sei, dass Nutzer "Zugriff auf Werkzeuge zum Überprüfen der Herkunft von Videos […]" hätten. Alle mit Googles AI-Lösungen erstellten Inhalte erhielten ein sogenanntes "SynthID"-Wasserzeichen zur Identifikation. Bislang sind diese Kennzeichen jedoch für Nutzer unsichtbar und müssen erst mit einer eigenen Google-Software händisch überprüft werden. Auf die haben bislang erst wenige Profi-Nutzer überhaupt Zugriff - gegen virale Falschinformationen ist das darum keine verlässliche Maßnahme.

Darum plane Google, bald auch ein zusätzliches, sichtbares Wasserzeichen für alle Veo-Videos einzuführen, so der Sprecher. Wie gut diese technische Lösung jedoch gegen Manipulation oder Entfernen geschützt ist, ist bislang nicht bekannt. Zudem unternehme Google Schritte, um "schädliche Eingaben und Ergebnisse zu verhindern", so das Unternehmen. Was das konkret umfasst, teilte Google nicht mit.

Normale Internetnutzer und auch professionelle Journalisten haben im Umgang mit KI-Manipulationen einen immer mehr anwachsenden Tempo-Nachteil.

Bis die Authentizität eines Videos aufwändig überprüft ist, ist es schon viral gegangen. "Um jedes KI-Video mit einem Warnlabel zu fassen, dafür ist es jetzt schon zu spät", sagt Henk van Ess. "Das ganze Internet droht in einer Flut an synthetischen Inhalten unterzugehen."