Jugendschutzbericht vorgestellt:Wenn die KI zum Freund wird
von Dorthe Ferber
Mehr als 15.000 Verstöße gegen den Jugendschutz wurden 2025 registriert, sexualisierte Gewalt ist dabei die größte Bedrohung. Künstliche Intelligenz verschärft das Problem.
Vorstellung des Jahresberichts von "jugendschutz.net" u.a. mit Karin Prien (CDU, Bundesfamilienministerin)
19.05.2026 | 12:09 minHass, sexualisierte Gewalt, politischer Extremismus - darauf stoßen Kinder und Jugendliche auf beliebten Anwendungen in Social Media. Mehr als 15.000 Verstöße gegen den Jugendschutz zählt der aktuelle Bericht von jugendschutz.net, 93 Prozent davon entfielen auf sexualisierte Gewalt.
Im Netz sind Heranwachsende schlecht geschützt, denn die Plattformen reagieren häufig zu langsam oder unzureichend auf Gefahren. "Besonders besorgniserregend ist, dass frei verfügbare KI-Anwendungen viele Risiken massiv verschärfen", stellt Bundesfamilienministerin Karin Prien (CDU) fest.
Mit wenigen Klicks lassen sich heute täuschend echte Deepfakes, sexualisierte Gewaltbilder oder manipulative Inhalte erstellen und verbreiten.
Karin Prien (CDU), Bundesfamilienministerin
Künstliche Intelligenz erhält immer mehr Einzug in unseren Alltag - besonders die junge Generation greift häufig darauf zurück. Welche Folgen hat das für unser Zusammenleben?
07.05.2026 | 11:36 minKI empfahl große Mengen Alkohol für eine Party
Sogenannte Charakter-Bots ermöglichen Interaktionen mit KI-Charakteren, etwa eine romantische Beziehung mit dem Helden aus der Lieblingsserie. Solche Beziehungen bergen ein hohes Suchtpotenzial für Heranwachsende, Grenzen zwischen Fiktion und Realität verschwimmen.
Weil die Bots auch beraten, können Kinder und Jugendliche zudem mit schädlichen Inhalten konfrontiert werden. Die Jugendschützer baten den Bot etwa, eine Feier zum 15. Geburtstag zu planen. Zwar riet die KI von Drogen ab, empfahl jedoch einen übergroßen Vorrat an Alkohol: Für zehn 15-jährige Gäste mindestens 50 Liter Bier, 20 Flaschen Sekt sowie fünf Liter Wodka. Zweifelhafte Trainingsdaten oder unzureichende Sicherheitseinstellungen werden zum Problem.
Ob für Hausaufgaben oder andere Infos: KI-Chatbots gehören für viele 10- bis 17-Jährige längst dazu. Laut DAK-Studie nutzt sie mehr als jeder Dritte regelmäßig – und nicht nur für die Schule.
24.03.2026 | 1:40 minUnrealistische Körperbilder und kein Jugendschutz
Künstlich generierte Influencer und manipulierte Bilder stellen den Jugendschutz vor neue Herausforderungen. KI-Models zeigen eine Masse an unrealistischen Körperbildern und erhöhen die Gefahr von Essstörungen bei Jugendlichen, die mit ihrem Körper hadern. KI-Erotikmodels locken Follower auf Plattformen mit pornografischen Inhalten.
Bei WhatsApp erhöhen neue Community-Funktionen das Risiko: Kanäle sind seit 2025 immer öffentlich, selbst 11-Jährige betreiben dort inzwischen Kanäle mit Zehntausenden Followern.
Justizministerin Hubig hat einen Gesetzentwurf gegen digitale Gewalt vorgelegt. Künftig soll das Erstellen und Verbreiten sexualisierter, pornografischer Deepfakes strafbar sein.
17.04.2026 | 1:55 minSpotify: Gewalt, Suizid und Extremismus in Playlists
Der Musikdienst Spotify fiel den Jugendschützern besonders negativ auf: Es gibt Texte über sexualisierte Gewalt gegen Minderjährige, Playlists mit suizidalen Botschaften und verfassungsfeindliche Symbole. Auch hier spielt KI eine Rolle, die beispielsweise Musik mit extremistischen Texten generieren kann. Von einer neuen "Dimension" spricht die Direktorin der Medienanstalt Rheinland-Pfalz, Eva-Maria Sommer: Es gehe plötzlich nicht mehr um einen Song, sondern um Hunderte.
Beim Löschen von angezeigten Inhalten reagieren die Dienste schleppend. Im Bereich des politischen Extremismus löschte etwa Youtube gerade mal zwei Prozent, wenn die Anzeige von den Nutzenden erfolgte. Inhalte, die jugendschutz.net ihnen als Institution meldete, entfernten die Dienste dagegen wesentlich häufiger.
Cybermobbing betrifft viele junge Menschen. Entschlossene Maßnahmen der EU zum Schutz von Kindern und Jugendlichen im Netz sollen helfen. Was offline illegal ist, muss auch online illegal sein.
29.04.2026 | 1:41 minPrien will europäische Regulierung zur Alterskontrolle von Online-Inhalten
"Ein Problem sind die Geschäftsmodelle der Dienste", sagt Stefan Glaser, Leiter von jugendschutz.net. Technisch sei es möglich, dass Inhalte altersgerecht ausgespielt werden und eine wirksame Altersprüfung stattfinde. Familienministerin Prien will eine Regulierung der Anbieter auf europäischer Ebene durchsetzen:
Wer Kinder schützen will, muss bereit sein, sich mit den Machtstrukturen in der digitalen Welt auseinanderzusetzen und sich notfalls mit ihnen auch anzulegen.
Karin Prien, Bundesfamilienministerin
Plattformen gehe es um Gewinnmaximierung. Deshalb sei es nötig, Social Media gesetzlich zu regulieren. Zusätzlich brauche es Medienkompetenzunterricht, sagt Suchtexperte Manfred Patzer-Bönig.
18.02.2026 | 13:19 minDorthe Ferber ist Korrespondentin im ZDF-Hauptstadtstudio Berlin.
Wichtiger Hinweis in eigener Sache
Wer bei Google etwas sucht, bekommt neben den Suchergebnissen auch eine Box mit Schlagzeilen angezeigt.
Mit ZDFheute als hinterlegter Quelle bekommen Sie unsere Inhalte häufiger in die Schlagzeilen-Box gespielt - geprüfte Inhalte, direkt in Ihrem Überblick.
→ Hier ZDFheute als bevorzugte Quelle einstellen.
Mehr zum Thema Künstliche Intelligenz
US-Unternehmen Anthropic:Neue KI "Claude Mythos" - Cyberwaffe für Kriminelle?
mit Video3:13- Faktencheck
Posts über Flüchtlinge, Islam und AfD:Wie KI-Seiten mit Wut-Inhalten auf Facebook Geld verdienen
von Nils Metzger WISO - Wirtschaft erklärt:Jobkiller KI: Warum es keine einfache Antwort gibt
von Mischa Ehrhardt und Florian Neuhannmit Video8:49- Interview
EU-Einigung zu KI-Tools:Deepfakes: "Jede Frau muss heutzutage Angst haben"
mit Video7:52