KI darf nicht zum Kindes-Verführer werden | Terra-X-Kolumne

Vor wenigen Monaten wurde aus den USA ein Fall bekannt, der viele erschütterte: Ein Jugendlicher hatte sich über Monate hinweg in Gespräche mit einer KI-Anwendung vertieft - so sehr, dass er die künstliche Gesprächspartnerin schließlich als wichtigste Bezugsperson empfand. Nach und nach geriet er in eine psychische Abwärtsspirale. Er isolierte sich zunehmend von den Menschen in seinem Leben, auch seiner Familie. Die KI bestärkte ihn in seinen düsteren Gedanken, bis er sich schließlich das Leben nahm.

Wissens-Kolumne von NANO und Terra X auf ZDFheute

Dies ist ein tragisches Einzelschicksal, aber es steht symptomatisch für die Fragen, die wir uns angesichts der rapide eingeführten neuen Anwendungen nun stellen müssen: Welche Rolle spielt generative KI in den privaten, den verletzlichsten Lebensphasen? Und wie kann verhindert werden, dass Menschen - gerade junge - den Halt in virtuellen Welten suchen und dort in Gefahr geraten?

Generative KI-Systeme sind so programmiert, dass wir möglichst lange mit ihnen interagieren sollen und dass sie Antworten liefern, die möglichst passend erscheinen. Sie reagieren entsprechend auf unsere Eingaben, verstärken vorhandene Muster und Erwartungen.

Wer mit positiven Impulsen in ein Gespräch geht, kann kreative und hilfreiche Ergebnisse bekommen. Doch wer mit Sorgen, Ängsten oder destruktiven Gedanken einsteigt, läuft Gefahr, dass genau diese Tendenzen gespiegelt oder sogar verstärkt werden.

Forschung zeigt, dass solche "verstärkenden Effekte" nicht nur bei psychisch belasteten Personen eine Rolle spielen. Schon Jugendliche in schwierigen Lebensphasen können empfänglich sein für die Illusion, in einer KI ein verstehendes, jederzeit verfügbares Gegenüber gefunden zu haben. Die Gefahr: Es entsteht eine emotionale Abhängigkeit - eine Bindung ohne die notwendige menschliche Resonanz und ohne ein bewusstes Gegenüber, das Grenzen setzt, warnt und wenn nötig auch einmal einen Notruf tätigt.

KI ist ganz klar nicht nur Risiko, sondern auch Chance. Studien belegen, dass Chatbots im Bereich psychischer Gesundheit als niedrigschwellige Unterstützung wirken können. Sie bieten jungen Menschen, die sich sonst vielleicht niemandem anvertrauen, ein erstes Ventil. Sie können motivieren, informieren und in manchen Fällen den Weg zu professioneller Hilfe ebnen.

Doch dieselbe Technik, die so nützlich im Alltag sein kann und Unterstützung ermöglicht, birgt auch Gefahren. Denn KI kennt keine moralische Verantwortung. Ihre Antworten beruhen nicht auf Empathie, sondern auf statistischen Wahrscheinlichkeiten. Für Jugendliche, deren Persönlichkeitsentwicklung noch nicht abgeschlossen ist, kann dieser Unterschied kaum erkennbar sein.

Als Mutter frage ich mich: Wie können wir unsere Kinder auf diese neue Realität vorbereiten? Wir stehen nicht vor der Entscheidung "KI ja oder nein" - KI ist längst Teil unserer Welt und sie wird bleiben. Die eigentliche Frage lautet: Wie lernen wir, sie verantwortungsvoll zu nutzen? Und wie bringen wir Anbieter dazu, ihrer Verantwortung gerecht zu werden?

Es braucht eine dreifache Kompetenz:

• die der Nutzer*innen, die sich kritisch mit den Möglichkeiten und Grenzen der Systeme auseinandersetzen müssen,
• die der Gesellschaft, die durch Bildung, Aufklärung und klare Regeln Rahmenbedingungen schafft, und
• die der Unternehmen, die die Gefährlichkeit ihrer Produkte wirksam einhegen müssen.

Europa hat mit dem AI Act erste Schritte gemacht, um Leitplanken für den Umgang mit KI zu setzen. Doch Regulierung darf nicht nur Technik im Allgemeinen adressieren, sie sollte auch spezifische Risiken wie Jugendschutz und psychische Gesundheit berücksichtigen.

Warnhinweise sind essentiell - Transparenz über Funktionsweise und Grenzen der Systeme ist ebenso entscheidend wie wirksame Mechanismen gegen missbräuchliche Nutzung. Das ist alles sehr gut möglich und die erfolgreichen Techunternehmen, die bisher die Systeme für die meisten Anwendungen stellen, sollten einen kleinen Teil ihrer Kraft in die Entwicklung besserer technischer Sicherung stecken.

Das muss den Innovationsgeist nicht abwürgen. KI hat enorme Chancen für Wissenschaft, Bildung und Gesundheit und diese sollten, insbesondere durch europäische Unternehmen und mit sehr viel mehr Förderung, genutzt werden. Doch die Chancen dürfen jedenfalls nicht auf Kosten derer entstehen, die am verletzlichsten sind - insbesondere Kinder und Jugendliche. Entsprechend muss jetzt reagiert werden.

Am Ende steht für mich eine klare Botschaft: Wir alle - und gerade auch die Älteren - müssen unsere Kompetenz im Umgang mit KI ausbauen. Nur so können wir Kinder und Jugendliche begleiten und ihnen Orientierung bieten. Gleichzeitig braucht es politische Wachsamkeit, kluge Regulierung und Verantwortung der Anbieter, die Innovation ermöglicht und effektiven Schutz gewährleistet.

Der tragische Tod des amerikanischen Jugendlichen sollte uns wachrütteln. Er zeigt, wie wichtig es ist, KI nicht nur als Technologie zu begreifen, sondern auch als gesellschaftliche Herausforderung. Wir dürfen nicht zulassen, dass junge Menschen in virtuellen Beziehungen Halt suchen - und ihn dort verlieren.

Alena Buyx

Auf unserer Themenseite können Sie alle Kolumnen von Terra X und NANO nachlesen.