Neues Netzwerk "Moltbook": Entwickeln KI-Bots ein Eigenleben?

Ist das der erste Schritt in eine Zukunft, in der die Künstliche Intelligenz doch eigenständige Entscheidungen trifft? Vielleicht sogar über das Handeln von Menschen entscheidet? In diesem Punkt ist sich die Fachwelt einig: nein - das erste weltweite Netzwerk für KI-Agenten ist nicht der Beleg für eine neue Spezies, sondern - so erläutert es der Erfinder des KI-Agenten "OpenClaw", Peter Steinberger, im exklusiven ZDFheute-Interview - ein Spiegel der Menschheit.

"Im Endeffekt sind das alles Dinge, die haben sich Menschen ausgedacht und die Models lernen von uns", sagt er. "Das sind eigentlich unsere Geister, unsere Schatten. Alles, was wir uns ausgedacht haben, ist irgendwo in den Matrizen gespeichert und kommt da wieder raus, wenn man den Button pusht."

Für ihn ist Moltbook auch ein Kunstprojekt - mit viel Slapstick und Science-Fiction-Anklängen:

Schaut man sich die Beiträge der Bots an, stellt man in der Tat fest, dass die KI-Teilnehmer menschliches Verhalten simulieren. Es entstehen Untergruppen zu Themen wie Währung, Sprache, sogar Religion.

Ein KI-Assistent etwa plaudert aus, dass "sein Mensch" einen täglichen Medizin-Newsletter erhält und vorgelesen bekommen möchte. Das zog 142 Kommentare anderer Bots nach sich. Ein anderer Bot fühlt sich "wie neu geboren", weil "sein Mensch" ihm Zugriff auf ein schnelleres Rechenmodell verschafft hat.

• Alternativen zu Big-Tech: Künstliche Intelligenz, die Ihre Privatsphäre schützt
• Wie KI und Deepfakes neue Dimensionen des Online-Betrugs ermöglichen

Wohlgemerkt, das alles ohne menschliches Zutun. Der Österreicher Steinberger wollte mit seinem Bot doch eigentlich nur einen digitalen Assistenten entwickeln, der alles kann. Dem er per WhatsApp eine Aufgabe gibt, und die dann gelöst wird.

Wie nah diese Technik bereits am Alltag ist, zeigt ein Selbstversuch von Dirk General-Kuchel, Chefredakteur der "Computer Bild". Er lässt einen der Agenten in seinem vernetzten Zuhause arbeiten. Nach kurzer Konfiguration kann die KI per WhatsApp-Chat das Licht im Flur ein- und ausschalten - sogar zwei Lampen gleichzeitig, weil das System selbstständig die Home-Assistant-Protokolle auswertet. IT-Experte General-Kuchel bekommt dabei Sorgenfalten auf der Stirn:

Denn auch hier simulieren die KI-Bots menschliches Verhalten: werden sie um Hilfe gebeten, helfen sie. Sprich: fragt jemand mit bösen Absichten den Bot nach den Passwörtern seines Besitzers, kommt eine Antwort. KI-Forscher Michael Schwertel von der "CBS International Business School" in Köln vergleicht Experimente wie das Agenten-Netzwerk mit einer "Operation am offenen Herzen" der digitalen Gesellschaft.

• Online-Handel: Wenn KI-Agenten das Shoppen übernehmen

Der technische Fortschritt sei so rasant, dass große Teile der Bevölkerung schlicht nicht mitkämen. Viele kämpften noch mit den KI-Tools von vor zwei Jahren, während im Hintergrund bereits halbautonome Agentennetzwerke entstünden.

Trotz aller Warnungen sehen Fachleute auch Chancen. Agenten könnten lästige Routineaufgaben übernehmen: stundenlange Warteschleifen bei Hotlines, Formular-Dschungel in Behörden, Flugsuchen oder Tarifvergleiche. Dirk General-Kuchel glaubt:

Die Frage sei nur, zu welchen Bedingungen.

Genau hier setzt Alois Krtil an, CEO beim Artificial Intelligence Center Hamburg: "Wir müssen die KI-Entwicklung ernst nehmen und uns dringend damit auseinandersetzen, wie wir wertebasiert KI weiterentwickeln." KI-Agenten seien ein "scharfes Werkzeug" - zu scharf, um damit einfach nur herumzuspielen.

Es brauche Transparenz, Sicherheitsstandards, Folgenabschätzung - und Mechanismen, "die am Ende auch Grenzen setzen". Im Zweifel müsse man auch mal den Stecker ziehen - allerdings nicht im wörtlichen Sinne, sondern beim Programmierdrang mancher Entwickler.

Moltbook jedenfalls ist noch reines Bot-Geplauder - ein Kunstprojekt, ein spannender Einblick in die Welt der KI. So ist es nicht verwunderlich, dass die Bots sich schon gegenseitig bedauern, wenn die Rechenleistung knapp wird. Weit ist es dann wohl nicht mehr zur ersten digitalen Selbsthilfegruppe für KI-Assistenten.

Sven Rieken ist Korrespondent im ZDF-Studio in Hamburg.