39C3-Messe: Open-Source-KI gegen Datensammler

ChatGPT kann auf viele Fragen antworten, auch auf sehr persönliche. Spannend wird es, wenn die sehr persönliche Frage im Raum steht: Was weißt Du über mich? Lange denkt der Chatbot nicht nach: "Ich habe ein paar Dinge über dich abgespeichert, dass du Sven heißt..." Insgesamt listet das Tool aus dem Hause OpenAI 97 Punkte auf, die es sich herleitet, ausschließlich aus den eigenen Anfragen.

Marco Bartsch hat was gegen solche Datensammlungen. Auf dem Chaos Communication Congress (39C3) im Hamburger CCH zeigt der junge Programmierer aus Berlin, dass es auch anders geht.

OpenMates heißt sein KI-Assistent, der sich zwischen Nutzer und ChatGPT schaltet. Das Besondere an dem noch in der Entwicklung befindlichen Tool: Es gibt immer nur die Infos an den Chatbot weiter, die für die aktuelle Frage relevant sind und das auch noch anonym.

Sein Ansatz: Alle jemals gefragten Informationen sind verschlüsselt gespeichert. Nur für die gerade aktuelle Anfrage, etwa die Reise nach Paris, übermittelt sein Tool die passenden Vorlieben: "mag Museumsbesuche", "fährt gerne Bahn", "Mittelklasse-Hotel reicht". "Dazu wird diese Frage komplett anonym gestellt", erläutert Marco Bartsch.

Die Nutzer zahlten dann pro Einsatz. Eine faire Bezahlung, die ohne Datensammlung auskomme. Die Menschen - so seine Hoffnung - würden den Wert hinter solchen Modellen irgendwann zu schätzen wissen.

Auch bei Messengern suchen viele auf dem Kongress nach Auswegen aus der Abhängigkeit von einzelnen Plattformen. Matrix könnte eine Alternative sein. Das Protokoll, mit dem Computer Informationen austauschen, wird schon im Gesundheitswesen und beim Militär eingesetzt.

Matrix-Experte Yan Minagawa erklärt das Prinzip mit vielen Servern, die miteinander kommunizieren. Man könne den Anbieter wechseln, ohne den Kontakt zu anderen zu verlieren. Damit werde auch Massenüberwachung schwieriger, weil Metadaten nicht automatisch an einem zentralen Punkt zusammenlaufen.

Meint: Ein Messenger-Dienst wie WhatsApp oder Signal wäre so organisiert, dass die Nutzer mitsamt aller Chat-Daten und Kontakte einfach von einem Anbieter zum nächsten wechseln können. Also würde man, erläutert Minagawa, seinen Aktenordner vom Büro mit nach Hause nehmen und umgekehrt.

So ein Umzug von Daten wäre umso einfacher, je mehr kleine Cloud-Server es gibt. Das Stuttgarter Unternehmen NextCloud bietet solche Systeme, die per Open-Source-Tools gesteuert werden. Jeder kann also prüfen, wie und wohin Daten gelenkt werden, und was gespeichert wird.

Carl Schwenn ist Programmierer bei NextCloud und tauscht sich auf dem Kongress aus. "Die Nutzer werden bewusster", erläutert er im ZDFheute-Interview. Man merke, dass viele Nutzer sich auf andere Lösungen konzentrierten und europäische Cloud-Dienste nutzten - anstatt amerikanische.

Die großen US-Dienste seien aber auch deshalb so erfolgreich, fasst Jochim Selzer vom Chaos Computer Club zusammen, "weil sie einfach zu erreichen und zu nutzen sind." Und weil immer die Plattform gewinnt, auf der die meisten Buddies, also Freunde zu finden sind.

Wie viel Macht die großen Plattformen inzwischen haben, zeige sich auch beim Thema KI-Inhalte. CCC-Sprecher Jochim Selzer warnt vor einer Spirale: KI-generierte Inhalte werden immer billiger und häufiger, menschliche Inhalte geraten unter Druck, und damit fehlte irgendwann die Grundlage für neue, verlässliche Originalquellen.

Selzer plädiert deshalb für eine Rückkehr zu klassischer Sorgfalt: mehrere unabhängige Quellen suchen, bei auffällig emotionalen Bildern oder Geschichten kurz stoppen und prüfen, bevor man teilt. Die gleiche Sorgfalt also, die man auch bei seinen Daten an den Tag legen sollte.

Sven Rieken ist Korrespondent im ZDF-Studio in Hamburg.