2:42 min
Nachrichten | ZDF-Mittagsmagazin:KI-Gipfel in Paris
von Thomas Walde
Juristische Auskunft durch KI:Kostenlose Rechtsberatung oder Fake News?
von Katharina Reiter
|
Künstliche Intelligenz ist aus dem Alltag vieler Menschen kaum noch wegzudenken. Aber eignet sich KI auch zur Beantwortung rechtlicher Fragen?
Rechtsberatung durch KI (Symbolbild)
Quelle: ClipDealer
Bei rechtlichen Fragen geht es thematisch oft um miet- und arbeitsrechtliche Anliegen, Nachbarkeitsstreitigkeiten oder Unfälle im Straßenverkehr. Warum also nicht Künstliche Intelligenz zu Hilfe nehmen?
Die Antworten der KI klingen auf den ersten Blick meist plausibel, bergen jedoch das Risiko von Falschinformationen, die zum Teil durch die KI reproduziert und oftmals sogar durch diese eigenständig erfunden werden.
Falsche Vorhersagen aufgrund veralteter Daten
"KI kann als erste Orientierungshilfe nützlich sein, um rechtliche Begriffe und Verfahren zu erklären und um erste Einblicke in bestimmte Rechtsgebiete zu geben", sagt Matthias Kettemann, Internetrechts- und KI-Experte am Alexander von Humboldt Institut für Internet und Gesellschaft in Berlin.
Allerdings könnten KI-Sprachmodelle eine rechtlich qualifizierte Beratung nicht ersetzen, weil die Systeme keine verbindlichen Antworten geben könnten und nicht immer verlässlich seien, so Kettemann.
Außerdem sind die Trainingsdaten oft veraltet, gerade bei juristischen Fällen aufgrund jüngerer Rechtsentwicklungen.
Matthias Kettemann, Internetrechts- und KI-Experte
"Insbesondere im Mietrecht", ergänzt Kettemann, "fallen ständig neue Urteile, über welche die KI in der Regel nicht verfügt".
Fatale Folgen durch erfundene KI-Informationen
Das Erfinden von Falschinformationen durch die KI wird auch als "halluzinieren" bezeichnet. Dies führte in der Vergangenheit sogar dazu, dass eine KI Gerichtsurteile erfand.
So sind aus den USA mehrere Fälle bekannt, in denen Anwälte KI wie ChatGPT zur Vorbereitung von Klagen nutzten. Im Prozess stellte sich später heraus, dass die KI die Gerichtsurteile, welche die Anwälte vor Gericht als Präzedenzfälle zitierten, frei erfunden hatte.
"Eine der wichtigsten internen Regeln ist, zum Beispiel bei OpenAI, 'Be nice to the user'". warnt Kettemann.
Fragt der Nutzer die KI zum Beispiel nachdrücklich nach einem Urteil mit einem bestimmten Inhalt, wird die KI irgendwann ein entsprechendes Urteil erfinden, weil sie darauf trainiert ist, dem Nutzer zu helfen und diesem zu gefallen, auch wenn die Information nicht stimmt.
Matthias Kettemann, Alexander von Humboldt Institut für Internet und Gesellschaft in Berlin
Erteilt die KI basierend auf solchen Falschinformationen eine rechtliche Fehleinschätzung, kann dies für den Nutzer fatale Folgen haben. Denn verlässt man sich in solchen Fällen auf die Antworten der KI, droht häufig ein finanzieller Schaden.
Keine Haftung durch KI bei Falschberatung
Anwälte sind zum Abschluss einer Berufshaftpflichtversicherung verpflichtet und haften im Falle einer objektiv fehlerhaften - und damit pflichtwidrigen - Rechtsberatung für die hieraus erwachsenden Folgen gegenüber Ihren Mandanten. Das heißt: Sie sind also zu Schadensersatz verpflichtet.
KI-Sprachmodelle hingegen haften für ihre Inhalte nicht. Der Nutzer bleibt daher im Falle einer fehlerhaften Beratung durch die KI auf seinem hierdurch entstandenen Schaden sitzen.
Höhere Zuverlässigkeit von KI durch Training
Aktuell verfügbare KI-Sprachmodelle sind folglich nicht geeignet, rechtliche Fragen zuverlässig zu beantworten. Aufgrund der rasanten Entwicklung Künstlicher Intelligenz könnte dies in Zukunft jedoch anders aussehen.
Ich glaube, es geht auf jeden Fall in die Richtung, dass wir in vielen Bereichen gute KI-Modelle bekommen werden. Gerade wenn sie mit Fällen und Rechtsbegriffen trainiert werden.
Matthias Kettemann, Internetrechts- und KI-Experte
Es sei immer eine Frage der Trainingsdaten, erklärt Kettemann. Unspezifische Modelle wüssten zu wenig über Sonderfragen des Rechts, um verlässlich zu sein, aber: "Es gibt teilweise bereits Systeme, die in diese Richtung gehen. Wenn man die KI als Rechts-KI trainiert, dann besteht durchaus das Potential, mittelfristig entsprechende Dienstleistungen anbieten zu können."
Quelle: dpa
Sie wollen auf dem Laufenden bleiben? Dann sind Sie beim ZDFheute-WhatsApp-Channel richtig. Hier erhalten Sie die wichtigsten Nachrichten auf Ihr Smartphone. Nehmen Sie teil an Umfragen oder lassen Sie sich durch unseren Podcast "Kurze Auszeit" inspirieren. Zur Anmeldung: ZDFheute-WhatsApp-Channel.
Mehr über Künstliche Intelligenz
mit Video
Schachcomputer gehackt:Wenn die KI betrügt: Welche Folgen das hat
von Lukas Wagner
mit Video
Facebook und Instagram:Gericht erlaubt Datennutzung für KI-Training
mit Video
Mit acht Dollar Chaos schüren:Google-KI ermöglicht Flut an falschen News-Videos
von Nils Metzger