KI entscheidet mit: Was tun bei Ungerechtigkeit?

Immer öfter helfen Computer-Programme, dabei, wichtige Entscheidungen zu treffen.

Diese Programme nennt man Künstliche Intelligenz oder kurz KI.

Die Künstliche Intelligenz (KI) kann zum Beispiel entscheiden, ob jemand einen Kredit bekommt.

Oder ob jemand eine Arbeits-Stelle bekommt.

Manchmal ist das nicht gut für die Menschen.

Es ist wichtig zu wissen, wann die KI entscheidet.

Man kann sich wehren. Das ist wichtig, wenn man ungerecht behandelt wird.

Eugénie Zobel-Varga ist eine Rechts-Expertin bei der Stiftung-Warentest.

Sie sagt: KI-Entscheidungen können problematisch sein, wenn es um wichtige Dinge geht.

Zum Beispiel:

• Wenn eine KI einen Kredit ablehnt.

• Wenn eine KI Bewerbungen aussortiert.

• Wenn eine KI eine Versicherung teurer macht.

Das hat Folgen für die Menschen.

Es kann auch sein, dass die KI Menschen ungerecht behandelt.

Das nennt man Diskriminierung.

Das passiert zum Beispiel, wenn die KI aus alten Daten lernt.

Wenn zum Beispiel früher bestimmte Menschen seltener Kredite bekamen, macht die KI das vielleicht auch so.

Besonders schwierig ist, wenn Unternehmen KI bei Bewerbungen einsetzen.

Zum Beispiel, wenn die KI Folgendes prüft:

• Lebens-Läufe

• Video-Interviews

Auch wenn Sie eine Wohnung suchen, können Unternehmen KI nutzen.

Sie hilft, Mieter auszuwählen.

Im Online-Handel zeigt die KI manchmal verschiedene Preise an.

Man weiß dann nicht, warum der Preis anders ist.

KI entscheidet schon in vielen Bereichen mit:

• Geld: Wer bekommt einen Kredit? Wer ist vertrauenswürdig? Die KI soll Betrug erkennen.

• Wohnung: Die KI hilft dabei, Mieter auszuwählen. Wer hat Schulden?

• Arbeit: Welche Bewerber passen? Wie gut ist jemand?

• Gesundheit: Wie werden Anträge bei der Kranken-Kasse bearbeitet? Welche Diagnose gibt es? Welche Behandlung ist gut? Wer bekommt welchen Termin?

• Versicherung: Welchen Schaden gibt es? Wie hoch ist das Risiko? Wie hoch ist der Preis für die Versicherung?

Manchmal merkt man es an schnellen Entscheidungen.

Oder an Wörtern wie:

• "Bewertung"

• "automatische Bearbeitung"

• "Profil-Bildung"

Bewertung bedeutet, dass man Punkte bekommt. Diese Punkte zeigen, wie gut oder schlecht jemand ist. Auch in den Datenschutz-Erklärungen oder Nutzungs-Bedingungen kann man Hinweise finden.

Sie können bei Unternehmen nachfragen, wenn Sie vermuten, dass eine KI entschieden hat.

Schreiben Sie eine E-Mail.

Berufen Sie sich auf Ihr Auskunfts-Recht nach Artikel 15 der Datenschutz-Grundverordnung (DSGVO).

Wenn ein Unternehmen eine KI eingesetzt hat, muss es Folgendes erklären:

• Wie es die Entscheidung getroffen hat.

• Welche Folgen das für Sie hat.

Das Unternehmen muss Ihnen innerhalb eines Monats antworten.

Eugénie Zobel-Varga rät zu diesen Schritten:

1. Fragen Sie nach. Das ist wichtig, um zu wissen, ob und wie KI eingesetzt wurde.

Das Unternehmen muss die Entscheidung verständlich erklären.

2. Fordern Sie, dass ein Mensch die Entscheidung prüft.

Bei rein automatischen Entscheidungen haben Sie das Recht dazu.

Das steht in Artikel 22 der Datenschutz-Grundverordnung (DSGVO).

3. Sie können auch Beschwerde einlegen.

Wenn das Unternehmen nicht reagiert, können Sie sich an die Datenschutz-Behörden oder Verbraucher-Zentralen wenden.

Das ist kostenlos.

Verbraucher-Zentralen beraten nicht nur.

Sie können Unternehmen auch abmahnen, wenn sie sich immer wieder nicht an die Regeln halten.

4. Wenn eine falsche oder ungerechte KI-Entscheidung Ihnen geschadet hat, können Sie Schadens-Ersatz fordern.

Zum Beispiel nach dem Allgemeinen Gleichbehandlungs-Gesetz.

Muster-Brief:

Die Stiftung-Warentest hat einen Muster-Brief.

Damit können Sie Auskunft über KI-Entscheidungen nach Artikel 22 der Datenschutz-Grundverordnung (DSGVO) verlangen.

In der Datenschutz-Grundverordnung gibt es Regeln.

Sie sagt: Unternehmen müssen automatische Entscheidungen mit großen Folgen erklären.

Zum Beispiel:

• Bei einem Kredit

• Bei Bewerbungen

Zobel-Varga sagt: Reine automatische Entscheidungen sind in solchen Fällen verboten.

Es sei denn, Sie haben zugestimmt.

Oder es gibt einen anderen Grund im Gesetz.

Die EU-KI-Verordnung, macht die Regeln noch strenger. Das KI-Gesetz ist ein Gesetz der Europäischen-Union (EU). Es soll sicherstellen, dass Künstliche-Intelligenz sicher und fair eingesetzt wird.

Seit Februar 2025 sind bestimmte Dinge verboten.

Zum Beispiel die "Soziale Bewertung".

Das bedeutet, dass Menschen nach ihrem Verhalten bewertet werden.

Ab dem 2. August 2026 müssen Unternehmen den Einsatz von KI klar zeigen.

Für Hochrisiko-KI gibt es strenge Regeln.

Das ist KI, die bei wichtigen-Dingen eingesetzt wird.

Zum Beispiel bei:

• Personal-Entscheidungen

• Krediten

• Versicherungen

Dann muss immer ein Mensch die KI überwachen.

Und Sie haben das Recht, dass die Entscheidung erklärt wird.