KI entscheidet über Kredit, Job und Wohnung: Welche Regeln gelten

Immer mehr Entscheidungen werden mithilfe von Künstlicher Intelligenz getroffen. Für Betroffene kann das erhebliche Folgen haben: Eine Jobchance wird verpasst, eine fragwürdige medizinische Diagnose wird gestellt oder ein Kreditantrag wird abgelehnt.

Umso wichtiger ist es zu wissen, an welcher Stelle KI Entscheidungen beeinflusst, und wie man sich gegen Benachteiligungen wehren kann.

Version in einfacher Sprache

KI-Entscheidungen können laut Juristin Eugénie Zobel-Varga, Rechtsexpertin bei der Stiftung Warentest, überall dort problematisch sein, wo es für die Betroffenen wirklich um etwas geht.

Zudem bestehen Risiken der Diskriminierung. "Wenn in den Trainingsdaten eine Schieflage steckt, zum Beispiel, weil bestimmte Bevölkerungsgruppen in der Vergangenheit seltener Kredite bekommen haben, dann übernimmt die KI dieses Muster", so Zobel-Varga.

Besonders heikel sei der KI-Einsatz laut Zobel-Varga bei Bewerbungen, etwa wenn Lebensläufe oder Video-Interviews automatisiert ausgewertet werden. Auch bei der Wohnungssuche gewinnen automatisierte Mieter-Scorings an Bedeutung, während im Online-Handel personalisierte Preise oft ohne nachvollziehbare Begründung angezeigt werden.

In welchen Bereichen KI bereits mitentscheidet

Hinweise auf KI können sehr schnelle Entscheidungen oder Begriffe wie "Scoring", "automatisierte Verarbeitung" oder "Profilbildung" sein. Auch Datenschutzerklärungen und Nutzungsbedingungen können Hinweise auf den Einsatz von KI liefern. Erhärtet sich der Verdacht, könne man per E-Mail mit Verweis auf das Auskunftsrecht nach Artikel 15 der Datenschutz-Grundverordnung (DSGVO) nachfragen, ob eine automatisierte Entscheidung getroffen wurde, so Zobel-Varga.

Wurde KI eingesetzt, muss das Unternehmen die Entscheidungslogik und die Auswirkungen auf die betroffene Person darlegen und binnen eines Monats Auskunft geben.

Eugénie Zobel-Varga empfiehlt ein schrittweises Vorgehen. Fragen Sie zunächst nach, ob und wie KI eingesetzt wurde. Unternehmen müssen die Entscheidungsgrundlage verständlich darlegen. Fordern Sie Im zweiten Schritt eine menschliche Überprüfung. Bei rein automatisierten Entscheidungen haben Sie nach Artikel 22 DSGVO Anspruch darauf.

Des Weiteren besteht die Möglichkeit, Beschwerde einzulegen. Reagiert das Unternehmen nicht, können Sie sich kostenfrei an Datenschutzbehörden oder Verbraucherzentralen wenden. Verbraucherzentralen sind nicht nur beratend tätig, sondern können Unternehmen bei systematischen Verstößen auch abmahnen. Hat eine fehlerhafte oder diskriminierende KI-Entscheidung Nachteile verursacht, können Ansprüche auf Schadensersatz bestehen - etwa nach dem Allgemeinen Gleichbehandlungsgesetz.

Musterbrief: Auskunft über KI-Entscheidungen

Schon seit 2018 schreibt die DSGVO vor, dass automatisierte Entscheidungen mit erheblichen Auswirkungen offengelegt werden müssen - etwa bei Kreditablehnungen oder der Bewerberauswahl. "Rein automatisierte Einzelentscheidungen sind in solchen Fällen grundsätzlich sogar verboten, es sei denn, es gibt eine ausdrückliche Einwilligung oder eine andere rechtliche Grundlage", sagt Zobel-Varga.

Mit der EU-KI-Verordnung (AI Act) werden die Regeln verschärft: Schon seit Februar 2025 sind bestimmte Praktiken wie Social Scoring verboten. Ab dem 2. August 2026 müssen Unternehmen den Einsatz von KI klar kennzeichnen. Für Hochrisiko-KI, etwa bei Personalentscheidungen, Krediten oder Versicherungen, gelten zudem strenge Auflagen, darunter menschliche Aufsicht und ein Recht auf Erklärung der Entscheidung.

Julia Ludolf ist Redakteurin der ZDF-Sendung "Volle Kanne - Service täglich".