Mehr Kontrolle, weniger Fairness? Der paradoxe Einfluss von Personalisierung und Erklärungen bei KI-basierten Kreditentscheidungen

Künstliche Intelligenz (KI) dringt zunehmend in Kontexte sensibler Entscheidungsprozesse ein, unter anderem in die Kreditvergabe. Infolgedessen gewinnt im Zuge von Erklärungen, Explainable AI (XAI) zunehmend an Bedeutung, wobei auch die Art der Erklärung und die Möglichkeit der Personalisierung des Prozesses die Wahrnehmung von Personen auf KI beeinflusst. Die vorliegende Studie untersuchte den Einfluss von personalisierten Erklärungen und wahrgenommener Kontrolle auf die Reaktionen von Individuen gegenüber KI-basierten Entscheidungssystemen. In einer szenariobasierten Vignettenstudie (N = 193) wurden die Teilnehmer in die Rolle von Kreditantragstellern versetzt und randomisiert einem 2 × 3 Between-Subjects-Design zugewiesen. Manipuliert wurden hierbei die Möglichkeit zur Personalisierung durch ein Ranking von Merkmalen (gegeben vs. nicht gegeben) sowie die Art der bereitgestellten Erklärung (umsetzbar, allgemeine oder keine Erklärung). Die Ergebnisse zeigen, dass die Möglichkeit zur Personalisierung die wahrgenommene Kontrolle über den Entscheidungsprozess erhöhte, jedoch nicht zu allgemein positiveren Reaktionen führte. Überraschenderweise wurde die Kreditvergabe als fairer wahrgenommen, wenn keine Personalisierung möglich war. Zudem wurden allgemeine Erklärungen als informativer und umsetzbarer bewertet als keine Erklärung, jedoch ohne signifikanten Einfluss auf die Wahrnehmung von Fairness oder prozeduraler Gerechtigkeit. Umsetzbare Erklärungen wurden zwar als anwendungsfreundlicher wahrgenommen, führten aber ebenfalls nicht zu einer höheren Wahrnehmung von Fairness. Diese Befunde bieten neue Perspektiven auf die Rolle von Kontrolle und Transparenz in KI-basierten Entscheidungssystemen. Insbesondere könnte die Erwartung einer personalisierten Einflussnahme in Kombination mit einer negativen Entscheidung zu unerwarteten Reaktanz-Effekten führen. Die Ergebnisse liefern wertvolle Implikationen für 2 die Gestaltung von XAI und zeigen auf, dass eine bloße Erhöhung der wahrgenommenen Kontrolle nicht zwangsläufig zu einer positiveren Bewertung von KI führt.