Die Untersuchung befasst sich damit, wem Verbraucherinnen und Verbraucher bei Empfehlungen vertrauen. Bisherige Forschung beschreibt häufig eine Abneigung gegen algorithmische Entscheidungen: Menschen bevorzugen demnach oft menschliche Beratung, selbst wenn ein Algorithmus objektiv bessere Ergebnisse liefert. Die Forschenden berichten jedoch von einem Kontext, in dem sich diese Präferenz umkehren kann: nach einer Diskriminierungserfahrung im Kontakt mit einem Anbieter oder in einem öffentlichen Umfeld.
Für eine Feldstudie auf einem Universitätsgelände bearbeiteten Personen Kreditanträge. Die dafür eingesetzten Prüfenden waren Mitglieder des Forschungsteams. Sie nutzten nahezu identische Fragebögen; eine Variante enthielt zusätzlich eine Frage zur selbst eingeschätzten Hautfarbe. Alle Antragstellenden erhielten eine Absage. Personen, denen die Frage zur Hautfarbe gestellt worden war, berichteten anschließend häufiger, sich diskriminiert gefühlt zu haben.
Bei einer späteren Befragung konnten die Teilnehmenden wählen, ob ein Mensch oder ein KI-System ihre Unterlagen beurteilen sollte. Eine deutlich höhere Zahl derjenigen, die sich in der ersten Phase diskriminiert gefühlt hatten, entschied sich für die KI. Die Forschenden führen diesen Zusammenhang auf Verlegenheit zurück: Wer sich ungerecht behandelt oder sozial bewertet fühlt, könnte eher ein System wählen, das als frei von Emotionen und Vorurteilen wahrgenommen wird.
Die Ergebnisse deuten darauf hin, dass Diskriminierung in einem Bereich die Wahl von Beratung in einem anderen, davon unabhängigen Bereich beeinflussen kann. Eine KI wird dabei nicht automatisch als objektiv beschrieben, sondern als neutral wahrgenommen. Wenn ein KI-System selbst Vorurteile enthält, kann es laut den Forschenden die Diskriminierung verstärken, der Verbraucherinnen und Verbraucher ausweichen wollten. Die Studie zeigt damit einen möglichen Zusammenhang zwischen erlebter Benachteiligung, Verlegenheit und der Wahl einer KI als Beraterin oder Berater.