Ein Professor für Managementinformationssysteme an der Drexel University bezeichnet dieses Risiko als „latent risk“: Eine Organisation ist weiterhin darauf angewiesen, dass Menschen eigenständig urteilen und bei Bedarf übernehmen können, während diese Fähigkeiten durch seltene Übung nachlassen. Solange die KI funktioniert, bleibt das Problem möglicherweise unbemerkt. Sichtbar wird es erst, wenn ein System einen Fehler macht oder nicht weiterkommt und menschliches Eingreifen nötig ist.
Mit dem zunehmenden Einsatz von KI verschiebt sich laut dem Professor auch die Arbeitsteilung. Aufgaben, bei denen Beschäftigte früher selbst Probleme analysierten und Entscheidungen trafen, können zunehmend von KI übernommen werden. Menschen prüfen dann Empfehlungen, statt die ursprüngliche Arbeit auszuführen. Die verbleibenden Fälle können zugleich anspruchsvoller sein, weil gerade dort Erfahrung und unabhängiges Urteilsvermögen gefragt sind.
Die Forschung zu Automatisierung beschreibt verwandte Risiken. Der Begriff „automation bias“ steht dafür, dass Menschen Probleme übersehen oder automatisierten Empfehlungen folgen können, obwohl andere Hinweise dagegen sprechen. Beim „out-of-the-loop performance problem“ geht es darum, dass Menschen nach geringerer Beteiligung schlechter darauf vorbereitet sein können, eine Aufgabe wieder selbst zu übernehmen. Bereits vor mehr als vier Jahrzehnten beschrieb die Kognitionspsychologin Lisanne Bainbridge eine „Ironie der Automatisierung“: Wenn Systeme mehr Arbeit übernehmen, müssen Menschen nicht nur weniger ausführen, sondern auch Systeme überwachen und ungewöhnliche Situationen bewältigen.
Daraus kann ein Missverhältnis entstehen: Beschäftigte behalten möglicherweise die Befugnis, KI-Empfehlungen zu überstimmen, und bleiben für Ergebnisse verantwortlich, verlieren aber an Fähigkeit, wirksam einzugreifen. Genauigkeit und Produktivität allein zeigen laut dem Professor nicht, ob sie dafür bereit sind. Auch eine sinkende Zahl von Eingriffen lässt sich unterschiedlich deuten: Sie kann auf stärkere Abhängigkeit hindeuten, aber ebenso darauf, dass die KI genauer geworden ist. Deloitte gestaltet beispielsweise die Ausbildung angehender Wirtschaftsprüfer neu und führt Simulationen ein, damit sie trotz automatisierter manueller Arbeiten Urteilsvermögen entwickeln können.