Die Forschenden untersuchten drei Wege, auf denen KI falsche Erinnerungen fördern kann: suggestive Fragen in Gesprächen, veränderte visuelle Inhalte und das Einbringen irreführender Informationen in Chatbot-Unterhaltungen. Die Ergebnisse stammen aus drei miteinander verbundenen Studien, die unterschiedliche Situationen und Methoden betrachteten.
In einer Untersuchung sahen 200 Teilnehmende ein Video eines Verbrechens und beantworteten anschließend Fragen. Sie wurden entweder von einem generativen Chatbot mit Large Language Model befragt, nutzten einen vorgegebenen Chatbot oder eine Umfrage oder gehörten zur Kontrollgruppe. Der generative Chatbot führte unmittelbar zu mehr als dreimal so vielen falschen Erinnerungen wie die Kontrollbedingung und zu 1,7-mal so vielen wie die Umfrage. 36,4 Prozent der Antworten in dieser Gruppe wurden durch die Interaktion in die Irre geführt. Nach einer Woche war die Zahl der durch den Chatbot ausgelösten falschen Erinnerungen laut Studie unverändert; das Vertrauen in diese Erinnerungen lag weiterhin über dem Wert der Kontrollgruppe.
Die visuelle Untersuchung umfasste ebenfalls 200 Personen, aufgeteilt auf vier Gruppen mit je 50 Teilnehmenden. Sie sahen entweder unveränderte Bilder, KI-bearbeitete Bilder, KI-generierte Videos oder Videos, die aus KI-bearbeiteten Bildern erstellt worden waren. Letztere führten zu 2,05-mal so vielen falschen Erinnerungen wie die Kontrollbedingung. Auch das Vertrauen in diese falschen Erinnerungen war in dieser Gruppe höher: Es lag beim 1,19-Fachen des Kontrollwerts.
Eine dritte Studie befasste sich damit, wie Chatbots während eines Gesprächs unauffällig falsche Informationen einbringen können. Laut MIT Media Lab löste diese Vorgehensweise häufiger falsche Erinnerungen aus als die herkömmliche Vermittlung irreführender Informationen über Text. Die Forschenden sehen mögliche Risiken insbesondere in sensiblen Bereichen wie Polizei- und Gerichtsverfahren, Therapie und dem alltäglichen Umgang mit Informationen.