Die Geschichte heutiger KI ist eng mit Fragen aus der Psychologie und Kognitionswissenschaft verbunden. 1956 wurde der Begriff „artificial intelligence“ bei einem Workshop am Dartmouth College geprägt. Damals galt die Vorstellung, Maschinen durch passende Regeln intelligent zu machen. Der Psychologe Frank Rosenblatt verfolgte einen anderen Ansatz: Sein 1958 entwickeltes Perceptron lernte anhand von Beispielen und orientierte sich lose an der Architektur des Gehirns.
Auch die Forschung zu Lernen und Verhalten lieferte wichtige Grundlagen. Der Psychologe Donald Hebb untersuchte, wie sich Verbindungen zwischen Nervenzellen durch ihre Nutzung verstärken. In den 1980er-Jahren entwickelten David Rumelhart, Geoffrey Hinton und Ronald Williams Methoden, um neuronale Netze mit mehreren Schichten zu trainieren. Dieser Ansatz wurde später als Deep Learning bekannt. Die Netze konnten dadurch komplexere Aufgaben bearbeiten und Gelerntes auf neue Beispiele übertragen.
Für heutige Systeme waren zusätzlich technische Fortschritte nötig. Dazu zählen leistungsfähigere Rechenkapazitäten, Grafikchips und die Transformer-Architektur. Die Entwicklung verbindet damit Erkenntnisse über das Lernen mit technischen Möglichkeiten, die ihre praktische Nutzung in großem Maßstab ermöglichen. Nach der Darstellung der Kognitionswissenschaftlerinnen und Kognitionswissenschaftler, die den Beitrag verfasst haben, liegt eine zentrale Idee darin, KI aus Beispielen lernen zu lassen, statt ihr für jede Aufgabe feste Regeln vorzugeben.
Diese Herkunft hilft, typische Eigenschaften von Sprachmodellen einzuordnen. Sie rufen Antworten nicht einfach wie eine Datenbank ab, sondern erzeugen sie auf Grundlage gelernter Muster. Das kann dazu führen, dass sie falsche Angaben plausibel formulieren oder auf dieselbe Frage unterschiedlich reagieren. Ähnlich wie menschliche Erinnerungen können ihre Antworten Lücken mit naheliegenden Details füllen. Auch die Formulierung einer Frage kann beeinflussen, welche Antwort ein System gibt. Die Fähigkeit, auf neue Fragen zu reagieren, geht daher mit dem Risiko einher, dass Antworten nicht zuverlässig korrekt sind.