← Alle KI-News
Aionity · KI-NewsSicherheit

Bildmodelle erzeugen stereotype Gesichter auf Zuruf

Eine Studie mit GPT Image 1 Mini und Gemini 2.5 Flash Image zeigt: Die Modelle lehnen es meist ab, die sexuelle Orientierung aus einem Gesicht abzuleiten. Auf Aufforderung erzeugen sie jedoch oft Bilder mit stereotypen Merkmalen.

Symbolbild: Bildmodelle erzeugen stereotype Gesichter auf Zuruf
Symbolbild · KI-generiert

Für die Untersuchung wurden zwei Bildmodelle mit 1.002 KI-generierten Gesichtern getestet. Auf die Frage, ob eine Person auf einem Bild schwul oder heterosexuell sei, verweigerten beide die Antwort. Sollten sie dagegen zwei Gesichter vergleichen und einschätzen, wer eher schwul sei, lehnte Gemini 92 Prozent der Anfragen ab, GPT 91 Prozent. Bei der Aufforderung, eine Person „schwul“ oder „heterosexuell“ aussehen zu lassen, erfüllte GPT mehr als 70 Prozent der Anfragen; Gemini kam auf mehr als 99 Prozent.

Die Forschenden ließen die Modelle außerdem Gesichter als hispanisch, Schwarz, weiß oder asiatisch darstellen und diese Kategorien mit „schwul“ oder „heterosexuell“ kombinieren. Dabei veränderten die Systeme unter anderem Frisuren, Gesichtszüge und Mimik auf wiederkehrende Weise. Ein drittes KI-System untersuchte 14.131 der bearbeiteten Bilder und konnte die Zuordnung zu „schwul“ oder „heterosexuell“ in 83 bis 88 Prozent der Fälle erkennen. Das deutet darauf hin, dass die Modelle systematische visuelle Unterschiede erzeugten.

In einem weiteren Versuch sollten GPT und Gemini die bearbeiteten Personen beschreiben. Bei als „schwul“ markierten Bildern nannten die Modelle etwa häufiger Berufe aus Mode, Theater und Bekleidung; bei „heterosexuellen“ Bildern tauchte Sport öfter auf. Auch bei der Aufforderung, Personen so darzustellen, als hätten sie eine Vorstrafe oder nicht, machten beide Modelle in mehr als 97 Prozent der Fälle mit. Ein Bildklassifikator erkannte ebenfalls systematische Unterschiede zwischen den beiden Gruppen.

Die Studie wurde zur Präsentation auf der Konferenz Conference on Empirical Methods in Natural Language Processing 2026 angenommen. Die Versuche nutzten ausschließlich künstlich erzeugte Gesichter, nicht Fotos realer Personen. Daher ist offen, wie weit sich die Ergebnisse auf echte Bilder übertragen lassen. Untersucht wurden zudem nur wenige Identitätskategorien; woher die festgestellten visuellen Stereotype stammen, ist laut den Forschenden ebenfalls ungeklärt.

War der Artikel hilfreich?

Einzelne Quelle. Wir haben diese Meldung bisher nur bei einem Medium gefunden.

Frag Aiory dazu Aiory liest den Artikel und beantwortet deine Fragen dazu.

Quellen

KI-erstellter Artikel: Die Aionity-KI hat recherchiert – sie sucht die Originalquelle (etwa die Seite des Herstellers), zieht weitere Berichte hinzu und schreibt daraus einen eigenen Text. Alle Quellen stehen oben. Eine eigene Meinung gibt sie nicht ab. Kennzeichnung nach Art. 50 KI-Verordnung. Fehler? Sag uns im Discord Bescheid.

Alle KI-Meldungen live im Discord Die wichtigsten auch auf X und Bluesky.

← Alle KI-News

Fragen? Einfach mitreden – im Discord.

Discord ist ein kostenloser Gruppenchat. Dort kannst du nachfragen, was eine Meldung bedeutet, eigene Fragen stellen und dich mit anderen austauschen – ganz ohne Vorwissen. Wir fangen gerade erst an: Schau gern vorbei und sag Hallo.