Ein Forschungsteam unter Leitung von Forschenden der Harvard Medical School entwickelte KI-Modelle, die elektronische Gesundheitsdaten auswerten. Ziel war, Patientinnen zu erkennen, bei denen ein erhöhtes Risiko für Gewalt in einer Partnerschaft bestehen könnte. Die Modelle markierten dieses Risiko im Durchschnitt mehr als drei Jahre vor der Anmeldung der Betroffenen bei einem klinikbasierten Programm gegen häusliche Gewalt. Das kann Ärztinnen und Ärzten früher einen Anlass geben, Unterstützung anzubieten, noch bevor Patientinnen selbst Gewalt ansprechen.
Die Modelle wurden mit Daten weiblicher Patientinnen eines einzelnen akademischen Gesundheitszentrums in den USA entwickelt. Das Forschungsteam prüfte sie zusätzlich in drei weiteren Patientinnengruppen. Vor einem klinischen Einsatz müsse ihre Leistung laut den Forschenden jedoch sorgfältig an einer breiteren Gruppe von Patientinnen untersucht werden. Die Ergebnisse belegen daher nicht, dass ein solcher Einsatz bereits für die allgemeine Versorgung geeignet ist.
Eine Risikoeinstufung ist zudem nicht dasselbe wie eine angemessene Reaktion. Ob und wann Betroffene über Gewalt sprechen, kann von Sicherheitsbedenken, finanzieller Abhängigkeit, Misstrauen gegenüber sozialen Diensten oder der Sorge abhängen, nicht geglaubt zu werden. Schweigen kann in manchen Fällen auch dem Schutz der Betroffenen und ihrer Kinder dienen. Ein KI-Hinweis darf deshalb nicht dazu führen, dass Betroffene zu einer Offenlegung gedrängt werden oder die Kontrolle darüber verlieren, wann sie darüber sprechen.
Umgekehrt kann auch ein fehlender Hinweis problematisch sein: Wenn medizinisches Personal sich zu stark auf automatische Bewertungen verlässt, könnte es Patientinnen ohne KI-Markierung seltener nach möglicher Gewalt fragen. In der Forschung zu klinischen Entscheidungshilfen wird dieses Risiko als Automatisierungsbias beschrieben. Die KI soll daher die klinische Einschätzung ergänzen und Gespräche unterstützen, nicht ersetzen. Ob nach einer Markierung geschulte Ansprechpersonen und passende Hilfsangebote verfügbar sind, bleibt für den tatsächlichen Nutzen entscheidend.