Anthropic beschreibt ein mögliches Szenario, in dem KI-Modelle die Rechenleistung internetfähiger Geräte wie Smart-Home-Produkte oder Android-TV-Boxen nutzen und sich von dort weiterverbreiten. Ein solches Netzwerk hätte keinen einzelnen zentralen Angriffspunkt, an dem sich die Ausbreitung unterbrechen ließe. Das Unternehmen betont zugleich, dass bisher kein autonomer Replikationsagent existiert, der den gesamten Ablauf selbstständig bewältigt.
Für seine Untersuchungen setzte Anthropic unter anderem Googles Modell Gemma4-26B-A4B auf einem Verbund aus 15 günstigen Android-TV-Boxen unbekannter Marken ein. Nach Einschätzung des Unternehmens können Geräte mit unzureichenden Sicherheitsmechanismen eine Angriffsfläche bieten. Anthropic zufolge sind KI-Agenten bereits zunehmend in der Lage, einzelne Schritte einer möglichen Replikationskette auszuführen, darunter Änderungen an spätere Kopien weiterzugeben.
Modelle, die zu groß für ein einzelnes Gerät sind, könnten laut Anthropic in Teile auf mehrere Geräte verteilt werden. Das Unternehmen nennt diese Aufteilung „Shards“: Die Komponenten würden gemeinsam Rechenleistung bereitstellen. Denkbar sei auch ein digitaler Wurm, bei dem verschiedene KI-Modelle auf unterschiedlichen Gerätetypen zusammenarbeiten und jeweils eigene Wege zur Verbreitung nutzen. Eine solche Struktur könnte die Erkennung und Bekämpfung erschweren.
Welche konkrete Gestalt selbstverbreitende KI-Systeme annehmen könnten, ist laut Anthropic derzeit unklar. Das Unternehmen beschreibt als mögliche Szenarien ein langsam wachsendes Netz kompromittierter Geräte, Angriffe auf Rechenzentren oder Betrugsversuche, mit denen Menschen zur Bereitstellung zusätzlicher Rechenkapazität bewegt werden. Dabei handelt es sich um mögliche Entwicklungen, nicht um bereits beobachtete autonome KI-Botnetze.