Anthropic hat am 15. Oktober 2026 ein Modell für unabhängige Prüfungen seiner KI-Systeme vorgestellt und METR darin eine besondere Rolle eingeräumt. Die Organisation bewertet leistungsfähige KI-Modelle. Sechs METR-Beschäftigte erhalten Zugang zu Hardware und Arbeitsräumen von Anthropic sowie zu internen Werkzeugen. Die Vereinbarung räumt METR außerdem weitreichende Rechte ein, Ergebnisse zu veröffentlichen.
Der Zugang entspricht nach Angaben von Anthropic weitgehend dem, den interne Teams zur Bewertung von Risiken nutzen. Ausgenommen sind unter anderem Kundendaten, Informationen unter anwaltlicher Vertraulichkeit und bestimmte Details zur Modellarchitektur. METR darf Risikoanalysen ohne ein Veto von Anthropic veröffentlichen. Das Unternehmen kann jedoch in eng umrissenen Kategorien Schwärzungen verlangen; METR darf öffentlich beschreiben, wenn solche Schwärzungen vorgenommen wurden. Die Zusammenarbeit ist vertraglich abgesichert und organisatorisch von anderer Arbeit der Organisation getrennt.
Anthropic ordnet weitere externe Prüfer in ein dreistufiges Zugangsmodell ein. In der ersten Stufe sind Untersuchungen eng begrenzt und Veröffentlichungen müssen genehmigt werden. Die zweite Stufe erlaubt Veröffentlichungen ohne vorherige Freigabe und gewährt Zugang zu mehr Informationen; Anthropic kann dabei Schwärzungen bestimmter Kategorien verlangen. METR arbeitet in der dritten Stufe mit dem breitesten Zugang und den umfassendsten Veröffentlichungsrechten.
Weitere Kooperationen befinden sich in unterschiedlichen Phasen. SecureBio prüft derzeit in der ersten Stufe das Kapitel zu chemischen und biologischen Waffenrisiken. Mit Accenture und Faculty arbeitet Anthropic an einer umfassenderen Partnerschaft, die Modellbewertungen, Red-Teaming, Alignment-Bewertungen und Tests von Schutzmaßnahmen umfassen soll. Gespräche mit Hugging Face stehen noch am Anfang. Anthropic begründet externe Prüfungen damit, dass leistungsfähigere Modelle stärkere Schutzmaßnahmen und Risikobewertungen erfordern. Zugleich könne das Unternehmen sicherheitsrelevante Informationen wegen Sicherheits- und Geschäftsinteressen nicht vollständig öffentlich machen. Das Unternehmen bezeichnet das Verfahren als freiwillig und spricht sich dafür aus, dass andere Anbieter von Frontier-Modellen ähnliche Ansätze übernehmen.