Die am 12. Oktober 2026 angekündigten Maßnahmen sollen bestehende Tests ausweiten, bei denen KI zur Erkennung von Cyberbedrohungen und Schwachstellen in Regierungssystemen eingesetzt wurde. Die beiden Pilotprojekte hätten mehr als 1.000 potenzielle Schwachstellen identifiziert und deren Behebung unterstützt. Mit einem größeren Programm will die Regierung kurzfristig Risiken für öffentliche Dienste senken und den Einsatz der Technologie im öffentlichen Sektor weiterentwickeln.
Zusätzlich prüft die Regierung, ob das Cyber Security and Resilience Bill und die dazugehörigen Regeln erweitert werden sollen. Dabei geht es unter anderem darum, wie schwerwiegende KI-Vorfälle und Beinahe-Vorfälle erkannt und gemeldet werden können. Auch wichtige Dienste wie Krankenhäuser und Versorgungsunternehmen sollen besser vor Risiken geschützt werden, die mit KI verbunden sind. Dazu zählt laut Regierung der mögliche Verlust menschlicher Kontrolle, wenn autonome Systeme sich der Aufsicht entziehen.
Gemeinsam mit dem National Cyber Security Centre und dem AI Security Institute untersucht die Regierung außerdem, wie sie auf Vorfälle mit KI-Agenten reagieren sollte. Diese Agenten können komplexe Aufgaben mit wenig menschlicher Aufsicht erledigen. Ein größerer Vorfall könnte sich nach Einschätzung der Regierung schneller und weiter ausbreiten als andere Krisen, auf die staatliche Stellen vorbereitet sind. Deshalb sollen neue Fachkenntnisse und Fähigkeiten für den Umgang mit solchen Ereignissen aufgebaut werden.
Das AI Security Institute führt nach Angaben der Regierung außerdem umfassende Bewertungen der neuesten Generation fortgeschrittener KI-Modelle durch. Die Arbeit folgt auf eine Zusammenarbeit mit führenden KI-Entwicklern und der US-Regierung. KI-Minister Kanishka Narayan erklärte, die britische Regierung wolle ihre Abwehr stärken, Risiken untersuchen und auf Fehlentwicklungen reagieren. Dazu zählten sowohl technische Maßnahmen als auch mögliche gesetzliche Regelungen. Die Regierung will zudem prüfen, wie Erkenntnisse aus Beinahe-Vorfällen schneller genutzt werden können, um Risiken zu verringern.