Block, das Unternehmen hinter Square, Cash App und Afterpay, nutzt KI-Systeme für Aufgaben seines Sicherheitsteams. Dazu zählt OpenAI Daybreak. Nach Angaben von Block unterstützt die Technologie dabei, Bedrohungen zu untersuchen und Änderungen an Erkennungsregeln vorzuschlagen. Mitarbeitende prüfen die Ergebnisse, können Aufgaben übernehmen und steuern, ob Codeänderungen umgesetzt werden.
Bei einem internen Beispiel verband Daybreak Hinweise aus Protokollen von Endgeräten und Identitätssystemen. Dadurch wurde aus einer routinemäßigen Warnung zu einem Laptop eine Untersuchung mit einem größeren Zusammenhang. Block zufolge kann das Team vorgeschlagene Änderungen an Erkennungsregeln anhand von sieben Monaten produktiver Telemetriedaten in weniger als einer Stunde erneut ausführen.
In jüngsten Red-Team-Übungen dauerte es laut Block 18 Minuten, bis nach Übermittlung einer allgemein beschriebenen Schwachstelle ein automatisiert vorgeschlagener Patch vorlag. In einer weiteren Übung stellte Daybreak innerhalb von etwa zwei Stunden einen Angriffspfad zusammen. Dieser umfasste SQL-Injection, eine Ausweitung von Berechtigungen, das Einrichten eines Zugangs, das Ermitteln von Zugangsdaten und die Bewegung zu weiteren Systemen. Ein menschliches Red-Team-Mitglied benötige dafür typischerweise mehrere Tage, so Block.
Block beziffert die durch die Bearbeitung von Fehlalarmen eingesparte Zeit auf rund 600 Analystenstunden pro Quartal. Weitere rund 1.100 Analystenstunden pro Quartal entfallen laut Unternehmen auf Untersuchungen. Außerdem berichtet Block von jeweils 50 Prozent mehr Durchsatz bei der Triage sowie bei der Informationsbeschaffung und den Untersuchungen. Frei werdende Zeit fließe in umfassendere Analysen und verantwortungsvolle Automatisierung. Das Team bewertet die Systeme anhand interner Vergleichstests und ihrer Leistung in realen Einsätzen; bei Bedarf werden Aufgaben zur menschlichen Prüfung weitergeleitet.