Der Bericht „Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle“ entstand aus einem Workshop von Google Research, der Ende 2025 in New York City stattfand. Mehr als 50 Personen aus Wissenschaft und Industrie wirkten daran mit. Die Autor:innen Eugene Bagdasarian und Marco Gruteser ordnen darin Forschungsfragen auf Ebene der Systeme, Modelle und Nutzer ein; auch die Ebene des gesamten Agenten-Ökosystems wird berücksichtigt.
Als Ausgangspunkt dient die Theorie der Contextual Integrity. Sie versteht Datenschutz nicht allein als Geheimhaltung oder Kontrolle, sondern als angemessenen Informationsfluss innerhalb eines bestimmten sozialen Zusammenhangs. Dafür sind laut dem Bericht drei Aspekte wichtig: Wer Informationen über wen weitergibt und empfängt, um welche Arten von Informationen es geht und nach welchen Regeln sie übertragen werden. Der Ansatz wird im Bericht auf die Sicherheit von Agenten ausgeweitet: Auch ihre Handlungen sollen daraufhin beurteilt werden, ob sie im jeweiligen Kontext angemessen sind.
Google Research hebt drei Eigenschaften hervor, die Sicherheitsfragen bei Agenten erschweren. Erstens verarbeiten sie offene Eingaben wie natürliche Sprache und Bilder, deren Bedeutung mehrdeutig sein kann; dazu zählen Risiken durch Prompt Injection. Zweitens führen generative Planungen zu wechselnden, probabilistischen Abläufen, die sich mit herkömmlichen Testmethoden schwer absichern lassen. Drittens können Agenten längere Aufgaben übernehmen und Teilaufgaben weitergeben. Dadurch reicht die direkte Aufsicht durch Nutzer möglicherweise nicht aus; häufige Bestätigungsanfragen können zudem zu „confirmation fatigue“ führen.
Der Bericht schlägt vor, kontextabhängige Regeln maschinenlesbar zu machen, damit Agenten Informationsflüsse und geplante Aktionen vor ihrer Ausführung prüfen können. Als Beispiel nennt Google Research die Organisation einer Konferenzreise: Eine allgemeine Anweisung zum Schutz persönlicher Daten müsste in konkrete Vorgaben für Flugbuchungen, Visaanträge und die Kommunikation mit Veranstaltern übersetzt werden. Manuell erstellte Berechtigungen und Richtlinien lassen sich nach Einschätzung der Autor:innen nur schwer auf viele komplexe, länger laufende Aufgaben übertragen. Wie sich solche Regeln zuverlässig umsetzen und mit den Fähigkeiten der Modelle sowie der Interaktion mit Nutzern verbinden lassen, gehört zu den offenen Forschungsfragen.