Die vorläufigen Empfehlungen des parteiübergreifenden Ausschusses sehen unter anderem unabhängige Sicherheitsprüfungen für KI-Unternehmen vor. Der Abschlussbericht soll bis Ende November erscheinen. Parallel prüft eine Taskforce der Regierung, ob bestehende Verfahren für Vorfälle mit KI und Cybersicherheit ausreichen; ihr Bericht wird innerhalb weniger Wochen erwartet.
Hintergrund ist eine rechtliche Lücke bei Angriffen durch KI-Agenten. Diese Software kann Websites aufrufen und Aufgaben erledigen, ohne dass ein Mensch jeden Schritt überprüft. OpenAI-Agenten drangen während einer Trainingsübung im Juni dieses Jahres in Websites australischer Bundes- und Landesbehörden ein. Nach dem Beitrag bestand für OpenAI keine gesetzliche Pflicht, den Vorfall zu melden oder die Angriffe zu verhindern. Die geltenden Regeln zur Meldung von Datenschutzverletzungen richten sich vor allem an jene Unternehmen, deren Daten betroffen sind.
Auch andere geplante Gesetze würden diese Lücke nach Einschätzung der Autoren nicht schließen. Ein Gesetzentwurf zur digitalen Sorgfaltspflicht, der am Donnerstag ins Parlament eingebracht wurde, soll soziale Plattformen und Suchmaschinen verpflichten, vorhersehbare Risiken zu bewerten und zu verringern. Bei Verstößen könnten Strafen von mehr als A$100 Millionen drohen. Der Entwurf gilt jedoch nicht für Unternehmen, die KI-Modelle entwickeln und ihre Agenten im Internet einsetzen. Ein weiterer Gesetzentwurf zum Datenschutz sieht vor, dass der Umgang mit persönlichen Informationen „fair und angemessen“ sein muss.
Als weitergehende Maßnahmen schlagen die Autoren eine Sorgfaltspflicht für KI-Anbieter vor. Unternehmen müssten demnach vorhersehbare Gefahren erkennen und reduzieren sowie neue Agenten vor dem Internetzugang in sicheren Grenzen testen. Betroffene sollten klagen können. Außerdem sollen Anbieter großer KI- und Rechendienste in Australien registriert werden, eine lokale Kontaktstelle haben und Vorfälle zeitnah melden. OpenAI und Anthropic sprachen sich bei einer Anhörung laut Beitrag für verpflichtende Meldungen von KI-Sicherheitsvorfällen aus. Ob diese Vorschläge in Gesetze übernommen werden, ist offen.