OpenAI reagiert damit nach eigenen Angaben auf den EU AI Act, der Anbieter generativer KI dazu verpflichtet, erzeugte Texte maschinenlesbar kenntlich zu machen. Die Wasserzeichen sollen zunächst nicht standardmäßig weltweit aktiviert sein. Für ausgewählte Modelle können API-Kunden die Funktion seit dem 5. Oktober weltweit freiwillig einschalten. In den kommenden Wochen will OpenAI außerdem geeignete Textausgaben von ChatGPT und Codex in der EU über alle Tarife hinweg mit unsichtbaren Wasserzeichen versehen. Auch über Cloud-Partner sollen Wasserzeichen für Ausgaben von OpenAI-Modellen verfügbar werden.
Die Technik heißt textGrain. Sie verändert laut OpenAI statistisch die Auswahl von Wörtern und fügt so ein unsichtbares Signal in den Text ein. Ein Detektor prüft, ob dieses Signal vorhanden ist. OpenAI sagt, die Tests hätten mit getesteten Alternativen, darunter SynthID for text, gleichgezogen oder sie übertroffen. Zugleich könne die Erkennung in der Praxis unzuverlässig sein. Bei einer angestrebten Falsch-Positiv-Rate von 1 Prozent erkannte der Detektor Wasserzeichen in etwa 80 Prozent der untersuchten psychologischen Textpassagen mit 200 Token und in 95 Prozent der Passagen mit 400 Token. Bei Mathematik fielen die Ergebnisse deutlich niedriger aus.
Auch kleine Änderungen können die Erkennung beeinträchtigen: In 400-Token-Texten sank die Erkennungsrate laut OpenAI von etwa 92 auf 66 Prozent, wenn 10 Prozent der Wörter durch Synonyme ersetzt wurden. Bei einem Austausch von 25 Prozent der Wörter fiel sie auf 17 Prozent. Der Detektor wird zum Start nicht öffentlich angeboten. Seit dem 5. Oktober können Forschende und spezialisierte Organisationen Zugang beantragen; OpenAI will die Anträge zunächst einzeln prüfen. Das Unternehmen plant außerdem, technische Details zu veröffentlichen und textGrain als Open Source bereitzustellen.
Ein Wasserzeichen belegt laut OpenAI weder den Anteil menschlicher Mitwirkung noch Urheberschaft, Rechtmäßigkeit, Verantwortung, Identität oder Richtigkeit eines Textes. Umgekehrt beweist ein nicht erkanntes Wasserzeichen nicht, dass ein Mensch den Text verfasst hat.