Simon Willison hat llm-openai-decisions 0.1a0 veröffentlicht. Das Plugin stellt eine Verbindung zur Decisions API von OpenAI her und orientiert sich an seinem bestehenden Plugin llm-typesafe für Jev. OpenAI hatte die API zuvor beim DevDay angekündigt. Für die Umsetzung ließ Willison GPT-6 Astra die Dokumentation der API auswerten und das Plugin erstellen. Das Modell GPT-6 Astra ist dabei von dem in der API verwendeten gpt-6-luna zu unterscheiden.
Die API unterstützt drei Arten von Fragen: Antworten mit Ja oder Nein, eine Auswahl zwischen vorgegebenen Möglichkeiten sowie Bewertungen durch Punktzahlen. Diese Fragetypen gibt es laut der Beschreibung auch bei Jev. Ein Unterschied betrifft die Eingaben: gpt-6-luna kann sowohl Text als auch Bilder verarbeiten, während Jev laut Willisons Angaben keine Bildeingaben unterstützt.
Für Eingabetokens berechnet OpenAI 10 Cent pro einer Million Tokens. Jev berechnet dafür 4,2 Cent pro einer Million Tokens. Für Ausgabetokens fallen bei beiden Modellen nach den Angaben keine Kosten an. Die Preise beziehen sich somit auf die Eingabe; der beschriebene Gebührenvergleich macht keine Aussage über weitere mögliche Kosten bei der Nutzung der jeweiligen Dienste.
Installiert wird das Plugin mit dem Befehl `llm install llm-openai-decisions`. Ein dokumentiertes Beispiel übergibt gpt-6-luna ein Bild mit zwei Pelikanen und fragt, ob es Säugetiere enthalte. Die Antwort hat den Typ `predicate`, den Namen `evaluation` und eine Wahrscheinlichkeit von 0.0. Das Beispiel zeigt damit eine Ja-Nein-Abfrage zu einem Bild. Für die beiden anderen Fragetypen verweist Willison auf die README des Plugins.