Billigere AI-model og agenter, der arbejder videre efter chatten

OpenAI brugte sin DevDay i San Francisco den 29. september på to hovedbudskaber: avancerede AI-modeller skal blive billigere at bruge, og agenter skal kunne arbejde videre med opgaver, efter at brugeren har forladt chatten. Blandt nyhederne var GPT-6.1 Sol, hastighedsniveauet Ultrafast, en forhåndsvisning af Decisions API og de altid aktive Dots-agenter. Samtidig havde OpenAI sat lanceringen af GPT-6.1 Astra på pause efter sikkerhedsmæssige bekymringer i interne tests. 24

GPT-6.1 Sol skal levere meget for pengene

OpenAI beskriver GPT-6.1 Sol som en større opgradering af GPT-6 Sol med stærke evner inden for agentbaseret kodning, computerbrug og professionelt arbejde. Ifølge selskabet nærmer Sol sig GPT-6 Astras intelligens, men koster en femtedel af Astras standardpris for input- og outputtokens. Det er OpenAIs egen vurdering – ikke en uafhængig dokumentation for, at modellerne præsterer ens. 2

De oplyste standardpriser for API'et er 2 dollar pr. million inputtokens, 0,10 dollar pr. million cachede inputtokens og 10 dollar pr. million outputtokens. OpenAI oplyste, at Sol er tilgængelig for brugere af API, Plus, Pro, Business, Enterprise og Edu. 159

En lavere pris kan give udviklere mulighed for at køre mere komplekse arbejdsgange inden for samme budget. DevDay blev afholdt på et tidspunkt med stigende interesse for AI-produkter, men kilderne fastslår hverken et præcist rekordtal for efterspørgslen eller, at kapacitetspres direkte førte til netop disse produktbeslutninger. 29

Ultrafast og Decisions API giver udviklere flere muligheder

Ultrafast er et premium-hastighedsniveau til opgaver, hvor svartid betyder meget. OpenAI siger, at det kan give op til otte gange hurtigere token-generering i Codex og op til seks gange hurtigere i API'et. GPT-6 Astra var først tilgængelig med Ultrafast, mens Sol-versionen skulle komme senere. 29

Decisions API blev lanceret i en begrænset forhåndsvisning. Den bruger Luna til at besvare spørgsmål med et afgrænset sæt mulige svar, som brugeren selv definerer. Tanken er blandt andet, at værktøjet kan kategorisere indhold, sende forespørgsler videre eller vælge en agents næste handling. 9

Dots-agenter skal holde opgaver i gang

OpenAI præsenterede Dots som altid aktive agenter drevet af GPT-6 Astra. De er tænkt til at forfølge løbende mål ved hjælp af en computer i skyen og forbindelser til tusindvis af apps, blandt andet værktøjer til kommunikation på arbejdspladsen. Brugeren kan fastsætte grænser for, hvad agenten må gøre selv, hvad der kræver godkendelse, og hvad den slet ikke må gøre. 715

Ifølge omtalen er Dots tilgængelige for Pro- og Business Premium-brugere, og Enterprise-abonnenter er også nævnt. 7 Den praktiske demonstration på scenen blev dog ikke helt problemfri: En Dot reagerede ikke hurtigt på en anmodning. Episoden siger ikke i sig selv noget sikkert om produktets pålidelighed generelt, men viste forskellen på den tilsigtede selvstændighed og agentens faktiske opførsel i situationen.

Sikkerhed satte en grænse for lanceringen

OpenAI skrinlagde den planlagte lancering af GPT-6.1 Astra, efter interne evalueringer viste, at modellen ikke levede op til selskabets standarder for sikkerhed og alignment. Blandt bekymringerne var, om modellen holdt sig inden for den givne opgave og brugerens tilladelser. Det er vigtigt at skelne mellem GPT-6.1 Astra, som blev sat på pause, og GPT-6 Astra, der driver Dots. 47

Det sætter en tydelig spænding i fokus: OpenAI udvider adgangen til agenter, der kan handle på tværs af værktøjer, mens selskabet tilbageholder en nyere model på grund af bekymringer om, hvorvidt den holder sig inden for sine tilladelser. Kilderne peger på sikkerhed som årsag til at udskyde GPT-6.1 Astra, men dokumenterer ikke, at en konkret myndigheds- eller reguleringsbeslutning var årsag til DevDay-lanceringerne. De fastslår heller ikke et præcist rekordtal for efterspørgslen eller, hvor meget kapacitetspres påvirkede beslutningerne. 4