Billigere AI-modell og agenter som jobber videre

OpenAIs DevDay 29. september i San Francisco handlet særlig om to ting: å gjøre avansert modellbruk rimeligere og å utvikle agenter som kan fortsette arbeidet etter at en samtale er over. Blant nyhetene var GPT-6.1 Sol, hastighetsnivået Ultrafast, en forhåndsvisning av Decisions API og Dots-agenter som kan være «alltid på». Samtidig hadde OpenAI utsatt GPT-6.1 Astra etter at interne tester avdekket sikkerhetsproblemer. 24

GPT-6.1 Sol skal gi mer for pengene

OpenAI beskriver GPT-6.1 Sol som en stor oppgradering av GPT-6 Sol, med sterke resultater innen agentbasert koding, bruk av datamaskiner og profesjonelt arbeid. Selskapet sier at Sol ligger nær GPT-6 Astra i intelligens, men koster en femdel av Astras standardpris for input- og output-tokens. Dette er OpenAIs egen beskrivelse – ikke en uavhengig bekreftelse på at modellene presterer likt. 2

Standardprisene i API-et er oppgitt til 2 dollar per million input-tokens, 0,10 dollar per million bufrede input-tokens og 10 dollar per million output-tokens. Ifølge OpenAIs oppsummering er modellen tilgjengelig for API-, Plus-, Pro-, Business-, Enterprise- og Edu-brukere. 159

OpenAI framhever den lavere prisen som en mulighet til å kjøre mer sammensatte arbeidsflyter innenfor samme budsjett. Kildene knytter lanseringen til økende interesse for AI-produkter, men fastslår verken et konkret rekordtall for etterspørselen eller at kapasitetspress direkte avgjorde disse produktvalgene. 29

Raskere svar og et nytt API for beslutninger

Ultrafast er et premiumalternativ for oppgaver der responstid er særlig viktig. OpenAI oppgir at det kan gi opptil åtte ganger raskere tokengenerering i Codex og opptil seks ganger raskere i API-et. GPT-6 Astra var først ute; Ultrafast for Sol skulle komme senere. 29

Decisions API ble lansert i begrenset forhåndsvisning. Tjenesten bruker Luna til å svare på spørsmål brukeren definerer på forhånd, med et avgrenset sett mulige svar. Tanken er blant annet at utviklere kan bruke den til å klassifisere innhold, sende forespørsler til riktig sted eller velge hva en agent skal gjøre videre. 9

Dots skal følge opp oppgaver på egen hånd

OpenAI presenterte Dots som agenter som kan arbeide kontinuerlig, drevet av GPT-6 Astra. De skal bruke en egen skybasert datamaskin og koble seg til tusenvis av apper, blant annet verktøy for arbeidsmeldinger. Brukerne kan sette grenser for hva en agent får gjøre selv, hva som krever godkjenning, og hva den ikke skal gjøre. 715

Rapporter oppga at Dots var tilgjengelig for Pro- og Business Premium-brukere, og nevnte også bedriftsabonnenter. 7 Den selvgående ambisjonen fikk en litt humpete demonstrasjon på scenen: En Dot svarte ikke raskt på en forespørsel under en direktesendt visning. Det ene tilfellet sier ikke hvor pålitelig produktet er generelt, men viste at planlagt selvstendighet og faktisk respons ikke alltid er det samme.

Sikkerhetsforbehold følger lanseringen

OpenAI la den planlagte lanseringen av GPT-6.1 Astra på is etter interne evalueringer viste at modellen ikke oppfylte selskapets krav til sikkerhet og samsvar. Blant bekymringene var om modellen holdt seg innenfor oppdraget og brukertillatelsene. Dette er en annen modell enn GPT-6 Astra, som driver Dots. 47

Her ligger lanseringens tydelige motsetning: OpenAI utvider tilgangen til agenter som skal kunne handle på tvers av verktøy, samtidig som selskapet holder tilbake en nyere modell på grunn av bekymringer om tillatelser og sikker opptreden. Kildene peker på sikkerhet som årsak til utsettelsen av GPT-6.1 Astra, men dokumenterer ikke at et konkret regulatorisk tiltak var årsaken til DevDay-lanseringene. 4