AnswersPublished23 sources
Alltid-på-KI-agenter møter en dyr regneøvelse
Alltid på agenter kan kreve egne skybaserte datamaskiner for å utføre oppgaver, ikke bare regnekraft til å svare på en melding. OpenAI sier at Dots kan bruke GPT 6.1 Terra til ulike deler av arbeidet, mens Elon Musk har omtalt kostnadene ved å drifte Grok Bot som uholdbart høye sett opp mot inntektene.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Alltid på agenter kan kreve egne skybaserte datamaskiner for å utføre oppgaver, ikke bare regnekraft til å svare på en melding.
- OpenAI sier at Dots kan bruke GPT 6.1 Terra til ulike deler av arbeidet, mens Elon Musk har omtalt kostnadene ved å drifte Grok Bot som uholdbart høye sett opp mot inntektene.
- Rapportene om OpenAIs finansiering spriker. De peker på usikkerhet, men beviser ikke at markedet for KI agenter eller videre utrulling er dømt til å mislykkes.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How do mounting compute costs and funding constraints threaten the affordability and expansion of always-on AI agents, considering OpenAI co. Article summary: Always-on agents face a basic economic problem: a fixed subscription must cover potentially extensive model inference and cloud-computer work, so growing usage can worsen losses rather than improve profitability. OpenAI’. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Alltid-på-KI-agenter skal kunne jobbe videre etter at samtalen er over. Men det innebærer også at modellene og verktøyene kan måtte kjøre i skyen på brukerens vegne. Dermed blir regnestykket mer krevende enn for en chatbot som først og fremst svarer når noen spør: Selskapene må veie faste abonnementsinntekter opp mot kostnader som øker med bruken. Omtalen av OpenAIs Dots og xAIs Grok Bot viser hvorfor billigere modeller er viktige – og hvorfor modellprisen alene ikke avgjør om slike agenter kan tilbys bredt og til en overkommelig pris. 1
18
Hvorfor agentene kan bli dyre å drive
Adam Fry, som leder forbrukervirksomheten for ChatGPT, beskrev Dots som «på den regnekraftkrevende siden». Ifølge Fortune har hver Dot sin egen skybaserte datamaskin, som brukes til å utføre oppgaver på tvers av kontoer og tjenester brukeren har koblet til. Agenten skal altså gjøre mer enn å lage et tekstsvar: Den kan også bruke en datamaskin og andre verktøy for å få jobben gjort. 1
Kostnadspresset er synlig hos en konkurrent også. Da en Grok Bot-bruker spurte om å få tilbakestilt bruksgrensen sin, svarte Elon Musk at kostnadene ved å levere tjenesten var «uholdbart høye sett opp mot inntektene», ifølge Fortune. Eksempelet viser en avveining: Bruksgrenser kan holde kostnadene nede, men de begrenser også hvor ofte kundene kan støtte seg på assistenten. 18
Billigere modeller hjelper, men dekker ikke hele regningen
I en oppdatering 3. november skrev OpenAI at Dots kan bruke ulike modeller til ulike deler av arbeidet, blant annet GPT-6.1 Terra. Det gir selskapet mulighet til å bruke en modell det beskriver som rask og effektiv, på oppgaver som passer til den. Kunngjøringen viser imidlertid ikke nøyaktig hvordan modellvalget foregår, eller hvor mye det reduserer kostnaden for en typisk Dot-oppgave. 9
11
Prislistene for API-et viser én mulig kilde til besparelser. For standard kontekster med under 272 000 input-tokens koster GPT-6.1 Terra 1 dollar per million input-tokens og 5 dollar per million output-tokens. GPT-6.1 Sol koster henholdsvis 2 og 10 dollar. Det betyr at standardprisen per token er halvert på disse målene – ikke at det er dokumentert at en agent totalt koster halvparten så mye å kjøre. 52
53
10
En agent kan dessuten bruke verktøy, og OpenAIs modelldokumentasjon opplyser at det kan komme egne kostnader for verktøybruk. Totalprisen avhenger dermed av hva agenten gjør, ikke bare av modellens pris per token. 51
Tilgang, bruk og finansiering påvirker hvor rimelige agentene blir
Ifølge omtalen ved lanseringen ble Dots først tilgjengelig i utvalgte betalte ChatGPT-abonnementer. En begrenset utrulling kan gjøre det lettere å styre tilgangen mens selskapet lærer hvordan folk bruker produktet. Kildene som foreligger, fastslår likevel ikke hvor lave kostnadene må bli, eller hvor store effektiviseringsgevinster som kreves for å tilby det til flere. 12
13
Også finansieringsbildet er uavklart. Én rapport meldte at OpenAI hadde sikret seg rundt 11 milliarder dollar i tilsagn og siktet mot totalt 20 milliarder. En annen beskrev et mål på 20 milliarder, ned fra et tidligere mål på 30 milliarder og en ønsket verdsettelse på 1,4 billioner dollar. Dette er rapporterte finansieringsopplysninger, ikke en bekreftelse på hvor mye selskapet til slutt får inn. De bidrar til usikkerhet om ressursene som kan finansiere videre vekst, men viser ikke at finansiering alene vil stanse den. 2
5
Fortune har omtalt Metas Muse som en katalysator for satsingen på personlige KI-agenter. Det tyder på at konkurransen driver selskapene til å utvikle slike produkter, selv om økonomien fortsatt er usikker. 17 For brukerne blir det praktiske spørsmålet om leverandørene kan gjøre agentene nyttige uten å holde tilgangen smal eller legge stramme grenser på bruken.
1
18
Dette blir viktig å følge med på
Hovedtesten er om effektiviseringsgevinster kan holde tritt med mengden arbeid folk overlater til agentene. Billigere modeller og valg av modell ut fra oppgave kan bidra, men hvor bredt og rimelig tjenestene kan tilbys, avhenger også av kostnader til datamaskinbruk og verktøy, bruksmønstre, prissetting og tilgang på finansiering. Så langt tyder opplysningene på en reell kostnadsutfordring – ikke på at det allerede er avgjort om alltid-på-agenter kan skaleres.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Alltid-på-KI-agenter møter en dyr regneøvelse"?
Alltid på agenter kan kreve egne skybaserte datamaskiner for å utføre oppgaver, ikke bare regnekraft til å svare på en melding.
What are the key points to validate first?
Alltid på agenter kan kreve egne skybaserte datamaskiner for å utføre oppgaver, ikke bare regnekraft til å svare på en melding. OpenAI sier at Dots kan bruke GPT 6.1 Terra til ulike deler av arbeidet, mens Elon Musk har omtalt kostnadene ved å drifte Grok Bot som uholdbart høye sett opp mot inntektene.
What should I do next in practice?
Rapportene om OpenAIs finansiering spriker. De peker på usikkerhet, men beviser ikke at markedet for KI agenter eller videre utrulling er dømt til å mislykkes.