AnswersPublished23 sources
AI agenti, kteří pracují nonstop, narážejí na vysoké náklady
Agent může na cloudovém počítači vykonávat úkoly za uživatele, takže jeho provoz stojí víc než pouhé odpovídání na prompty. OpenAI uvádí, že Dots mohou pro různé části práce využívat GPT 6.1 Terra; Elon Musk označil náklady na provoz Grok Bot za neudržitelné vzhledem k výnosům.
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Agent může na cloudovém počítači vykonávat úkoly za uživatele, takže jeho provoz stojí víc než pouhé odpovídání na prompty.
- OpenAI uvádí, že Dots mohou pro různé části práce využívat GPT 6.1 Terra; Elon Musk označil náklady na provoz Grok Bot za neudržitelné vzhledem k výnosům.
- Levnější modely mohou snížit část výdajů, ale dostupnost agentů závisí také na používání nástrojů, objemu úkolů a financování infrastruktury.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How do mounting compute costs and funding constraints threaten the affordability and expansion of always-on AI agents, considering OpenAI co. Article summary: Always-on agents face a basic economic problem: a fixed subscription must cover potentially extensive model inference and cloud-computer work, so growing usage can worsen losses rather than improve profitability. OpenAI’. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
AI agenti slibují, že budou pracovat i mezi jednotlivými konverzacemi. Jenže úkoly, které plní za uživatele v cloudu, mohou vyžadovat mnohem víc výpočetního výkonu než jednorázová odpověď chatbota. Provozovatelé tak musí vyvažovat pravidelné příjmy s náklady, které rostou podle toho, jak často a co lidé po agentech chtějí. Zkušenosti OpenAI Dots a xAI Grok Bot ukazují, proč jsou levnější modely důležité — a proč samotná cena modelu ještě nerozhoduje o tom, zda budou agenti dostupní ve velkém a za přijatelnou cenu. 1
18
Proč mohou agenti stát víc než chatbot
Adam Fry, který vede spotřebitelskou část ChatGPT, označil Dots za produkt náročný na výpočetní výkon. Podle magazínu Fortune má každý Dot vlastní cloudový počítač, na němž vykonává úkoly napříč účty a službami, k nimž mu uživatel povolil přístup. Agent tedy nejen vytvoří textovou odpověď, ale může také pracovat s počítačem a využívat další nástroje. 1
Tlak na náklady se projevuje i u konkurence. Když se jeden z uživatelů Grok Botu zeptal na obnovení svého limitu, Elon Musk podle Fortune odpověděl, že náklady na provoz služby jsou „neudržitelné vzhledem k výnosům“. Limity mohou výdaje držet na uzdě, zároveň však omezují, jak často se zákazník může na asistenta spolehnout. 18
Levnější model pomůže, celý účet ale neukazuje
V aktualizaci z 3. listopadu OpenAI uvedlo, že Dots mohou pro různé části práce využívat různé modely, včetně GPT-6.1 Terra. Firma tento model popisuje jako rychlý a efektivní pro úkoly, na které se hodí. Samotné oznámení ale neříká, podle jakých přesných pravidel se model vybírá ani o kolik se tím sníží průměrné náklady na úkol Dots. 9
11
Ceník API ukazuje jednu možnou úsporu. Při standardním zpracování kontextu kratšího než 272 000 vstupních tokenů stojí GPT-6.1 Terra 1 dolar za milion vstupních a 5 dolarů za milion výstupních tokenů. U GPT-6.1 Sol jsou příslušné ceny 2 a 10 dolarů. Jde tedy o poloviční cenu tokenů v těchto kategoriích — nikoli o důkaz, že provoz agenta jako celek vyjde na polovinu. 52
53
10
Agent může navíc používat nástroje a dokumentace OpenAI upozorňuje, že za některé z nich se platí zvlášť. Celkové náklady proto závisí na tom, co agent skutečně dělá, nejen na ceně tokenů daného modelu. 51
Dostupnost závisí na využití i penězích na infrastrukturu
Podle zpráv z doby uvedení byly Dots dostupné ve vybraných placených tarifech ChatGPT. Omezené zpřístupnění může firmě pomoci lépe řídit přístup, zatímco zjišťuje, jak lidé produkt používají. Dostupné zdroje ale neurčují, jakých nákladů nebo jakého zvýšení efektivity je třeba k širšímu zpřístupnění. 12
13
Nejasný je i obrázek financování. Jeden článek uvádí, že OpenAI získalo přísliby investic zhruba 11 miliard dolarů a usilovalo celkem o 20 miliard; jiná zpráva popisuje cíl 20 miliard dolarů, snížený z dříve uváděných 30 miliard, a valuaci nižší než původně zamýšlených 1,4 bilionu dolarů. Jde o zprávy o jednáních a příslibech, nikoli o potvrzení konečného výnosu z kola. Přinášejí nejistotu ohledně zdrojů pro další rozvoj, samy však nedokazují, že financování expanzi zastaví. 2
5
Fortune označil úspěch asistenta Muse od společnosti Meta za jeden z impulzů pro rozvoj osobních agentů. Firmy tedy mají důvod v této oblasti soupeřit, i když ekonomika těchto služeb zůstává nejistá. Pro uživatele bude klíčové, zda poskytovatelé dokážou nabídnout užitečné agenty bez příliš úzkého přístupu nebo přísných limitů. 17
1
18
Co sledovat dál
Rozhodující bude, zda úspory na provozu porostou stejně rychle jako množství práce, kterou lidé agentům svěří. Levnější modely a výběr modelu podle úkolu mohou pomoct, ale dostupnost ve větším měřítku ovlivňují také náklady na práci s počítačem a nástroji, způsob používání, nastavení cen i schopnost financovat infrastrukturu. Dosavadní informace ukazují skutečný problém s náklady — ne definitivní verdikt o tom, zda se agenti v nepřetržitém provozu dokážou rozšířit.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI agenti, kteří pracují nonstop, narážejí na vysoké náklady"?
Agent může na cloudovém počítači vykonávat úkoly za uživatele, takže jeho provoz stojí víc než pouhé odpovídání na prompty.
What are the key points to validate first?
Agent může na cloudovém počítači vykonávat úkoly za uživatele, takže jeho provoz stojí víc než pouhé odpovídání na prompty. OpenAI uvádí, že Dots mohou pro různé části práce využívat GPT 6.1 Terra; Elon Musk označil náklady na provoz Grok Bot za neudržitelné vzhledem k výnosům.
What should I do next in practice?
Levnější modely mohou snížit část výdajů, ale dostupnost agentů závisí také na používání nástrojů, objemu úkolů a financování infrastruktury.