AnswersPublished22 sources
Aina valmiina oleva tekoälyagentti voi tulla kalliiksi
Tekoälyagentti voi tehdä tehtäviä pilvessä myös keskustelujen välillä, joten sen käyttökustannukset eivät rajoitu yksittäisiin tekstivastauksiin. OpenAI kertoo Dots agenttien voivan hyödyntää GPT 6.1 Terraa.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Tekoälyagentti voi tehdä tehtäviä pilvessä myös keskustelujen välillä, joten sen käyttökustannukset eivät rajoitu yksittäisiin tekstivastauksiin.
- OpenAI kertoo Dots agenttien voivan hyödyntää GPT 6.1 Terraa. Elon Musk puolestaan on sanonut Grok Botin palvelukulujen olevan tuloihin nähden kestämättömän korkeat.
- Edullisempi malli voi laskea osaa kustannuksista, mutta kokonaiskuluun vaikuttavat myös työkalujen käyttö, tehtävien määrä ja rahoitus.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How do mounting compute costs and funding constraints threaten the affordability and expansion of always-on AI agents, considering OpenAI co. Article summary: Always-on agents face a basic economic problem: a fixed subscription must cover potentially extensive model inference and cloud-computer work, so growing usage can worsen losses rather than improve profitability. OpenAI’. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Aina toimiva tekoälyagentti kuulostaa kätevältä: se voi jatkaa tehtävän parissa vielä senkin jälkeen, kun käyttäjä on sulkenut keskustelun. Palveluntarjoajalle tämä tarkoittaa kuitenkin muutakin kuin vastausten tuottamista. Agentti voi käyttää pilvitietokonetta ja työkaluja käyttäjän puolesta, jolloin laskentakustannuksia syntyy käytön mukaan. 1
18
OpenAI:n Dots ja xAI:n Grok Bot nostavat esiin kysymyksen, joka koskee koko agenttialaa: miten palvelusta tehdään yhtä aikaa hyödyllinen, laajasti saatavilla ja taloudellisesti kestävä?
Agentti tekee muutakin kuin vastaa
ChatGPT:n kuluttajaliiketoimintaa johtava Adam Fry kuvaili Dots-agentteja ”laskentatehon kannalta raskaiksi”. Fortunen mukaan jokaisella Dotilla on oma pilvitietokone tehtävien suorittamista varten. Agentti voi toimia käyttäjän yhdistämissä tileissä ja palveluissa, joten työ voi sisältää muutakin kuin tekstin muodostamista. 1
Kustannuspaine näkyy myös kilpailijan tuotteessa. Kun Grok Bot -käyttäjä pyysi käyttörajan palauttamista, Elon Musk sanoi palvelun tuottamisen kustannusten olevan ”kestämättömän korkeat tuloihin nähden”, Fortune kertoi. Käyttörajoilla voidaan hillitä kuluja, mutta samalla rajoitetaan sitä, kuinka paljon asiakas voi turvautua agenttiin. 18
Halvempi malli auttaa, muttei ratkaise koko laskua
OpenAI kertoi 3. marraskuuta, että Dots voi hyödyntää eri malleja työn eri vaiheissa, myös GPT-6.1 Terraa. Yhtiö kuvailee Terraa nopeaksi ja tehokkaaksi malliksi. Tiedote ei kuitenkaan yksin kerro tarkasti, miten mallivalinta tehdään tai kuinka paljon se pienentää yksittäisen tehtävän kustannusta. 9
11
API-hinnat kertovat yhden osan mahdollisista säästöistä. Kun syötekonteksti jää alle 272 000 tokenin, GPT-6.1 Terra maksaa normaalihinnoittelulla yhden dollarin miljoonalta syötetokenilta ja viisi dollaria miljoonalta tulostokenilta. GPT-6.1 Solin vastaavat hinnat ovat kaksi ja kymmenen dollaria. Terra-tokenien hinnat ovat siis näissä kategorioissa puolet Solin hinnoista – mutta siitä ei seuraa, että agentin koko käyttökustannus puolittuisi. 52
53
Agentti voi käyttää myös erillisiä työkaluja. OpenAI huomauttaa mallidokumentaatiossaan, että esimerkiksi työkalukutsuista voi tulla lisämaksuja. Kokonaishinta riippuu siis myös siitä, mitä agentti tekee, eikä vain mallin token-hinnasta. 51
Saatavuus, käyttö ja rahoitus vaikuttavat yhdessä
Dots julkaistiin aluksi valituissa maksullisissa ChatGPT-tilauksissa. Rajattu saatavuus voi auttaa yhtiötä seuraamaan tuotteen käyttöä, mutta käytettävissä olevat lähteet eivät kerro, millaisia säästöjä tai kustannustasoja laajempi tarjonta edellyttäisi. 12
13
Myös OpenAI:n rahoituksesta on esitetty eri vaiheisiin liittyviä raportteja. Yhden uutisen mukaan yhtiö oli saanut noin 11 miljardia dollaria sitoumuksia ja tavoitteli yhteensä 20 miljardin dollarin rahoitusta. Toisessa raportissa 20 miljardin tavoitetta verrattiin aiempaan 30 miljardin tavoitteeseen ja 1,4 biljoonan dollarin tavoiteltuun arvostukseen. Kyse on uutisoiduista rahoitusneuvotteluista, ei vahvistuksesta lopullisesti saatujen varojen määrästä. Tiedot kertovat epävarmuudesta, mutta eivät osoita, että rahoitus yksin estäisi agenttien laajentamisen. 2
5
Fortunen mukaan Meta Muse on vauhdittanut kiinnostusta henkilökohtaisiin agentteihin. Kilpailu voi kannustaa yrityksiä kehittämään niitä samalla, kun liiketoiminnan kannattavuus on vielä epäselvä. 17 Käyttäjän kannalta ratkaisevaa on, pystyykö palveluntarjoaja tekemään agentista hyödyllisen ilman hyvin rajattua saatavuutta tai tiukkoja käyttökattoja.
1
18
Mitä seuraavaksi kannattaa seurata?
Ratkaisevaa on, pysyvätkö tehokkuusparannukset käyttäjien agentille antaman työn määrän tahdissa. Edullisemmat mallit ja tehtävään sopivan mallin valinta voivat auttaa, mutta kokonaiskustannukseen vaikuttavat myös tietokoneen käyttö, työkalut, käyttötavat, hinnoittelu ja infrastruktuurin rahoitus.
Tähänastinen näyttö kertoo todellisesta kustannushaasteesta, ei siitä, että aina valmiina olevat agentit eivät voisi yleistyä. Edullisuus riippuu siitä, pystyykö koko järjestelmä suorittamaan enemmän hyödyllistä työtä pienemmällä kustannuksella.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Aina valmiina oleva tekoälyagentti voi tulla kalliiksi"?
Tekoälyagentti voi tehdä tehtäviä pilvessä myös keskustelujen välillä, joten sen käyttökustannukset eivät rajoitu yksittäisiin tekstivastauksiin.
What are the key points to validate first?
Tekoälyagentti voi tehdä tehtäviä pilvessä myös keskustelujen välillä, joten sen käyttökustannukset eivät rajoitu yksittäisiin tekstivastauksiin. OpenAI kertoo Dots agenttien voivan hyödyntää GPT 6.1 Terraa. Elon Musk puolestaan on sanonut Grok Botin palvelukulujen olevan tuloihin nähden kestämättömän korkeat.
What should I do next in practice?
Edullisempi malli voi laskea osaa kustannuksista, mutta kokonaiskuluun vaikuttavat myös työkalujen käyttö, tehtävien määrä ja rahoitus.