JawabanDipublikasikan23 sumber
Mengapa Menjalankan Agen AI Sepanjang Waktu Bisa Sangat Mahal
Agen AI yang terus bekerja dapat lebih mahal dijalankan daripada chatbot biasa karena tugasnya berlangsung di komputer cloud, bukan hanya menghasilkan jawaban. OpenAI menyebut Dots dapat memakai GPT 6.1 Terra untuk bagian pekerjaan tertentu, sementara Elon Musk mengatakan biaya layanan Grok Bot terlalu tinggi diband...
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Agen AI yang terus bekerja dapat lebih mahal dijalankan daripada chatbot biasa karena tugasnya berlangsung di komputer cloud, bukan hanya menghasilkan jawaban.
- OpenAI menyebut Dots dapat memakai GPT 6.1 Terra untuk bagian pekerjaan tertentu, sementara Elon Musk mengatakan biaya layanan Grok Bot terlalu tinggi dibandingkan pendapatannya.
- Harga model yang lebih murah bisa membantu, tetapi biaya alat, pola penggunaan, dan pendanaan juga berpengaruh pada kemampuan perusahaan memperluas layanan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: How do mounting compute costs and funding constraints threaten the affordability and expansion of always-on AI agents, considering OpenAI co. Article summary: Always-on agents face a basic economic problem: a fixed subscription must cover potentially extensive model inference and cloud-computer work, so growing usage can worsen losses rather than improve profitability. OpenAI’. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Agen AI yang tetap bekerja setelah percakapan selesai menjanjikan kemudahan: pengguna bisa meminta bantuan, lalu membiarkan agen mengerjakan tugas di latar belakang. Namun, ada konsekuensi di balik kemudahan itu. Perusahaan perlu membayar komputasi dan penggunaan alat untuk menjalankan pekerjaan atas nama pengguna—biaya yang bisa meningkat seiring pemakaian. 1
18
Laporan tentang Dots dari OpenAI dan Grok Bot dari xAI memperlihatkan tantangan ekonominya. Model yang lebih murah dapat menekan sebagian biaya, tetapi harga per token saja belum menjawab apakah agen semacam ini bisa dijalankan secara luas dan terjangkau.
Agen AI mengerjakan lebih dari sekadar membalas pesan
Adam Fry, pimpinan bisnis konsumen ChatGPT, menyebut Dots “cukup berat dari sisi komputasi”. Menurut Fortune, setiap Dot memiliki komputer cloud sendiri untuk menjalankan tugas melalui akun dan layanan yang telah dihubungkan pengguna. Jadi, pekerjaan agen bisa mencakup interaksi dengan komputer dan alat lain, bukan hanya membuat balasan teks. 1
Tekanan biaya juga terlihat pada produk pesaing. Setelah seorang pengguna Grok Bot menanyakan apakah jatah pemakaiannya bisa direset, Elon Musk mengatakan biaya untuk melayani agen tersebut “tidak berkelanjutan dibandingkan pendapatan”, menurut Fortune. Batas pemakaian dapat membantu mengendalikan biaya, tetapi juga membatasi seberapa sering pengguna bisa mengandalkan asisten. 18
Model yang lebih murah membantu, tetapi bukan seluruh biaya
Dalam pembaruan pada 3 November, OpenAI mengatakan Dots dapat menggunakan model berbeda untuk bagian pekerjaan yang berbeda, termasuk GPT-6.1 Terra. Perusahaan menggambarkan Terra sebagai model yang cepat dan efisien untuk tugas yang sesuai dengan kemampuannya. Namun, pengumuman itu tidak merinci bagaimana pemilihan model dilakukan atau seberapa besar penghematan untuk satu tugas Dot pada umumnya. 9
11
Daftar harga API menunjukkan salah satu sumber potensi penghematan. Untuk konteks standar di bawah 272.000 token input, GPT-6.1 Terra berharga US$1 per sejuta token input dan US$5 per sejuta token output. Harga GPT-6.1 Sol masing-masing US$2 dan US$10. Artinya, harga token standar Terra untuk dua kategori tersebut separuh dari Sol—bukan bukti bahwa biaya menjalankan seluruh agen otomatis ikut turun 50 persen. 52
53
10
Agen juga bisa memakai alat tambahan. Dokumentasi OpenAI menyebut biaya khusus dapat dikenakan untuk penggunaan alat tertentu. Karena itu, total biaya bergantung pada pekerjaan yang dilakukan, bukan hanya tarif token model. 51
Akses, pola penggunaan, dan pendanaan ikut menentukan
Menurut laporan peluncuran, Dots tersedia dalam sejumlah paket ChatGPT berbayar. Peluncuran terbatas dapat membantu perusahaan mengelola akses sambil mempelajari cara orang menggunakan produk, tetapi sumber yang tersedia belum menunjukkan tingkat efisiensi atau batas biaya yang diperlukan agar layanan ini bisa ditawarkan lebih luas. 12
13
Kondisi pendanaan OpenAI juga belum sepenuhnya jelas. Satu laporan menyebut perusahaan telah memperoleh komitmen sekitar US$11 miliar dan sedang mencari total US$20 miliar. Laporan lain menyebut target US$20 miliar itu turun dari target sebelumnya sebesar US$30 miliar, yang dikaitkan dengan valuasi harapan US$1,4 triliun. Angka-angka tersebut merupakan laporan mengenai proses pendanaan, bukan konfirmasi jumlah akhir yang diterima. Hal ini menambah ketidakpastian soal sumber daya untuk ekspansi, tetapi tidak membuktikan bahwa pendanaan saja akan menghentikannya. 2
5
Fortune menyebut keberhasilan Muse dari Meta sebagai salah satu pendorong perhatian industri terhadap agen pribadi. Persaingan bisa mendorong perusahaan terus membangun produk semacam ini, meski hitung-hitungan biayanya belum pasti. 17 Bagi pengguna, pertanyaan praktisnya adalah apakah penyedia bisa membuat agen tetap berguna tanpa membatasi akses terlalu ketat atau memangkas jatah pemakaian.
1
18
Yang perlu diperhatikan berikutnya
Ujian utamanya adalah apakah peningkatan efisiensi dapat mengimbangi banyaknya pekerjaan yang diserahkan pengguna kepada agen. Model yang lebih murah dan pemilihan model sesuai tugas bisa membantu, tetapi keterjangkauan juga dipengaruhi biaya komputer dan alat, pola pemakaian, harga layanan, serta kemampuan membiayai infrastruktur.
Bukti sejauh ini menunjukkan adanya tantangan biaya yang nyata—belum menjadi vonis bahwa agen AI yang selalu aktif tidak bisa berkembang.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Mengapa Menjalankan Agen AI Sepanjang Waktu Bisa Sangat Mahal"?
Agen AI yang terus bekerja dapat lebih mahal dijalankan daripada chatbot biasa karena tugasnya berlangsung di komputer cloud, bukan hanya menghasilkan jawaban.
Apa poin penting yang harus divalidasi terlebih dahulu?
Agen AI yang terus bekerja dapat lebih mahal dijalankan daripada chatbot biasa karena tugasnya berlangsung di komputer cloud, bukan hanya menghasilkan jawaban. OpenAI menyebut Dots dapat memakai GPT 6.1 Terra untuk bagian pekerjaan tertentu, sementara Elon Musk mengatakan biaya layanan Grok Bot terlalu tinggi dibandingkan pendapatannya.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Harga model yang lebih murah bisa membantu, tetapi biaya alat, pola penggunaan, dan pendanaan juga berpengaruh pada kemampuan perusahaan memperluas layanan.