Writer Lancar Palmyra X6 – Ejen AI Lebih Murah dan Pintar Guna Model Sumber Terbuka

Bagaimana pengoptimuman harness mengurangkan kos

Penjimatan kos yang didakwa oleh Writer bukan datang daripada satu helah ajaib, tetapi daripada gabungan kecekapan model dan orkestrasi yang lebih pintar:

• Kos purata 52% lebih rendah: Ejen yang digandingkan dengan Palmyra X6 menjalankan aliran kerja pelbagai langkah yang kompleks pada kos purata 52% lebih rendah berbanding generasi sebelumnya .
• Kos setiap tugasan terpotong separuh: Kos setiap tugasan ejen menurun daripada kira-kira AS$0.25 kepada kira-kira AS$0.12 .
• Peningkatan kelajuan 48%: Masa pelaksanaan untuk tugasan ejen adalah kira-kira separuh daripada sebelumnya, dengan tugasan siap dalam kira-kira 26 saat pada kadar output 82 token sesaat .
• Kualiti output 10% lebih baik, menurut penanda aras dalaman Writer .
• Ejen jangka panjang tanpa pengawasan: Harness dan model baharu boleh menjalankan tugasan ejen tanpa pengawasan sehingga lapan jam, mengurangkan beban penyeliaan manual dan keperluan untuk 're-prompting' .
• Pengoptimuman token bersasar: Harness secara langsung mengoptimumkan cara token digunakan semasa penaakulan pelbagai langkah, memotong pembaziran dalam rantaian tindakan ejen yang panjang .

Konteks: Writer pakar dalam alat dan ejen AI untuk pasukan pemasaran dan hasil, melayani pelanggan Fortune 500 termasuk Accenture, Uber, dan Vanguard . Tuntutan utama syarikat ini ialah dengan menggandingkan model yang setanding dengan model tercanggih dengan harness orkestrasi yang lebih pintar, perusahaan boleh menggunakan ejen AI yang berterusan dan mempunyai pelbagai langkah pada "sebahagian kecil daripada kos" penyelesaian pesaing .

Mengapa asas sumber terbuka penting

Palmyra X6 adalah berdasarkan GLM-5.2 yang mempunyai pemberat terbuka daripada Z.ai. Pendekatan ini membolehkan Writer mendapat manfaat daripada asas sumber terbuka sambil menambah latihan pasca proprietari yang menyesuaikan model untuk tugasan ejen perusahaan . Strategi hibrid ini — mengambil model terbuka yang berkemampuan dan melatihnya dengan lebih mendalam untuk aliran kerja khusus domain — semakin biasa dalam kalangan syarikat AI yang ingin mengawal kos dan masa pembangunan sambil tetap memberikan prestasi yang kompetitif.

Maksudnya untuk pembeli AI perusahaan

Bagi perusahaan yang menilai platform ejen AI, angka Writer menunjukkan bahawa ekonomi menjalankan ejen AI yang kompleks dan pelbagai langkah mungkin sedang berubah. Gabungan pengurangan kos sebanyak 52%, kependaman yang hampir separuh, dan keupayaan untuk menjalankan ejen tanpa pengawasan selama lapan jam menangani dua aduan yang paling berterusan tentang ejen AI perusahaan: kos yang tidak dapat diramalkan dan keperluan untuk pengawasan manusia yang berterusan. Jika tuntutan ini terbukti dalam amalan, ia boleh menjadikan AI 'agentic' sesuai untuk beban kerja volum tinggi yang sebelum ini terlalu mahal untuk diautomasikan.

Sudah tentu, angka ini datang daripada ujian dalaman Writer sendiri, dan keputusan sebenar mungkin berbeza-beza bergantung pada kerumitan dan struktur tugasan perusahaan tertentu. Pengesahan bebas terhadap pengurangan kos yang didakwa akan memberikan gambaran yang lebih jelas untuk pembeli.