AnswersPublished26 sources
Qwen3.8-27B: Model AI Tempatan yang Mencabar Opus dalam Pengekodan
Qwen3.8 27B ialah model multimodal dengan 27 bilion parameter yang boleh dijalankan secara tempatan dalam format terkuantum, termasuk pada sistem dengan kira kira 17GB RAM atau VRAM. Ia menyokong input teks, imej dan video, konteks asli 262,144 token yang boleh dilanjutkan sehingga 1 juta token, serta kawalan reason...
Diterbitkan olehDisunting dengan GPT-5.6 LunaImej dijana dengan GPT Image 1.5
Research answer
Key takeaways
- Qwen3.8 27B ialah model multimodal dengan 27 bilion parameter yang boleh dijalankan secara tempatan dalam format terkuantum, termasuk pada sistem dengan kira kira 17GB RAM atau VRAM.
- Ia menyokong input teks, imej dan video, konteks asli 262,144 token yang boleh dilanjutkan sehingga 1 juta token, serta kawalan reasoning effort untuk melaras kedalaman penaakulan.
- Gelaran “Opus 4.6 tempatan” merujuk kepada kecekapan dan beberapa keputusan penanda arasnya—bukan bukti bahawa model ini mengatasi semua model awan berprestasi tinggi dalam setiap tugasan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba Qwen3.8-27B, the open-source Apache 2.0 model that topped Hugging Face’s global trending chart within two days, exceeded one. Article summary: Alibaba Qwen3.8-27B is a 27-billion-parameter, dense, open-weight multimodal model aimed at local agentic coding, tool use, and computer-use workloads. Its “local Opus 4.6” nickname is directionally useful for selected b. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Alibaba Qwen3.8-27B ialah model AI multimodal padat dengan 27 bilion parameter, direka untuk pengekodan, penaakulan, penggunaan alat dan tugasan yang mengawal komputer. Tarikan utamanya bukan sekadar skor yang tinggi, tetapi hakikat bahawa versi terkuantumnya boleh dijalankan pada perkakasan yang jauh lebih kecil dan murah berbanding infrastruktur yang biasanya dikaitkan dengan AI berprestasi tinggi. 1
4
Model ini pantas menjadi antara keluaran AI tempatan yang paling banyak diperkatakan. Repositori utama Qwen3.8 melepasi satu juta muat turun dalam tempoh beberapa hari, manakala varian terkuantum Unsloth dilaporkan mencapai 2.7 juta muat turun tidak lama kemudian. Namun, angka platform seperti ini berubah mengikut masa dan tidak boleh dianggap sebagai bukti kualiti model. 48
54
56
Apa itu Qwen3.8-27B?
Qwen3.8-27B ialah model dense, bukannya model campuran pakar atau mixture of experts. Ia menerima input teks, imej dan video. Dokumentasi model menyatakan konteks asli sebanyak 262,144 token, dengan sokongan peluasan sehingga 1 juta token. Sesetengah dokumentasi Unsloth membundarkan angka itu kepada 256K, jadi pengguna perlu menyemak titik semak model dan sistem penyajian yang digunakan. 4
1
Mod penaakulan atau thinking mode diaktifkan secara lalai. Model ini turut menyediakan kawalan reasoning_effort. Tetapan lalai xhigh boleh menghasilkan jejak penaakulan yang panjang serta meningkatkan kependaman, manakala tetapan seperti medium dan low menawarkan pertukaran antara kedalaman, kelajuan dan penggunaan pengiraan. 6
19
Berat model ini dikeluarkan di bawah lesen Apache 2.0, menurut laporan mengenai pelancarannya. Secara umum, lesen tersebut membenarkan penggunaan komersial, pengubahsuaian dan pengedaran semula, tertakluk kepada syarat lesen serta sebarang kewajipan berasingan berkaitan perisian atau data yang digunakan bersama model. 10
Mengapa ia digelar “Opus 4.6 tempatan”?
Gelaran itu tercetus daripada gabungan saiz model yang sederhana, keperluan perkakasan tempatan yang rendah dan keputusan tertentu dalam penanda aras. Perbandingan yang diterbitkan oleh Qwen menunjukkan Qwen3.8-27B mendahului Claude Opus 4.6 Max dalam beberapa ujian pengekodan dan aliran kerja, tetapi Opus masih lebih baik dalam ujian lain. 7
22
| Penanda aras | Qwen3.8-27B | Opus 4.6 Max | Maksud keputusan |
|---|---|---|---|
| SWE-bench Pro | 61.7 | 53.4 | Qwen mendahului dalam perbandingan kejuruteraan perisian yang dilaporkan. |
| Terminal-Bench 2.1 | 73.0 | 78.2 | Opus mendahului dalam tugasan ejen terminal ini. |
| NL2Repo-Bench | 42.3 | 47.6 | Opus mendahului dalam penjanaan kod pada peringkat repositori. |
| DeepSWE 1.1 | 42.2 | Tidak disenaraikan | Qwen menunjukkan peningkatan besar berbanding 13.3 untuk Qwen3.6-27B. |
| LiveCodeBench v6 | 90.3 | 88.8 | Qwen mendahului dalam perbandingan yang dilaporkan. |
| GPQA-Diamond | 89.2 | 91.3 | Opus mendahului dalam ujian penaakulan sukar ini. |
| Humanity’s Last Exam | 30.8 | 40.0 | Opus mengekalkan kelebihan yang ketara. |
| CoWorkBench | 70.7 | 68.2 | Qwen sedikit mendahului dalam tugasan pejabat jangka panjang yang dilaporkan. |
| OSWorld-Verified | 84.3 | 72.7 | Qwen mendahului dalam perbandingan penggunaan komputer pada kad model. |
Angka ini datang terutamanya daripada penilaian dan perbandingan dalam kad model Qwen, yang menggunakan sistem serta susunan ujian berbeza. Kesimpulan yang lebih tepat ialah Qwen3.8-27B sangat kompetitif untuk saiznya, khususnya dalam pengekodan, penggunaan komputer dan tugasan ejen pejabat. Keputusan tersebut tidak membuktikan bahawa ia secara universal menyamai atau mengatasi Opus, DeepSeek, GPT atau model berprestasi tinggi yang lebih baharu dalam semua jenis kerja. 7
22
34
Corak penanda aras menunjukkan kekuatan yang khusus
Kekuatan utama Qwen3.8-27B muncul apabila model perlu mengikut arahan, menulis atau membaiki kod, mengendalikan komputer atau menyelesaikan aliran kerja berstruktur. Skor 61.7 dalam SWE-bench Pro mengatasi 53.4 yang dilaporkan untuk Opus 4.6 Max, manakala skor 70.7 dalam CoWorkBench sedikit lebih tinggi daripada 68.2. 34
Gambaran berubah dalam interaksi terminal yang lebih sukar, penjanaan repositori dan penaakulan berasaskan pengetahuan. Opus mencatat 78.2 berbanding 73.0 untuk Qwen dalam Terminal-Bench, 47.6 berbanding 42.3 dalam NL2Repo-Bench, 91.3 berbanding 89.2 dalam GPQA-Diamond dan 40.0 berbanding 30.8 dalam Humanity’s Last Exam. 34
Sebab itu label umum seperti “setaraf model frontier” boleh mengelirukan. Prestasi ejen bergantung pada rangka kerja ujian, alat yang diberikan, arahan, panjang konteks, belanjawan penaakulan, tetapan pensampelan dan sama ada model dinilai secara bersendirian atau dalam ejen pengekodan tertentu. Satu sumber turut menyatakan bahawa pengesahan bebas terhadap kelebihan menyeluruh berbanding sistem kelas Opus masih terhad. 7
Dakwaan bahawa Qwen3.8-27B menyamai DeepSeek V4-Pro atau GPT 5.6 Luna wajar dianggap sebagai laporan perbandingan umum, bukannya kesimpulan yang telah dibuktikan melalui satu rangkaian penanda aras yang dikawal secara seragam. 10
21
Berapa banyak perkakasan yang diperlukan?
Keperluan sebenar bergantung pada format titik semak, tahap kuantisasi, panjang konteks serta sama ada fungsi penglihatan atau alat ejen digunakan.
- Sekitar 17GB RAM atau VRAM: Unsloth menawarkan konfigurasi terkuantum yang boleh berjalan dalam julat ini. Angka tersebut ialah tuntutan minimum untuk penggunaan, bukan jaminan kelajuan tinggi, konteks panjang, pemprosesan multimodal atau sokongan beberapa ejen serentak.
1
- GPU 24GB: Pelaksanaan 4-bit biasanya dianggap sesuai untuk kad grafik 24GB, walaupun ruang untuk konteks besar dan lebihan memori semasa operasi akan lebih terhad.
4
- Mac dengan 32GB memori bersatu: Konfigurasi 4-bit turut dikatakan boleh dimuatkan pada Mac dengan kira-kira 32GB memori bersatu.
- GPU stesen kerja berkuasa tinggi: Inferens FP8 atau kuantisasi berkualiti lebih tinggi lebih selesa dengan kira-kira 32GB VRAM yang tersedia. Kad 24GB secara amnya lebih sesuai untuk berat 4-bit.
- Pelepasan ke CPU atau RAM: Boleh dilakukan dengan konfigurasi terkuantum yang lebih kecil, tetapi biasanya jauh lebih perlahan berbanding menjalankan model dan memori kerjanya pada GPU yang berkemampuan.
Kekangan praktikal bukan sekadar saiz fail model. Konteks yang panjang memerlukan memori tambahan untuk cache kunci-nilai, manakala input imej dan video menambah beban ketika operasi. Sistem yang sekadar berjaya memuatkan berat model belum tentu cukup pantas untuk pengekodan interaktif atau ejen kawalan komputer.
Pilihan kuantisasi: daripada mesra komputer riba hingga berfokuskan kualiti
Keluaran Atomic Dynamic GGUF komuniti tersedia dalam julat kira-kira 28.9GB pada 8-bit hingga 8.5GB pada 1-bit. Binaan AD-IQ3_S bersaiz 13.84GB dianggap pilihan yang lebih realistik untuk dimuatkan sepenuhnya pada mesin 16GB, walaupun format bit rendah membawa kompromi kualiti yang ketara. 3
9
11
Kuantisasi mengurangkan keperluan memori dengan menyimpan berat model menggunakan bilangan bit yang lebih rendah. Pertukarannya termasuk:
- ketepatan output yang lebih rendah pada pemampatan agresif;
- ruang yang lebih kecil untuk konteks dan cache KV;
- kemungkinan kemerosotan kebolehpercayaan penglihatan, video dan penggunaan alat;
- kelajuan berbeza mengikut pemproses dan masa jalan; serta
- ruang operasi yang lebih terhad untuk beberapa permintaan serentak.
FP8 ialah pilihan berasingan yang bertujuan mengekalkan kualiti sambil mengurangkan penggunaan memori berbanding berat berketepatan lebih tinggi. Repositori FP8 rasmi menerangkan kuantisasi blok terperinci serta keserasian dengan Transformers, vLLM, SGLang dan TokenSpeed. 40
Sokongan perisian dan sistem penyajian
Artifak rasmi di Hugging Face menyenaraikan sokongan untuk Transformers, vLLM, SGLang dan sistem penyajian berkaitan. Titik semak FP8 juga tersedia untuk pelaksanaan yang menyokong format tersebut. 19
40
Ollama ialah pilihan praktikal bagi ramai pengguna tempatan melalui GGUF dan pakej komuniti. Namun, sokongan itu tidak patut disamakan dengan kenyataan sokongan rasmi untuk artifak asal dalam format Transformers. Pilihan terbaik bergantung pada keutamaan pengguna—sama ada persediaan desktop yang mudah, penalaan halus, kadar pemprosesan maksimum atau integrasi dengan rangka kerja ejen tersuai.
Mengapa pelancaran ini penting?
Qwen3.8-27B merendahkan halangan untuk mencuba ejen pengekodan dan kawalan komputer yang lebih peribadi. Organisasi boleh menjalankan berat model dalam persekitaran sendiri tanpa menghantar setiap arahan, fail sumber, tangkap layar atau arahan operasi kepada API awan. Model ini juga boleh diperiksa, diubah suai dan diintegrasikan ke dalam perisian di bawah lesen terbukanya. 1
10
Namun, penggunaan tempatan tidak bermakna sistem itu selamat secara automatik. Ejen yang boleh mengubah repositori, menjalankan arahan shell, melayari laman web atau mengawal desktop perlu diletakkan dalam kotak pasir dan diberikan kebenaran yang terhad. Menyimpan data pada peranti mengurangkan satu bentuk pendedahan, tetapi tidak menghapuskan risiko suntikan arahan, kod berniat jahat, penyalahgunaan alat atau kesilapan model.
Kepentingan lebih besar model ini bersifat ekonomi dan operasi: model 27B dengan keputusan pengekodan serta penggunaan komputer yang kompetitif boleh menjadikan eksperimen lebih mudah dilakukan pada satu komputer pengguna berprestasi tinggi. Ia tidak menggantikan model awan paling kuat untuk semua tugasan penaakulan atau ejen, tetapi menjadikan pilihan antara privasi tempatan dan keupayaan bertaraf tinggi kurang bersifat hitam putih.
Kesimpulan
Qwen3.8-27B paling tepat difahami sebagai pencapaian dari segi kecekapan dan kebolehcapaian—bukan pengganti Opus yang telah terbukti secara menyeluruh. Ia menggabungkan input multimodal, konteks panjang, penaakulan boleh laras, lesen terbuka dan kuantisasi agresif dengan keputusan penanda aras yang benar-benar kompetitif dalam tugasan pengekodan, pejabat dan penggunaan komputer tertentu. 4
19
34
Bagi pembangun, keputusan praktikalnya jelas: model ini wajar diuji secara tempatan jika privasi, kawalan pelaksanaan dan aliran kerja ejen pengekodan penting. Namun, dakwaan tentang kesetaraan menyeluruh dengan model berprestasi tinggi masih memerlukan lebih banyak pengesahan bebas—dan batasan penanda aras sama pentingnya dengan angka utama.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Qwen3.8-27B: Model AI Tempatan yang Mencabar Opus dalam Pengekodan"?
Qwen3.8 27B ialah model multimodal dengan 27 bilion parameter yang boleh dijalankan secara tempatan dalam format terkuantum, termasuk pada sistem dengan kira kira 17GB RAM atau VRAM.
What are the key points to validate first?
Qwen3.8 27B ialah model multimodal dengan 27 bilion parameter yang boleh dijalankan secara tempatan dalam format terkuantum, termasuk pada sistem dengan kira kira 17GB RAM atau VRAM. Ia menyokong input teks, imej dan video, konteks asli 262,144 token yang boleh dilanjutkan sehingga 1 juta token, serta kawalan reasoning effort untuk melaras kedalaman penaakulan.
What should I do next in practice?
Gelaran “Opus 4.6 tempatan” merujuk kepada kecekapan dan beberapa keputusan penanda arasnya—bukan bukti bahawa model ini mengatasi semua model awan berprestasi tinggi dalam setiap tugasan.