Câu trả lờiĐã xuất bản23 nguồn
SenseTime tăng chiều sâu xử lý bằng cách cho 24 lớp Transformer chạy hai lần
Ra mắt ngày 30/10/2026, SenseNova Loop 9B Preview chạy khối 24 lớp decoder ở giữa hai lần, tạo 56 lượt thực thi từ 32 lớp riêng biệt. Mô hình nhận văn bản và hình ảnh, hướng đến tác vụ ngữ cảnh dài và quy trình dùng công cụ; cấu hình huấn luyện được tài liệu hóa hỗ trợ chuỗi tối đa 262.144 token.
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Ra mắt ngày 30/10/2026, SenseNova Loop 9B Preview chạy khối 24 lớp decoder ở giữa hai lần, tạo 56 lượt thực thi từ 32 lớp riêng biệt.
- Mô hình nhận văn bản và hình ảnh, hướng đến tác vụ ngữ cảnh dài và quy trình dùng công cụ; cấu hình huấn luyện được tài liệu hóa hỗ trợ chuỗi tối đa 262.144 token.
- Các tuyên bố về hiệu năng ngang tầm mô hình 27 tỷ tham số là kết quả SenseTime công bố; cần phân biệt chúng với đánh giá độc lập và hiệu năng thực tế khi triển khai.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What is SenseTime’s SenseNova-Loop-9B-Preview, open-sourced on October 30, 2026, and how do its Apache 2.0 weights on Hugging Face and code. Article summary: SenseNova-Loop-9B-Preview is SenseTime’s open-weight multimodal model for long-context and agent workflows, released on October 30, 2026, with Apache 2.0 weights on Hugging Face and a public GitHub repository.[6][12][7][. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
SenseTime giới thiệu SenseNova-Loop-9B-Preview ngày 30/10/2026, định vị đây là mô hình đa phương thức cho ngữ cảnh dài và quy trình tác tử AI. Điểm đáng chú ý không chỉ nằm ở quy mô khoảng 9 tỷ tham số, mà ở cách mô hình tái sử dụng một phần bộ giải mã: 32 lớp riêng biệt được thực thi thành 56 lượt tính toán trong một lần truyền xuôi.7
45
Trọng số được phát hành trên Hugging Face, mã dự án công khai trên GitHub và dự án được niêm yết theo giấy phép Apache 2.0.7
16
25 Tuy vậy, tuyên bố rằng mô hình có thể cạnh tranh với những hệ thống lớn hơn nên được hiểu là kết quả trên một số bài đánh giá do công ty công bố, không phải bảo đảm hiệu năng tương đương trong mọi tình huống.
Từ 32 lớp thành 56 lượt thực thi
Trong bộ giải mã, bốn lớp đầu chạy một lần, 24 lớp ở giữa (lớp 4 đến 27) chạy hai lần với cùng bộ trọng số, rồi bốn lớp cuối chạy một lần. Phép tính là 4 + 24 × 2 + 4 = 56 lượt thực thi.45
Ở đây cần phân biệt số lớp riêng biệt với số lượt thực thi lớp. Chạy lại khối giữa làm tăng lượng tính toán mà không cần lưu thêm một bản trọng số riêng cho lần chạy thứ hai. Nhưng nhiều lượt tính toán hơn không mặc nhiên khiến mô hình chạy nhanh hơn hay tiêu tốn ít tài nguyên hơn: tốc độ và mức sử dụng tài nguyên còn tùy cách triển khai cũng như môi trường vận hành.
Tài liệu mô hình ghi khoảng 9 tỷ tham số tổng cộng và 14,6 tỷ “tham số suy luận”.6 Đây là hai cách thống kê khác nhau; con số 14,6 tỷ không nên được hiểu là số trọng số độc lập được lưu trữ, cũng không tự chứng minh mô hình có hiệu năng như một mô hình thông thường cùng quy mô.
mHC và cơ chế chú ý làm gì?
Trong khối được lặp lại, mô hình dùng mHC — các kết nối siêu ràng buộc trên đa tạp với hai luồng. Hai luồng dư mang thông tin qua các phép tính của bộ giải mã; những ánh xạ học được điều phối cách đọc, trộn thông tin giữa các luồng và đưa đầu ra của lớp vào trạng thái tiếp theo. Tài liệu dự án cho biết phép chuẩn hóa Sinkhorn ràng buộc ánh xạ trộn luồng; cấu hình được mô tả dùng hai luồng và 20 vòng chuẩn hóa.8
20
Tài liệu cũng mô tả một mẫu chú ý lai: cứ ba lớp chú ý tuyến tính thì đến một lớp chú ý đầy đủ.32 Đây là thông tin về kiến trúc, chứ tự nó chưa chứng minh mô hình sẽ nhanh hơn hoặc mạnh hơn trên mọi loại tác vụ.
Đầu vào, ngữ cảnh và mục tiêu sử dụng
SenseNova-Loop-9B-Preview nhận văn bản và hình ảnh, sau đó tạo văn bản. SenseTime hướng mô hình đến các công việc như hiểu tài liệu, lập trình và tương tác với công cụ bên ngoài.7 Tài liệu huấn luyện nêu độ dài chuỗi tối đa 262.144 token, cùng dữ liệu đa phương thức và các quỹ đạo tác vụ có giám sát.
6 Bài viết về đợt phát hành của TechNode cho biết tập dữ liệu huấn luyện có văn bản, hình ảnh, mã nguồn và ví dụ sử dụng công cụ.
30
Giới hạn độ dài được hỗ trợ trong thiết lập huấn luyện không đồng nghĩa mô hình sẽ luôn truy xuất hoặc suy luận chính xác trên mọi token của một đầu vào dài tối đa. Khả năng xử lý ngữ cảnh dài cần được kiểm tra trên đúng tác vụ dự kiến.
Benchmark nói lên điều gì — và chưa nói được gì?
SenseTime quảng bá mô hình đạt hiệu năng ở mức các hệ thống khoảng 27 tỷ tham số và nhấn mạnh những so sánh với Qwen3.5-27B trên WorkBuddy Bench, RaccoonPPT Bench và AutomationBench.16
36 Đây là tuyên bố của công ty về một số phép đánh giá được chọn, không phải bằng chứng cho thấy hai mô hình tương đương trên mọi tác vụ. Tài liệu hiện có chưa cung cấp đủ chi tiết để kiểm chứng độc lập mức độ so sánh hay khả năng khái quát của kết quả.
Model card liệt kê các benchmark như BIRD-Dev, WorkBuddy Bench, AIDABench, TeamBench, Terminal Bench 2.1, T³-Banking, AutomationBench và RaccoonPPTBench.17 Việc có tên trong danh sách không tự nó cho biết mô hình thắng hay kết quả được tạo ra theo quy trình nào. Model card cũng ghi báo cáo kỹ thuật là “TBD”, tức chưa có, nên người đọc chưa có bản mô tả đầy đủ hơn về phương pháp và kết quả.
1
Hỗ trợ suy luận: những gì đã được ghi nhận
Tài liệu dự án cho biết mô hình hỗ trợ MTP (dự đoán nhiều token) để tăng tốc suy luận.6
20 Đây là thông tin về phương pháp được hỗ trợ, không phải mức tăng tốc đã được đo: tài liệu hiện có chưa xác lập mức cải thiện độ trễ hay thông lượng trên các loại phần cứng và khối lượng công việc khác nhau.
Dspark và Dflash2 được ghi là đang phát triển, trong giai đoạn huấn luyện; dự án cũng có hướng dẫn huấn luyện liên quan.5
20 Các hướng dẫn này cho thấy có quy trình huấn luyện, nhưng không chứng minh đã có sẵn các checkpoint dự thảo để dùng ngay hoặc có mức tăng tốc được kiểm chứng độc lập.
Điều cần cân nhắc khi triển khai
SenseNova-Loop-9B-Preview thử nghiệm một lựa chọn thiết kế rõ ràng: dùng lại khối giữa để tăng chiều sâu tính toán mà vẫn chia sẻ trọng số. Vì vậy, nên tách biệt số tham số được báo cáo, thiết lập huấn luyện ngữ cảnh dài và các tuyên bố benchmark với hiệu quả vận hành thực tế. Khi cân nhắc triển khai, những câu hỏi thiết thực là mô hình hoạt động ra sao trên tác vụ mục tiêu, và mức sử dụng bộ nhớ, độ trễ cùng chất lượng đầu ra được đo như thế nào trong môi trường đó.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "SenseTime tăng chiều sâu xử lý bằng cách cho 24 lớp Transformer chạy hai lần" là gì?
Ra mắt ngày 30/10/2026, SenseNova Loop 9B Preview chạy khối 24 lớp decoder ở giữa hai lần, tạo 56 lượt thực thi từ 32 lớp riêng biệt.
Những điểm chính cần xác nhận đầu tiên là gì?
Ra mắt ngày 30/10/2026, SenseNova Loop 9B Preview chạy khối 24 lớp decoder ở giữa hai lần, tạo 56 lượt thực thi từ 32 lớp riêng biệt. Mô hình nhận văn bản và hình ảnh, hướng đến tác vụ ngữ cảnh dài và quy trình dùng công cụ; cấu hình huấn luyện được tài liệu hóa hỗ trợ chuỗi tối đa 262.144 token.
Tôi nên làm gì tiếp theo trong thực tế?
Các tuyên bố về hiệu năng ngang tầm mô hình 27 tỷ tham số là kết quả SenseTime công bố; cần phân biệt chúng với đánh giá độc lập và hiệu năng thực tế khi triển khai.