Writer ra mắt Palmyra X6: Tác nhân AI giá rẻ, chạy trên nền tảng mã nguồn mở GLM-5.2

Tối ưu hóa khung tác nhân giúp giảm chi phí như thế nào?

Khoản tiết kiệm chi phí mà Writer tuyên bố không đến từ một phép thuật duy nhất mà từ sự kết hợp giữa hiệu quả của mô hình và khả năng điều phối thông minh hơn:

• Chi phí trung bình giảm 52%: Các tác nhân kết hợp với Palmyra X6 thực hiện các quy trình nhiều bước phức tạp với chi phí trung bình thấp hơn 52% so với thế hệ trước .
• Chi phí mỗi tác vụ giảm một nửa: Chi phí cho mỗi tác vụ agent giảm từ khoảng 0,25 USD xuống còn khoảng 0,12 USD .
• Cải thiện tốc độ 48%: Thời gian thực hiện các tác vụ agent giảm khoảng một nửa, với các tác vụ hoàn thành trong khoảng 26 giây ở tốc độ đầu ra 82 token mỗi giây .
• Chất lượng đầu ra tốt hơn 10%, theo các điểm chuẩn nội bộ của Writer .
• Tác nhân chạy không giám sát trong thời gian dài: Khung và mô hình mới có thể chạy các tác vụ agent mà không cần giám sát trong tối đa tám giờ, giảm chi phí giám sát thủ công và yêu cầu nhập lại lệnh .
• Tối ưu hóa token có mục tiêu: Khung tác nhân trực tiếp tối ưu hóa cách các token được tiêu thụ trong quá trình suy luận nhiều bước, cắt giảm lãng phí trong các chuỗi hành động agent dài .

Bối cảnh: Writer chuyên cung cấp các công cụ và tác nhân AI cho các đội ngũ marketing và doanh thu, phục vụ các khách hàng Fortune 500 bao gồm Accenture, Uber và Vanguard . Tuyên bố cốt lõi của công ty là bằng cách kết hợp một mô hình có khả năng cạnh tranh tiên phong với một khung điều phối thông minh hơn, các doanh nghiệp có thể triển khai các tác nhân AI liên tục, nhiều bước với "một phần chi phí" so với các giải pháp cạnh tranh .

Tại sao nền tảng mã nguồn mở lại quan trọng?

Palmyra X6 dựa trên GLM-5.2 có trọng số mở của Z.ai, một cách tiếp cận cho phép Writer hưởng lợi từ một nền tảng mã nguồn mở trong khi thêm các điều chỉnh (post-training) độc quyền để phù hợp với các tác vụ tác nhân doanh nghiệp . Chiến lược lai này — lấy một mô hình mở có năng lực và tinh chỉnh nó cho các quy trình làm việc theo lĩnh vực cụ thể — ngày càng phổ biến trong số các công ty AI đang tìm cách kiểm soát chi phí và thời gian phát triển trong khi vẫn cung cấp hiệu suất cạnh tranh.

Điều này có ý nghĩa gì đối với người mua AI doanh nghiệp?

Đối với các doanh nghiệp đang đánh giá các nền tảng tác nhân AI, các con số của Writer cho thấy kinh tế học của việc vận hành các tác nhân AI phức tạp, nhiều bước có thể đang thay đổi. Sự kết hợp giữa giảm 52% chi phí, độ trễ giảm gần một nửa và khả năng chạy tác nhân không giám sát trong tám giờ giải quyết hai trong số những phàn nàn dai dẳng nhất về các tác nhân AI doanh nghiệp: chi phí khó lường và nhu cầu giám sát liên tục của con người. Nếu những tuyên bố này được xác thực trong thực tế, chúng có thể làm cho AI tác nhân trở nên khả thi đối với các khối lượng công việc lớn mà trước đây quá đắt đỏ để tự động hóa.

Tất nhiên, những con số này đến từ các thử nghiệm nội bộ của Writer và kết quả thực tế có thể khác nhau tùy thuộc vào độ phức tạp và cấu trúc của các tác vụ doanh nghiệp cụ thể. Việc xác thực độc lập các mức giảm chi phí được tuyên bố sẽ cung cấp một bức tranh rõ ràng hơn cho người mua.