Nếu ứng dụng của bạn cần đọc hóa đơn, biểu mẫu hay nội dung khiếu nại để lấy ngày tháng, con số hoặc danh sách, việc yêu cầu một mô hình ngôn ngữ lớn (LLM) viết câu trả lời đầy đủ có thể là quá nhiều. Clairic của Cloudflare được thiết kế cho kiểu tác vụ hẹp hơn: nhận đầu vào không có cấu trúc rồi trả về các giá trị theo đúng kiểu dữ liệu ứng dụng cần.
3
4
14
Cloudflare cho biết Clairic xử lý nhanh và ít tốn kém trong các ví dụ hãng công bố. Tuy nhiên, những thử nghiệm này chưa đủ để kết luận mô hình luôn chính xác, nhanh hay rẻ hơn LLM trong mọi trường hợp.
4
14
Clairic hoạt động thế nào?
Clairic là mô hình trích xuất kiểu “System One”, hiện có bản dùng thử trên Workers AI với tên @cf/cloudflare/clairic. Mỗi yêu cầu gồm phần đầu vào là văn bản, có thể kèm tối đa bốn hình ảnh, cùng các trường có tên và kiểu dữ liệu mà ứng dụng muốn nhận. Thay vì lần lượt tạo ra từng từ như một LLM sinh văn bản, Clairic xử lý các trường được yêu cầu trong một lượt.
3
7
16
20
Các kiểu đầu ra được hỗ trợ gồm đoạn văn bản, số, ngày, giờ, ngày giờ, khoảng thời gian, danh sách, giá trị ước tính và dự báo. Đoạn văn bản có thể đi kèm vị trí ký tự trong nội dung gốc; dự báo có thể bao gồm tối đa 64 bước tương lai.
1
20
Với câu trả lời dạng giá trị đơn, kết quả có điểm confidence và p_null — xác suất cho biết đầu vào không đủ căn cứ để xác định đáp án. Phản hồi cũng có thể gồm value và guess; nếu thiếu dữ liệu, value có thể là null thay vì trình bày một phỏng đoán như sự thật.
2
9
18
Với trường ước tính và dự báo, Clairic đưa ra giá trị trung vị cùng khoảng 80% từ p10 đến p90. Đây là mức độ bất định do mô hình ước tính, không phải cam kết rằng kết quả thực tế chắc chắn nằm trong khoảng đó. Cloudflare khuyến nghị dùng các thông tin này để quyết định phần nào có thể tự động hóa và phần nào nên chuyển cho người kiểm tra.
2
Cloudflare công bố kết quả thử nghiệm nào?
Trong ví dụ xử lý khiếu nại về sản phẩm bị hư hỏng, Clairic trích xuất thông tin từ yêu cầu; mô hình Clef chọn phương án như hoàn tiền hoặc sửa chữa; sau đó GLM-5.3 soạn phản hồi gửi khách hàng. Theo số liệu được công bố về thử nghiệm, bước trích xuất bằng Clairic mất 0,46 giây, còn bước lựa chọn của Clef mất 0,22 giây. Toàn bộ quy trình kết hợp này mất 19,3 giây, so với 61,7 giây ở phiên bản dùng GLM-5.3 cho tất cả các bước.
4
15
Chi phí được báo cáo là 6.032 USD cho mỗi triệu hồ sơ khiếu nại với quy trình kết hợp, so với 11.740 USD ở phiên bản chỉ dùng GLM-5.3 — giảm 49% trong thử nghiệm đó.
15 Đây là kết quả của một quy trình cụ thể, không phải mức tiết kiệm có thể áp dụng mặc định cho mọi sản phẩm hay ứng dụng.
Cloudflare cũng thử dùng Clairic dự báo lượng hành khách qua các điểm kiểm tra an ninh sân bay ở Mỹ cho ngày kế tiếp trong 21 ngày. Hãng báo cáo sai số trung bình là 3,3%; số liệu thực tế của 17 trong 21 ngày nằm trong khoảng dự báo 80%.
6
9 Kết quả này cho thấy một thử nghiệm nhỏ trên một chuỗi dữ liệu, chứ chưa chứng minh khả năng dự báo rộng rãi trong nhiều bối cảnh.
Những giới hạn nên biết trước khi áp dụng
Cloudflare mô tả khả năng dự báo hiện tại là cơ bản: dự báo gần thường đi theo xu hướng gần đây, còn dự báo xa hơn có thể dần phẳng về mức trung bình. Mô hình cũng khó tính đến những sự kiện không thể hiện trong dữ liệu đầu vào, chẳng hạn ngày lễ.
1
17
Với phép tính, tài liệu của Cloudflare cho biết các thao tác một hoặc hai bước — như tính tổng, hiệu, chuyển đổi đơn vị hay số học ngày tháng — hoạt động đáng tin cậy. Nhưng chuỗi phép tính phụ thuộc lẫn nhau kéo dài và việc cộng gộp nhiều hàng trong bảng thì chưa đáng tin cậy. Khuyến nghị của hãng là dùng Clairic để trích xuất dữ liệu cần thiết, rồi thực hiện phép tính bằng mã.
1
17
Vì vậy, các tuyên bố về hiệu năng hiện dựa trên những ví dụ theo từng tác vụ, chứ chưa phải một chuẩn so sánh rộng cho thấy Clairic chính xác hơn, nhanh hơn hoặc rẻ hơn trong mọi khối lượng công việc. Nếu định dùng mô hình, hãy kiểm tra trên dữ liệu và quy trình của chính bạn thay vì xem các kết quả trình diễn như một bảo đảm chung.
4
14
15
“System One”, Jev và kế hoạch phát hành mã trọng số mở
Cloudflare dùng nhãn “System One” để mô tả Clairic như một mô hình chuyên biệt, hướng tới xử lý nhanh thay vì tạo ra câu trả lời dài có lập luận bằng văn bản.
5 PPC Land đưa tin rằng TypeSafe từng giới thiệu ý tưởng System One trước đó cùng một mô hình tên Jev. Thông tin này ghi nhận tiền lệ được báo cáo, nhưng các nguồn hiện có không xác lập mối liên hệ kỹ thuật trực tiếp giữa Jev và Clairic, cũng không xác nhận cụ thể cách giải thích rằng tên Clairic lấy cảm hứng từ Kahneman.
13
Cloudflare cho biết dự định phát hành mã trọng số mở của Clairic, nhưng các nguồn hiện có chưa nêu ngày phát hành.
7
12