Clairic è un modello di Cloudflare in anteprima, pensato per trasformare testi e immagini non strutturati in dati organizzati, come date, numeri ed elenchi. Invece di scrivere una risposta, restituisce i campi del tipo richiesto dall’applicazione. Nei test presentati da Cloudflare, il modello risulta più veloce e meno costoso; questi esempi, però, non bastano a dimostrare che sia in generale più accurato o efficiente dei modelli linguistici di grandi dimensioni (LLM).
3
4
14
Che cosa fa Clairic
Clairic è un modello di estrazione della classe «System One», disponibile in anteprima su Workers AI con il nome @cf/cloudflare/clairic. Cloudflare spiega che può estrarre, calcolare, stimare e prevedere valori a partire da input non strutturati. Il costo è di 0,10 dollari per milione di token di input; non essendoci token generati in uscita, non si paga una tariffa per l’output.
3
7
18
Una richiesta include un input — testo e, facoltativamente, fino a quattro immagini — e un insieme di campi nominati che specificano il tipo di risposta desiderata. Clairic restituisce i valori richiesti in un unico passaggio, anziché generare una sequenza di parole.
16
20
I tipi di campo supportati includono estratti di testo, numeri, date, orari, date e orari, durate, elenchi, stime e previsioni. Gli estratti di testo possono includere la posizione dei caratteri nel testo originale; una previsione può arrivare fino a 64 passaggi futuri.
1
20
Come segnala l’incertezza
Le risposte scalari includono un punteggio di confidenza e p_null, cioè la probabilità che l’input non permetta di determinare il valore. La risposta può contenere anche value e guess: se il dato non è presente, value può essere restituito come null, invece di essere presentato come un fatto certo.
2
9
18
I campi di stima e previsione forniscono una mediana e un intervallo dell’80%, da p10 a p90. Sono indicatori dell’incertezza stimata dal modello, non una garanzia che il valore effettivo rientri nell’intervallo. Cloudflare consiglia di usare la confidenza, p_null e gli intervalli per decidere quali attività automatizzare e quali sottoporre a verifica.
2
Che cosa mostrano i test sulle prestazioni
In un esempio relativo a una richiesta di assistenza per un prodotto danneggiato, Clairic estrae i dettagli del reclamo, il modello Clef di Cloudflare sceglie un’opzione — per esempio rimborso o riparazione — e GLM-5.3 genera la risposta destinata al cliente. Secondo i resoconti del test, la fase di estrazione con Clairic è durata 0,46 secondi e la decisione di Clef 0,22 secondi. L’intera pipeline basata su modelli diversi ha impiegato 19,3 secondi, contro i 61,7 secondi della versione che utilizzava GLM-5.3 in ogni fase.
4
15
I costi riportati sono 6.032 dollari per milione di reclami per la pipeline mista e 11.740 dollari per la versione basata solo su GLM-5.3: una riduzione del 49% in quell’esempio.
15 Si tratta dei risultati di un flusso di lavoro specifico, non di un risparmio garantito per qualsiasi applicazione.
Cloudflare ha anche testato le previsioni per il giorno successivo del numero di passeggeri ai controlli di sicurezza negli aeroporti statunitensi, su un periodo di 21 giorni. L’errore medio riportato è stato del 3,3% e, in 17 dei 21 giorni, il conteggio effettivo è rientrato nell’intervallo dell’80% del modello.
6
9 È una dimostrazione circoscritta a una sola serie di dati: non prova che Clairic sappia prevedere con la stessa efficacia fenomeni diversi o in condizioni differenti.
I limiti pratici da considerare
Cloudflare definisce basilari le capacità di previsione di Clairic: nel breve periodo seguono gli andamenti recenti, mentre su orizzonti più lunghi le previsioni possono appiattirsi verso la media. Inoltre, il modello può non cogliere eventi che non emergono dai dati forniti, come le festività.
1
17
La documentazione pone dei limiti anche ai calcoli. Le operazioni in uno o due passaggi — per esempio somme, differenze, conversioni e calcoli tra date — sono descritte come affidabili. Non sono ancora affidabili le lunghe catene di calcoli dipendenti tra loro né i totali ottenuti aggregando molte righe di una tabella. La raccomandazione di Cloudflare è usare Clairic per estrarre i dati necessari e poi fare i calcoli nel codice.
1
17
Per ora, le prove a sostegno delle prestazioni si basano su esempi legati a compiti specifici, non su un benchmark comparativo ampio che dimostri una maggiore accuratezza, velocità o convenienza di Clairic in ogni scenario. È quindi meglio considerare questi vantaggi come ipotesi da verificare sul proprio caso d’uso, non come risultati validi per tutti.
4
14
15
L’etichetta «System One» e il modello Jev
Cloudflare usa l’espressione «System One» per presentare Clairic come un’alternativa rapida e progettata per uno scopo preciso rispetto ai modelli che generano una risposta testuale ragionata.
5 PPC Land riferisce che TypeSafe aveva introdotto in precedenza l’idea di System One insieme a un modello chiamato Jev. Questo resoconto indica un precedente, ma le fonti disponibili non dimostrano un legame tecnico diretto tra Jev e Clairic e non documentano una specifica spiegazione del nome Clairic ispirata a Kahneman.
13
Cloudflare ha inoltre dichiarato di voler pubblicare i pesi del modello, ma le fonti disponibili non indicano una data per il rilascio.
7
12