Clairic od Cloudflare je model v náhledu, který z neformátovaného textu a obrázků získává strukturované údaje, například data, čísla nebo seznamy. Místo psaní odpovědi vrací hodnoty v typech, které aplikace předem určí. Cloudflare ve svých ukázkách uvádí rychlejší a levnější zpracování, tyto příklady ale samy o sobě nedokazují, že je Clairic obecně přesnější či efektivnější než velké jazykové modely (LLM).
3
4
14
Co Clairic dělá a jak se používá
Clairic je takzvaný extrakční model typu „System One“. V náhledu je dostupný na platformě Workers AI, která umožňuje spouštět modely v infrastruktuře Cloudflare, pod označením @cf/cloudflare/clairic. Cloudflare uvádí cenu 0,10 USD za milion vstupních tokenů. Protože model negeneruje výstupní tokeny, poplatek za ně se neúčtuje.
3
7
18
Požadavek obsahuje text a případně až čtyři obrázky. K tomu vývojář připojí pojmenovaná pole, která určují, jaký typ odpovědi potřebuje. Clairic pak požadované hodnoty vrátí v jednom průchodu, namísto aby postupně skládal větu po větě.
16
20
Mezi podporované typy patří úryvky textu, čísla, data, časy, datumy s časem, délky trvání, seznamy, odhady a předpovědi. U textových úryvků mohou být uvedeny pozice znaků ve zdroji. Předpověď může pokrýt až 64 budoucích kroků.
1
20
Jak model vyjadřuje nejistotu
U jednotlivých hodnot Clairic vrací skóre confidence a údaj p_null – pravděpodobnost, že vstup požadovanou odpověď neurčuje. Odpověď může obsahovat také položky value a guess. Pokud údaj ve vstupu chybí, value může být null, tedy žádná hodnota, místo aby se nejistý odhad vydával za jistý fakt.
2
9
18
U odhadů a předpovědí model uvádí medián a 80% interval mezi hodnotami p10 a p90. Jde o odhad nejistoty podle modelu, nikoli o záruku, že skutečná hodnota do intervalu spadne. Cloudflare doporučuje využívat skóre důvěry, p_null i intervaly při rozhodování, co lze automatizovat a co má zkontrolovat člověk.
2
Co ukazují dosavadní testy
V ukázce se zákaznickou reklamací poškozeného zboží Clairic vytáhl údaje z požadavku, model Clef vybral možnost, například vrácení peněz nebo opravu, a GLM-5.3 napsal odpověď zákazníkovi. Podle zveřejněného srovnání trvala extrakce pomocí Clairicu 0,46 sekundy a rozhodnutí modelu Clef 0,22 sekundy. Celý postup s kombinací modelů zabral 19,3 sekundy, zatímco verze používající GLM-5.3 ve všech krocích trvala 61,7 sekundy.
4
15
Cloudflare uvádí náklady 6 032 USD na milion reklamací u kombinovaného postupu oproti 11 740 USD při použití samotného GLM-5.3. V tomto konkrétním příkladu jde o snížení nákladů o 49 %.
15 Není to ale předpověď úspor pro každou aplikaci — výsledek závisí na daném pracovním postupu.
Cloudflare také testoval předpovědi počtu cestujících procházejících bezpečnostní kontrolou na amerických letištích. Během 21 dnů model každý den odhadoval počet pro následující den. Uváděná průměrná chyba byla 3,3 % a skutečný počet spadal do 80% intervalu v 17 z 21 případů.
6
9 Jde o krátkou ukázku na jedné časové řadě, nikoli o důkaz, že model stejně dobře předpovídá jiné veličiny nebo podmínky.
Limity, na které je dobré myslet
Cloudflare označuje předpovídání za základní. Odhad na nejbližší krok vychází z nedávného vývoje, zatímco vzdálenější předpovědi mohou postupně směřovat k průměrné hodnotě. Model také nedokáže předvídat události, které nejsou patrné z dodaných dat — například svátky.
1
17
Opatrnost je na místě i u počítání. Cloudflare považuje za spolehlivé jednoduché výpočty v jednom či dvou krocích, jako jsou součty, rozdíly, převody nebo počítání s daty. Dlouhé řetězce navazujících výpočtů a součty přes mnoho řádků tabulky zatím spolehlivé nejsou. Doporučený postup je vytáhnout potřebné údaje pomocí Clairicu a samotnou matematiku provést v kódu.
1
17
Dosavadní argumenty pro lepší výkon se opírají o ukázky konkrétních úloh, nikoli o rozsáhlé srovnávací testy, které by prokázaly, že Clairic je obecně přesnější, rychlejší nebo levnější. Uvedené výhody proto berte jako možnosti, které je třeba ověřit na vlastních datech a úlohách.
4
14
15
Co znamená „System One“ a co víme o Jev
Cloudflare označuje Clairic jako model „System One“ a staví jej jako rychlý nástroj pro konkrétní úlohy, například extrakci údajů, místo modelu, který vytváří delší textovou odpověď.
5 Server PPC Land píše, že pojem System One předtím představila společnost TypeSafe spolu s modelem Jev. Toto zpravodajství uvádí dřívější souvislost, dostupné zdroje ale nepotvrzují přímou technickou návaznost Clairicu na Jev ani konkrétní vysvětlení názvu inspirované Kahnemanem.
13
Cloudflare také oznámil záměr zveřejnit otevřené váhy modelu, avšak dostupné zdroje neuvádějí datum vydání.
7
12