Cloudflares Clairic er en forhåndsversjon av en AI-modell som henter ut strukturerte verdier – som datoer, tall og lister – fra ustrukturert tekst og bilder. I stedet for å formulere et svar returnerer den feltene en applikasjon ber om, i de angitte datatypene. Cloudflare har vist eksempler på raskere og rimeligere behandling, men eksemplene alene dokumenterer ikke at Clairic generelt er mer presis eller effektiv enn store språkmodeller (LLM-er).
3
4
14
Hva Clairic gjør
Clairic er en «System One»-modell for informasjonsuthenting, tilgjengelig i forhåndsversjon på Workers AI som @cf/cloudflare/clairic. Cloudflare sier at modellen kan hente ut, beregne, anslå og forutsi verdier fra ustrukturert input. Prisen er 0,10 dollar per million inndatatoken. Siden modellen ikke genererer utdata-token, kommer det ingen egen kostnad for slike token.
3
7
18
En forespørsel består av tekst, eventuelt supplert med opptil fire bilder, og navngitte felt som angir hvilken type svar man ønsker. Clairic returnerer feltene i én omgang, i stedet for å generere en rekke ord som et vanlig tekstsvar.
16
20
Felt kan inneholde tekstutdrag, tall, datoer, klokkeslett, dato og klokkeslett, varigheter, lister, anslag eller prognoser. Tekstutdrag kan også få med tegnposisjoner i kildeteksten. En prognose kan inneholde verdier for opptil 64 framtidige steg.
1
20
Slik viser modellen usikkerhet
Svar på enkeltverdier inkluderer en konfidensskår og p_null – sannsynligheten for at inputen ikke gir grunnlag for svaret. Responsen kan også inneholde både value og guess. Hvis opplysningen mangler, kan value være null, i stedet for at resultatet presenteres som et sikkert faktum.
2
9
18
Anslag og prognoser oppgir en median og et 80-prosents intervall fra p10 til p90. Dette er modellens uttrykk for usikkerhet, ikke en garanti for at den faktiske verdien havner innenfor intervallet. Cloudflare anbefaler å bruke konfidensskåren, p_null og intervallene til å vurdere hva som kan automatiseres, og hva som bør kontrolleres av mennesker.
2
Hva testene viser – og ikke viser
I et eksempel med en reklamasjon på et skadet produkt henter Clairic ut opplysninger om saken. Cloudflares Clef-modell velger deretter et alternativ, som refusjon eller reparasjon, før GLM-5.3 lager svaret til kunden. Ifølge omtalen tok Clairics uthenting 0,46 sekunder, mens Clefs beslutning tok 0,22 sekunder. Hele arbeidsflyten med flere modeller tok 19,3 sekunder, mot 61,7 sekunder da GLM-5.3 ble brukt i alle ledd.
4
15
Den blandede arbeidsflyten kostet ifølge tallene 6 032 dollar per million reklamasjoner, sammenlignet med 11 740 dollar for versjonen som bare brukte GLM-5.3 – en reduksjon på 49 prosent i dette eksempelet.
15 Tallene gjelder én bestemt arbeidsflyt og sier ikke hvor mye andre løsninger vil spare.
Cloudflare testet også Clairic på prognoser for hvor mange passasjerer som skulle gjennom sikkerhetskontroller på amerikanske flyplasser neste dag. I en test over 21 dager var den rapporterte gjennomsnittsfeilen 3,3 prosent. De faktiske tallene lå innenfor modellens 80-prosents intervall på 17 av de 21 dagene.
6
9 Dette er en avgrenset demonstrasjon med én tidsserie, ikke dokumentasjon på generell prognoseevne på tvers av data og forhold.
Begrensninger det er verdt å kjenne til
Cloudflare beskriver prognosefunksjonen som grunnleggende. Prognoser for nærmeste framtid følger gjerne de siste mønstrene, mens prognoser lenger fram kan flate ut mot gjennomsnittet. Modellen kan også overse hendelser som ikke kommer fram av dataene den får, for eksempel høytider.
1
17
Dokumentasjonen setter også grenser for regning. Enkle beregninger i ett eller to steg – som summer, differanser, omregninger og datoberegninger – beskrives som pålitelige. Lengre kjeder av beregninger som avhenger av hverandre, og summering på tvers av mange tabellrader, er foreløpig ikke like pålitelig. Cloudflares råd er å bruke Clairic til å hente ut verdiene og gjøre selve regnestykket i kode.
1
17
Foreløpig bygger påstandene om ytelse på eksempler for bestemte oppgaver, ikke på en bred sammenligning som viser at Clairic er mer presis, raskere eller billigere i alle situasjoner. Se derfor resultatene som muligheter å teste mot egne behov, ikke som universelle garantier.
4
14
15
«System One», Jev og navnet Clairic
Cloudflare bruker betegnelsen «System One» om Clairic for å framheve den som en rask, spesialisert modell – et alternativ til modeller som genererer en tekstlig, resonnerende respons.
5 PPC Land har omtalt at TypeSafe introduserte System One-ideen tidligere, sammen med en modell kalt Jev. Det gir en rapportert forhistorie, men kildene som er tilgjengelige her fastslår ikke en direkte teknisk forbindelse mellom Jev og Clairic. De underbygger heller ikke en bestemt forklaring på navnet Clairic med henvisning til Kahneman.
13
Cloudflare har også sagt at selskapet planlegger å gi ut modellvektene åpent. Kildene oppgir ingen dato for dette.
7
12