Cloudflaren uusi alusta antaa tekoälyagenteille oman tietokoneen

Agentille tarjotaan pysyvä SQLite-tietokantaan pohjautuva virtuaalinen tiedostojärjestelmä. Se voi lukea, kirjoittaa ja muokata tiedostoja, suorittaa shell-komentoja ja työskennellä samassa ympäristössä, jossa myös koodin suoritus ja ympäristön valmistelu tapahtuvat . Tiedostoja voidaan tuoda esimerkiksi pilvitallennuksesta tai versionhallinnasta .

Cloudflare julkaisee paketin avoimen lähdekoodin kokeiluna, jotta se voi kehittää sitä yhdessä sellaisten asiakkaiden kanssa, jotka ajavat agentteja suuressa mittakaavassa . Kyseessä on siis varhaisvaiheen julkaisu, ei valmis lupaus siitä, että rajapinnat tai arkkitehtuuri pysyvät muuttumattomina.

Python- ja JavaScript-työntekijät voivat kutsua toisiaan suoraan

Toinen päivitys koskee Workers-alustan ohjelmointikielten välistä yhteistyötä. Python Workers- ja JavaScript/TypeScript Workers -komponentit voivat nyt kutsua toistensa metodeja suoraan Workers RPC:n avulla Service binding -sidosten kautta .

Kehittäjän ei tarvitse kirjoittaa erillisiä skeemoja, käyttää protobuf-määrittelyjä tai rakentaa omaa sarjallistamiskerrosta. Pyodiden Foreign Function Interface eli FFI huolehtii tyyppien muuntamisesta kielten välillä . Kutsut käyttäytyvät tavallisten funktiokutsujen tavoin, ja myös poikkeukset välittyvät kutsun tehneeseen koodiin .

Parametreina ja paluuarvoina voidaan käyttää rakenteisesti kloonattavia tyyppejä. Lisäksi kielirajan yli voivat kulkea reaaliaikaiset objektit, funktiot ja tietovirrat . Käytännössä tämä helpottaa monikielisten järjestelmien rakentamista: Pythonilla toteutettu agentti voi hyödyntää JavaScript-työntekijää ilman, että komponenttien väliin tarvitsee rakentaa erillistä julkista API-kerrosta.

Workers saa saapuvat TCP-yhteydet ja gRPC:n

Kolmas ilmoitus laajentaa Cloudflaren verkkotukea. Workers ja Containers voivat nyt vastaanottaa saapuvia TCP-yhteyksiä Spectrumin kautta. Spectrum on Cloudflaren sisääntulopalvelu muulle kuin HTTP-liikenteelle, ja sen avulla yhteys voidaan välittää suoraan Durable Objectsiin tai konttiin .

Workers-ajoympäristöön lisätty connect(socket)-käsittelijä antaa Workerille mahdollisuuden ottaa vastaan Spectrumin välittämän saapuvan TCP-socketin . Tämä mahdollistaa esimerkiksi jatkuvaa kaksisuuntaista tiedonsiirtoa käyttävät gRPC-sovellukset. Lisäksi Workers voi muuntaa gRPC-liikennettä automaattisesti gRPC-Web-muotoon, mikä vähentää erillisen välityspalvelimen tai käännöskerroksen tarvetta .

Cloudflaren mukaan kyseessä on merkittävä muutos, koska Workers ei rajoitu enää samalla tavalla HTTP-pohjaisiin käyttötapauksiin. TCP:n, suoratoiston ja kaksisuuntaisen liikenteen tuki sopii palveluihin, joissa pieni viive ja jatkuva yhteys ovat tärkeitä.

Mitä julkaisut kertovat Cloudflaren strategiasta?

Kolme ominaisuutta muodostavat melko selkeän kokonaisuuden:

• @cloudflare/computer vastaa kysymykseen, missä agentti työskentelee. Agentille annetaan pysyvä tila, tiedostot ja komentorivi sekä tehtävään sopiva suoritusympäristö sen sijaan, että kaikki pakotettaisiin joko konttiin tai palvelimettomaan funktioon .
• Kielten välinen RPC helpottaa monikielisten agenttijärjestelmien koostamista. Python- ja JavaScript-komponentit voivat toimia yhtenä kokonaisuutena ilman ylimääräistä protokolla- ja sarjallistamiskoodia .
• Saapuva TCP ja gRPC poistavat HTTP:n yhtenä keskeisenä rajoitteena. Agentit ja niiden käyttämät palvelut voivat hyödyntää suoratoistoa, kaksisuuntaista viestintää ja muita matalan viiveen yhteyksiä .

Yhdessä julkaisut viestivät, että Cloudflare haluaa tarjota agenttien infrastruktuurikerroksen kokonaisuutena: agentilla on oma tietokone, eri ohjelmointikielet voivat keskustella suoraan ja verkkoprotokolla voidaan valita käyttötapauksen mukaan. Kehittäjän näkökulmasta tavoite on rakentaa, julkaista ja yhdistää itsenäisiä agentteja Cloudflaren reunaverkossa ilman omien palvelinten, konttien tai protokollamuunnosten hallintaa.