OpenAI:n Computer History muistaa Macin tapahtumat ilman kuvakaappauksia

Tapahtumavirrasta rakennetaan aikajana ja tekstimuistoja. Niiden avulla ChatGPT tai Codex voi myöhemmin auttaa esimerkiksi selvittämään, mitä käyttäjä oli tekemässä, mihin työvaihe jäi tai miten jokin aiempi työprosessi eteni.

Computer History on oletuksena pois päältä, ja se toimii vain niiden sovellusten ja sivustojen kanssa, jotka käyttäjä sallii. Yksityinen selaus eli incognito- tai private browsing -toiminta ei kuulu mukaan.

Mitä ominaisuus ei tallenna?

OpenAI:n kuvauksen mukaan Computer History ei tallenna:

• kuvakaappauksia
• näytön videotallenteita
• mikrofonin kautta tulevaa ääntä
• järjestelmän ääntä
• yksityisen selaustilan tapahtumia

Tämä erottaa sen järjestelmästä, joka arkistoisi näytön sisältöä jatkuvasti kuvina. ”Ei kuvakaappauksia” ei kuitenkaan tarkoita, ettei mukaan voisi päätyä arkaluonteista tietoa. Jos käyttäjä kirjoittaa luottamuksellista sisältöä mukaan valittuun sovellukseen tai verkkosivustolle, tapahtumaloki voi edelleen paljastaa tekstin tai sen asiayhteyden.

Chronicleen ja Microsoft Recalliin verrattuna

Chronicle perustui kuvakaappauksiin

Computer History korvaa aiemman Chronicle-tutkimusesiversion, joka rakensi kontekstia ajoittaisista kuvakaappauksista. Uusi ominaisuus käyttää niiden sijaan macOS:n käyttöapu-rajapinnoista saatavaa tapahtumavirtaa. Se ei siis tarvitse näytön pikseleiden tai äänen tallentamista aikajanan luomiseen.

Tämä on rajatumpi tapa kerätä tietoa, mutta ei merkityksetön yksityisyyden kannalta. Klikkausten, näppäilyjen ja sovellusten vaihtojen yhdistelmä voi paljastaa paljon käyttäjän toiminnasta – etenkin, kun se tiivistetään pysyväksi muistiksi.

Microsoft Recall tallentaa tilannekuvia

Microsoft Recall on ensisijaisesti Copilot+ -tietokoneille tarkoitettu kuvakaappaus- tai tilannekuvapohjainen toimintahistoria. Computer History tavoittelee samankaltaista lopputulosta eli haettavaa muistia aiemmasta tietokoneen käytöstä, mutta käyttää visuaalisen arkiston sijaan vuorovaikutustapahtumia ja tekstimuistoja. Raportoinnin mukaan tapahtumat lähetetään OpenAI:lle käsiteltäviksi, joten koko prosessi ei pysy paikallisena.

Käytännön ero on olennainen: Computer History ei tallenna salasanoja, asiakirjoja, keskusteluja tai kuvia näytön pikseleinä. Tapahtumavirta voi silti paljastaa näppäiltyä sisältöä ja työskentelyn kontekstia.

Mitä säilyy 48 tuntia – ja mitä sen jälkeen?

Tietojen elinkaari jakautuu kahteen osaan:

1. Väliaikaiset vuorovaikutustiedot: raakamuotoiset tapahtumatiedostot säilyvät Macissa enintään 48 tuntia, minkä jälkeen ne poistetaan osana käsittelyprosessia toimitetun raportoinnin mukaan.
2. Luodut muistit: OpenAI käsittelee tapahtumia palvelimillaan ja muuttaa ne käyttökelpoisiksi muistoiksi. Lopputulos tallennetaan paikallisesti tavallisina Markdown-tekstitiedostoina.

Tiedostot ovat siis luettavia ja muokattavia tekstitiedostoja eivätkä sovelluksen sisäiseen salattuun tietokantaan lukittua dataa. Yhdessä raportissa mainitaan Codexin muistihakemisto $CODEX_HOME/memories/extensions/skysight/, mutta toimitettu aineisto ei vahvista tätä viralliseksi tai kaikissa asennuksissa käytettäväksi sijainniksi.

Computer Historyn tai sen historian poistamisen pitäisi poistaa siihen liittyvät paikalliset muistit ja lopettaa tuleva keräys. Ominaisuutta koskeva aineisto ei kuitenkaan ilmoita tarkkaa palvelinpuolen poistoaikataulua. Paikallisen historian poistamista ei siksi pidä tulkita todisteeksi siitä, että kaikki käsittelyyn liittyvät kopiot häviävät välittömästi. Myös tavanomaiset laki-, turvallisuus- tai petostentorjuntavelvoitteet voivat vaikuttaa tietojen poistamiseen.

Suurin riski: salaamattomat paikalliset tiedostot

OpenAI varoittaa dokumentaatiossaan, että Computer History -tiedostot voivat sisältää arkaluonteisia tietoja eikä ominaisuus salaa niitä. Muut saman macOS-käyttäjätilin oikeuksilla toimivat ohjelmat voivat mahdollisesti lukea tiedostoja.

Tämä muuttaa riskiprofiilia verrattuna tavalliseen selainhistoriaan. Yksi muistitiedosto voi koota samaan tekstiaineistoon projektien nimiä, työvaiheita, sovellusten käyttöä, näppäiltyä sisältöä ja tiliin liittyvää kontekstia. Haittaohjelma, tietoja varastava infostealer-ohjelma, etäkäyttötyökalu tai muu kirjautuneen käyttäjän oikeuksilla toimiva prosessi voisi teoriassa lukea ja siirtää tietoja eteenpäin.

Koko levyn salaus auttaa suojaamaan sammutettua Macia, mutta se ei yleensä estä lukitsemattomalla käyttäjätilillä toimivaa ohjelmaa lukemasta tiedostoja, joihin tilillä on pääsy. Siksi paikallisen tallennuksen ominaisuudet ovat merkityksellisiä, vaikka raakamuotoiset tapahtumatiedostot ovatkin väliaikaisia.

Myös prompt injection on mahdollinen riski

Computer History voi avata uuden reitin prompt injection -hyökkäyksille. Verkkosivulla näytetty tai mukaan valittuun sovellukseen kirjoitettu epäluotettava ohje voi päätyä osaksi muistia. Jos ChatGPT tai Codex käsittelee muistia myöhemmin luotettavana kontekstina, teksti voi yrittää vaikuttaa tulevaan vastaukseen tai toimintaan. Tämä on tietoturvaan liittyvä johtopäätös, ei näyttö siitä, että jokainen tällainen hyökkäys onnistuisi. Ulkopuolista sisältöä on silti järkevää käsitellä epäluotettavana.

Kenelle ominaisuus on tarjolla?

Computer History otetaan käyttöön vaiheittain macOS:lle ChatGPT Pro-, Business- ja Enterprise-käyttäjille. Julkaisuvaiheessa ominaisuus ei ollut saatavilla Euroopan talousalueella, Sveitsissä eikä Yhdistyneessä kuningaskunnassa; näille alueille luvattiin pääsy myöhemmin.

Käyttöoikeudet riippuvat tilauksesta:

• Pro: käyttäjä voi ottaa ominaisuuden itse käyttöön.
• Business: työtilan ylläpitäjän on ensin sallittava ominaisuus, minkä jälkeen jokainen jäsen päättää erikseen liittyä mukaan.
• Enterprise: ylläpitäjä voi myöntää pääsyn roolien perusteella, mutta käyttäjän on silti itse otettava ominaisuus käyttöön. Enterprise-tilillä voi lisäksi olla tarpeen käyttää riittävän uutta työpöytäsovelluksen versiota, jotta asetukset toimivat.

Julkaisuaineisto ei vahvista kaikille tilauksille erillistä, juuri Computer Historya koskevaa mallien koulutussääntöä. Business- ja Enterprise-käyttäjien kannattaa noudattaa työtilan nykyisiä data-asetuksia. Pro-käyttäjien taas on syytä tarkistaa tilinsä mallien kehittämiseen liittyvät asetukset sen sijaan, että he olettaisivat Computer Historyn olevan automaattisesti niiden ulkopuolella.

Käyttäjän ja ylläpitäjän hallintakeinot

Käyttäjä voi:

• liittyä ominaisuuden käyttäjäksi tai jättää sen pois käytöstä
• keskeyttää keräyksen tai poistaa sen käytöstä
• valita mukaan otettavat sovellukset ja verkkosivustot
• tarkastella aikajanan tapahtumia
• poistaa tallennetun historian ja muistit

Business- ja Enterprise-ylläpitäjät voivat puolestaan päättää, saavatko työtilan jäsenet käyttää ominaisuutta lainkaan. Malli, jossa ylläpitäjän lupa edeltää käyttäjän omaa suostumusta, estää organisaatiota aktivoimasta Computer Historya kaikille työntekijöille huomaamatta.

Työpaikalla olisi järkevää rajata ulkopuolelle salasananhallintaohjelmat, talous-, terveys- ja lakipalvelut, ylläpitokonsolit, luottamukselliset lähdekoodi- ja häiriönhallintatyökalut sekä viestisovellukset, joissa käsitellään muiden ihmisten yksityisiä tietoja. Nämä ovat käytännön suosituksia, eivät takuu siitä, että kaikki arkaluonteinen sisältö suodattuisi automaattisesti.

Voiko historiasta syntyä taitoja tai automaatioita?

Ominaisuuden kiinnostavin pitkän aikavälin mahdollisuus on toiminnallinen muisti. Onnistuneen työvaiheiden sarjan perusteella Codex voisi auttaa rakentamaan toistettavan prosessin, tarkistuslistan, komentosarjan tai uudelleenkäytettävän taidon.

Tuleva pyyntö voisi esimerkiksi viitata aiemmin käytettyyn raportin valmisteluprosessiin. Tämä olisi kuitenkin tallennettuun kontekstiin perustuva mahdollinen työnkulku – ei näyttö siitä, että Computer History itsessään loisi tai ajaisi tällä hetkellä automaattisesti ajastettuja tehtäviä.

Kaiken tällaisen automaation pitäisi vaatia käyttäjän nimenomainen hyväksyntä, rajatut käyttöoikeudet, tarkistettavat työvaiheet ja suojaus verkkosivujen, dokumenttien tai viestien kautta syötettyjä ohjeita vastaan.

Johtopäätös

Computer History kannattaa nähdä tapahtumapohjaisena tekoälymuistina, ei kuvakaappausvalvontana. Se kerää vähemmän visuaalista ja äänimuotoista tietoa kuin Chronicle tai Microsoft Recallin kaltaiset kuvakaappausjärjestelmät, mutta antaa ChatGPT:lle ja Codexille silti yksityiskohtaisen kuvan valituissa sovelluksissa tehdystä työstä.

Ominaisuus voi helpottaa monimutkaisten työprosessien jatkamista, mutta salaamattomat paikalliset Markdown-muistit ovat vakavasti otettava haittapuoli. Jos otat toiminnon käyttöön, pidä sovellusten ja sivustojen luettelo mahdollisimman suppeana, sulje riskialttiit järjestelmät ulkopuolelle, keskeytä keräys arkaluonteisen työn ajaksi ja tarkista tai poista syntyvät muistit säännöllisesti.