ChatGPT sai pääsyn Applen Viestit-sovellukseen – miksi tutkijat puhuvat vakoiluohjelmasta?

OpenAI:n Apple Messages -laajennus muuttaa ChatGPT:n Mac-sovelluksen käyttöliittymäksi Applen Viestit-sovellukseen. Yhteensopivalla Macilla ChatGPT voi etsiä keskusteluja, analysoida ja tiivistää viestiketjuja, luonnostella vastauksia ja lähettää viestejä käyttäjän puolesta. Ominaisuus toimii ChatGPT Workissa ja Codexissa, ei tavallisissa ChatGPT-keskusteluissa, verkkoversiossa tai mobiilisovelluksessa. 72339

Kätevyydellä on poikkeuksellisen merkittävä kääntöpuoli: ominaisuuden käyttöönotto voi antaa tekoälylle pääsyn yksityiseen viestihistoriaan, jossa on myös sellaisten ihmisten kirjoittamia viestejä, jotka eivät ole koskaan antaneet suostumustaan niiden jakamiseen tekoälyjärjestelmän kanssa.

Mitä Apple Messages -laajennus osaa?

Laajennus toimii kaikilla kolmella viestityypillä, joita Applen Viestit-sovellus käsittelee:

• iMessage-keskusteluilla
• SMS-viesteillä
• RCS-viesteillä

ChatGPT Workissa ja Codexissa se voi lukea ja hakea keskusteluista tietoa, tiivistää viestiketjuja, valmistella vastauksia ja lähettää ne Viestit-sovelluksen kautta. 81939

Kyse ei siis ole vain siitä, että käyttäjä liittäisi yhden viestin keskusteluikkunaan ja pyytäisi sille kieliasun tarkistusta. Laajennus voi auttaa esimerkiksi löytämään tietyn asian vanhasta keskustelusta tai hahmottamaan, keiden kanssa käyttäjä viestii ja mistä aiheista. Juuri tällainen koko viestihistorian laajempi analysointi on herättänyt enemmän huolta kuin yksittäisen tekstin luonnostelu. 8

Missä ominaisuus toimii?

Apple Messages -laajennus on suunniteltu macOS:n ChatGPT-työpöytäsovellukseen, ja se toimii tällä hetkellä Apple Silicon -Maceilla. Käyttö tapahtuu ChatGPT Workissa ja Codexissa, ei tavallisissa ChatGPT-keskusteluissa, verkkokäyttöliittymässä tai mobiilisovelluksissa. 72023

Laajennushakemisto voi näkyä eri ChatGPT-tilauksilla, mutta todellinen käyttöoikeus riippuu esimerkiksi tilauksesta, työtilasta, käyttäjän roolista ja sovelluksille myönnetyistä luvista. Business- ja Enterprise/Edu-työtilojen ylläpitäjät voivat hallita laajennuksen asennusta ja sovellusoikeuksia. Hallinnoidussa työtilassa Apple Messages voidaan myös poistaa käytöstä olemassa olevan Computer Use -asetuksen kautta. 32383940

Ominaisuus ei siis ole iPhone-integraatio. Laajennusta ei voi asentaa iPhoneen niin, että ChatGPT käyttäisi Viestit-sovellusta suoraan siellä. Kyseinen tietosuoja-altistus koskee Macia, jolla viestihistoria on paikallisesti käytettävissä. 720

Miksi Full Disk Access herättää huolta?

Merkittävin vaatimus on macOS:n Full Disk Access eli täysi levynkäyttöoikeus. Käyttöönotto voi edellyttää myös yhteystietoihin ja automaatioon liittyviä lupia, jotta sovellus voi tunnistaa vastaanottajia ja ohjata Viestit-sovellusta. 1923

Full Disk Access ei ole tarkkarajainen ”vain Viestit” -lupa. macOS:n näkökulmasta se voi antaa sovellukselle pääsyn muiden sovellusten suojattuihin tietoihin. Integraatiota koskevissa raporteissa on nostettu esiin mahdollinen pääsy esimerkiksi Mailin tietoihin, Safarin tietoihin ja varmuuskopioihin. 20

Tämä ero on olennainen. Käyttäjä saattaa ajatella sallivansa ChatGPT:lle pääsyn tekstiviesteihin, vaikka käyttöjärjestelmän myöntämä lupa on paljon laajempi. Laajennus voi käytännössä hakea vain pyyntöön liittyviä Messages-tietoja, mutta lupa itsessään merkitsee laajempaa luottamuspäätöstä kuin ominaisuuden nimi antaa ymmärtää.

Miksi kriitikot kutsuvat sitä ”vakoiluohjelmaksi”?

”Vakoiluohjelma” on tässä ennen kaikkea suunnittelua ja riskimallia arvosteleva ilmaus. Se ei ole vahvistettu oikeudellinen tai tekninen johtopäätös siitä, että OpenAI tarkkailisi käyttäjiä salaa. Tietosuojatutkija Paul Walsh on huomauttanut, että Full Disk Accessin ja automaatiolupien yhdistelmä voi antaa ChatGPT:lle pääsyn Macilla luettaviin iMessage-, SMS- ja RCS-keskusteluihin. Myös kehittäjä Steve Moraco ja muut kriitikot ovat nostaneet esiin riskin, että haettu sisältö voisi päätyä mallin taustalla olevaan palveluinfrastruktuuriin. 3031

Kritiikki keskittyy kolmeen ongelmaan.

1. Lupa on laaja

Full Disk Access voi paljastaa suojattuja tietoja useammasta kuin yhdestä sovelluksesta. Kriitikoiden mielestä viestien hakemiseen ja niiden perusteella toimimiseen kykenevän tekoälyavustajan ei pitäisi tarvita näin laajaa mahdollista pääsyä. 2031

2. Viestit eivät kuulu vain Macin omistajalle

Macin omistaja voi päättää ottaa laajennuksen käyttöön, mutta viestiketjun sisältö on yleensä usean ihmisen yhteinen. Keskustelukumppanit eivät välttämättä käytä ChatGPT:tä, tiedä integraation olevan aktiivinen tai saa vastaavaa tapaa vetää omia viestejään pois työnkulusta.

Syntyy niin sanottu kolmansien osapuolten suostumusongelma: laitteen omistaja hallitsee Macia, mutta ei välttämättä kaikkea sille tallennettua tietoa. Raporteissa on korostettu, että laajennus voi ulottua laajoihin keskusteluhistorioihin, myös yksityisiin ja päästä päähän salattuihin viesteihin, joita ei ole alun perin kirjoitettu tekoälyanalyysiä varten. 2231

3. Paikallinen käsittely ei kerro koko tiedonkulkua

OpenAI:n kuvaus paikallisesta toiminnasta kertoo, miten laajennus käyttää Macin Messages-tietoja. Se ei yksin vastaa siihen, mitä sisältöä lähetetään ChatGPT:lle, kun käyttäjä pyytää hakutulosta, tiivistelmää tai vastausluonnosta – eikä siihen, miten sisältöä käsitellään kaikissa asetuksissa.

Siksi väitteet ”ominaisuus toimii paikallisesti” ja ”palvelimelle ei tallenneta kokonaista viestiarkistoa” eivät yksin ratkaise tietosuojakeskustelua. Ne voivat rajoittaa riskiä verrattuna siihen, että koko viestitietokanta ladattaisiin jatkuvasti palveluun. Ne eivät kuitenkaan tarkoita, ettei viestisisältöä voisi siirtyä pois laitteelta tekoälypyynnön aikana.

OpenAI:n ilmoittamat suojatoimet

OpenAI:n kuvaamat suojaukset ovat merkityksellisiä, mutta ne vastaavat eri riskeihin.

• Paikallinen toiminta: OpenAI:n mukaan integraatio käyttää macOS:n työkaluja paikallisesti Viestit-sovelluksen ohjaamiseen. Raporttien mukaan olennaiset tiedot haetaan tarvittaessa sen sijaan, että koko viestiarkistosta rakennettaisiin keskitetty hakemisto. 625
• Hyväksyntä ennen lähettämistä: Oletuksena ChatGPT pyytää käyttäjää hyväksymään sekä viestin että vastaanottajat ennen lähettämistä. 1939
• Automaattinen lähetys: Käyttäjä voi ottaa käyttöön sallivamman lähetysasetuksen, mutta OpenAI ei suosittele jatkuvan hyväksynnän antamista. Tällöin yksi tarkistusvaihe poistuu ja väärän ohjeen, vastaanottajan tai epäonnistuneen luonnoksen seuraukset voivat olla suuremmat. 619
• Työtilojen hallinta: Business- ja Enterprise/Edu-työtilojen ylläpitäjät voivat rajoittaa ominaisuutta työtilan laajennus-, sovellus-, rooli- ja Computer Use -asetuksilla. 32383940

Suojaukset vähentävät esimerkiksi vahingossa lähetettyjen viestien riskiä. Ne eivät kuitenkaan poista peruskysymystä: pitäisikö laitteen omistajan voida avata yhteinen, muidenkin ihmisten viesteistä koostuva arkisto tekoälyavustajalle ilman, että keskustelun muut osapuolet tietävät siitä?

Onko kyse Facebookin ”varjoprofiileista”?

Vertaus Facebookin niin sanottuihin shadow profile -profiileihin on hyödyllinen vain, jos sen rajat muistetaan.

Molemmissa tapauksissa huoli liittyy ihmisiä koskeviin tietoihin, vaikka nämä eivät olisi itse rekisteröityneet palveluun tai antaneet sille suoraa suostumusta. Apple Messages -laajennuksessa välitön ongelma on kuitenkin se, että ChatGPT-käyttäjän Macin kautta tekoälylle avautuvat muiden ihmisten viestit – ei se, että OpenAI:n olisi osoitettu rakentavan jokaisesta keskusteluissa mainitusta ei-käyttäjästä pysyvää Facebook-tyyppistä profiilia.

Tarkempi kuvaus on epäsuora altistuminen: yhden ihmisen päätös voi tehdä yhteisestä viestiarkistosta haettavan, tiivistettävän ja vastausten luonnosteluun käytettävän. Se on vakava suostumus- ja tietosuojakysymys, mutta mekanismi ei ole sama kuin alustan erillinen ei-käyttäjäprofiilien kokoaminen.

Miten tämä liittyy Applen ja OpenAI:n oikeusriitaan?

Laajennus asettaa Applen tietosuojabrändin hankalaan valoon, koska kolmannen osapuolen tekoäly voi käsitellä Messages-sisältöä, kun Macin omistaja myöntää sille tarvittavat oikeudet. Tämä maineeseen liittyvä kysymys on kuitenkin eri asia kuin Applen OpenAI:ta vastaan nostama oikeusjuttu. 15

Applen kanne koskee väitettyä liikesalaisuuksien väärinkäyttöä, jonka yhteydessä OpenAI:n väitetään tavoitelleen kuluttajalaitteisiin liittyvää liiketoimintaa. OpenAI on pyytänyt kanteen hylkäämistä ja sanoo, ettei sillä ole Applen liikesalaisuuksia eikä se halua niitä. Oikeusjuttu ei saatavilla olevien tietojen perusteella koske Apple Messages -laajennusta tai suoraan iMessagen salausmallia. 416

Ajankohta tekee integraatiosta silti kaupallisesti ja poliittisesti kiusallisen. Apple markkinoi yksityisyyttä keskeisenä tuote- ja brändiarvona, samalla kun laajennus osoittaa, kuinka käyttäjän valtuuttama kolmannen osapuolen sovellus voi päästä käsiksi tietoihin, joita Applen omat järjestelmät suojaavat ulkopuolisilta.

Mitä Mac-käyttäjän kannattaa ottaa huomioon?

Apple Messages -laajennus ei ole tavanomaisessa merkityksessä piilotettu vakoiluohjelma. Se on vapaaehtoinen ominaisuus, joka näyttää käyttäjälle vaaditut luvat, pyytää oletuksena hyväksynnän ennen viestin lähettämistä ja tarjoaa työtilojen ylläpitäjille hallintakeinoja.

”Vakoiluohjelma”-kritiikki osuu silti todelliseen suunnittelun jännitteeseen. Ominaisuus yhdistää tekoälyjärjestelmän, laajan macOS-luvan ja pitkäaikaisen viestiar-kiston, joka sisältää muiden ihmisten kirjoittamia sanoja.

Ennen käyttöönottoa Mac-käyttäjän kannattaa ymmärtää, ettei hän anna pääsyä vain omiin viesteihinsä. Hän voi samalla tuoda ystävien, perheenjäsenten, työtovereiden ja ryhmäkeskustelujen osapuolten viestejä tekoälypohjaiseen työnkulkuun – ilman, että nämä ihmiset saavat erillistä lupapyyntöä.