AnswersPublished19 sources
Singaporessa tekoälyn käyttö karkaa yritysten valvonnan edelle
Singaporen varjoälyhaaste on myös valvonnan ja toimeenpanon ongelma: 60 % DevSecOps alan vastaajista pitää hallintaa ja sääntöjen valvontaa suurimpana aikasyöppönä, ja 41 % kertoo tekoälyn tuottaman koodin tarkastelun... JFrogin tutkimuksessa 18 prosentilla singaporelaisista organisaatioista oli luvattoman tekoälyn...
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Singaporen varjoälyhaaste on myös valvonnan ja toimeenpanon ongelma: 60 % DevSecOps alan vastaajista pitää hallintaa ja sääntöjen valvontaa suurimpana aikasyöppönä, ja 41 % kertoo tekoälyn tuottaman koodin tarkastelun...
- JFrogin tutkimuksessa 18 prosentilla singaporelaisista organisaatioista oli luvattoman tekoälyn käytön kieltävä sääntö, mutta ei keinoa havaita sen rikkomista.
- Sovellusten turvallisuus edellyttää koko ohjelmistoketjun tarkastelua: sisäisen koodin lisäksi huomioon on otettava esimerkiksi tekoälymallit, avoimen lähdekoodin paketit ja kolmansien osapuolten työkalut.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is employee adoption of shadow AI outpacing governance controls in Singapore companies, and what do JFrog’s Sunny Rao and Splunk’s Chris. Article summary: Employee use of unapproved AI is moving faster than Singapore companies can discover it, review its outputs and enforce internal rules, creating a gap between written governance and operational control. The reported cons. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Työntekijät voivat ottaa tekoälytyökalut käyttöön arjen työssään nopeammin kuin yrityksen IT- ja tietoturvatiimit ehtivät selvittää, mitä työkaluja käytetään, mitä niihin syötetään ja noudatetaanko organisaation sääntöjä. Singaporessa julkaistut tutkimustulokset viittaavat kuiluun kirjallisten ohjeiden ja niiden käytännön valvonnan välillä. 3
5
6
Sääntö ei vielä takaa valvontaa
Varjoälyllä tarkoitetaan työssä käytettäviä tekoälypalveluja, joita organisaatio ei ole hyväksynyt tai joiden käyttöä se ei valvo. Työntekijä saattaa turvautua tällaiseen palveluun saadakseen tehtävän nopeammin valmiiksi, mutta työnantajalta voi puuttua näkyvyys siihen, mitä työkaluja käytetään ja mitä tietoja niille luovutetaan. 14
Ero ohjeen ja käytännön valvonnan välillä näkyy JFrogin tutkimustuloksessa: 18 prosentilla singaporelaisista organisaatioista oli luvattomia tekoälytyökaluja koskeva kielto, mutta ei mekanismia rikkomusten havaitsemiseen. 3 Pelkkä kielto ei siis kerro, pystyykö yritys tunnistamaan työkalujen käytön tai puuttumaan siihen.
Sovellusten rakentaminen lisää tarkastustyötä
Nykyaikainen sovellus koostuu usein muustakin kuin yrityksen itse kirjoittamasta koodista. Mukana voi olla avoimen lähdekoodin ohjelmistopaketteja, pilvipalveluja, tekoälyn tuottamaa koodia, malleja ja kolmansien osapuolten työkaluja. Jokainen osa tuo uuden asian, joka voi vaatia seurantaa ja arviointia. 5
JFrogin tutkimuksessa 60 prosenttia Singaporen DevSecOps-alan vastaajista kertoi hallinnan ja sääntöjen toimeenpanon olevan heidän suurin aikasyöppönsä. DevSecOps tarkoittaa käytäntöjä, joilla tietoturva liitetään osaksi ohjelmistokehitystä ja sen käyttöönottoa. Lisäksi 41 prosenttia vastaajista piti tekoälyn tuottaman koodin tarkastamista paljon resursseja vievänä. 5
Tulokset kuvaavat vastaajien kokemia paineita, eivät sitä, että jokainen organisaatio kohtaisi samanlaisia riskejä. Ne kuitenkin havainnollistavat, miksi nopeampi koodin tuottaminen ei automaattisesti tarkoita nopeampaa ja turvallista käyttöönottoa.
Myös vaatimustenmukaisuuden osoittaminen voi olla hidasta: erillisessä raportissa 54 prosentin singaporelaisvastaajista kerrottiin tarvitsevan vähintään viikon vaatimustenmukaisuuteen liittyvien todisteiden kokoamiseen yhdestä sovelluksesta. 7 Sovelluksen omistajan tunteminen ei siis vielä tarkoita, että sen osista ja vaatimusten täyttymisestä olisi nopeasti saatavilla kattava dokumentaatio.
Riskit koskevat myös tietoja ja tekoälyn tuotoksia
Jos tekoälypalvelu jää tietoturvavalvonnan ulkopuolelle, työntekijä voi syöttää siihen arkaluonteisia tietoja, kuten lähdekoodia tai asiakastietoja. Tietoturvaohjeistuksissa varjoälyn riskiksi nostetaan juuri se, että luottamuksellista tietoa voi päätyä organisaation hallinnan ulkopuolelle. 23
24
Myös tekoälyn tuottama koodi ja muut tuotokset on tarkastettava ennen käyttöönottoa. Singaporen tutkimustuloksissa näkyy, että koodin tarkastus voi viedä paljon resursseja, mutta tässä käytettävissä oleva aineisto ei kerro, kuinka usein virheet päätyvät asiakkaiden nähtäviksi tai kriittisiin järjestelmiin. 5
Jos työntekijät jatkavat luvattomien työkalujen käyttöä, kielto ei yksin ratkaise ongelmaa, jos organisaatio ei pysty havaitsemaan käyttöä. Tutkimuksessa raportoitu valvontavaje nostaa käytännön tehtäväksi sen, että yritykset kehittävät keinoja tunnistaa tekoälyn käyttöä ja soveltaa sääntöjä arjessa. 3
Turvallisuus ei rajoitu lähdekoodiin
JFrogin Sunny Rao on kuvannut, kuinka sovelluksissa yhdistyvät yhä useammin yrityksen oma koodi, avoimen lähdekoodin paketit, pilvipalvelut, tekoälyn tuottama koodi, mallit ja kolmansien osapuolten työkalut. Näkökulma laajentaa tietoturvatyötä yksittäisen lähdekoodin tarkastamisesta niiden kaikkien osien hallintaan, joista sovellus rakentuu. 5
Splunkin Christine Low on puolestaan nostanut esiin vaatimustenmukaisuuden, tiedonhallinnan ja jatkuvan muutoksen tuoman operatiivisen kuormituksen organisaatioille, jotka haluavat laajentaa tekoälyn käyttöä. 4 Yhdessä näkökulmat muistuttavat, ettei tekoälyn hallinta ole vain kehittäjien tekemää kooditarkastusta: siihen kuuluu myös tietojen ja riippuvuuksien hallinta järjestelmien muuttuessa.
Mistä yritykset voivat aloittaa?
Käytännössä näkyvyyden pitäisi kytkeytyä valvottaviin sääntöihin:
- Pidä kirjaa sovellusten osista. Sisällytä seurantaan oman koodin lisäksi tekoälymallit, ohjelmistopaketit ja muut sovelluksiin liittyvät ohjelmistokomponentit.
5
8
- Tee säännöistä valvottavia. Tutkimuksen 18 prosentin tulos havainnollistaa, miksi luvattoman käytön kieltoa on täydennettävä keinoilla havaita työkalujen käyttö.
3
- Helpota vaatimustenmukaisuuden osoittamista. Raportoitu viive osoittaa, että pelkkien omistajatietojen lisäksi tarvitaan helposti saatavaa tietoa sovelluksen osista ja niitä koskevasta hallinnasta.
7
- Arvioi tekoälyn tuotokset osana normaalia tietoturvatyötä. Tekoälyn tuottamaa koodia ei pidä olettaa turvalliseksi vain siksi, että se syntyi nopeasti; myös se tarvitsee asianmukaisen arvioinnin.
JFrogin ehdottamassa lähestymistavassa malleja, paketteja, liitännäisiä ja tekoälyn tuottamia ohjelmistokomponentteja hallitaan yhteisen tietolähteen kautta. 8 Työkaluista riippumatta perusperiaate on sama: yhdistää se, mitä organisaatio pystyy näkemään, sääntöihin, joita se pystyy myös käytännössä valvomaan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Singaporessa tekoälyn käyttö karkaa yritysten valvonnan edelle"?
Singaporen varjoälyhaaste on myös valvonnan ja toimeenpanon ongelma: 60 % DevSecOps alan vastaajista pitää hallintaa ja sääntöjen valvontaa suurimpana aikasyöppönä, ja 41 % kertoo tekoälyn tuottaman koodin tarkastelun...
What are the key points to validate first?
Singaporen varjoälyhaaste on myös valvonnan ja toimeenpanon ongelma: 60 % DevSecOps alan vastaajista pitää hallintaa ja sääntöjen valvontaa suurimpana aikasyöppönä, ja 41 % kertoo tekoälyn tuottaman koodin tarkastelun... JFrogin tutkimuksessa 18 prosentilla singaporelaisista organisaatioista oli luvattoman tekoälyn käytön kieltävä sääntö, mutta ei keinoa havaita sen rikkomista.
What should I do next in practice?
Sovellusten turvallisuus edellyttää koko ohjelmistoketjun tarkastelua: sisäisen koodin lisäksi huomioon on otettava esimerkiksi tekoälymallit, avoimen lähdekoodin paketit ja kolmansien osapuolten työkalut.
Sources
frontier-enterprise.comSingapore's innovation faces a new risk: Shadow AI