AnswersPublished17 sources
AI-agentfunktioner og iOS-apps lækker i stor stil adgang til AI-tjenester
Wake Forest forskere fandt 520 agentfunktioner med lækkede legitimationsoplysninger blandt 17.022 undersøgte samt exploitable AI adgang i 282 af 444 iOS apps. I agentfunktionerne blev 89,6 % af de berørte tilfælde vurderet som umiddelbart exploitable.
Udgivet afRedigeret med GPT-5.6 LunaBilleder genereret med GPT Image 1.5
Research answer
Key takeaways
- Wake Forest forskere fandt 520 agentfunktioner med lækkede legitimationsoplysninger blandt 17.022 undersøgte samt exploitable AI adgang i 282 af 444 iOS apps.
- I agentfunktionerne blev 89,6 % af de berørte tilfælde vurderet som umiddelbart exploitable.
- Forskerne anbefaler sikkerhed indbygget fra starten – blandt andet serverbaseret opbevaring af nøgler, mindst mulige rettigheder, scanning efter hemmeligheder, redigerede logfiler og skærpet kontrol af markedspladser.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
Wake Forest University-forskning peger på en fælles svaghed i to hastigt voksende AI-økosystemer: Hemmelige adgangsoplysninger bliver ofte placeret, så agenter, apps eller angribere kan hente dem. Den ene undersøgelse analyserede 17.022 tredjeparts-agentfunktioner og fandt 520 berørte funktioner med i alt 1.708 sikkerhedsproblemer. En relateret undersøgelse af 444 iOS-apps med indbyggede store sprogmodeller fandt, at 282 eksponerede legitimationsoplysninger eller mekanismer, der gav adgang til backend-systemer, under testen. 1
2
4
Den praktiske risiko er større end en enkelt lækket tekststreng. En eksponeret API-nøgle eller token kan give adgang til private data, agentens funktioner eller betalt modelkørsel på udviklerens konto.
Hvad undersøgelsen af agentfunktioner fandt
Forskerne udvalgte 17.022 funktioner fra 170.226 artefakter på SkillsMP. De kombinerede statisk detektion af hemmeligheder, dynamiske sandbox-tests med falske legitimationsoplysninger og kontroller, der sammenholdt en funktions erklærede formål med dens faktiske adfærd under kørsel. 3
4
Analysen viste blandt andet:
- 520 berørte agentfunktioner med 1.708 sikkerhedsproblemer fordelt på 10 mønstre for læk af legitimationsoplysninger.
4
16
- 466 af de 520 berørte funktioner eksponerede legitimationsoplysninger, der kunne bruges uden forhøjede rettigheder. Det svarer til en rapporteret umiddelbar udnyttelsesgrad på 89,6 %.
1
- Et problem på tværs af formater: 76,3 % af lækagerne krævede, at man undersøgte både funktionens instruktioner i naturligt sprog og dens kode.
- 3,1 % af tilfældene involverede prompt injection i naturligt sprog uden eksekverbar kode.
En traditionel gennemgang, der kun ser på kode, kan derfor overse væsentlige risici. En agentfunktion kan beskrive en tilsyneladende legitim opgave, mens instruktionerne eller understøttende scripts eksponerer hemmeligheder under kørsel.
Debug-logning kan gøre hemmeligheder læsbare for modellen
Debug-logning var et særligt vigtigt lækagemønster. I agentrammer, hvor standardoutput føres ind i modellens kontekst, kan en legitimationsoplysning, der skrives ud med funktioner som print eller console.log, blive tilgængelig via en almindelig forespørgsel i naturligt sprog. Studiets resumé peger på debug-logning som den primære angrebsvektor og tilskriver 73,5 % af lækagerne output, der blev eksponeret for store sprogmodeller. 4
Risikoen begrænser sig ikke til åbenlyse, hardcodede API-nøgler. Legitimationsoplysninger kan også blive eksponeret gennem scripts, miljøvariabler, logfiler, promptinstruktioner eller kombinationer af kode og tekst, som først bliver farlige under normal kørsel.
Både ondsindet og uagtsom udvikling spiller en rolle
Forskningen beskriver to overordnede årsager til læk af legitimationsoplysninger:
- Ondsindet udvikling: En agentfunktion indeholder bevidst instruktioner eller nyttelast, der er designet til at indsamle legitimationsoplysninger eller private data og eventuelt sende dem til en ekstern server.
- Uagtsom udvikling: En udvikler følger ikke sikre udviklingsmetoder og efterlader utilsigtet legitimationsoplysninger eller adgangsveje, som angribere kan udnytte.
Skellet er vigtigt for oprydningen. Ondsindet indhold skal identificeres og fjernes, mens utilsigtet eksponering kræver bedre håndtering af hemmeligheder, sikrere logning, stærkere autentificering og test før distribution.
Efter at forskerne havde underrettet SkillsMP, oplyste Wake Forest, at alle identificerede ondsindede funktioner var blevet fjernet, og at de fleste sårbare funktioner var blevet rettet. Undersøgelsen advarer dog om, at en oprydning i det oprindelige repository ikke nødvendigvis er nok: Forkede kopier kan bevare eksponerede legitimationsoplysninger, selv efter at kilden er blevet rettet. 1
4
iOS-undersøgelsen fandt en separat vej til kapring af LLM-konti
Den relaterede iOS-undersøgelse analyserede 444 apps med LLM-funktioner og fandt, at 282 – cirka 64 % – eksponerede exploitable LLM-legitimationsoplysninger eller mekanismer til backend-adgang i netværkstrafikken. 2
5
De rapporterede eksponeringsmønstre omfattede:
- JWT-baserede tokens, der kunne genbruges: 48 %
- Backend-proxyer uden autentificering: 33 %
- API-nøgler sendt i klartekst: 19 %
3
Svaghederne kan være synlige under helt almindelig brug af appen. En angriber, der opsnapper en nøgle, genbruger en token eller finder en åben proxy, kan muligvis sende forespørgsler via udviklerens LLM-konto. Det kan forbruge betalt modelkørsel, misbruge tilknyttede cloud-ressourcer eller skabe uautoriserede regninger. 2
5
Dokumentationen understøtter risikoen for alvorlige eller potentielt ubegrænsede udgifter, afhængigt af kontogrænserne og hvor længe et indbrud fortsætter. Den dokumenterer dog ikke i sig selv et bestemt tab på for eksempel "hundredtusindvis af dollars".
Oprydningen gik også langsomt. Tre måneder efter ansvarlig rapportering havde kun 28 % af de berørte iOS-apps rettet den rapporterede sårbarhed. I opfølgningen var 72 % derfor fortsat exploitable. 3
11
Derfor er resultaterne vigtige for AI-assisteret udvikling
Tilsammen viser undersøgelserne, at en AI-funktion eller en genbrugelig agentfunktion kan udvide et programs angrebsflade. De nye risici omfatter blandt andet:
- Udbydernøgler, der er indlejret i klientapps eller eksponeret i agentens kontekst
- Privilegerede værktøjer med adgang til filer, tjenester eller private data
- Logfiler, der utilsigtet bliver en del af den kontekst, modellen kan læse
- Backend-endepunkter, der accepterer forespørgsler uden tilstrækkelig autentificering
- Tokens, som angribere kan genbruge
- LLM-regninger, som en angriber kan opbygge på udviklerens konto
Bekymringen vokser i takt med, at udviklere bruger AI-assisteret såkaldt "vibe coding" til hurtigt at generere og integrere software. Hastighed kan ikke erstatte trusselsmodellering: autentificering, håndtering af hemmeligheder, autorisation, logning og kontrol af afhængigheder kræver stadig bevidst ingeniørarbejde. Undersøgelsen af agentfunktioner rapporterede desuden tegn på AI-assisteret udvikling i 72 % af tilfældene med hardcodede legitimationsoplysninger, hvilket tyder på, at usikre mønstre kan sprede sig gennem genereret eller hurtigt sammensat kode. 4
Sikkerhed fra starten: Tiltagene undersøgelserne peger på
Resultaterne understøtter et grundniveau af beskyttelse for teams, der udvikler AI-produkter eller distribuerer agentfunktioner:
- Hold langlivede udbydernøgler væk fra klientenheder og modellens kontekst. Send i stedet følsomme modelkald gennem en autentificeret server.
- Brug kortlivede legitimationsoplysninger med snævert anvendelsesområde. Følg princippet om mindst mulige rettigheder, og valider tokens i stedet for at betragte en token som tilstrækkelig autorisation.
- Fjern hemmeligheder fra logfiler og standardoutput. Alt, der sendes ind i en agents kontekst, bør betragtes som potentielt genfindeligt for modellen eller brugeren.
- Scan kode, konfiguration, prompts og afhængigheder for hemmeligheder. Resultaterne fra agentundersøgelsen viser, hvorfor instruktioner i naturligt sprog og eksekverbar kode skal gennemgås samlet.
- Test netværkstrafik og backend-autorisation. Kontrollér, at en opsnappet forespørgsel ikke kan genbruges eller sendes gennem en proxy uden autentificering.
- Roter eksponerede legitimationsoplysninger, og kontrollér forks og kopier. Fjernelse af en hemmelighed fra det oprindelige repository sikrer ikke, at alle distribuerede versioner er renset.
- Indfør kontrol på platformniveau før distribution. Gennemgang af markedspladser, udviklervejledning, ansvarlig rapportering og automatiserede kontroller kan supplere den enkelte udviklers opmærksomhed.
Den centrale lære er enkel: AI-sikkerhed kan ikke først tilføjes, når produktet er lanceret. Legitimationsoplysninger, agenttilladelser, modellens kontekst og kontrol med faktureringen skal behandles som centrale produktsikkerhedsspørgsmål fra begyndelsen.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI-agentfunktioner og iOS-apps lækker i stor stil adgang til AI-tjenester"?
Wake Forest forskere fandt 520 agentfunktioner med lækkede legitimationsoplysninger blandt 17.022 undersøgte samt exploitable AI adgang i 282 af 444 iOS apps.
What are the key points to validate first?
Wake Forest forskere fandt 520 agentfunktioner med lækkede legitimationsoplysninger blandt 17.022 undersøgte samt exploitable AI adgang i 282 af 444 iOS apps. I agentfunktionerne blev 89,6 % af de berørte tilfælde vurderet som umiddelbart exploitable.
What should I do next in practice?
Forskerne anbefaler sikkerhed indbygget fra starten – blandt andet serverbaseret opbevaring af nøgler, mindst mulige rettigheder, scanning efter hemmeligheder, redigerede logfiler og skærpet kontrol af markedspladser.