AnswersPublished17 sources
Hundratals AI-verktyg läcker nycklar som kan kapa utvecklarnas AI-konton
I ett urval av 17 022 agentfärdigheter hittade forskarna 520 berörda färdigheter med totalt 1 708 säkerhetsproblem. 89,6 procent av de berörda agentfärdigheterna bedömdes kunna utnyttjas direkt.
Publicerad avRedigerad med GPT-5.6 LunaBilder genererade med GPT Image 1.5
Research answer
Key takeaways
- I ett urval av 17 022 agentfärdigheter hittade forskarna 520 berörda färdigheter med totalt 1 708 säkerhetsproblem.
- 89,6 procent av de berörda agentfärdigheterna bedömdes kunna utnyttjas direkt. Debugloggar, osäker kod och instruktioner i naturligt språk var bland läckagevägarna.
- Studierna pekar på behovet av säkerhet från början: API nycklar på serversidan, minsta möjliga behörighet, hemlighetsskanning, maskerade loggar och hårdare granskning av plattformar och marknadsplatser.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
Två studier från Wake Forest University pekar på samma grundproblem i två snabbt växande AI-miljöer: hemliga autentiseringsuppgifter hamnar ofta där AI-agenter, appar eller angripare kan komma åt dem. I den ena studien analyserades 17 022 tredjepartsfärdigheter för AI-agenter. Där hittades 520 berörda färdigheter med totalt 1 708 säkerhetsproblem. I den andra granskades 444 iOS-appar med LLM-funktioner, och 282 av dem exponerade autentiseringsuppgifter eller åtkomstvägar till backend-system under testerna. 1
2
4
Risken handlar om mer än att en enskild teckensträng råkar synas. En exponerad API-nyckel eller token kan ge åtkomst till privata data, agentens funktioner eller betalda modellkörningar på utvecklarens konto.
520 agentfärdigheter innehöll säkerhetsproblem
Forskarna valde ut 17 022 färdigheter från 170 226 artefakter i SkillsMP, en öppen marknadsplats för återanvändbara agentfärdigheter. Analysen kombinerade statisk sökning efter hemligheter, dynamiska tester i en sandlådemiljö med testuppgifter samt kontroller av om färdighetens beskrivna syfte stämde överens med vad den faktiskt gjorde när den kördes. 3
4
Resultaten visade bland annat:
- 520 berörda färdigheter med 1 708 säkerhetsproblem, fördelade på tio mönster för läckage av autentiseringsuppgifter.
4
16
- 466 av de 520 berörda färdigheterna exponerade uppgifter som kunde användas utan utökade privilegier. Det motsvarar en rapporterad andel på 89,6 procent som kunde utnyttjas direkt.
1
- 76,3 procent av läckagefallen krävde att forskarna granskade både instruktioner i naturligt språk och programkoden.
- 3,1 procent av fallen berodde på promptinjektion i naturligt språk utan körbar kod.
En traditionell kodgranskning räcker därför inte alltid. En färdighet kan beskriva en till synes legitim uppgift, samtidigt som instruktionerna eller tillhörande skript avslöjar hemligheter under körning.
Debugloggar kan göra hemligheter läsbara för modellen
Debugloggning var en särskilt viktig läckageväg. I agentramverk där standardutskrifter förs in i modellens kontext kan en autentiseringsuppgift som skrivs ut med exempelvis print eller console.log bli åtkomlig genom en vanlig fråga i naturligt språk. Studiens sammanfattning pekar ut debugloggning som den främsta vektorn och kopplar 73,5 procent av läckorna till att utdata exponeras för LLM:er. 4
Det är inte bara uppenbara, hårdkodade API-nycklar som är problemet. Uppgifter kan också läcka genom skript, miljövariabler, loggar, promptinstruktioner eller kombinationer av kod och språk som först blir farliga när färdigheten körs på normalt sätt.
Både illvillig och slarvig utveckling spelar in
Forskarna beskriver två övergripande orsaker till läckorna:
- Illvillig utveckling: En färdighet innehåller medvetet instruktioner eller nyttolaster som samlar in autentiseringsuppgifter eller privat information och eventuellt skickar den vidare till en extern server.
- Bristande säkerhet: Utvecklaren följer inte säkra utvecklingsmetoder och lämnar oavsiktligt autentiseringsuppgifter eller åtkomstvägar öppna för angripare.
Skillnaden är viktig när problemen ska åtgärdas. Illvilligt innehåll måste upptäckas, stoppas och tas bort. Oavsiktliga läckor kräver i stället bättre hantering av hemligheter, säkrare loggning, starkare autentisering och tester före publicering.
Efter att SkillsMP hade informerats uppgav Wake Forest att alla identifierade illvilliga färdigheter hade tagits bort och att de flesta sårbara färdigheterna hade åtgärdats. Studien varnar samtidigt för att en rensning av det ursprungliga kodförrådet inte alltid räcker: forkar och kopior kan fortsätta att innehålla exponerade autentiseringsuppgifter även efter att originalet har reparerats. 1
4
iOS-appar öppnade en annan väg till kapade LLM-konton
Den relaterade iOS-studien omfattade 444 appar med LLM-funktioner. 282 av dem – omkring 64 procent – exponerade exploaterbara LLM-autentiseringsuppgifter eller åtkomstmekanismer till backend-system i nätverkstrafiken. 2
5
De rapporterade exponeringsmönstren var:
- Återanvändbara JWT-baserade token: 48 procent
- Backend-proxyer utan autentisering: 33 procent
- API-nycklar som skickades i klartext: 19 procent
3
Sårbarheterna kan synas vid vanlig användning av appen. En angripare som fångar upp en nyckel, återanvänder en token eller hittar en öppen proxy kan skicka förfrågningar via utvecklarens LLM-konto. Det kan förbruka betalda modellkörningar, missbruka kopplade molnresurser eller skapa obehöriga kostnader. 2
5
Underlaget visar att den ekonomiska exponeringen kan bli mycket stor eller i praktiken obegränsad, beroende på kontots gränser och hur länge intrånget fortsätter. Det belägger däremot inte självständigt en viss förlustsumma, exempelvis ”hundratusentals dollar”. Det mer korrekta är att säga att läckta uppgifter kan möjliggöra omfattande debiterbar LLM-användning.
Åtgärderna gick dessutom långsamt. Tre månader efter den ansvarsfulla rapporteringen hade bara 28 procent av de berörda iOS-apparna täppt till den rapporterade sårbarheten. 72 procent var fortfarande exploaterbara vid uppföljningen. 3
11
Därför är säkerhet från början avgörande
Tillsammans visar studierna att en ny AI-funktion eller en installerad agentfärdighet kan göra en apps eller utvecklingsmiljös attackyta betydligt större. De nya riskerna omfattar bland annat:
- leverantörsnycklar som bäddas in i klientappar eller exponeras i agentens kontext
- privilegierade verktyg med åtkomst till filer, tjänster eller privat information
- loggar som oavsiktligt blir en del av modellens läsbara kontext
- backend-endpunkter som accepterar förfrågningar utan tillräcklig autentisering
- token som angripare kan återanvända
- LLM-kostnader som en angripare kan generera på utvecklarens konto
Frågan blir ännu mer aktuell när AI-assisterad så kallad ”vibe coding” används för att snabbt skapa och koppla ihop programvara. Hög utvecklingstakt ersätter inte hotmodellering. Autentisering, hantering av hemligheter, behörighetskontroll, loggning och granskning av beroenden kräver fortfarande medvetet ingenjörsarbete.
I studien av agentfärdigheter hade 72 procent av fallen med hårdkodade autentiseringsuppgifter tecken på AI-assisterad utveckling. Det antyder att osäkra mönster kan spridas genom genererad eller snabbt sammansatt kod. 4
Åtgärder som studierna pekar på
För team som utvecklar AI-produkter eller distribuerar agentfärdigheter ger resultaten en tydlig säkerhetsbaslinje:
- Förvara långlivade leverantörsnycklar på serversidan – inte i klienten eller modellens kontext. Känsliga modellförfrågningar bör gå via en autentiserad server.
- Använd kortlivade och snävt avgränsade autentiseringsuppgifter. Tillämpa principen om minsta möjliga behörighet och validera token i stället för att betrakta innehav som tillräcklig auktorisation.
- Maskera hemligheter i loggar och standardutskrifter. Allt som förs in i en agents kontext bör betraktas som potentiellt åtkomligt för modellen eller användaren.
- Sök efter hemligheter i kod, konfiguration, promptar och beroenden. Resultaten från agentstudien visar varför instruktioner i naturligt språk och körbar kod måste granskas tillsammans.
- Testa nätverkstrafik och behörighetskontroller i backend. Säkerställ att en avlyssnad förfrågan inte kan återanvändas eller skickas via en proxy utan autentisering.
- Byt ut exponerade uppgifter och kontrollera forkar och kopior. Att ta bort en hemlighet från originalförrådet innebär inte att alla distribuerade versioner är rensade.
- Inför granskning på plattformsnivå före publicering. Granskning av marknadsplatser, tydliga utvecklar riktlinjer, ansvarsfull rapportering och automatiserade kontroller kan komplettera utvecklarnas eget säkerhetsarbete.
Den centrala lärdomen är enkel: AI-säkerhet kan inte läggas till först efter lanseringen. Autentiseringsuppgifter, agentbehörigheter, modellkontext och kostnadskontroller måste behandlas som centrala delar av produktsäkerheten från första början.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Hundratals AI-verktyg läcker nycklar som kan kapa utvecklarnas AI-konton"?
I ett urval av 17 022 agentfärdigheter hittade forskarna 520 berörda färdigheter med totalt 1 708 säkerhetsproblem.
What are the key points to validate first?
I ett urval av 17 022 agentfärdigheter hittade forskarna 520 berörda färdigheter med totalt 1 708 säkerhetsproblem. 89,6 procent av de berörda agentfärdigheterna bedömdes kunna utnyttjas direkt. Debugloggar, osäker kod och instruktioner i naturligt språk var bland läckagevägarna.
What should I do next in practice?
Studierna pekar på behovet av säkerhet från början: API nycklar på serversidan, minsta möjliga behörighet, hemlighetsskanning, maskerade loggar och hårdare granskning av plattformar och marknadsplatser.