AnswersPublished17 sources
Studie Wake Forest odhalila rozsáhlé úniky přístupových údajů v AI dovednostech a iOS aplikacích
Výzkumníci z Wake Forest analyzovali 17 022 agentních dovedností a našli 520 z nich s celkem 1 708 bezpečnostními problémy. U 89,6 % zasažených agentních dovedností bylo možné uniklé údaje podle studie okamžitě zneužít; mezi hlavní cesty úniku patřily ladicí výpisy, nezabezpečený kód a instrukce v přirozeném jazyce.
PublikovalUpraveno pomocí GPT-5.6 LunaObrázky vytvořeny pomocí GPT Image 1.5
Research answer
Key takeaways
- Výzkumníci z Wake Forest analyzovali 17 022 agentních dovedností a našli 520 z nich s celkem 1 708 bezpečnostními problémy.
- U 89,6 % zasažených agentních dovedností bylo možné uniklé údaje podle studie okamžitě zneužít; mezi hlavní cesty úniku patřily ladicí výpisy, nezabezpečený kód a instrukce v přirozeném jazyce.
- Výzkumníci doporučují bezpečnost už při návrhu: klíče ukládat na server, používat minimální oprávnění, maskovat tajné údaje v logách, skenovat kód i prompty a důsledněji kontrolovat tržiště s AI nástroji.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
Výzkum Wake Forest University upozorňuje na společný problém dvou rychle rostoucích oblastí umělé inteligence: přístupové údaje se často dostávají na místa, odkud je mohou získat samotní agenti, aplikace nebo útočníci. Jedna studie zkoumala 17 022 dovedností třetích stran pro AI agenty a identifikovala 520 zasažených dovedností s celkem 1 708 bezpečnostními problémy. Související studie 444 iOS aplikací s funkcemi založenými na velkých jazykových modelech zjistila, že 282 z nich během testování odhalilo přihlašovací údaje nebo mechanismy přístupu k backendu. 1
2
4
Nejde přitom jen o uniklý řetězec znaků. Odhalený klíč nebo token může útočníkovi otevřít cestu k soukromým datům, funkcím AI agenta nebo placenému provozu jazykového modelu účtovanému na účet vývojáře.
Co ukázala studie AI agentních dovedností
Výzkumníci vybrali 17 022 dovedností ze 170 226 artefaktů dostupných na SkillsMP, tržišti s otevřenými dovednostmi pro AI agenty. Kombinovali statické vyhledávání tajných údajů, dynamické testování v izolovaném prostředí s testovacími přihlašovacími údaji a porovnávání deklarovaného účelu dovednosti s jejím skutečným chováním při běhu. 3
4
Analýza odhalila:
- 520 zasažených dovedností s celkem 1 708 bezpečnostními problémy, rozdělenými do 10 typů úniku přístupových údajů.
4
16
- 466 z 520 zasažených dovedností odhalovalo údaje použitelné bez zvýšených oprávnění. Studie to uvádí jako 89,6% míru okamžité zneužitelnosti.
1
- V 76,3 % případů bylo nutné zkoumat zároveň instrukce v přirozeném jazyce i zdrojový kód.
- 3,1 % případů tvořila injektáž promptu v přirozeném jazyce bez spustitelného kódu.
Běžná kontrola zaměřená pouze na kód proto nemusí stačit. Dovednost může popisovat zdánlivě legitimní úkol, zatímco její instrukce nebo podpůrné skripty během běžného použití zpřístupní tajné údaje.
Jak mohou ladicí výpisy zpřístupnit tajné údaje modelu
Mimořádně důležitou únikovou cestou bylo ladicí logování. V některých agentních rámcích se standardní výstup programu propisuje do kontextu, který model dostává k dispozici. Přihlašovací údaj vypsaný například pomocí print nebo console.log se tak může stát dostupným prostřednictvím obyčejného požadavku v přirozeném jazyce. Podle shrnutí studie připadalo na vystavení výstupu jazykovým modelům 73,5 % úniků. 4
Riziko se netýká jen zjevných API klíčů vložených přímo do kódu. Údaje mohou uniknout také skrze skripty, práci s proměnnými prostředí, logy, instrukce v promptu nebo kombinaci kódu a textu, která se stane nebezpečnou až při skutečném spuštění.
Problémem je úmyslně škodlivý i nedbalý vývoj
Výzkum rozlišuje dvě hlavní příčiny úniků:
- Škodlivý vývoj: autor do dovednosti záměrně vloží instrukce nebo nálož, která má sbírat přístupové údaje či soukromá data a případně je odeslat na vzdálený server.
- Nedbalý vývoj: vývojář nedodrží bezpečné postupy a neúmyslně ponechá přístupové údaje nebo přístupové cesty dostupné útočníkům.
Rozlišení je důležité i pro nápravu. Škodlivý obsah je třeba odhalit a odstranit, zatímco náhodnému odhalení lze předcházet lepší správou tajných údajů, bezpečnějším logováním, silnější autentizací a testováním před zveřejněním.
Po upozornění výzkumníků společnost SkillsMP podle Wake Forest odstranila všechny identifikované škodlivé dovednosti a opravila většinu zranitelných. Studie však varuje, že vyčištění původního repozitáře nemusí stačit: kopie a forky mohou uniklé údaje zachovat i poté, co je opraven zdrojový projekt. 1
4
iOS aplikace nabízejí jinou cestu k převzetí AI účtu
Související studie zkoumala 444 iOS aplikací s funkcemi využívajícími velké jazykové modely. U 282 z nich, tedy přibližně u 64 %, odhalila v síťovém provozu zneužitelné přihlašovací údaje pro LLM nebo mechanismy přístupu k backendu. 2
5
Výzkumníci popsali tyto hlavní způsoby vystavení:
- Opakovaně použitelné tokeny JWT: 48 %
- Backendové proxy bez autentizace: 33 %
- Přenos API klíčů v otevřeném textu: 19 %
3
Tyto nedostatky mohou být viditelné při běžném používání aplikace. Útočník, který zachytí klíč, znovu použije token nebo objeví otevřenou proxy, může posílat požadavky přes účet vývojáře u poskytovatele LLM. Tím může spotřebovávat placený výpočetní výkon, zneužívat navázané cloudové zdroje nebo vytvářet neoprávněné účty a poplatky. 2
5
Dostupné důkazy podporují možnost velmi vysokých, případně prakticky neomezených nákladů v závislosti na limitech účtu a délce útoku. Samy o sobě však nepotvrzují konkrétní škodu ve výši „stovek tisíc dolarů“. Přesnější je říci, že odhalené údaje mohou umožnit dlouhodobé využívání placených AI služeb na účet vývojáře.
Náprava navíc postupovala pomalu. Tři měsíce po odpovědném oznámení zranitelností opravilo nahlášený problém pouze 28 % dotčených iOS aplikací. Ve sledování tak 72 % z nich zůstávalo zneužitelných. 3
11
Proč je to důležité v době rychlého vývoje s AI
Obě studie společně ukazují, že přidání AI funkce nebo instalace hotové agentní dovednosti rozšiřuje útočnou plochu aplikace. Nová rizika zahrnují:
- klíče poskytovatelů vložené v klientské aplikaci nebo vystavené v kontextu agenta,
- privilegované nástroje s přístupem k souborům, službám nebo soukromým datům,
- logy, které se neúmyslně stanou součástí kontextu čitelného pro model,
- backendové koncové body přijímající požadavky bez dostatečné autentizace,
- tokeny, které lze opakovaně použít,
- náklady na provoz LLM, jež může útočník generovat na účtu vývojáře.
Riziko roste s rozšířením takzvaného „vibe codingu“, tedy rychlého generování a skládání softwaru s pomocí AI. Rychlost ale nenahrazuje modelování hrozeb. Autentizace, správa tajných údajů, autorizace, logování i kontrola závislostí stále vyžadují promyšlenou práci. Studie agentních dovedností navíc uvádí, že 72 % případů pevně vložených přístupových údajů neslo znaky vývoje s pomocí AI, což naznačuje, že nezabezpečené vzory se mohou generovaným kódem šířit ve velkém měřítku. 4
Jak vypadá bezpečnost už při návrhu
Zjištění podporují základní obranný postup pro týmy, které vytvářejí AI produkty nebo distribuují agentní dovednosti:
- Držte dlouhodobé klíče poskytovatelů mimo zařízení uživatele i kontext modelu. Citlivé požadavky směrujte přes autentizovaný server.
- Používejte krátkodobé údaje s úzce omezenými oprávněními. Uplatňujte princip minimálních oprávnění a tokeny ověřujte; samotné vlastnictví tokenu nemá automaticky stačit k autorizaci.
- Maskujte tajné údaje v logách a standardním výstupu. Vše, co se dostane do kontextu agenta, považujte za potenciálně obnovitelné modelem nebo uživatelem.
- Skenujte tajné údaje v kódu, konfiguraci, promptech i závislostech. Výsledky studie agentních dovedností ukazují, proč je nutné kontrolovat přirozený jazyk společně se spustitelným kódem.
- Testujte síťový provoz a autorizaci backendu. Ověřte, že zachycený požadavek nelze znovu použít ani přesměrovat přes proxy bez autentizace.
- Rotujte odhalené údaje a kontrolujte forky i kopie. Odstranění tajného údaje z původního repozitáře neznamená, že byly vyčištěny všechny distribuované verze.
- Zaveďte kontrolu platformy před zveřejněním. Prověřování tržišť, pokyny pro vývojáře, odpovědné oznamování a automatizované kontroly mohou doplnit individuální obezřetnost.
Hlavní poučení je jednoduché: bezpečnost AI nelze přidat až po vydání produktu. Přístupové údaje, oprávnění agentů, kontext modelu i limity pro účtování je nutné považovat za základní součást zabezpečení produktu od samého začátku.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Studie Wake Forest odhalila rozsáhlé úniky přístupových údajů v AI dovednostech a iOS aplikacích"?
Výzkumníci z Wake Forest analyzovali 17 022 agentních dovedností a našli 520 z nich s celkem 1 708 bezpečnostními problémy.
What are the key points to validate first?
Výzkumníci z Wake Forest analyzovali 17 022 agentních dovedností a našli 520 z nich s celkem 1 708 bezpečnostními problémy. U 89,6 % zasažených agentních dovedností bylo možné uniklé údaje podle studie okamžitě zneužít; mezi hlavní cesty úniku patřily ladicí výpisy, nezabezpečený kód a instrukce v přirozeném jazyce.
What should I do next in practice?
Výzkumníci doporučují bezpečnost už při návrhu: klíče ukládat na server, používat minimální oprávnění, maskovat tajné údaje v logách, skenovat kód i prompty a důsledněji kontrolovat tržiště s AI nástroji.