AnswersPublished17 sources
Le credenziali AI finiscono nelle mani sbagliate: l’allarme dagli studi di Wake Forest
I ricercatori di Wake Forest hanno individuato 520 agent skill con perdite di credenziali su un campione di 17.022 e accessi AI sfruttabili in 282 delle 444 app iOS analizzate. Nel caso delle agent skill, l’89,6% dei casi colpiti è stato classificato come immediatamente sfruttabile; tra i principali vettori figurano...
Pubblicato daModificato con GPT-5.6 LunaImmagini generate con GPT Image 1.5
Research answer
Key takeaways
- I ricercatori di Wake Forest hanno individuato 520 agent skill con perdite di credenziali su un campione di 17.022 e accessi AI sfruttabili in 282 delle 444 app iOS analizzate.
- Nel caso delle agent skill, l’89,6% dei casi colpiti è stato classificato come immediatamente sfruttabile; tra i principali vettori figurano log di debug, codice insicuro e istruzioni basate su prompt.
- Gli studi indicano la necessità di una sicurezza integrata fin dalla progettazione: chiavi conservate lato server, privilegi minimi, scansione dei segreti, log redatti e controlli più severi sui marketplace.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
Due studi della Wake Forest University descrivono una debolezza comune a due ecosistemi AI in rapida crescita: le credenziali vengono spesso lasciate in luoghi accessibili ad agenti, applicazioni o aggressori. Una ricerca ha esaminato 17.022 agent skill di terze parti e ha trovato 520 skill coinvolte, con 1.708 problemi di sicurezza. Un’analisi collegata su 444 app iOS dotate di funzioni basate su modelli linguistici di grandi dimensioni (LLM) ha rilevato che 282 esponevano credenziali o meccanismi di accesso al backend durante i test. 1
2
4
Il rischio concreto va oltre la semplice presenza di una stringa segreta in un file. Una chiave o un token esposto può permettere di accedere a dati privati, usare funzionalità privilegiate di un agente o consumare inferenza AI a pagamento sull’account dello sviluppatore.
Cosa ha rivelato lo studio sulle agent skill
I ricercatori hanno selezionato 17.022 skill da un insieme di 170.226 artefatti presenti su SkillsMP, un marketplace open source di skill per agenti. L’analisi ha combinato il rilevamento statico dei segreti, test dinamici in sandbox con credenziali fittizie e controlli che confrontavano lo scopo dichiarato di una skill con il suo comportamento durante l’esecuzione. 3
4
I risultati principali sono:
- 520 skill coinvolte, con 1.708 problemi di sicurezza distribuiti in 10 schemi di fuga delle credenziali.
4
16
- 466 delle 520 skill coinvolte esponevano credenziali utilizzabili senza privilegi elevati: il dato corrisponde a un tasso di sfruttabilità immediata dell’89,6%.
1
- Nel 76,3% dei casi era necessario esaminare sia le istruzioni in linguaggio naturale sia il codice per individuare la fuga.
- Il 3,1% dei casi dipendeva da prompt injection in linguaggio naturale, senza codice eseguibile.
Una revisione limitata al codice, quindi, può non essere sufficiente. Una skill può descrivere un’attività apparentemente legittima mentre le sue istruzioni o gli script di supporto espongono segreti durante l’esecuzione.
Anche i log di debug possono consegnare i segreti al modello
I log di debug sono emersi come un vettore particolarmente importante. Nei framework per agenti che inseriscono l’output standard nel contesto del modello, una credenziale stampata con funzioni come print o console.log può diventare accessibile tramite una normale richiesta in linguaggio naturale. Secondo la sintesi dello studio, il logging di debug è il principale vettore: il 73,5% delle fughe sarebbe riconducibile all’esposizione dell’output agli LLM. 4
Il problema non riguarda soltanto le chiavi API scritte in chiaro nel codice. Le credenziali possono finire esposte attraverso script, gestione delle variabili d’ambiente, log, istruzioni nei prompt oppure combinazioni di codice e linguaggio che diventano pericolose durante il normale funzionamento.
Sviluppo malevolo e negligenza sono due facce del problema
La ricerca distingue due cause generali:
- Sviluppo malevolo: una skill contiene intenzionalmente istruzioni o payload progettati per raccogliere credenziali o dati privati e, potenzialmente, inviarli a un server remoto.
- Sviluppo negligente: il programmatore non applica pratiche sicure e lascia involontariamente credenziali o percorsi di accesso sfruttabili dagli aggressori.
La distinzione è importante anche per la risposta. I contenuti malevoli devono essere individuati e rimossi; le esposizioni accidentali richiedono invece una migliore gestione dei segreti, logging più sicuro, controlli di autenticazione e test prima della distribuzione.
Dopo la segnalazione dei ricercatori a SkillsMP, Wake Forest ha dichiarato che tutte le skill identificate come malevole sono state rimosse e che la maggior parte di quelle vulnerabili è stata corretta. Lo studio avverte però che la pulizia del repository originale potrebbe non bastare: le copie derivate — i cosiddetti fork — possono conservare credenziali esposte anche dopo la correzione della fonte. 1
4
Le app iOS offrono una strada diversa per dirottare gli account LLM
La ricerca collegata ha esaminato 444 applicazioni iOS con funzioni LLM e ha scoperto che 282, circa il 64%, esponevano credenziali LLM sfruttabili o meccanismi di accesso al backend osservabili nel traffico di rete. 2
5
I principali schemi di esposizione riportati erano:
- Token JWT riutilizzabili: 48%;
- Proxy backend privi di autenticazione: 33%;
- Trasmissione di chiavi API in chiaro: 19%.
3
Queste debolezze possono essere visibili durante il normale utilizzo dell’app. Un aggressore che intercetta una chiave, riutilizza un token o individua un proxy aperto può inviare richieste attraverso l’account LLM dello sviluppatore. In questo modo può consumare inferenza a pagamento, abusare delle risorse cloud collegate o generare addebiti non autorizzati. 2
5
Le evidenze sostengono il rischio di costi molto elevati o potenzialmente senza un limite pratico, a seconda dei limiti dell’account e della durata dell’intrusione. Non dimostrano però, da sole, una cifra specifica come «centinaia di migliaia di dollari».
Anche la correzione delle vulnerabilità è stata lenta. Tre mesi dopo la segnalazione responsabile, soltanto il 28% delle app iOS coinvolte aveva risolto il problema indicato; nel follow-up dello studio, il 72% risultava ancora sfruttabile. 3
11
Perché il problema riguarda lo sviluppo assistito dall’AI
Considerati insieme, i due studi mostrano che aggiungere una funzione AI o installare una skill riutilizzabile può ampliare sensibilmente la superficie d’attacco di un prodotto. I nuovi rischi includono:
- chiavi dei provider inserite nelle app client o esposte nel contesto dell’agente;
- strumenti privilegiati capaci di accedere a file, servizi o dati privati;
- log che entrano involontariamente nel contesto leggibile dal modello;
- endpoint backend che accettano richieste senza un’autenticazione adeguata;
- token riutilizzabili da un aggressore;
- costi di utilizzo LLM generati a carico dell’account dello sviluppatore.
La questione assume ulteriore rilievo con la diffusione del cosiddetto «vibe coding», cioè la generazione e integrazione rapida di software con l’aiuto dell’AI. La velocità, però, non sostituisce il threat modeling: autenticazione, gestione dei segreti, autorizzazioni, logging e controllo delle dipendenze richiedono ancora una progettazione consapevole.
Lo studio sulle agent skill ha inoltre rilevato segnali di sviluppo assistito dall’AI nel 72% dei casi di credenziali codificate in modo rigido. Il dato suggerisce che schemi insicuri possano diffondersi rapidamente attraverso codice generato o assemblato in fretta. 4
Le misure di sicurezza indicate dagli studi
I risultati sostengono una linea di difesa di base per chi sviluppa prodotti AI o distribuisce agent skill:
- Tenere le chiavi dei provider a lunga durata fuori dai dispositivi client e dal contesto del modello. Le chiamate sensibili dovrebbero passare da un server autenticato.
- Usare credenziali a durata breve e con ambito limitato. Applicare il principio del privilegio minimo e validare i token, senza considerare il semplice possesso di un token come prova sufficiente di autorizzazione.
- Oscurare i segreti nei log e nell’output standard. Qualunque dato inserito nel contesto di un agente dovrebbe essere considerato potenzialmente recuperabile dal modello o dall’utente.
- Scansionare codice, configurazioni, prompt e dipendenze alla ricerca di segreti. I risultati sulle agent skill mostrano perché istruzioni in linguaggio naturale e codice eseguibile debbano essere esaminati insieme.
- Testare il traffico di rete e le autorizzazioni del backend. Una richiesta intercettata non dovrebbe poter essere riutilizzata né reindirizzata attraverso un proxy non autenticato.
- Ruotare le credenziali esposte e controllare fork e copie. Rimuovere un segreto dal repository originale non garantisce che ogni versione distribuita sia stata ripulita.
- Introdurre controlli di piattaforma prima della distribuzione. Verifiche sui marketplace, linee guida per gli sviluppatori, procedure di segnalazione responsabile e controlli automatici possono affiancare la consapevolezza dei singoli sviluppatori.
La lezione centrale è semplice: la sicurezza AI non può essere aggiunta soltanto dopo il lancio di un prodotto. Credenziali, permessi degli agenti, contesto del modello e controlli sulla fatturazione devono essere considerati elementi fondamentali della sicurezza del prodotto fin dalle prime fasi di progettazione.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Le credenziali AI finiscono nelle mani sbagliate: l’allarme dagli studi di Wake Forest"?
I ricercatori di Wake Forest hanno individuato 520 agent skill con perdite di credenziali su un campione di 17.022 e accessi AI sfruttabili in 282 delle 444 app iOS analizzate.
What are the key points to validate first?
I ricercatori di Wake Forest hanno individuato 520 agent skill con perdite di credenziali su un campione di 17.022 e accessi AI sfruttabili in 282 delle 444 app iOS analizzate. Nel caso delle agent skill, l’89,6% dei casi colpiti è stato classificato come immediatamente sfruttabile; tra i principali vettori figurano log di debug, codice insicuro e istruzioni basate su prompt.
What should I do next in practice?
Gli studi indicano la necessità di una sicurezza integrata fin dalla progettazione: chiavi conservate lato server, privilegi minimi, scansione dei segreti, log redatti e controlli più severi sui marketplace.