Più conversazionali, ma meno affidabili: il paradosso degli assistenti smart con l’IA

Il vero problema non è capire la frase: è eseguire l’azione

A circa un anno dall’arrivo di assistenti generativi per la casa come Alexa+ e Gemini for Home, il salto rispetto ai vecchi altoparlanti smart è evidente soprattutto nel modo di conversare. Si può parlare in modo più naturale, aggiungere dettagli a una richiesta e descrivere automazioni complesse senza seguire formule rigide.

Ma quando si tratta di accendere una luce, avviare una canzone, impostare un timer o eseguire una routine, la promessa si scontra con un requisito molto meno spettacolare: fare sempre la cosa giusta, rapidamente e senza sorprese. Il nodo è il contrasto tra un modello linguistico probabilistico e un sistema di controllo che l’utente considera, di fatto, deterministico. 16

Gli errori sono banali, proprio per questo pesano

I problemi più rivelatori non riguardano richieste stravaganti. Sono comandi quotidiani, cioè le funzioni per cui molte persone acquistano ancora un altoparlante intelligente.

Durante i test, Gemini for Home ha ignorato richieste di riproduzione musicale, portato la conversazione fuori tema, insistito sul fatto che fosse martedì quando era mercoledì e rifiutato di spegnere le luci smart, sostenendo di non poter controllare i dispositivi fisici della casa. 1

Anche Alexa+ ha dato segnali contrastanti. È stato riportato il malfunzionamento di una routine per preparare il caffè che in precedenza funzionava senza problemi, mentre alcuni clienti hanno affermato che le routine già create sono scomparse dopo l’aggiornamento. 67

Il quadro, tuttavia, non è quello di un sistema incapace di fare automazioni. Alcuni recensori hanno verificato che Alexa+ può creare correttamente, usando soltanto la voce, un’automazione con condizioni articolate e dispositivi nominati in modo diverso nell’app. Questo suggerisce che il limite principale sia l’incostanza, non l’assenza di capacità. 2

Dal comando predefinito alla previsione del modello

Gli assistenti vocali tradizionali funzionavano soprattutto associando una frase riconosciuta a un’intenzione precisa e a una chiamata API già definita. In teoria, «spegni le luci della cucina» doveva attivare ogni volta la stessa azione sullo stesso gruppo di dispositivi.

Un modello linguistico di grandi dimensioni, o LLM, interpreta invece il contesto e genera una possibile chiamata a uno strumento o a un’API sulla base delle probabilità. Google descrive Gemini come «non deterministico»: non segue semplicemente uno script fisso. 15

Questa elasticità rende il dialogo più naturale, ma introduce variabilità proprio dove non dovrebbe esserci. La stessa richiesta può essere interpretata, inoltrata o formulata diversamente da un turno all’altro. In una conversazione è un’imprecisione tollerabile; in una casa, «spegni» deve significare sempre la stessa azione fisica. 315

Latenza e affidabilità contano più dell’effetto demo

Le segnalazioni di utenti e osservatori convergono su una diagnosi: per il controllo domestico, le caratteristiche decisive non sono la brillantezza della conversazione, ma affidabilità, rapidità e valore concreto del prodotto. Tra i problemi riportati compaiono risposte lente, informazioni errate, comandi persi, errori nella selezione della musica e routine scomparse. 1257

La conseguenza tecnica è abbastanza chiara. Un LLM non dovrebbe essere l’unico decisore incaricato di controllare i dispositivi. Dovrebbe essere affiancato da livelli deterministici di validazione ed esecuzione: sistemi capaci di verificare che il comando sia valido, che il dispositivo esista, che l’azione richiesta sia sicura e che l’esito venga confermato in modo esplicito.

In altre parole, l’IA può occuparsi di tradurre una richiesta naturale in un’intenzione strutturata; l’esecuzione finale dovrebbe però passare attraverso regole più rigide e prevedibili.

Apple sta incontrando lo stesso ostacolo

Il problema non riguarda soltanto Amazon e Google. Apple ha rinviato le funzioni più personalizzate della nuova Siri a causa di problemi ingegneristici e bug. Il ritardo ha avuto ripercussioni anche sul piano della smart home: il display domestico dell’azienda è stato posticipato mentre Apple attendeva la nuova IA di Siri, destinata a essere una componente centrale dell’interfaccia. 482

Secondo altre ricostruzioni, l’hardware attuale della classe HomePod non avrebbe una capacità di elaborazione sufficiente per le ambizioni più recenti dell’azienda nel campo dell’IA. Questo contribuirebbe a spiegare sia i rinvii dei nuovi dispositivi sia le prestazioni non uniformi di Siri. 914

Una demo convincente non basta per il prodotto finito

La lezione più ampia è semplice: una dimostrazione fluida di IA conversazionale non equivale a un prodotto pronto per l’uso quotidiano.

Per un sistema che controlla una casa — e, a maggior ragione, calendari, acquisti o comunicazioni — lo standard dovrebbe essere un comportamento prevedibile, errori comprensibili, risposte rapide e modalità di ripiego sicure. Se questi requisiti non sono ancora consolidati, il costo dei test di integrazione, della scoperta dei bug e dei malfunzionamenti viene trasferito agli abbonati e agli acquirenti.

In pratica, il rischio è che siano i consumatori a diventare il gruppo di beta tester. E per un assistente che dovrebbe soltanto spegnere una luce, è un prezzo difficile da giustificare.