Apple punta sui Mac per portare l’IA locale nelle aziende

Apple sta proponendo i nuovi Mac mini e Mac Studio alle aziende come un modo per eseguire alcuni carichi di lavoro di intelligenza artificiale direttamente sui propri computer, invece di affittare capacità nei data center o pagare servizi cloud in base all’utilizzo. Il bersaglio sono attività impegnative, come la scrittura di codice e processi aziendali complessi. 15

La promessa è semplice: acquistare la macchina comporta una spesa iniziale, ma per i modelli eseguiti in locale non c’è una tariffa per ogni token elaborato. Questo non significa, però, che un Mac possa sostituire qualsiasi servizio di IA nel cloud: la proposta riguarda i carichi di lavoro adatti a essere gestiti sull’hardware aziendale. 15

Memoria condivisa e consumi: il ruolo dell’hardware

La memoria unificata di Apple è una risorsa condivisa tra processore e grafica. Avere un unico spazio di memoria accessibile a queste componenti può aiutare a caricare ed eseguire modelli di dimensioni maggiori sul computer; Apple indica fino a 128 GB di memoria unificata per alcune configurazioni di Mac Studio. 1012

Apple mette in risalto anche l’efficienza energetica dei propri chip. Per un’azienda, mantenere una macchina in sede può risultare conveniente rispetto ad affittare capacità esterna, ma il confronto economico dipende dal carico di lavoro e dai costi complessivi: il prezzo del computer, il suo utilizzo e la gestione nel tempo contano quanto l’eventuale risparmio sulle tariffe a consumo. 112

Quattro Mac Studio collegati per un modello da un trilione di parametri

Per dimostrare come aumentare la capacità, Apple ha presentato quattro Mac Studio collegati con Thunderbolt 5 e RDMA, acronimo di remote direct memory access: una tecnologia che consente ai computer di scambiare dati direttamente tra le rispettive memorie. Il collegamento crea un pool di memoria condiviso per l’inferenza distribuita, cioè l’esecuzione di un modello su più macchine. 1011

Nella dimostrazione, il gruppo di quattro Mac Studio ha eseguito un modello da un trilione di parametri, alimentato da una normale presa a muro. Apple afferma che il cluster può raggiungere prestazioni d’inferenza distribuita fino a tre volte superiori a quelle di una singola macchina. È una dimostrazione delle possibilità dell’hardware, non una garanzia che qualsiasi modello o impiego aziendale risulti conveniente. 211

L’IA locale non elimina il cloud

La strategia di Apple punta a portare parte dell’elaborazione sui dispositivi: le attività più esigenti possono essere indirizzate ai Mac, mentre i modelli adatti a risorse più limitate possono funzionare su dispositivi personali. Il cloud resta una soluzione diversa, con capacità gestita centralmente e possibilità di ricorrere a risorse esterne; la scelta dipende quindi dal tipo e dalla continuità del lavoro da svolgere. 512

La concorrenza non arriva soltanto dai servizi cloud: Nvidia e i produttori di PC stanno sviluppando nuove macchine per l’IA, mentre Microsoft si prepara a mettere in evidenza le proprie iniziative nel mondo Windows. In questo mercato, Apple ha una difficoltà specifica da superare: secondo i dati IDC citati da Reuters, la sua quota nel complesso dei computer aziendali desktop e portatili è del 4,6%, contro il 91,3% di Windows. 1

Il messaggio commerciale di Apple è dunque una possibile alternativa, non un risparmio automatico: per le aziende con attività di IA regolari e adatte all’elaborazione locale, comprare un Mac potrebbe ridurre la spesa legata ai servizi a consumo. Ma alcune configurazioni di fascia alta sfiorano i 20.000 dollari, e la convenienza va valutata caso per caso. 15