Hardware · 12 min · 14 maggio 2026

Apple Silicon o NVIDIA per gli LLM locali nel 2026

Una volta la domanda era facile. Se volevi eseguire un large language model in locale, compravi una scheda NVIDIA e accettavi il rumore, il calore e il balletto dei driver. Apple Silicon era una curiosità interessante. Tre anni dopo, la curiosità è diventata un’opzione seria, e la scelta tra le due piattaforme è diventata genuinamente interessante in un modo che prima non era.

Il singolo fatto che spiega gran parte della differenza

Apple Silicon arriva con la memoria unificata. La CPU, la GPU e il neural engine condividono un unico pool fisico di RAM, indirizzabile da tutti senza copie. Un Mac Studio M3 Ultra con 192 GB di memoria unificata può caricare un modello 70B a Q5_K_M, con contesto comodo, ed eseguire l’inferenza nativamente sulla GPU. Lo stesso modello su un sistema NVIDIA richiede una scheda con almeno 48 GB di VRAM dedicata (o due schede che lavorano insieme), il che significa una RTX A6000, due RTX 4090 in tensor parallel, oppure una scheda da datacenter come la H100.

Questa singola scelta architetturale cambia l’economia. Per chi vuole eseguire occasionalmente modelli molto grandi, Apple Silicon offre più memoria utilizzabile per euro di quanto faccia NVIDIA. Per chi vuole eseguire modelli più piccoli al massimo dei token al secondo, NVIDIA vince ancora nettamente. Le due piattaforme sono brave in parti diverse dello stesso problema.

Cosa NVIDIA fa ancora meglio, e di quanto

Il throughput puro di inferenza su un modello che sta in VRAM è più veloce su NVIDIA che su Apple Silicon, spesso di un fattore due o tre. Una RTX 4090 che esegue un modello 7B in Q4_K_M produce circa 120 token al secondo per un singolo utente, a volte di più con vLLM e continuous batching. Un Mac M3 Max, sullo stesso modello, si colloca tra i 50 e i 70 token al secondo. Il divario si mantiene in un rapporto simile su tutte le dimensioni di modello che stanno in entrambi i sistemi.

Il serving concorrente è il caso più estremo. Le schede NVIDIA con vLLM scalano a decine di richieste simultanee, con PagedAttention che gestisce la KV cache in modo efficiente. Lo stesso carico su Apple Silicon serializza le richieste, perché lo stack software non dispone ancora di un server di produzione con batching comparabile. Se gestisci un assistente di coding interno per dieci ingegneri, la macchina NVIDIA è la risposta giusta. Se lo usi solo tu, il divario conta meno.

L’ecosistema software favorisce ancora NVIDIA. CUDA ha alle spalle più anni di lavoro sui compilatori, più librerie che ne danno per scontata la presenza e più codice di ricerca che ci gira senza modifiche. Apple Silicon esegue lo stesso codice attraverso MLX (il framework di Apple) o attraverso il backend Metal di llama.cpp, ma i port arrivano con settimane o mesi di ritardo rispetto all’upstream per le funzionalità nuove.

Cosa Apple Silicon fa meglio, e perché conta

La prima cosa è il margine di memoria. Un M3 Pro da 64 GB costa all’incirca quanto una singola RTX 4090, e può caricare ed eseguire modelli che sulla 4090 semplicemente non entrano. Un modello 32B a Q5_K_M sta comodo sul Mac e sulla scheda NVIDIA non ci sta senza una quantizzazione aggressiva. Per gli utenti a cui interessa più la capacità della velocità, questo è il punto centrale.

La seconda è il silenzio e il consumo. Un Mac Studio sotto carico di inferenza sostenuto assorbe circa 100 watt ed è in pratica silenzioso. La workstation NVIDIA equivalente assorbe dai 400 ai 600 watt e suona come un piccolo rack. Per chi lavora nella stessa stanza del proprio hardware AI, la differenza va oltre l’estetica; decide se la macchina resta accesa tutto il giorno.

La terza è la portabilità. Un MacBook Pro M3 Max con 64 GB di memoria unificata esegue gli stessi modelli di un tower da scrivania. Un portatile con una GPU NVIDIA esterna è teoricamente possibile ma in pratica fragile, lento via Thunderbolt e limitato alla VRAM che ha l’eGPU.

La mappa prezzo-per-capacità

Ai prezzi consumer di maggio 2026, il panorama approssimativo è questo. Un Mac mini da 16 GB sta al punto di ingresso: gestisce comodamente modelli 7B e 8B, fatica con qualsiasi cosa più grande. Un MacBook Pro M3 Pro da 32 GB copre pulitamente i modelli dal 14B al 32B, che è dove avviene la maggior parte del lavoro utile. Un Mac Studio o MacBook Pro M3 Max da 64 GB gestisce l’intera classe 70B con spazio per il contesto. Un Mac Studio M3 Ultra da 128 o 192 GB è nel territorio del “esegue qualsiasi cosa l’open weight abbia prodotto”.

Sul versante NVIDIA, una RTX 4060 Ti con 16 GB gestisce modelli 7B e 8B ad altissima velocità. Una RTX 4090 con 24 GB ti porta al 14B comodamente, al 32B a precisione ridotta. La RTX 5090 con 32 GB (uscita a fine 2025) copre pulitamente il 32B a Q5. Sopra, sei nel territorio delle schede da workstation: RTX A6000 (48 GB) o configurazioni a schede accoppiate per il lavoro serio sui 70B.

I carichi di lavoro che decidono la questione

Chat e assistente di coding per un solo utente. Funzionano entrambe le piattaforme. Scegli quella le cui altre qualità si adattano alla tua vita: silenzio, portabilità e margine per i modelli grandi per Apple Silicon; velocità pura e maturità dell’ecosistema per NVIDIA.

RAG pesante e lavoro su documenti a contesto lungo. La memoria unificata di Apple Silicon brilla perché la KV cache dei contesti lunghi può crescere senza costringerti a un modello più piccolo. L’equivalente NVIDIA richiede una scheda da workstation o trucchi di KV cache quantizzata.

Serving multi-utente. NVIDIA, quasi sempre. vLLM è la risposta di produzione, ed è un progetto CUDA-first. Apple Silicon serve più utenti in serie attraverso llama.cpp, il che va bene per due o tre persone ma non per i team.

Fine-tuning. Perlopiù NVIDIA. L’ecosistema di training è maturo su CUDA, meno su MLX. Apple Silicon può fare fine-tuning LoRA di modelli più piccoli, ma le librerie sono meno complete e il throughput è più basso. Per il fine-tuning di livello ricerca, NVIDIA vince chiaramente.

Scenari edge e a batteria. Apple Silicon per costruzione. Un MacBook Pro M3 può eseguire un modello 8B a batteria per un paio d’ore di uso attivo. Nessun portatile NVIDIA compete su questo asse senza alimentazione esterna.

Il caso Gemma 4, specifico per Apple Silicon

Una famiglia di modelli merita qui un paragrafo a parte, perché è stata progettata pensando ad Apple Silicon. Gemma 4, rilasciata da Google DeepMind a inizio 2026, arriva nelle varianti 2B, 9B e 27B con 128k di contesto e supporto MLX nativo fin dal primo giorno. Il 2B sta su un dispositivo di classe iPhone con batteria d’avanzo; il 9B gira comodamente su un MacBook Air da 16 GB a velocità di conversazione; il 27B diventa un plausibile modello da workstation per l’uso quotidiano su un Mac da 32 GB, con spazio residuo per la KV cache a contesti lunghi.

Il punto qui non riguarda la forza bruta di Gemma 4 nei benchmark: DeepSeek V4 e Qwen 3.5 la superano sulla maggior parte delle valutazioni. Il punto è che Gemma 4 è la famiglia di modelli che beneficia più costantemente dell’architettura a memoria unificata e della toolchain MLX, e quella la cui cadenza di rilascio segue più da vicino quella di Apple. Per chi compra un Mac apposta per l’AI locale, i Gemma 4 9B e 27B sono l’argomento più forte a favore di quella scelta. Sono anche una baseline utile per capire quando un modello è stato portato bene su Apple Silicon e quando è stato solo quantizzato ma non ottimizzato.

Le ragioni per non scegliere ancora

Due tendenze da osservare nella seconda metà del 2026. L’ecosistema ROCm di AMD ha recuperato abbastanza che la Radeon RX 7900 XTX con 24 GB di VRAM è un’opzione reale per chi vuole un throughput in stile NVIDIA senza il relativo prezzo. Il supporto ROCm in vLLM e llama.cpp è maturo; il divario software si è in gran parte chiuso. Merita uno sguardo serio prima di comprare.

L’altra è la prossima generazione di Silicon di Apple, attesa entro fine anno. La serie M4 aggiunge un bus di memoria più largo e un neural engine più capace. Se l’inferenza a memoria unificata è il tuo caso d’uso, i chip M4 Pro e Max cambieranno materialmente il calcolo. Chiunque stia pianificando l’acquisto di un Mac per lavorare con l’AI dovrebbe aspettare l’annuncio degli M4 prima di impegnarsi.

Un default difendibile

Se compri oggi e vuoi una sola raccomandazione: un MacBook Pro M3 Pro da 64 GB per uso personale, oppure una singola RTX 4090 in un desktop ben raffreddato se servi un piccolo team. Entrambi stanno nel punto in cui capacità, maturità dell’ecosistema e prezzo si incrociano.

Se puoi rimandare l’acquisto di tre mesi, rimandalo. Le piattaforme evolvono abbastanza in fretta che la generazione M4 e le prossime release di ROCm sposteranno la risposta. L’acquisto sbagliato nel 2026 non è un disastro, perché entrambe le piattaforme tengono bene il valore sull’usato e il software prima o poi gira ovunque. Ma se puoi aspettare, aspetta.