RunLocal

Frontier open weights

I giganti: modelli open che (probabilmente) non puoi eseguire a casa.

Alcuni dei modelli open weight più importanti sono semplicemente troppo grandi per l'hardware consumer. Contano comunque: fissano il tetto dei benchmark, le loro licenze modellano l'ecosistema, e i loro fratelli distillati sono spesso i migliori modelli che puoi eseguire. Ecco cosa servirebbe davvero per ciascuno — e il modo realistico di usarlo comunque.

Cerchi qualcosa che giri sulla tua macchina? Prova il picker hardware o sfoglia la directory curata.

Qwen3.8-2.4T-A95B

Alibaba (Qwen team) · China · Rilasciato August 2026

Custom Qwen licence — not the Apache 2.0 that covers the 27B

The largest model Alibaba has published, and the top trending release on the Hub at launch. Same generation as the Apache-licensed 27B, under a different licence.

Dimensione
2.4T MoE (95B active)
Contesto
262k tokens, native multimodal
Cosa serve davvero per eseguirlo da soli
Roughly 1.2 TB at 4-bit. Multi-node territory. Community GGUF conversions exist and are mostly of academic interest unless you have a cluster.
Accesso realistico
Alibaba Cloud's API and the usual inference providers. FP8 weights are published alongside the BF16 ones if you are renting datacenter GPUs.
Fratello minore eseguibile
Qwen3.8-27B — dense, Apache 2.0, multimodal, and in the picker.
Sito ufficiale →

Kimi K3

Moonshot AI · China · Rilasciato June 2026 (weights public on the Hub)

Moonshot Open License

Il più grande modello open weight mai rilasciato. Quarto assoluto fra tutti i modelli frontier nei test indipendenti, davanti a diversi flagship chiusi, e primo nella Frontend Code Arena.

Dimensione
2.8T MoE
Contesto
1M tokens, native multimodal
Cosa serve davvero per eseguirlo da soli
Anche con quantizzazione aggressiva a 4 bit, i soli pesi superano 1,4 TB. Eseguirlo significa un cluster multi-nodo di GPU — 16+ GPU datacenter con interconnessione veloce. Non è un progetto da homelab; è infrastruttura.
Accesso realistico
L'API di Moonshot a 3$ per milione di token in input e 15$ in output. Noleggio GPU cloud per carichi batch. Diversi provider di inferenza lo ospiteranno appena i pesi saranno pubblici.
Fratello minore eseguibile
Kimi K2.7 Code (giugno 2026) — il fratello agentic-coding, che quantizzato gira su una workstation da 96 GB+.
Sito ufficiale →

GLM-5.3

Z.ai (Zhipu) · China · Rilasciato September 2026

GLM-5.3 License (MIT-style, with a security-review clause for the largest API providers)

Stesso modello base di GLM-5.2: tutti i miglioramenti arrivano dal post-training. Z.ai dichiara i punteggi di coding più alti mai visti su un modello open weight, ma la tabella sulla scheda del modello l'ha compilata Z.ai stessa.

Dimensione
753B MoE
Contesto
1M tokens
Cosa serve davvero per eseguirlo da soli
Il GGUF più piccolo di unsloth (UD-IQ1_S) pesa circa 217 GB, UD-Q2_K_XL 254 GB e UD-Q4_K_XL 467 GB. Anche la build a 1 bit chiede una macchina da 256 GB, e per qualcosa di usabile serve di più.
Accesso realistico
L'API di Z.ai e buona parte dei grandi provider di inferenza (Together, Fireworks, DeepInfra, Novita, Baseten). La licenza è in stile MIT, con una clausola di revisione di sicurezza che riguarda solo chi vende API e fattura oltre 10 miliardi di dollari l'anno.
Fratello minore eseguibile
GLM-5.3-Flash, MoE da 321B con 18B attivi e licenza MIT, circa 109 GB in UD-Q2_K_XL. Per una singola scheda da 24 GB il riferimento nel picker resta GLM-4.7-Flash.
Sito ufficiale →

MiMo-V2.6-Pro-RL

Xiaomi (MiMo team) · China · Rilasciato September 2026

MIT

The flagship of Xiaomi's V2.6 series, trained with one mixed reinforcement-learning run across coding, agents, vision and security. Xiaomi's own table puts it close to the closed frontier on agentic coding.

Dimensione
1.02T MoE
Contesto
1M tokens, text, image, video and audio
Cosa serve davvero per eseguirlo da soli
About a terabyte in the FP8 weights Xiaomi publishes, and still well over 500 GB at 4-bit. Community GGUF conversions exist; running one means a server, not a workstation.
Accesso realistico
Xiaomi's MiMo API platform, or a rented multi-GPU node.
Fratello minore eseguibile
MiMo-V2.6-Flash — 309B with 15B active, MIT, and in the picker for machines with 192 GB or more.
Sito ufficiale →

Llama 4 Maverick

Meta AI · United States · Rilasciato 2025

Llama 4 Community License

L'open weight frontier di Meta. Il design MoE significa velocità di inferenza paragonabile a un 17B denso — se riesci a far entrare i pesi completi in memoria.

Dimensione
400B MoE (~17B active)
Contesto
1M tokens
Cosa serve davvero per eseguirlo da soli
Circa 200–230 GB a 4 bit. Una workstation 4× A6000 o un cluster Mac a 256 GB di memoria unificata ci arriva; una singola GPU consumer no. Il trucco dei parametri attivi aiuta la velocità, non la memoria.
Accesso realistico
Ospitato da ogni grande provider di inferenza. L'API di Meta su llama.com. Spesso l'opzione frontier più economica per token, perché troppi provider ci competono sopra.
Fratello minore eseguibile
Llama 4 Scout — stessa famiglia, 109B totali, gira (a fatica) su una workstation da 96 GB ed è nel nostro picker.
Sito ufficiale →

DeepSeek V4 Pro

DeepSeek AI · China · Rilasciato 2026

MIT

Il modello che domina la nostra classifica trending dal lancio: migliori punteggi open weight su SWE-Bench Verified e GPQA Diamond, licenza MIT, e la raccomandazione di default per lavoro serio su codice e matematica.

Dimensione
1.6T MoE (49B active)
Contesto
1M tokens
Cosa serve davvero per eseguirlo da soli
Il MoE completo richiede diverse centinaia di gigabyte di memoria su più GPU. Esistono build community a 4 bit, ma siamo comunque in territorio cluster-workstation, non desktop.
Accesso realistico
L'API di DeepSeek è notoriamente economica. La licenza MIT significa hosting di terze parti abbondante e prezzi in continua discesa.
Fratello minore eseguibile
DeepSeek V4 Flash — la variante distillata. Quantizzata gira su workstation ad alta memoria, e tiene il secondo posto nella nostra classifica trending.
Sito ufficiale →