RunLocal

Picker · Selettore consapevole dell'hardware

Quale modello AI può eseguire davvero il tuo computer?

Modelli AI diversi richiedono quantità diverse di memoria. Un modello piccolo sta su un telefono, uno di classe frontier richiede una workstation. Dicci che hardware hai e cosa vuoi farci, e lo strumento ti suggerirà le opzioni migliori che gireranno davvero sulla tua macchina. Il form si aggiorna mentre digiti. Nulla viene inviato a un server.

Nota: le etichette del form e i risultati sono al momento in inglese. La logica e i comandi funzionano identici.

Come trovo le mie specifiche?

Su Mac: menu Apple → Informazioni su questo Mac. Il numero accanto a "Memoria" è la tua memoria unificata. Nel form scegli "Apple Silicon".

Su Windows con GPU NVIDIA: apri Gestione attività → Prestazioni → GPU. Il numero accanto a "Memoria GPU dedicata" è la tua VRAM. Nel form scegli "NVIDIA GPU".

Su Windows o Linux senza GPU dedicata: scegli "CPU only" e inserisci la RAM di sistema. L'AI girerà lentamente, ma girerà.

Find it under Apple menu → About This Mac → Memory. Common configurations: 8, 16, 24, 32, 48, 64, 96, 128, 192 GB.

Available memory for the model: 26.0 GB

Computed from your specs minus a reasonable system overhead. Models that exceed this with a 15% safety margin are excluded from the recommendations.

Recommended models

6 options ranked by use-case fit and headroom.

#1Alibaba · China

Qwen 3.8 27B

Apache 2.0 · 2026

Score
94/100
Quantization
Q5_K_M
Memory fit
20.0 GB / 26.0 GB
Context
262k tokens
Moderate (~20–50 tok/s)

Dense, Apache 2.0 and natively multimodal. The current default choice for a 24 GB card; bartowski publishes an imatrix build too.

ollama run qwen3.8:27b
#2Google DeepMind · United States

Gemma 4 26B-A4B MoE

Apache 2.0 · 2026

Score
93/100
Quantization
Q4_0
Memory fit
15.0 GB / 26.0 GB
Context
256k tokens
Fast (~50+ tok/s on a single user)

Quantization-aware-trained q4_0, the only build Google publishes for this size.

ollama run gemma4:26b
#3Google DeepMind · United States

Gemma 4 31B dense

Apache 2.0 · 2026

Score
93/100
Quantization
Q4_0
Memory fit
18.0 GB / 26.0 GB
Context
256k tokens
Moderate (~20–50 tok/s)

Quantization-aware-trained q4_0, the only build Google publishes for this size.

ollama run gemma4:31b
#4Alibaba · China

Qwen 3.5 9B

Apache 2.0 · 2026

Score
90/100
Quantization
Q8_0
Memory fit
10.0 GB / 26.0 GB
Context
262k tokens
Fast (~50+ tok/s on a single user)
ollama run qwen3.5:9b
#5Alibaba · China

Qwen 3.6 27B (Ternary Bonsai, 1.71-bit)

Apache 2.0 · 2026

Score
90/100
Quantization
Q2_g64
Memory fit
8.5 GB / 26.0 GB
Context
262k tokens
Moderate (~20–50 tok/s)

Prism ML's ternary requantization of Qwen3.6-27B: a 27B that fits where a 9B used to. Apache 2.0, and the whole language stack is genuinely ternary rather than low-bit with high-precision escape hatches. Vendor-reported: 95% of FP16 intelligence retained, 80.49 average across 15 thinking-mode benchmarks. Unverified by us — test it on your own workload before trusting it.

# No verified Ollama tag in the RunLocal catalog yet; check ollama.com/library or the model card.
#6Alibaba · China

Qwen 3.6 27B

Apache 2.0 · 2026

Score
89/100
Quantization
Q5_K_M
Memory fit
20.0 GB / 26.0 GB
Context
262k tokens
Moderate (~20–50 tok/s)

Current open-weight Qwen generation for workstation-class local inference.

ollama run qwen3.6:27b
3 models excluded
  • DeepSeek V4 Flash 0731 (304B-A13B MoE) — Smallest listed quant (~91 GB before safety margin) exceeds available inference memory (26.0 GB).
  • Mistral Small 4 119B-A6B MoE — Smallest listed quant (~68 GB before safety margin) exceeds available inference memory (26.0 GB).
  • Mistral Medium 3.5 128B dense — Smallest listed quant (~75 GB before safety margin) exceeds available inference memory (26.0 GB).

Come decide lo strumento

Ogni modello del catalogo è associato a stime di memoria realistiche per quantizzazione (Q4_K_M, Q5_K_M, Q8_0) a un contesto moderato di 8k token. Il selettore calcola la tua memoria utilizzabile sottraendo un piccolo overhead di sistema, poi richiede che il modello scelto ci stia con un margine di sicurezza del 15%. Tutto ciò che non ci sta finisce nella lista degli esclusi sotto i risultati, con la ragione scritta per esteso. La classifica che segue pesa soprattutto l'adeguatezza al caso d'uso, poi la qualità della quantizzazione scelta, poi la freschezza del rilascio.

Le stime di memoria sono arrotondate per chiarezza. L'uso reale dipende dalla lunghezza del contesto e dal motore di inferenza che usi. Se un modello è al limite, provalo prima con un contesto più corto.