RunLocal

Hardware-aware · Open source · Aggiornato ogni settimana

AI locale: esegui modelli open source sul tuo computer.

L'hub per gli LLM locali: guide di installazione e un selettore hardware.

Puoi eseguire modelli AI come quelli dietro ChatGPT o Claude direttamente sul tuo portatile o desktop, senza inviare i tuoi dati da nessuna parte. RunLocal ti mostra quale modello open source scegliere per il tuo hardware, quale software gratuito installare (Ollama, LM Studio, llama.cpp), e come partire in circa dieci minuti. Nessuna conoscenza pregressa richiesta.

Modelli che meritano il tuo disco

Una lista corta e con opinioni. Catalogo completo nella directory. Le schede sono in inglese.

Tutti i modelli →

Llama 4 (Scout & Maverick)

Meta AI · United States

2025
License
Llama Community License (custom)
Context
Up to 10M tokens (Scout)
Sizes
Scout 109B (MoE, 17B active) · Maverick 400B (MoE, ~17B active)
Long-context retrievalCodebase-scale RAGGeneral reasoning

Mixture-of-experts architecture. Scout pushes context to 10M tokens, Maverick targets frontier-tier reasoning. Custom license restricts use above 700M MAU and forbids training competitors.

Qwen 3.5

Alibaba (Qwen team) · China

2025
License
Apache 2.0 (small sizes); Qwen License (larger)
Context
Up to 1M (long-context variant)
Sizes
1.8B · 4B · 7B · 14B · 32B · 72B · MoE variants
MultilingualCodeCost-sensitive deployments

The most permissive frontier-class family for smaller sizes. Strong on Asian languages, competitive on English code and reasoning benchmarks.

DeepSeek V4 (Pro & Flash)

DeepSeek AI · China

2025
License
MIT (V4) / DeepSeek License (V4 Pro variants)
Context
1M tokens
Sizes
236B MoE · Distilled dense variants
Mathematical reasoningCode generationLong-context analysis

Topped open-source leaderboards on SWE-Bench and GPQA Diamond in early 2026. The MIT-licensed core variant is the most permissive of the top-tier open weights.

Mistral Medium 3.5

Mistral AI · France (EU)

2026
License
Apache 2.0 (open weight tier)
Context
256k tokens
Sizes
~70B class
EU-friendly deploymentsCodingCompliance-sensitive workloads

Released April 2026. The most credible non-Chinese, non-American option at frontier level. Mistral remains the leading European LLM lab by capability.

Snapshot · Jul 13, 2026

In tendenza su Hugging Face

Selezione automatica dall'Hugging Face Hub: un mix pesato di download, likes e freschezza. Si aggiorna ogni lunedì. Il badge di licenza è un'indicazione visiva, non un parere legale.

DeepSeek-V4-Pro

deepseek-ai

Permissive

MIT

Downloads
1.4M
Likes
5.2k
Updated
20 days ago
View on HF →score 0.87

GLM-5.2

zai-org

Permissive

MIT

Downloads
464.9k
Likes
3.9k
Updated
11 days ago
View on HF →score 0.84

DeepSeek-V4-Flash

deepseek-ai

Permissive

MIT

Downloads
2.7M
Likes
1.7k
Updated
20 days ago
View on HF →score 0.84

gemma-4-12B-coder-fable5-composer2.5-v1-GGUF

yuxinlu1 · 12B

Permissive

Apache 2.0

codereasoning
Downloads
729.4k
Likes
2.7k
Updated
24 days ago
View on HF →score 0.82

gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF

yuxinlu1 · 12B

Permissive

Apache 2.0

reasoning
Downloads
452.6k
Likes
1.2k
Updated
23 days ago
View on HF →score 0.78

DeepSeek-R1

deepseek-ai

Permissive

MIT

Downloads
8.8M
Likes
13.5k
Updated
1 years ago
View on HF →score 0.77

Llama-3.1-8B-Instruct

meta-llama · 8B

Open weight

Llama 3.1 Community License

Downloads
8.5M
Likes
6.3k
Updated
1 years ago
View on HF →score 0.74

Kimi-K2-Instruct

moonshotai

Open weight

Custom license

Downloads
287.2k
Likes
2.4k
Updated
2 months ago
View on HF →score 0.73

Gli strumenti che li fanno girare

Runtime, interfacce grafiche e server di inferenza, con i loro veri compromessi.

Tutti gli strumenti →

Ollama

Runtime

MIT

The fastest way to get a local LLM running with one command.

macOSLinuxWindows

Strengths

  • One-line install, one-line model pulls
  • Built-in OpenAI-compatible API on localhost:11434
  • Active model library with 4,500+ tagged variants

Trade-offs

  • Less raw throughput than vLLM under heavy concurrent load
  • Configuration is opinionated; advanced tuning means dropping into llama.cpp anyway

llama.cpp

Runtime

MIT

Maximum control and the broadest hardware coverage in the open ecosystem.

macOSLinuxWindowsAndroidiOS

Strengths

  • Runs almost anywhere: CUDA, ROCm, Metal, Vulkan, CPU-only
  • Tight GGUF quantization control
  • Reference implementation behind most desktop LLM tools

Trade-offs

  • Command-line first; the UX assumes you read READMEs
  • Quantization options multiply quickly, easy to pick the wrong one

LM Studio

GUI

Proprietary

Browsing, comparing and chatting with local models in a desktop GUI.

macOSLinuxWindows

Strengths

  • Polished chat UI with side-by-side model comparison
  • Built-in Hugging Face model browser
  • Local OpenAI-compatible API server with one click

Trade-offs

  • Closed source; the engine is llama.cpp but the shell is not
  • Less scriptable than CLI-first tools

vLLM

Server

Apache

Production-grade inference with concurrent users and high throughput targets.

Linux (CUDA, ROCm)

Strengths

  • PagedAttention for memory-efficient KV cache
  • Continuous batching and speculative decoding
  • An order of magnitude more throughput than Ollama under heavy concurrency

Trade-offs

  • GPU-only path; not aimed at single-user desktops
  • Operational complexity is real; budget for tuning
Visit project →No guide yet

Perché prendersi il disturbo di eseguire l'AI in locale?

I grandi servizi cloud sono più facili per iniziare. Ma ci sono ragioni concrete per fare da soli. Eccone tre.

I tuoi dati restano tuoi

Quello che scrivi e quello che il modello risponde non lascia mai il tuo computer. Utile quando lavori con appunti personali, documenti di clienti, codice interno, o qualsiasi cosa che non incolleresti in un sito pubblico.

Funziona anche quando il cloud non funziona

Il file del modello vive sul tuo disco. Se l'azienda che lo ha creato chiude, alza i prezzi o cambia i termini, il tuo setup continua a funzionare. Il modello che scarichi oggi girerà ancora nel 2030, se il tuo computer lo farà.

Nessuna bolletta a sorpresa

L'AI in cloud si paga a consumo. L'AI locale costa il prezzo del tuo computer, più l'elettricità. Dopo il primo mese, il costo marginale di una domanda in più è praticamente zero.