Guida all'installazione · Base · 12 min

Configurare LM Studio e confrontare i modelli fianco a fianco

LM Studio è il client desktop più curato per eseguire modelli open weights sulla tua macchina. Sotto il cofano usa llama.cpp, e aggiunge un browser di modelli collegato a Hugging Face, una UI di chat e un server compatibile OpenAI attivabile con un clic. Il modo più breve per descrivere la sua nicchia: è lo strumento da usare quando vuoi valutare tre o quattro modelli sugli stessi prompt prima di sceglierne uno.

Quando LM Studio è lo strumento giusto

LM Studio si guadagna lo spazio su disco quando stai ancora decidendo quale modello eseguire. La UI di chat con confronto affiancato rende banale lanciare lo stesso prompt su più modelli e vedere le risposte comparire in parallelo. Per flussi del tipo “avvia una chat con questo modello e basta”, Ollama è più rapido; per servire utenti concorrenti in produzione, vLLM è una categoria diversa di strumento. LM Studio sta nel mezzo, per scelta.

Passo 1. Installa

Scarica l'installer da lmstudio.ai. Esistono build per macOS (Apple Silicon e Intel), Windows e Linux (AppImage). Il piano gratuito copre l'uso personale e la maggior parte degli scenari aziendali; controlla la pagina delle licenze se prevedi un deployment interno su larga scala.

Passo 2. Scegli un primo modello

Apri l'app, vai alla scheda Discover e cerca su Hugging Face direttamente da LM Studio. Qualche default ragionevole per iniziare:

• Llama 3.1 8B Instruct per la chat generica su macchine con almeno 16 GB di memoria.
• Qwen 2.5 14B Instruct se hai 24 GB o più e vuoi un ragionamento sensibilmente migliore.
• Phi-5 7B per un'inferenza veloce su hardware più leggero.

Per ogni modello LM Studio elenca le quantizzazioni GGUF caricate dalla community. Come punto di partenza cerca i file con tag Q4_K_M e controlla l'indicatore “Compatible with your hardware” prima di scaricare.

Passo 3. Configura la chat

Apri la scheda Chat e carica il modello scaricato. Tre parametri da conoscere:

• GPU offload layers. Impostarlo al massimo consentito dalla tua VRAM è quasi sempre la scelta giusta. LM Studio mostra una stima della memoria richiesta per ogni valore.
• Lunghezza del contesto. Contesti più ampi usano più memoria. Parti dalla lunghezza di addestramento del modello e riducila se sei al limite con la VRAM.
• System prompt. Lascialo vuoto a meno che tu non abbia un motivo per vincolare il modello; molti template di UI applicano già un proprio system prompt che interagisce male con quelli personalizzati.

Passo 4. Esegui confronti affiancati

La sessione Multi-Model permette di caricare due o tre modelli e inviare lo stesso prompt a tutti. È qui che LM Studio si ripaga. Prepara un set di prompt che rappresenti il lavoro che fai davvero (un compito di codice, un riassunto, una domanda di ragionamento) e guarda le risposte arrivare in parallelo. Le decisioni prese in questo modo reggono meglio dei numeri delle classifiche di benchmark.

Un kit di valutazione utile, volutamente piccolo:

1. Una domanda fattuale la cui risposta corretta suona sbagliata.
2. Un breve compito di codice con un edge case insidioso.
3. Il riassunto di un testo più lungo di 1.500 parole.
4. Una domanda di follow-up che verifica se il modello ha trattenuto il turno precedente.
5. Un prompt di test sui rifiuti, per vedere come ogni modello gestisce i limiti.

Passo 5. Avvia il server locale

Vai alla scheda Developer, carica un modello e clicca Start Server. LM Studio espone un'API compatibile OpenAI su http://localhost:1234/v1. Funziona con qualsiasi client che permetta di cambiare la base URL dell'API. Attiva il CORS nelle impostazioni del server se prevedi di chiamarlo da un browser.

# Test it from the terminal
curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "loaded-model-id",
    "messages": [{"role": "user", "content": "Hello in 5 words."}]
  }'

Consigli che fanno risparmiare tempo

• Salva i modelli sul disco più capiente che hai. LM Studio ha un'impostazione per la directory dei modelli; puntarla a un SSD esterno evita di riempire il disco di avvio.
• Usa la colonna “Estimate” nel browser dei modelli. I numeri sono in genere accurati entro il 10% su Apple Silicon ed entro il 15% su NVIDIA.
• Per il codice, imposta il chat template a mano. LM Studio lo rileva da solo quasi sempre, ma un template sbagliato degrada la qualità in silenzio ed è difficile da diagnosticare.

Quando lasciare LM Studio

Due uscite naturali. Se ti fermi su un singolo modello e lo vuoi sempre disponibile con un ingombro ridotto, spostalo su Ollama. Se vuoi la massima velocità su Apple Silicon o un controllo fine della quantizzazione, compila llama.cpp dai sorgenti. LM Studio è un buon ambiente di valutazione, ma alla lunga conviene altro sia per la produttività a utente singolo sia per il serving multi-utente.