PC per eseguire Llama in locale

La scelta per il tuo utilizzo

Llama con CUDA

CyberpowerPC Luxe Gaming PC - AMD Ryzen 7 5700X, Nvidia RTX 5070 Ti, 32GB RAM, 1TB NVMe SSD, 750W PSU, Wi-FI, Windows 11, Liquid Cooling, Ark Curve Black

Per una variante che entra nella memoria GPU con il contesto previsto.

2.389,00 €

Prezzo del 15/11/2026 13:44 · ora italiana

Acquista su Amazon

Llama su macOS

Apple 2024 Mac Mini con Processore Apple M4 con CPU 10 core, GPU 10 core (16GB di RAM, 256GB Memoria di SSD) Argento (Ricondizionato)

Per un backend Apple supportato e un desktop con memoria adeguata.

843,92 €

Prezzo del 15/11/2026 08:29 · ora italiana

Acquista su Amazon

Capacità condivisa maggiore

GMKtec EVO-X2 AI Mini PC AMD Ryzen AI MAX+ 395 (16C/32T, fino a 5,1 GHz), 126 TOPS, 128GB di RAM DDR5, SSD M.2 PCIe 4.0 X4 da 2TB, Mini Gaming PC con scheda grafica 8060S | WiFi 7 | USB 4.0 | 2.5G LAN

Per un modello più grande compatibile con il backend AMD scelto.

3.899,96 €

Prezzo del 15/11/2026 13:29 · ora italiana

Acquista su Amazon

Prezzi e configurazioni su Amazon

CyberpowerPC Luxe Gaming PC - AMD Ryzen 7 5700X, Nvidia RTX 5070 Ti, 32GB RAM, 1TB NVMe SSD, 750W PSU, Wi-FI, Windows 11, Liquid Cooling, Ark Curve Black

2.389,00 €

Prezzo del 15/11/2026 13:44 · ora italiana

Nuovo

Acquista su Amazon

Apple 2024 Mac Mini con Processore Apple M4 con CPU 10 core, GPU 10 core (16GB di RAM, 256GB Memoria di SSD) Argento (Ricondizionato)

843,92 €

Prezzo del 15/11/2026 08:29 · ora italiana

Nuovo

Acquista su Amazon

GMKtec EVO-X2 AI Mini PC AMD Ryzen AI MAX+ 395 (16C/32T, fino a 5,1 GHz), 126 TOPS, 128GB di RAM DDR5, SSD M.2 PCIe 4.0 X4 da 2TB, Mini Gaming PC con scheda grafica 8060S | WiFi 7 | USB 4.0 | 2.5G LAN

128 GB RAM

3.899,96 €

Prezzo del 15/11/2026 13:29 · ora italiana

Nuovo

Acquista su Amazon

CyberpowerPC Luxe Gaming PC - Intel Core Ultra 7 265KF, Nvidia RTX 5070 Ti, 32 GB RAM, 1 TB NVMe SSD, 750 W PSU, Windows 11, Liquid Cooling, V100R

2.589,00 €

Prezzo del 15/11/2026 13:44 · ora italiana

Nuovo

Acquista su Amazon

2023 Apple Mac Mini con Apple M2 Pro Chip con 10CPU and 16GPU (16GB RAM, 512GB SSD di Memoria) Argento (Ricondizionato)

910,42 €

Prezzo del 15/11/2026 10:38 · ora italiana

Nuovo

Acquista su Amazon

GMKtec EVO-X2 Mini PC AI AMD Ryzen AI Max+ 395 (fino a 5,1GHz) Mini PC Gaming, 128GB LPDDR5X 8000MHz (16GB*8), SSD PCIe 4.0 da 2TB, Display 8K a Quattro Schermi, WiFi 7&USB4, Lettore di Schede SD 4.0

128 GB RAM

3.999,96 €

Prezzo del 15/11/2026 12:35 · ora italiana

Nuovo

Acquista su Amazon

CyberpowerPC Luxe Gaming PC - Intel Core i9 12900KF, Nvidia RTX 5070 Ti, 32GB RAM, 1TB NVMe SSD, 750W PSU, Windows 11, Liquid Cooling, Ark Curve Black

2.779,00 €

Prezzo del 15/11/2026 13:44 · ora italiana

Nuovo

Acquista su Amazon

Apple 2024 Mac Mini con Processore Apple M4 con CPU 10 core, GPU 10 core (16GB di RAM, 512GB Memoria di SSD) Argento (Ricondizionato)

978,76 €

Prezzo del 15/11/2026 08:29 · ora italiana

Nuovo

Acquista su Amazon

I prezzi possono cambiare. Il prezzo finale e le condizioni di vendita sono quelli indicati da Amazon al momento dell’acquisto.

Come scegliere senza spendere per il componente sbagliato

Nome completo e generazione

Llama è una famiglia, non un singolo file con requisiti fissi. Identifica generazione, dimensione, formato e precisione, quindi controlla che il programma li supporti. Una variante testo e una multimodale possono caricare componenti diversi. Non attribuire a una nuova versione il supporto dimostrato per una precedente. Per un esempio locale piccolo puoi utilizzare una quantizzazione supportata, ma la qualità va provata su domande e documenti rappresentativi. Non sceglierei hardware soltanto da una dimostrazione di una breve chat: il contesto del lavoro reale può essere molto più ampio e impegnativo.

La memoria utile durante la conversazione

Ai pesi aggiungi cache, memoria del programma e un margine. Più richieste o un contesto lungo possono cambiare il computer necessario anche mantenendo lo stesso modello. Una macchina può riuscire a caricare il processo e offrire comunque un’attesa poco pratica, soprattutto se ricorre spesso al disco. Per questo misurerei sia prima risposta sia generazione successiva. Non assumere che la memoria di più GPU si sommi automaticamente per ogni programma: la distribuzione dipende dal software. In questa selezione le classi sono confronti di acquisto, non una certificazione di velocità per tutti i Llama.

Scegliere una piattaforma che sai mantenere

Per un flusso CUDA scegli NVIDIA; per macOS considera un percorso Apple Silicon supportato; per molta memoria condivisa valuta AMD con il backend appropriato. Confronta lo stesso modello e impostazioni prima di interpretare il risultato. Conserva modello, configurazione e condizioni d’uso della versione che utilizzerai, soprattutto in un’applicazione destinata ad altri. Se il modello più piccolo soddisfa già il lavoro, non è necessario acquistare una workstation maggiore. Se il progetto supera la classe scelta, cambia capacità o modello in modo esplicito, senza confondere un’esecuzione lenta con una soluzione già pronta.

Le configurazioni che prenderei in considerazione

PC completo con RTX 5070 Ti e almeno 32 GB: Llama con CUDA

Per una variante che entra nella memoria GPU con il contesto previsto. La scelta iniziale per un nuovo progetto CUDA che entra nei 16 GB di memoria della GPU. La dotazione utile comprende anche CPU, RAM, SSD, alimentatore e raffreddamento adeguati. Non confondere i 32 o 64 GB di RAM del computer con i 16 GB della scheda video. Per un modello che richiede più VRAM considera una scheda di capacità maggiore o un’altra piattaforma compatibile.

Apple Mac mini con almeno 16 GB: Llama su macOS

Per un backend Apple supportato e un desktop con memoria adeguata. L’alternativa per chi lavora in macOS e possiede già schermo e periferiche. La memoria va dimensionata per tutta la vita del computer perché non è sostituibile come quella di una torre. Un SSD esterno può contenere archivi e progetti, ma non aggiunge RAM. Per applicazioni che richiedono Windows nativo o CUDA scegli una piattaforma differente. Il prezzo da confrontare è quello della configurazione necessaria, includendo adattatori e spazio di archiviazione, non soltanto quello del modello di ingresso.

GMKtec EVO-X2 con 128 GB: Capacità condivisa maggiore

Per un modello più grande compatibile con il backend AMD scelto. La scelta compatta per un progetto locale il cui limite principale è la memoria disponibile. La RAM integrata si sceglie all’acquisto e non si amplia come un normale modulo SO-DIMM. La versione da 128 GB ha senso quando un modello o un flusso di lavoro la richiede davvero. Non sostituisce automaticamente una scheda NVIDIA: il programma deve supportare la piattaforma AMD e il relativo sistema operativo. Per modelli piccoli e uso saltuario un computer meno costoso può essere più ragionevole.

Memoria dei pesi, contesto e programma

Per scegliere la capacità, somma pesi del modello, cache del contesto e memoria richiesta dal programma. Se più richieste lavorano insieme, la parte legata al contesto può crescere anche quando i pesi sono condivisi. Come prima stima ideale, otto miliardi di parametri a quattro bit occupano circa quattro miliardi di byte per i soli pesi; il file reale e il processo possono richiedere di più. Lascia margine e controlla la memoria durante un esempio rappresentativo. Il numero di parametri attivi di un modello MoE non sostituisce la memoria necessaria a conservarne i pesi. Un nome di famiglia, come Qwen o DeepSeek, non definisce da solo la capacità del computer da comprare.

Quando scegliere NVIDIA, AMD o Apple

Scegli NVIDIA quando il progetto richiede CUDA o estensioni documentate solo per quella piattaforma. Scegli Apple Silicon quando il programma supporta Metal o MLX e serve anche un desktop macOS. AMD con molta memoria condivisa ha senso per un carico che il backend utilizzato gestisce correttamente. Queste scelte dipendono dal programma e dal modello, non dalla sola scritta AI sul computer. La memoria unificata serve anche al sistema operativo; la VRAM dedicata appartiene alla scheda video. A parità di numero scritto in GB le architetture possono quindi ospitare carichi e ottenere velocità diverse. Non comprerei una NPU aspettandomi che sostituisca automaticamente CUDA.

Archiviazione e progetto completo

Modelli, quantizzazioni, cache e risultati possono occupare rapidamente centinaia di gigabyte. Sceglierei almeno 1 TB per iniziare con più progetti e 2 TB quando prevedi più versioni o contenuti multimediali. Un SSD esterno serve per archiviare e spostare file, ma non trasforma la sua capacità in memoria GPU. In un PC con scheda video dedicata, considera anche alimentatore, dimensioni della scheda, spazio del case e raffreddamento. Una scheda da sola non comprende il computer. Se scegli una macchina compatta con memoria integrata, la capacità non si aggiorna come un modulo SO-DIMM: è una decisione da prendere prima dell’acquisto.

La prova che orienta la scelta

Prova modello, quantizzazione, contesto e numero di richieste previsti. Misura caricamento, tempo alla prima risposta, generazione successiva e comportamento dopo diversi minuti, evitando di confrontare numeri ottenuti con impostazioni diverse. Per immagini e video includi anche nodi, estensioni e risoluzione del progetto. Quando un computer usa molta memoria di scambio può riuscire a caricare un modello senza offrire un’esperienza pratica. Per un servizio locale conserva una configurazione riproducibile, limita gli accessi e aggiorna il software. Locale significa che puoi controllare dove elaborare i dati; per mantenere privati i documenti devi anche gestire permessi, backup ed eventuali componenti che contattano servizi esterni.

Domande frequenti

Quale PC per tutti i Llama?

Nessuno in modo universale: variante, formato e contesto definiscono il carico.

Due GPU sommano sempre la VRAM?

No. Il programma deve supportare il modo in cui il modello viene distribuito.

Quando scegliere 128 GB condivisi?

Quando un modello compatibile richiede quella capacità e le prestazioni misurate sono adatte al lavoro.