Erogazione di modelli locali

Server GPU Ollama

Inferenza Ollama privata su infrastruttura dedicata con GPU.

Visualizza la disponibilità GPU Parla con un ingegnere

Opzioni GPU NVIDIACPU e RAM dedicateArchiviazione SSD NVMeDistribuzione pronta per Ubuntu

Che cos’è

Server GPU Ollama ospitato da Hosthink

Esegui Ollama su un server GPU privato per inferenza locale, assistenti interni e test dei modelli, senza inviare prompt a un ambiente SaaS condiviso.

Che cos’èInferenza Ollama privata su infrastruttura dedicata con GPU.

A chi si rivolgeCopiloti interni · Chatbot privati · Prototipi RAG · Laboratori di inferenza offline

Erogazione di modelli localiOpzioni GPU NVIDIA · CPU e RAM dedicate · Archiviazione SSD NVMe · Distribuzione pronta per Ubuntu · Rete privata disponibile

Percorso del flusso

Percorso di configurazione di Server GPU Ollama

Una rapida panoramica del percorso prodotto prima di passare dalla valutazione della pagina a un servizio Hosthink operativo.

Valuta la GPU adatta

Parti dalla famiglia di server GPU adatta a modello, memoria e profilo di carico.

Conferma le esigenze dello stack

Scegli tra Ollama, DeepSeek, uno stack LLM privato o una configurazione più ampia di server GPU per IA.

Prepara la consegna

Hosthink mantiene chiaro il percorso di configurazione per collegare il server al tuo flusso IA.

Adatta alla crescita dell’uso

Passa a una configurazione GPU o stack maggiore quando cambiano dimensioni del modello, concorrenza o archiviazione.

Dimensione del modello → VRAM

Quanta memoria GPU serve a un modello

La VRAM è la memoria della GPU; la RAM del server appartiene alla CPU. Ollama esegue un modello interamente sulla GPU solo quando entra nella VRAM; altrimenti una parte viene caricata nella RAM di sistema ed elaborata dalla CPU, il che è più lento.

Scorri lateralmente per vedere tutte le colonne.

Classe di modello	Esempi Ollama (download a 4 bit Q4_K_M)	VRAM da prevedere
7–8B	llama3.1:8b · 4.9 GB qwen3:8b · 5.2 GB	8 GB+
12–14B	gemma3:12b · 8.2 GB qwen3:14b · 9.3 GB	16 GB+
27–32B	gemma3:27b · 17 GB qwen3:32b · 20 GB	24 GB (contesto breve) · 32 GB+
70B	llama3.3:70b · 43 GB llama3.1:70b · 43 GB	48 GB (contesto breve) · 80 GB+
235B MoE	qwen3:235b · 142 GB	160 GB+ (multi-GPU)
405B	llama3.1:405b · 243 GB	256 GB+ (multi-GPU)

Pesi del modelloA 4 bit i pesi occupano circa 0,5 GB per miliardo di parametri (parametri × bit ÷ 8). I download Q4_K_M sono un po’ più grandi, quindi usa la dimensione del download Ollama come punto di partenza.

Contesto e richieste paralleleLa cache KV cresce con la lunghezza del contesto e con le richieste parallele; Ollama indica che la memoria scala con OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH. Il contesto predefinito dipende dalla VRAM (4k sotto 24 GiB, 32k tra 24 e 48 GiB, 256k da 48 GiB in su), quindi imposta esplicitamente la lunghezza del contesto durante il dimensionamento.

Quando un modello non entraSe un modello non entra in una sola GPU, Ollama lo distribuisce su tutte le GPU del server e può collocare alcuni layer nella RAM di sistema; ollama ps mostra la ripartizione CPU/GPU. Questi valori sono stime di dimensionamento, non velocità, latenza o throughput misurati.

Catalogo GPU Hosthink

GPU in elenco e dimensioni di modello adatte

Letto dal catalogo pubblico dei server Hosthink quando questa pagina viene generata; la disponibilità cambia nel tempo. I prezzi Starter, Pro e Advanced sono prezzi di partenza indicativi e non riservano una GPU specifica: modello di GPU, VRAM, località e prezzo mensile finale vengono confermati nel preventivo in base all’inventario attuale.

Scorri lateralmente per vedere tutte le colonne.

GPU	VRAM	Adatta a (4 bit)	Stato a catalogo	Località
1× NVIDIA RTX A4000	16 GB	12–14B	Al momento non disponibile	Amsterdam
1× NVIDIA GeForce RTX 4090	24 GB	27–32B (contesto breve)	Disponibile	Moscow
1× NVIDIA RTX A5000	24 GB	27–32B (contesto breve)	Disponibile	Amsterdam
1× NVIDIA GeForce RTX 3090	24 GB	27–32B (contesto breve)	Al momento non disponibile	Paris, Amsterdam, Moscow
1× AMD Radeon AI PRO R9700	32 GB	27–32B	Disponibile	Amsterdam
1× NVIDIA GeForce RTX 5090	32 GB	27–32B	Disponibile	Moscow
2× NVIDIA GeForce RTX 4090	2 × 24 GB = 48 GB	70B (contesto breve)	Disponibile	Moscow
2× AMD Radeon AI PRO R9700	2 × 32 GB = 64 GB	70B (contesto breve)	Al momento non disponibile	Moscow
2× NVIDIA GeForce RTX 5090	2 × 32 GB = 64 GB	70B (contesto breve)	Al momento non disponibile	Paris, Amsterdam
1× NVIDIA H100 80GB	80 GB	70B	Al momento non disponibile	Ashburn, Chicago, Dallas +4
3× AMD Radeon AI PRO R9700	3 × 32 GB = 96 GB	70B	Disponibile	Moscow
4× NVIDIA GeForce RTX 4090	4 × 24 GB = 96 GB	70B	Disponibile	Keflavik
8× NVIDIA RTX PRO 6000 Blackwell Server Edition	8 × 96 GB = 768 GB	405B (multi-GPU)	Al momento non disponibile	Tokyo, Amsterdam, Ashburn +8

Altre 11 offerte GPU non sono mostrate perché la loro etichetta di catalogo non indica in modo univoco la memoria GPU oppure la GPU è opzionale; la loro VRAM viene confermata nel preventivo.

HardwareUn server dedicato: GPU, CPU, RAM e storage NVMe del tuo preventivo non sono condivisi con altri clienti.

AccessoAccesso SSH al server; scegli tu quali modelli scaricare, eseguire ed esporre.

Ambito di gestioneChi installa e aggiorna Ollama, i driver GPU e i modelli, e chi monitora il servizio, viene confermato prima del deployment.

Vedi server GPU, prezzi e disponibilità · Fonti, verificate il 2026-10-30: Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.

Prezzi

Piani Starter, Pro e Advanced

Disponibilità GPU e dimensionamento finale confermati prima della distribuzione. Ambito di gestione confermato prima del deployment.

GPU Starter

Prezzo di partenza indicativo

$199/mese

GPU di base

Modelli piccoliDisponibilità GPU e dimensionamento finale confermati prima della distribuzioneAmbito di gestione confermato prima del deployment

Visualizza la disponibilità GPU

GPU Pro

Prezzo di partenza indicativo

$399/mese

GPU intermedia

Inferenza per teamDisponibilità GPU e dimensionamento finale confermati prima della distribuzioneAmbito di gestione confermato prima del deployment

Visualizza la disponibilità GPU

GPU Advanced

Prezzo di partenza indicativo

$799/mese

GPU con ampia VRAM

Modelli più grandiDisponibilità GPU e dimensionamento finale confermati prima della distribuzioneAmbito di gestione confermato prima del deployment

Visualizza la disponibilità GPU

Casi d’uso

Flussi reali supportati

Questi sono modelli pratici di distribuzione per i team che usano Server GPU Ollama in stack IA, automazione, strumenti interni e operazioni.

Copiloti interni

Chatbot privati

Prototipi RAG

Laboratori di inferenza offline

Funzionalità

Endpoint di inferenza privato

Accelerazione GPU

Flusso della libreria di modelli

Accesso SSH

Opzioni hardware dedicate

Nessun ambiente condiviso tra clienti

Specifiche tecniche

Base di produzione

Opzioni GPU NVIDIA

CPU e RAM dedicate

Archiviazione SSD NVMe

Distribuzione pronta per Ubuntu

Rete privata disponibile

Disponibilità GPU e dimensionamento finale confermati prima della distribuzione

Ambito di gestione confermato prima del deployment

GPU e CPU a confronto

Le GPU trasformano i carichi IA

L’inferenza solo CPU può bastare per modelli molto piccoli e attività in background, ma assistenti interattivi, flussi di recupero delle informazioni e modelli locali più grandi richiedono accelerazione parallela per essere usabili.

Minore latenza di risposta

L’accelerazione GPU riduce l’attesa nei cicli di chat, codice e agenti dove ogni passaggio generativo conta.

Più margine per modelli grandi

La VRAM determina quanto agevolmente modelli quantizzati e completi possono funzionare con finestre di contesto utili.

Maggiore concorrenza

I team che servono più utenti richiedono capacità prevedibile, non un singolo processo simile a una workstation.

Controllo della distribuzione privata

Scegli modello, ambiente, esposizione di rete e frequenza degli aggiornamenti senza dipendere da una piattaforma IA esterna.

Carichi consigliati

Dimensiona il server in base al modello, non al titolo

Modelli locali piccoli

7B-13B

GPU di base / quantizzato

Prototipi di assistenti interniTest dei prompt e RAG leggeroUtilizzo da parte di un singolo team

Inferenza in produzione

30B-70B

Ampia VRAM consigliata

Assistenti di conoscenzaBackend di agenti e servizio APIPiù concorrenza e contesto

Stack IA avanzati

Multi-GPU

Dimensionato con il team tecnico

Grandi distribuzioni LLM privatePiù endpoint di modelliRequisiti di isolamento aziendale

Stack consigliati

Abbina l’infrastruttura GPU agli strumenti IA in hosting

I server IA privati gestiscono l’inferenza. Le app in hosting possono fornire interfaccia utente, editor dei flussi o livello dati interno attorno a essa.

OpenClaw in 1 clic

Un assistente IA self-hosted collegato ai tuoi canali di messaggistica e strumenti.

Visualizza

Uptime Kuma in 1 clic

Controlli di disponibilità, avvisi e pagine di stato.

Visualizza

n8n in 1 clic

Automazione dei flussi, webhook e integrazioni API.

Visualizza

FAQ

Domande frequenti

I dati dei modelli sono privati?

Sì. Il server è dedicato al tuo servizio e il traffico dei modelli rimane all’interno della tua distribuzione.

Posso scegliere la capacità GPU?

Sì. La scelta dipende dalla disponibilità attuale e dai requisiti del modello.

Quanta VRAM serve a un modello Ollama?

Parti dalla dimensione del download a 4 bit nella libreria Ollama e aggiungi margine per contesto e runtime: circa 5 GB per i modelli 8B, 9 GB per 14B, 20 GB per 32B e 43 GB per 70B (Q4_K_M). Un contesto più lungo e le richieste parallele richiedono ulteriore VRAM.

Serve una GPU per ogni carico IA?

Non sempre. Le app in hosting possono usare API di modelli esterne, mentre l’inferenza locale privata trae solitamente vantaggio dalla GPU.

Potete dimensionare il server?

Sì. Possiamo considerare famiglia del modello, VRAM, concorrenza e requisiti di archiviazione.

È uguale a una GPU su cloud pubblico?

No. Queste pagine descrivono distribuzioni di server GPU dedicati o privati, non un endpoint di modello SaaS condiviso.

La RAM del server è la stessa cosa della VRAM della GPU?

No. La VRAM è la memoria della GPU, mentre la RAM del server appartiene alla CPU. Se un modello non entra nella VRAM, runtime come Ollama possono caricarne una parte nella RAM di sistema, il che è più lento; dimensiona quindi la GPU in base al modello.

Il prezzo indicativo riserva una GPU specifica?

No. I prezzi Starter, Pro e Advanced sono prezzi di partenza indicativi. Modello di GPU, VRAM, località e prezzo mensile finale vengono confermati nel preventivo in base all’inventario attuale.

Server IA privati

Distribuisci Server GPU Ollama con Hosthink

Mantieni design, fatturazione e assistenza Hosthink mentre aggiungi carichi IA e applicativi alla tua infrastruttura.

Visualizza la disponibilità GPU