Infrastruttura IA privata

Esegui l’inferenza IA su un’infrastruttura GPU dedicata sotto il tuo controllo

Server GPU e LLM privati per team che richiedono inferenza locale, riservatezza dei dati, prestazioni prevedibili e indipendenza da ambienti IA esterni.

Inferenza privataIA self-hostedCopiloti interniAgenti IA
Anteprima di Server IA privati
Perché Hosthink

Infrastruttura IA privata

Disponibilità GPU e dimensionamento finale confermati prima della distribuzione. Ambito di gestione confermato prima del deployment.

01

Privato fin dalla progettazione

Esegui endpoint dei modelli e strumenti IA nel tuo ambiente dedicato.

02

Infrastruttura pronta per GPU

Scegli l’hardware secondo le esigenze di VRAM, CPU, RAM, spazio e banda.

03

Nessuna dipendenza da IA esterna

Mantieni prompt, documenti e traffico dei modelli sotto il controllo della tua distribuzione.

04

Accesso di livello aziendale

Accesso root, opzioni di rete privata e una chiara consegna operativa.

Percorso del flusso

Dalla scelta del server IA allo stack operativo

Confronta le famiglie di server nella gamma, poi collega lo stack scelto agli strumenti già usati dal team.

01

Scegli la famiglia di server IA

Confronta server GPU, Ollama, DeepSeek e LLM privati in un’unica gamma.

02

Abbina il carico

Scegli un punto di partenza pratico secondo dimensioni del modello, uso previsto e stack preferito.

03

Collega gli strumenti

Abbina il server IA ad app in hosting, dashboard, editor di flussi o servizi interni dove utile.

04

Cresci in modo mirato

Mantieni visibili le opzioni di upgrade al cambiare dei requisiti di memoria, GPU o spazio.

Prodotti

Server IA privati: prodotti

Scegli il prodotto in hosting o la famiglia di server IA privati adatta al carico. Ogni pagina mantiene lo stesso approccio a prezzi e distribuzione.

Approccio infrastrutturale

L’IA privata richiede un’infrastruttura comprensibile

Servizi dei modelli, pipeline RAG, copiloti interni e backend degli agenti diventano sistemi operativi quando i team ne dipendono. Hosthink orienta i server GPU verso risorse prevedibili, accesso privato e un’interfaccia di distribuzione chiara, non un endpoint IA opaco.

GPUPronto per l’accelerazione
NVMeArchiviazione rapida per app
PersonalizzatoDimensionamento tecnico disponibile
MensileFatturazione prevedibile
Dimensione del modello → VRAM

Quanta memoria GPU serve a un modello

La VRAM è la memoria della GPU; la RAM del server appartiene alla CPU. Ollama esegue un modello interamente sulla GPU solo quando entra nella VRAM; altrimenti una parte viene caricata nella RAM di sistema ed elaborata dalla CPU, il che è più lento.

Scorri lateralmente per vedere tutte le colonne.

Classe di modelloEsempi Ollama (download a 4 bit Q4_K_M)VRAM da prevedere
7–8Bllama3.1:8b · 4.9 GB
qwen3:8b · 5.2 GB
8 GB+
12–14Bgemma3:12b · 8.2 GB
qwen3:14b · 9.3 GB
16 GB+
27–32Bgemma3:27b · 17 GB
qwen3:32b · 20 GB
24 GB (contesto breve) · 32 GB+
70Bllama3.3:70b · 43 GB
llama3.1:70b · 43 GB
48 GB (contesto breve) · 80 GB+
235B MoEqwen3:235b · 142 GB160 GB+ (multi-GPU)
405Bllama3.1:405b · 243 GB256 GB+ (multi-GPU)
Pesi del modelloA 4 bit i pesi occupano circa 0,5 GB per miliardo di parametri (parametri × bit ÷ 8). I download Q4_K_M sono un po’ più grandi, quindi usa la dimensione del download Ollama come punto di partenza.
Contesto e richieste paralleleLa cache KV cresce con la lunghezza del contesto e con le richieste parallele; Ollama indica che la memoria scala con OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH. Il contesto predefinito dipende dalla VRAM (4k sotto 24 GiB, 32k tra 24 e 48 GiB, 256k da 48 GiB in su), quindi imposta esplicitamente la lunghezza del contesto durante il dimensionamento.
Quando un modello non entraSe un modello non entra in una sola GPU, Ollama lo distribuisce su tutte le GPU del server e può collocare alcuni layer nella RAM di sistema; ollama ps mostra la ripartizione CPU/GPU. Questi valori sono stime di dimensionamento, non velocità, latenza o throughput misurati.
Catalogo GPU Hosthink

GPU in elenco e dimensioni di modello adatte

Letto dal catalogo pubblico dei server Hosthink quando questa pagina viene generata; la disponibilità cambia nel tempo. Il prezzo Starter è il prezzo, solo hardware, del server GPU disponibile più economico, e nessun prezzo in questa pagina riserva una GPU specifica: modello di GPU, VRAM, località e prezzo mensile finale vengono confermati nel preventivo in base all’inventario attuale.

Scorri lateralmente per vedere tutte le colonne.

GPUVRAMAdatta a (4 bit)Stato a catalogoLocalità
1× NVIDIA RTX A400016 GB12–14BAl momento non disponibileAmsterdam
1× NVIDIA GeForce RTX 409024 GB27–32B (contesto breve)DisponibileMoscow
1× NVIDIA RTX A500024 GB27–32B (contesto breve)DisponibileAmsterdam
1× NVIDIA GeForce RTX 309024 GB27–32B (contesto breve)Al momento non disponibileParis, Amsterdam, Moscow
1× NVIDIA GeForce RTX 509032 GB27–32BDisponibileMoscow
1× AMD Radeon AI PRO R970032 GB27–32BAl momento non disponibileAmsterdam
2× NVIDIA GeForce RTX 40902 × 24 GB = 48 GB70B (contesto breve)DisponibileMoscow
2× AMD Radeon AI PRO R97002 × 32 GB = 64 GB70B (contesto breve)Al momento non disponibileMoscow
2× NVIDIA GeForce RTX 50902 × 32 GB = 64 GB70B (contesto breve)Al momento non disponibileParis, Amsterdam
1× NVIDIA H100 80GB80 GB70BAl momento non disponibileAshburn, Chicago, Dallas +4
3× AMD Radeon AI PRO R97003 × 32 GB = 96 GB70BDisponibileMoscow
4× NVIDIA GeForce RTX 40904 × 24 GB = 96 GB70BDisponibileKeflavik
8× NVIDIA RTX PRO 6000 Blackwell Server Edition8 × 96 GB = 768 GB405B (multi-GPU)Al momento non disponibileTokyo, Amsterdam, Ashburn +8

Altre 11 offerte GPU non sono mostrate perché la loro etichetta di catalogo non indica in modo univoco la memoria GPU oppure la GPU è opzionale; la loro VRAM viene confermata nel preventivo.

HardwareUn server dedicato: GPU, CPU, RAM e storage NVMe del tuo preventivo non sono condivisi con altri clienti.
AccessoAccesso SSH al server; scegli tu quali modelli scaricare, eseguire ed esporre.
Ambito di gestioneChi installa e aggiorna Ollama, i driver GPU e i modelli, e chi monitora il servizio, viene confermato prima del deployment.

Vedi server GPU, prezzi e disponibilità · Fonti, verificate il 2026-10-30: Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.

Panoramica dei prezzi

Piani Starter, Pro e Advanced

Disponibilità GPU e dimensionamento finale confermati prima della distribuzione. Ambito di gestione confermato prima del deployment.

Starter

Da $558.00/mese
Server GPU disponibile più economico, solo hardware
NVIDIA RTX A5000 · 24 GB VRAM · Amsterdam
Carichi iniziali
Disponibilità GPU e dimensionamento finale confermati prima della distribuzioneFatturazione mensileAmbito di gestione confermato prima del deployment

Pro

Aumenta la capacità
Team di produzione
Più CPU, RAM, spazio o capacità GPUUpgrade nella stessa famiglia di prodotti

Advanced

Personalizzato
Carichi intensivi
Opzioni di rete privataDimensionamento tecnico disponibile
FAQ

Domande frequenti

Serve una GPU per ogni carico IA?
Non sempre. Le app in hosting possono usare API di modelli esterne, mentre l’inferenza locale privata trae solitamente vantaggio dalla GPU.
Potete dimensionare il server?
Sì. Possiamo considerare famiglia del modello, VRAM, concorrenza e requisiti di archiviazione.
È uguale a una GPU su cloud pubblico?
No. Queste pagine descrivono distribuzioni di server GPU dedicati o privati, non un endpoint di modello SaaS condiviso.
La RAM del server è la stessa cosa della VRAM della GPU?
No. La VRAM è la memoria della GPU, mentre la RAM del server appartiene alla CPU. Se un modello non entra nella VRAM, runtime come Ollama possono caricarne una parte nella RAM di sistema, il che è più lento; dimensiona quindi la GPU in base al modello.
Il prezzo Starter riserva una GPU specifica?
No. Il prezzo Starter è il prezzo mensile dell’hardware più basso tra i server GPU con VRAM indicata disponibili nel catalogo pubblico Hosthink quando questa pagina viene generata; se non è disponibile un prezzo verificato attuale, compare «Su preventivo». La disponibilità cambia nel tempo e nessun prezzo in questa pagina riserva una GPU: modello di GPU, VRAM, località e prezzo mensile finale vengono confermati nel preventivo in base all’inventario attuale.
Server IA privati

Inizia con il prodotto adatto al tuo carico

Mantieni design, fatturazione e assistenza Hosthink mentre aggiungi carichi IA e applicativi alla tua infrastruttura.

Visualizza i server GPU