Private KI-Infrastruktur

Führen Sie KI-Inferenz auf dedizierter GPU-Infrastruktur unter Ihrer Kontrolle aus

Private GPU- und LLM-Server für Teams, die lokale Inferenz, Datenschutz, planbare Leistung und Unabhängigkeit von externen KI-Laufzeiten benötigen.

Private InferenzSelbst gehostete KIInterne CopilotenKI-Agenten
Vorschau von Private KI-Server
Warum Hosthink

Private KI-Infrastruktur

GPU-Bestand und endgültige Dimensionierung werden vor der Bereitstellung bestätigt. Betreuungsumfang wird vor der Bereitstellung bestätigt.

01

Von Grund auf privat

Betreiben Sie Modell-Endpunkte und KI-Werkzeuge in Ihrer eigenen dedizierten Umgebung.

02

GPU-fähige Infrastruktur

Wählen Sie den Bestand nach VRAM-, CPU-, RAM-, Speicherplatz- und Bandbreitenbedarf aus.

03

Keine Abhängigkeit von externer KI

Behalten Sie Prompts, Dokumente und Modellverkehr unter der Kontrolle Ihres Bereitstellungsmodells.

04

Zugang auf Unternehmensniveau

Root-Zugang, private Netzwerkoptionen und eine klare betriebliche Übergabe.

Workflow-Ablauf

Von der KI-Serverwahl zum laufenden Stack

Vergleichen Sie Serverfamilien in der Produktgruppe und verbinden Sie den gewählten Stack anschließend mit den bereits genutzten Werkzeugen Ihres Teams.

01

KI-Serverfamilie auswählen

Vergleichen Sie GPU-, Ollama-, DeepSeek- und private LLM-Server in einer Produktgruppe.

02

Auf den Workload abstimmen

Wählen Sie anhand von Modellgröße, erwarteter Nutzung und bevorzugtem Stack einen sinnvollen Einstieg.

03

Werkzeuge verbinden

Kombinieren Sie den KI-Server bei Bedarf mit gehosteten Apps, Dashboards, Workflow-Editoren oder internen Diensten.

04

Gezielt wachsen

Behalten Sie Upgrade-Möglichkeiten im Blick, wenn sich Speicher-, GPU- oder Speicherplatzbedarf ändern.

Produkte

Private KI-Server – Produkte

Wählen Sie das gehostete Produkt oder die private KI-Serverfamilie passend zum Workload. Jede Produktseite folgt demselben Preis- und Bereitstellungskonzept.

Infrastrukturansatz

Private KI braucht nachvollziehbare Infrastruktur

Modellbereitstellung, RAG-Pipelines, interne Copiloten und Agenten-Backends werden zu betrieblichen Systemen, sobald Teams auf sie angewiesen sind. Hosthink richtet GPU-Server auf planbare Ressourcen, privaten Zugang und eine klare Bereitstellungsoberfläche aus statt auf einen undurchsichtigen KI-Endpunkt.

GPUFür Beschleunigung bereit
NVMeSchneller App-Speicher
IndividuellDimensionierung durch Ingenieure verfügbar
MonatlichPlanbare Abrechnung
Modellgröße → VRAM

Wie viel GPU-Speicher ein Modell braucht

VRAM ist der Speicher auf der GPU; der Arbeitsspeicher des Servers gehört zur CPU. Ollama führt ein Modell nur dann vollständig auf der GPU aus, wenn es in den VRAM passt; andernfalls wird ein Teil in den System-RAM geladen und von der CPU verarbeitet, was langsamer ist.

Scrollen Sie seitlich, um alle Spalten zu sehen.

ModellklasseOllama-Beispiele (4-Bit-Download Q4_K_M)Einzuplanender VRAM
7–8Bllama3.1:8b · 4.9 GB
qwen3:8b · 5.2 GB
8 GB+
12–14Bgemma3:12b · 8.2 GB
qwen3:14b · 9.3 GB
16 GB+
27–32Bgemma3:27b · 17 GB
qwen3:32b · 20 GB
24 GB (kurzer Kontext) · 32 GB+
70Bllama3.3:70b · 43 GB
llama3.1:70b · 43 GB
48 GB (kurzer Kontext) · 80 GB+
235B MoEqwen3:235b · 142 GB160 GB+ (Multi-GPU)
405Bllama3.1:405b · 243 GB256 GB+ (Multi-GPU)
ModellgewichteBei 4 Bit belegen die Gewichte etwa 0,5 GB pro Milliarde Parameter (Parameter × Bit ÷ 8). Q4_K_M-Downloads sind etwas größer, daher ist die Ollama-Downloadgröße der Ausgangspunkt.
Kontext und parallele AnfragenDer KV-Cache wächst mit der Kontextlänge und der Zahl paralleler Anfragen; laut Ollama skaliert der Speicherbedarf mit OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH. Der Standardkontext hängt vom VRAM ab (4k unter 24 GiB, 32k bei 24–48 GiB, 256k ab 48 GiB). Legen Sie die Kontextlänge bei der Dimensionierung daher ausdrücklich fest.
Wenn ein Modell nicht passtPasst ein Modell nicht auf eine GPU, verteilt Ollama es auf alle GPUs im Server und kann Schichten in den System-RAM auslagern; ollama ps zeigt die CPU/GPU-Aufteilung. Diese Werte sind Dimensionierungsschätzungen, keine gemessene Geschwindigkeit, Latenz oder Durchsatzleistung.
Hosthink-GPU-Katalog

Gelistete GPUs und passende Modellgrößen

Beim Erstellen dieser Seite aus dem öffentlichen Hosthink-Serverkatalog gelesen; der Bestand ändert sich. Der Starter-Preis ist der reine Hardwarepreis des günstigsten GPU-Servers auf Lager, und kein Preis auf dieser Seite reserviert eine bestimmte GPU: GPU-Modell, VRAM, Standort und endgültiger Monatspreis werden im Angebot anhand des aktuellen Bestands bestätigt.

Scrollen Sie seitlich, um alle Spalten zu sehen.

GPUVRAMGeeignet für (4 Bit)KatalogstatusStandorte
1× NVIDIA RTX A400016 GB12–14BDerzeit nicht verfügbarAmsterdam
1× NVIDIA GeForce RTX 409024 GB27–32B (kurzer Kontext)Auf LagerMoscow
1× NVIDIA RTX A500024 GB27–32B (kurzer Kontext)Auf LagerAmsterdam
1× NVIDIA GeForce RTX 309024 GB27–32B (kurzer Kontext)Derzeit nicht verfügbarParis, Amsterdam, Moscow
1× NVIDIA GeForce RTX 509032 GB27–32BAuf LagerMoscow
1× AMD Radeon AI PRO R970032 GB27–32BDerzeit nicht verfügbarAmsterdam
2× NVIDIA GeForce RTX 40902 × 24 GB = 48 GB70B (kurzer Kontext)Auf LagerMoscow
2× AMD Radeon AI PRO R97002 × 32 GB = 64 GB70B (kurzer Kontext)Derzeit nicht verfügbarMoscow
2× NVIDIA GeForce RTX 50902 × 32 GB = 64 GB70B (kurzer Kontext)Derzeit nicht verfügbarParis, Amsterdam
1× NVIDIA H100 80GB80 GB70BDerzeit nicht verfügbarAshburn, Chicago, Dallas +4
3× AMD Radeon AI PRO R97003 × 32 GB = 96 GB70BAuf LagerMoscow
4× NVIDIA GeForce RTX 40904 × 24 GB = 96 GB70BAuf LagerKeflavik
8× NVIDIA RTX PRO 6000 Blackwell Server Edition8 × 96 GB = 768 GB405B (Multi-GPU)Derzeit nicht verfügbarTokyo, Amsterdam, Ashburn +8

11 weitere GPU-Angebote werden nicht angezeigt, weil ihre Katalogbezeichnung den GPU-Speicher nicht eindeutig angibt oder die GPU optional ist; deren VRAM wird im Angebot bestätigt.

HardwareEin Dedicated Server: GPUs, CPU, RAM und NVMe-Speicher aus Ihrem Angebot werden nicht mit anderen Kunden geteilt.
ZugriffSSH-Zugriff auf den Server; Sie entscheiden, welche Modelle Sie laden, ausführen und bereitstellen.
BetreuungsumfangWer Ollama, GPU-Treiber und Modelle installiert und aktualisiert und wer den Dienst überwacht, wird vor der Bereitstellung bestätigt.

GPU-Server, Preise und Bestand ansehen · Quellen, geprüft am 2026-10-30: Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.

Preisübersicht

Tarife Starter, Pro und Advanced

GPU-Bestand und endgültige Dimensionierung werden vor der Bereitstellung bestätigt. Betreuungsumfang wird vor der Bereitstellung bestätigt.

Starter

Ab $558.00/Monat
Günstigster GPU-Server auf Lager, nur Hardware
NVIDIA RTX A5000 · 24 GB VRAM · Amsterdam
Einstiegs-Workloads
GPU-Bestand und endgültige Dimensionierung werden vor der Bereitstellung bestätigtMonatliche AbrechnungBetreuungsumfang wird vor der Bereitstellung bestätigt

Pro

Kapazität erweitern
Produktionsteams
Mehr CPU, RAM, Speicherplatz oder GPU-LeistungUpgrade innerhalb der Produktfamilie

Advanced

Individuell
Anspruchsvolle Workloads
Private NetzwerkoptionenDimensionierung durch Ingenieure verfügbar
FAQ

Häufige Fragen

Brauche ich für jeden KI-Workload eine GPU?
Nicht immer. Gehostete Apps können externe Modell-APIs nutzen, während private lokale Inferenz meist von einer GPU profitiert.
Können Sie den Server dimensionieren?
Ja. Wir berücksichtigen Modellfamilie, VRAM, Parallelität und Speicheranforderungen.
Ist dies dasselbe wie eine Public-Cloud-GPU?
Nein. Diese Seiten beschreiben dedizierte oder private GPU-Server-Bereitstellungen, keinen gemeinsam genutzten SaaS-Modell-Endpunkt.
Ist Server-RAM dasselbe wie GPU-VRAM?
Nein. VRAM ist der Speicher auf der GPU, der Server-RAM gehört zur CPU. Passt ein Modell nicht in den VRAM, können Laufzeiten wie Ollama einen Teil in den System-RAM laden, was langsamer ist. Dimensionieren Sie die GPU daher nach dem Modell.
Reserviert der Starter-Preis eine bestimmte GPU?
Nein. Der Starter-Preis ist der niedrigste monatliche Hardwarepreis eines GPU-Servers mit angegebenem VRAM, der beim Erstellen dieser Seite im öffentlichen Hosthink-Katalog auf Lager ist; ist kein aktueller geprüfter Preis verfügbar, steht dort „Auf Anfrage“. Der Bestand ändert sich, und kein Preis auf dieser Seite reserviert eine GPU: GPU-Modell, VRAM, Standort und endgültiger Monatspreis werden im Angebot anhand des aktuellen Bestands bestätigt.
Private KI-Server

Starten Sie mit dem Produkt, das zu Ihrem Workload passt

Behalten Sie das Hosthink-Design sowie die Abrechnungs- und Supportabläufe bei, während Sie Ihren Infrastruktur-Stack um KI- und App-Workloads erweitern.

GPU-Server ansehen