在您掌控的专用 GPU 基础设施上运行 AI 推理
为需要本地推理、数据隐私、可预期性能且不依赖外部 AI 运行环境的团队，提供私有 GPU 和 LLM 服务器。
私有 AI 基础设施
部署前确认 GPU 库存和最终配置. 管理范围在部署前确认.
从设计上保障私有性
在您自己的专用环境中运行模型端点和 AI 工具。
支持 GPU 的基础设施
根据 VRAM、CPU、RAM、存储和带宽需求选择硬件。
不依赖外部 AI
让提示词、文档和模型流量处于您部署模式的控制之下。
企业级访问
Root 访问、私有网络选项及清晰的运维交付流程。
从选择 AI 服务器到运行软件栈
通过产品组比较服务器系列，再将所选软件栈连接到团队已有的工具。
选择 AI 服务器系列
在同一产品组中比较 GPU、Ollama、DeepSeek 和私有 LLM 服务器。
匹配工作负载
根据模型大小、预期用量和软件栈偏好选择实用的起点。
连接工具
按需将 AI 服务器与托管应用、仪表盘、工作流构建器或内部服务结合。
有计划地扩展
在内存、GPU 或存储需求变化时，保持清晰的升级路径。
私有 AI 服务器产品
选择适合工作负载的托管产品或私有 AI 服务器系列。每个产品页均采用一致的定价和部署方式。
私有 AI 需要易于理解的基础设施
当团队开始依赖模型服务、RAG 流水线、内部助手和智能体后端时，它们就成为运营系统。Hosthink 围绕可预期资源、私有访问和清晰的部署界面规划 GPU 服务器，而非提供黑箱式 AI 端点。
模型需要多少 GPU 显存
VRAM 是 GPU 上的显存；服务器 RAM 属于 CPU。只有当模型能装入显存时，Ollama 才会完全在 GPU 上运行模型；否则一部分会加载到系统内存并由 CPU 处理，速度更慢。
左右滑动可查看所有列。
| 模型规模 | Ollama 示例（4 位 Q4_K_M 下载大小） | 建议规划的显存 |
|---|---|---|
| 7–8B | llama3.1:8b · 4.9 GB qwen3:8b · 5.2 GB | 8 GB+ |
| 12–14B | gemma3:12b · 8.2 GB qwen3:14b · 9.3 GB | 16 GB+ |
| 27–32B | gemma3:27b · 17 GB qwen3:32b · 20 GB | 24 GB（短上下文） · 32 GB+ |
| 70B | llama3.3:70b · 43 GB llama3.1:70b · 43 GB | 48 GB（短上下文） · 80 GB+ |
| 235B MoE | qwen3:235b · 142 GB | 160 GB+（多 GPU） |
| 405B | llama3.1:405b · 243 GB | 256 GB+（多 GPU） |
目录中的 GPU 及适合的模型规模
本页生成时读取 Hosthink 公开服务器目录；库存会随时变化。Starter 价格是现货最低价 GPU 服务器的仅硬件价格，本页任何价格都不会预留特定 GPU：GPU 型号、显存、机房位置和最终月价将根据当前库存在报价中确认。
左右滑动可查看所有列。
| GPU | VRAM | 适合（4 位） | 目录状态 | 位置 |
|---|---|---|---|---|
| 1× NVIDIA RTX A4000 | 16 GB | 12–14B | 暂不可用 | Amsterdam |
| 1× NVIDIA GeForce RTX 4090 | 24 GB | 27–32B（短上下文） | 有货 | Moscow |
| 1× NVIDIA RTX A5000 | 24 GB | 27–32B（短上下文） | 有货 | Amsterdam |
| 1× NVIDIA GeForce RTX 3090 | 24 GB | 27–32B（短上下文） | 暂不可用 | Paris, Amsterdam, Moscow |
| 1× NVIDIA GeForce RTX 5090 | 32 GB | 27–32B | 有货 | Moscow |
| 1× AMD Radeon AI PRO R9700 | 32 GB | 27–32B | 暂不可用 | Amsterdam |
| 2× NVIDIA GeForce RTX 4090 | 2 × 24 GB = 48 GB | 70B（短上下文） | 有货 | Moscow |
| 2× AMD Radeon AI PRO R9700 | 2 × 32 GB = 64 GB | 70B（短上下文） | 暂不可用 | Moscow |
| 2× NVIDIA GeForce RTX 5090 | 2 × 32 GB = 64 GB | 70B（短上下文） | 暂不可用 | Paris, Amsterdam |
| 1× NVIDIA H100 80GB | 80 GB | 70B | 有货 | Dallas |
| 3× AMD Radeon AI PRO R9700 | 3 × 32 GB = 96 GB | 70B | 有货 | Moscow |
| 4× NVIDIA GeForce RTX 4090 | 4 × 24 GB = 96 GB | 70B | 有货 | Keflavik |
| 8× NVIDIA RTX PRO 6000 Blackwell Server Edition | 8 × 96 GB = 768 GB | 405B（多 GPU） | 暂不可用 | Tokyo, Amsterdam, Ashburn +8 |
另有11个 GPU 方案未显示，因为其目录名称未明确标注 GPU 显存，或 GPU 为可选配置；这些方案的显存将在报价中确认。
查看 GPU 服务器、价格和库存 · 来源（核对于2026-10-30）： Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.
Starter、Pro 和 Advanced 套餐
部署前确认 GPU 库存和最终配置. 管理范围在部署前确认.
Starter
Pro
Advanced
常见问答
每种 AI 工作负载都需要 GPU 吗？
可以帮忙为服务器选型吗？
这与公共云 GPU 相同吗？
服务器内存和 GPU 显存是一回事吗？
Starter 价格会预留特定 GPU 吗？
从适合工作负载的产品开始
在基础设施栈中加入 AI 和应用工作负载，同时保持一致的 Hosthink 设计、计费和支持流程。