Приватная ИИ-инфраструктура

Выполняйте ИИ-инференс на выделенной GPU-инфраструктуре под вашим контролем

Приватные GPU- и LLM-серверы для команд, которым нужны локальный инференс, конфиденциальность данных, предсказуемая производительность и независимость от внешних сред ИИ.

Приватный инференсИИ в собственной средеВнутренние ИИ-помощникиИИ-агенты
Предпросмотр Приватные ИИ-серверы
Почему Hosthink

Приватная ИИ-инфраструктура

Наличие GPU и итоговая конфигурация подтверждаются до развёртывания. Объём управления согласуется до развёртывания.

01

Приватность по замыслу

Запускайте конечные точки моделей и ИИ-инструменты в собственной выделенной среде.

02

Инфраструктура с поддержкой GPU

Выбирайте оборудование по потребностям в VRAM, CPU, RAM, хранилище и пропускной способности.

03

Без зависимости от внешнего ИИ

Сохраняйте промпты, документы и трафик моделей под контролем вашей схемы развёртывания.

04

Доступ корпоративного уровня

Root-доступ, приватные сети и понятная передача сервиса в эксплуатацию.

Этапы процесса

От выбора ИИ-сервера к работающему стеку

Сравните семейства серверов в группе продуктов и подключите выбранный стек к уже используемым инструментам команды.

01

Выберите семейство ИИ-серверов

Сравните GPU, Ollama, DeepSeek и приватные LLM-серверы в одной группе продуктов.

02

Сопоставьте с нагрузкой

Выберите практичную начальную конфигурацию по размеру модели, ожидаемому использованию и предпочтительному стеку.

03

Подключите инструменты

При необходимости объедините ИИ-сервер с размещёнными приложениями, панелями, редакторами процессов или внутренними сервисами.

04

Растите осознанно

Учитывайте варианты расширения при изменении требований к памяти, GPU и хранилищу.

Продукты

Приватные ИИ-серверы — продукты

Выберите размещённый продукт или семейство приватных ИИ-серверов под нагрузку. На всех страницах сохраняется единый подход к ценам и развёртыванию.

Инфраструктурный подход

Приватному ИИ нужна понятная инфраструктура

Обслуживание моделей, конвейеры RAG, внутренние помощники и бэкенды агентов становятся эксплуатационными системами, когда команда начинает от них зависеть. Hosthink строит GPU-серверы вокруг предсказуемых ресурсов, приватного доступа и понятного развёртывания, а не непрозрачного ИИ-эндпоинта.

GPUГотовность к ускорению
NVMeБыстрое хранилище приложений
ИндивидуальноДоступен подбор конфигурации инженером
ЕжемесячноПредсказуемая оплата
Размер модели → VRAM

Сколько памяти GPU нужно модели

VRAM — это память на GPU; оперативная память сервера относится к CPU. Ollama запускает модель полностью на GPU только тогда, когда она помещается в VRAM; иначе часть модели загружается в системную RAM и обрабатывается CPU, что медленнее.

Прокрутите таблицу вбок, чтобы увидеть все столбцы.

Класс моделиПримеры Ollama (4-битная загрузка Q4_K_M)Сколько VRAM закладывать
7–8Bllama3.1:8b · 4.9 GB
qwen3:8b · 5.2 GB
8 GB+
12–14Bgemma3:12b · 8.2 GB
qwen3:14b · 9.3 GB
16 GB+
27–32Bgemma3:27b · 17 GB
qwen3:32b · 20 GB
24 GB (короткий контекст) · 32 GB+
70Bllama3.3:70b · 43 GB
llama3.1:70b · 43 GB
48 GB (короткий контекст) · 80 GB+
235B MoEqwen3:235b · 142 GB160 GB+ (несколько GPU)
405Bllama3.1:405b · 243 GB256 GB+ (несколько GPU)
Веса моделиПри 4 битах веса занимают около 0,5 ГБ на миллиард параметров (параметры × биты ÷ 8). Загрузки Q4_K_M немного больше, поэтому отправной точкой служит размер загрузки в Ollama.
Контекст и параллельные запросыKV-кеш растёт с длиной контекста и числом параллельных запросов; по данным Ollama, потребность в памяти масштабируется как OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH. Контекст по умолчанию зависит от VRAM (4k при менее 24 ГиБ, 32k при 24–48 ГиБ, 256k от 48 ГиБ), поэтому при расчёте задавайте длину контекста явно.
Если модель не помещаетсяЕсли модель не помещается на один GPU, Ollama распределяет её по всем GPU сервера и может разместить часть слоёв в системной RAM; команда ollama ps показывает распределение CPU/GPU. Эти цифры — оценки для подбора конфигурации, а не измеренные скорость, задержка или пропускная способность.
Каталог GPU Hosthink

GPU в каталоге и подходящие размеры моделей

Данные берутся из публичного каталога серверов Hosthink при формировании страницы; наличие меняется. Цена Starter — это цена только оборудования самого доступного GPU-сервера в наличии, и ни одна цена на этой странице не резервирует конкретный GPU: модель GPU, VRAM, локация и итоговая месячная цена подтверждаются в предложении по текущему наличию.

Прокрутите таблицу вбок, чтобы увидеть все столбцы.

GPUVRAMПодходит для (4 бита)Статус в каталогеЛокации
1× NVIDIA RTX A400016 GB12–14BСейчас недоступноAmsterdam
1× NVIDIA GeForce RTX 309024 GB27–32B (короткий контекст)В наличииAmsterdam
1× NVIDIA GeForce RTX 409024 GB27–32B (короткий контекст)В наличииMoscow
1× NVIDIA RTX A500024 GB27–32B (короткий контекст)В наличииAmsterdam
1× NVIDIA GeForce RTX 509032 GB27–32BВ наличииMoscow
1× AMD Radeon AI PRO R970032 GB27–32BСейчас недоступноAmsterdam
2× NVIDIA GeForce RTX 40902 × 24 GB = 48 GB70B (короткий контекст)В наличииMoscow
2× AMD Radeon AI PRO R97002 × 32 GB = 64 GB70B (короткий контекст)Сейчас недоступноMoscow
2× NVIDIA GeForce RTX 50902 × 32 GB = 64 GB70B (короткий контекст)Сейчас недоступноParis, Amsterdam
1× NVIDIA H100 80GB80 GB70BСейчас недоступноAshburn, Chicago, Dallas +4
3× AMD Radeon AI PRO R97003 × 32 GB = 96 GB70BВ наличииMoscow
4× NVIDIA GeForce RTX 40904 × 24 GB = 96 GB70BВ наличииKeflavik
8× NVIDIA RTX PRO 6000 Blackwell Server Edition8 × 96 GB = 768 GB405B (несколько GPU)Сейчас недоступноTokyo, Amsterdam, Ashburn +8

Ещё 11 предложений с GPU не показаны, так как в их названии в каталоге объём памяти GPU указан неоднозначно или GPU опционален; их VRAM подтверждается в предложении.

ОборудованиеВыделенный сервер: GPU, CPU, RAM и NVMe-накопители из вашего предложения не используются совместно с другими клиентами.
ДоступSSH-доступ к серверу; вы сами выбираете, какие модели загружать, запускать и открывать.
Объём управленияКто устанавливает и обновляет Ollama, драйверы GPU и модели и кто отслеживает работу сервиса, согласуется до развёртывания.

Смотреть GPU-серверы, цены и наличие · Источники, проверено 2026-10-30: Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.

Обзор цен

Тарифы Starter, Pro и Advanced

Наличие GPU и итоговая конфигурация подтверждаются до развёртывания. Объём управления согласуется до развёртывания.

Starter

От $558.00/мес
Самый доступный GPU-сервер в наличии, только оборудование
NVIDIA RTX A5000 · 24 GB VRAM · Amsterdam
Начальные нагрузки
Наличие GPU и итоговая конфигурация подтверждаются до развёртыванияЕжемесячная оплатаОбъём управления согласуется до развёртывания

Pro

Увеличение ресурсов
Команды рабочих систем
Больше CPU, RAM, хранилища или возможностей GPUРасширение в рамках семейства продуктов

Advanced

Индивидуально
Тяжёлые нагрузки
Варианты приватной сетиДоступен подбор конфигурации инженером
Вопросы и ответы

Частые вопросы

Нужен ли GPU для каждой ИИ-задачи?
Не всегда. Размещённые приложения могут использовать внешние API моделей, а приватный локальный инференс обычно выигрывает от GPU.
Можете подобрать конфигурацию сервера?
Да. Мы учитываем семейство моделей, VRAM, параллельность и требования к хранилищу.
Это то же самое, что GPU в публичном облаке?
Нет. Эти страницы описывают выделенные или приватные GPU-серверы, а не общий SaaS-эндпоинт модели.
Оперативная память сервера — это то же самое, что VRAM GPU?
Нет. VRAM — это память на GPU, а оперативная память сервера относится к CPU. Если модель не помещается в VRAM, среды выполнения вроде Ollama могут загрузить её часть в системную RAM, что медленнее, поэтому GPU подбирают под модель.
Резервирует ли цена Starter конкретный GPU?
Нет. Цена Starter — это самая низкая месячная цена оборудования среди GPU-серверов с указанным объёмом VRAM, которые есть в наличии в публичном каталоге Hosthink на момент формирования страницы; если актуальной проверенной цены нет, показывается «По запросу». Наличие меняется, и ни одна цена на этой странице не резервирует GPU: модель GPU, VRAM, локация и итоговая месячная цена подтверждаются в предложении по текущему наличию.
Приватные ИИ-серверы

Начните с продукта под вашу нагрузку

Сохраните привычные дизайн, оплату и поддержку Hosthink, добавляя ИИ и приложения в свою инфраструктуру.

Посмотреть GPU-серверы