프라이빗 AI 인프라

직접 제어하는 전용 GPU 인프라에서 AI 추론을 실행하세요

로컬 추론, 데이터 프라이버시, 예측 가능한 성능, 외부 AI 실행 환경으로부터의 독립성이 필요한 팀을 위한 프라이빗 GPU 및 LLM 서버입니다.

프라이빗 추론자체 호스팅 AI내부 AI 도우미AI 에이전트
프라이빗 AI 서버 미리보기
Hosthink를 선택하는 이유

프라이빗 AI 인프라

배포 전에 GPU 재고와 최종 사양 확인. 관리 범위는 배포 전에 확정됩니다.

01

설계부터 프라이빗

자체 전용 환경 안에서 모델 엔드포인트와 AI 도구를 실행하세요.

02

GPU 지원 인프라

VRAM, CPU, RAM, 스토리지, 대역폭 요구에 맞춰 하드웨어를 선택하세요.

03

외부 AI 의존성 없음

프롬프트, 문서, 모델 트래픽을 고객의 배포 방식 안에서 제어하세요.

04

엔터프라이즈급 접근

Root 접근, 프라이빗 네트워크 옵션, 명확한 운영 인수인계.

워크플로 단계

AI 서버 선택에서 작동하는 스택까지

제품군에서 서버 계열을 비교한 다음, 선택한 스택을 팀이 이미 사용하는 도구에 연결하세요.

01

AI 서버 제품군 선택

하나의 제품군에서 GPU, Ollama, DeepSeek, 프라이빗 LLM 서버를 비교하세요.

02

워크로드에 맞추기

모델 크기, 예상 사용량, 선호 스택에 따라 실용적인 시작 구성을 선택하세요.

03

도구 연결

필요에 따라 AI 서버를 호스팅 앱, 대시보드, 워크플로 빌더, 내부 서비스와 조합하세요.

04

계획적으로 확장

메모리, GPU, 스토리지 요구가 달라져도 업그레이드 경로를 명확하게 유지하세요.

제품

프라이빗 AI 서버 제품

워크로드에 맞는 호스팅 제품이나 프라이빗 AI 서버 계열을 선택하세요. 모든 제품 페이지는 동일한 요금 및 배포 방식을 따릅니다.

인프라 접근 방식

프라이빗 AI에는 이해 가능한 인프라가 필요합니다

모델 서빙, RAG 파이프라인, 내부 도우미, 에이전트 백엔드는 팀이 의존하기 시작하면 운영 시스템이 됩니다. Hosthink는 불투명한 AI 엔드포인트 대신 예측 가능한 리소스, 프라이빗 접근, 명확한 배포 환경을 중심으로 GPU 서버를 제공합니다.

GPU가속 지원
NVMe빠른 앱 스토리지
맞춤형엔지니어의 사양 선정 지원
월간예측 가능한 청구
모델 크기 → VRAM

모델에 필요한 GPU 메모리

VRAM은 GPU의 메모리이고, 서버 RAM은 CPU에 속합니다. Ollama는 모델이 VRAM에 들어갈 때만 모델 전체를 GPU에서 실행하며, 그렇지 않으면 일부가 시스템 RAM에 로드되어 CPU가 처리하므로 더 느립니다.

모든 열을 보려면 옆으로 스크롤하세요.

모델 등급Ollama 예시 (4비트 Q4_K_M 다운로드 크기)계획할 VRAM
7–8Bllama3.1:8b · 4.9 GB
qwen3:8b · 5.2 GB
8 GB+
12–14Bgemma3:12b · 8.2 GB
qwen3:14b · 9.3 GB
16 GB+
27–32Bgemma3:27b · 17 GB
qwen3:32b · 20 GB
24 GB (짧은 컨텍스트) · 32 GB+
70Bllama3.3:70b · 43 GB
llama3.1:70b · 43 GB
48 GB (짧은 컨텍스트) · 80 GB+
235B MoEqwen3:235b · 142 GB160 GB+ (멀티 GPU)
405Bllama3.1:405b · 243 GB256 GB+ (멀티 GPU)
모델 가중치4비트에서 가중치는 파라미터 10억 개당 약 0.5GB를 차지합니다(파라미터 × 비트 ÷ 8). Q4_K_M 다운로드는 이보다 조금 크므로 Ollama 다운로드 크기를 출발점으로 삼으세요.
컨텍스트와 병렬 요청KV 캐시는 컨텍스트 길이와 병렬 요청 수에 따라 커집니다. Ollama에 따르면 메모리는 OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH에 비례해 늘어납니다. 기본 컨텍스트는 VRAM에 따라 달라지므로(24GiB 미만 4k, 24–48GiB 32k, 48GiB 이상 256k) 용량을 산정할 때 컨텍스트 길이를 명시적으로 설정하세요.
모델이 들어가지 않을 때모델이 GPU 한 개에 들어가지 않으면 Ollama는 서버의 모든 GPU에 모델을 분산하고, 일부 레이어를 시스템 RAM에 둘 수 있습니다. ollama ps 명령으로 CPU/GPU 분배를 확인할 수 있습니다. 이 수치는 용량 산정용 추정치이며 측정된 속도, 지연 시간 또는 처리량이 아닙니다.
Hosthink GPU 카탈로그

등록된 GPU와 적합한 모델 크기

이 페이지가 생성될 때 Hosthink 공개 서버 카탈로그에서 읽어 오며, 재고는 수시로 바뀝니다. Starter 가격은 재고 중 최저가 GPU 서버의 하드웨어만의 가격이며, 이 페이지의 어떤 가격도 특정 GPU를 예약하지 않습니다. GPU 모델, VRAM, 위치, 최종 월 요금은 현재 재고를 기준으로 견적에서 확정됩니다.

모든 열을 보려면 옆으로 스크롤하세요.

GPUVRAM적합 모델 (4비트)카탈로그 상태위치
1× NVIDIA RTX A400016 GB12–14B현재 이용 불가Amsterdam
1× NVIDIA GeForce RTX 409024 GB27–32B (짧은 컨텍스트)재고 있음Moscow
1× NVIDIA GeForce RTX 309024 GB27–32B (짧은 컨텍스트)현재 이용 불가Paris, Amsterdam, Moscow
1× NVIDIA RTX A500024 GB27–32B (짧은 컨텍스트)현재 이용 불가Paris, Amsterdam, Moscow
1× NVIDIA GeForce RTX 509032 GB27–32B재고 있음Moscow
1× AMD Radeon AI PRO R970032 GB27–32B현재 이용 불가Amsterdam
2× NVIDIA GeForce RTX 40902 × 24 GB = 48 GB70B (짧은 컨텍스트)재고 있음Moscow
2× AMD Radeon AI PRO R97002 × 32 GB = 64 GB70B (짧은 컨텍스트)현재 이용 불가Moscow
2× NVIDIA GeForce RTX 50902 × 32 GB = 64 GB70B (짧은 컨텍스트)현재 이용 불가Paris, Amsterdam
1× NVIDIA H100 80GB80 GB70B현재 이용 불가Ashburn, Chicago, Dallas +4
3× AMD Radeon AI PRO R97003 × 32 GB = 96 GB70B재고 있음Moscow
4× NVIDIA GeForce RTX 40904 × 24 GB = 96 GB70B재고 있음Keflavik
8× NVIDIA RTX PRO 6000 Blackwell Server Edition8 × 96 GB = 768 GB405B (멀티 GPU)현재 이용 불가Tokyo, Amsterdam, Ashburn +8

카탈로그 표기에 GPU 메모리가 명확하지 않거나 GPU가 선택 사항인 GPU 상품 11개는 표시하지 않습니다. 해당 상품의 VRAM은 견적에서 확정됩니다.

하드웨어전용 서버: 견적에 포함된 GPU, CPU, RAM, NVMe 스토리지는 다른 고객과 공유되지 않습니다.
접근서버에 대한 SSH 접근이 제공되며, 어떤 모델을 받아 실행하고 외부에 노출할지는 직접 선택합니다.
관리 범위Ollama, GPU 드라이버, 모델의 설치와 업데이트 및 서비스 모니터링을 누가 담당할지는 배포 전에 확정됩니다.

GPU 서버, 가격 및 재고 보기 · 출처 (2026-10-30 확인): Ollama context length, Ollama FAQ, Ollama hardware support, Ollama library.

요금 개요

Starter, Pro, Advanced 플랜

배포 전에 GPU 재고와 최종 사양 확인. 관리 범위는 배포 전에 확정됩니다.

Starter

시작 가격 $798.00/월
재고 중 최저가 GPU 서버, 하드웨어만
NVIDIA GeForce RTX 4090 · 24 GB VRAM · Moscow
입문용 워크로드
배포 전에 GPU 재고와 최종 사양 확인월별 청구관리 범위는 배포 전에 확정됩니다

Pro

용량 확장
프로덕션 팀
더 많은 CPU, RAM, 스토리지 또는 GPU 성능동일 제품군 내 업그레이드

Advanced

맞춤형
고부하 워크로드
프라이빗 네트워크 옵션엔지니어의 사양 선정 지원
자주 묻는 질문

주요 질문

모든 AI 작업에 GPU가 필요한가요?
항상 그렇지는 않습니다. 호스팅 앱은 외부 모델 API를 사용할 수 있으며, 프라이빗 로컬 추론은 대체로 GPU의 이점을 얻습니다.
서버 사양을 선정해 줄 수 있나요?
네. 모델 계열, VRAM, 동시 실행 수, 스토리지 요구 사항을 고려할 수 있습니다.
퍼블릭 클라우드 GPU와 같은가요?
아니요. 이 페이지는 공유 SaaS 모델 엔드포인트가 아닌 전용 또는 프라이빗 GPU 서버 배포를 설명합니다.
서버 RAM과 GPU VRAM은 같은 것인가요?
아니요. VRAM은 GPU의 메모리이고 서버 RAM은 CPU에 속합니다. 모델이 VRAM에 들어가지 않으면 Ollama 같은 런타임이 일부를 시스템 RAM에 로드할 수 있지만 더 느려지므로, GPU는 모델에 맞춰 산정하세요.
Starter 가격으로 특정 GPU가 예약되나요?
아니요. Starter 가격은 이 페이지가 생성될 때 Hosthink 공개 카탈로그에서 VRAM이 명시된 재고 GPU 서버 중 가장 낮은 월 하드웨어 가격이며, 현재 확인된 가격이 없으면 ‘견적 문의’로 표시됩니다. 재고는 수시로 바뀌며 이 페이지의 어떤 가격도 GPU를 예약하지 않습니다. GPU 모델, VRAM, 위치, 최종 월 요금은 현재 재고를 기준으로 견적에서 확정됩니다.
프라이빗 AI 서버

워크로드에 맞는 제품으로 시작하세요

동일한 Hosthink 디자인, 청구, 지원 흐름을 유지하면서 인프라 스택에 AI와 앱 워크로드를 추가하세요.

GPU 서버 보기