Graphics Processing Unit(GPU)는 대규모 연산을 동시에 처리하는 컴퓨팅 자원으로, 병렬 컴퓨팅을 통해 데이터를 신속하고 정확하게 처리합니다. 과학 연산, 데이터 분석, 머신러닝 추론, 비디오 트랜스코딩 등 높은 처리량이 필요한 작업에 적합하며, 빠르게 변화하는 비즈니스 환경에 유연하게 대응할 수 있습니다.
GPU 서버는 다양한 NVIDIA GPU 모델을 선택하여 사용할 수 있어, AI, 머신러닝, 데이터 분석, 3D 렌더링, 영상 처리 등 각 용도에 맞게 최적의 성능을 제공하며, 고성능 연산이 필요한 모든 작업을 빠르고 정확하게 처리할 수 있습니다.
GPU Server를 Virtual Machine(VM)과 Bare Metal Server(BM), 두 가지 유형으로 제공합니다. VM과 BM모두 한 대 당 최대 8개의 GPU 자원을 제공하며 VM의 경우 고객이 원하는 시점에 자원의 성능을 자유롭게 조절할 수 있습니다. GPU 서버를 사용하면 고성능의 컴퓨팅 파워를 제공해 단시간에 원하는 결과를 얻을 수 있습니다.
Fabric Cluster 기능을 통해 다수의 GPU 서버를 하나의 클러스터로 구성할 수 있습니다. 동일한 클러스터 내 서버 간에는 초고속 네트워킹이 제공되어 일반적인 네트워크 인터페이스보다 뛰어난 성능을 발휘합니다. 이를 통해 서버 간 워크로드를 효과적으로 분산하고 확장하여 더욱 효율적인 처리가 가능합니다.
※ Fabric Cluster 기능은 GPU A100만 사용 가능합니다.
네이버 클라우드 플랫폼은 다양한 워크로드에 최적화된 GPU를 제공합니다.
L4, L40S: 최신 Ada Lovelace 아키텍처 기반으로 AI 추론, 생성형 AI, 3D 렌더링 등에 최적화
A100: 대규모 데이터 분석, AI 트레이닝, HPC 워크로드에 적합
T4: 머신러닝 추론, 비디오 트랜스코딩, 가상 데스크탑 등에 최적
V100: 딥러닝, 유전체학, 고성능 컴퓨팅(HPC) 등에 활용
P40: 교육, 연구, 신경망 모델 등의 비용 효율적인 솔루션 제공
구분 | L40S | L4 | A100 | T4 | V100 | P40 |
|---|---|---|---|---|---|---|
출시년도 | 2023년 | 2023년 | 2020년 | 2018년 | 2017년 | 2016년 |
아키텍처 | Ada Lovelace | Ada Lovelace | Ampere | Turing | Volta | Pascal |
CUDA Cores | 18,176 | 7,424 | 6,912 | 2,560 | 5,120 | 3,840 |
Tensor Cores | 1,466 TFLOPS* | 120 TFLOPS* | 3rd Gen / 432 | 320 | 640 | N/A |
GPU Memory | 48GB GDDR6 | 24GB GDDR6 | 80GB HBM2e | 16GB GDDR6 | 32GB HBM2 | 24GB GDDR5 |
Memory Bandwidth | 864GB/s | 300GB/s | 2,039 GB/s | 346GB/s | 900GB/s | 346GB/s |
GPU boost Clock Speed | 1,980 MHz | 1,335 MHz | 1,410 MHz | 1,590 MHz | 1,530 MHz | 1,530 MHz |
Single -Precision | 91.6 TFLOPS | 30.3 TFLOPS | 19.5 TFLOPS | 8.1 TFLOPS | 14 TFLOPS | 12 TFLOPS |
INT8 | 1,466 TOPS* | 120 TOPS* | 624 TOPS | 130 TOPS | 224 TOPS | 47 TOPS |
Use Case | 생성형 AI, 3D 그래픽, HPC, LLM 훈련 | AI 추론, 비디오 트랜스코딩, 가상 데스크톱 | 데이터 분석, AI 트레이닝, HPC | 머신러닝 추론, 동영상 트랜스코딩, 대화형 그래픽 | 딥러닝, 유전체 연구, 자율주행 개발 | 교육, 연구, 신경망 모델 |
상기 성능 수치는 NVIDIA에서 제공하는 자료로 사용하는 어플리케이션 및 구성 방식에 따라 측정값이 상이할 수 있습니다.
NVIDIA L40S, L4, A100, V100, T4 모델을 이용한 GPU Server를 제공합니다.
월 또는 시간 단위로 서버를 사용할 수 있습니다
월 단위 요금으로 서버를 1개월 미만으로 사용하면 이용 요금은 일할 계산돼 청구됩니다.
서버 요금내 기본디스크 요금 포함 여부는 아래와 같습니다.
XEN 하이퍼바이저 기반 : 서버 요금에 기본 디스크 요금 포함
KVM 하이퍼바이저 기반 : 서버 요금에 기본 디스크 요금 미포함(스토리지 요금으로 별도 청구)
다양한 모델의 GPU Server를 Virtual Machine 및 Bare Metal Server 형태로 제공합니다.
Virtual Machine
KVM 하이퍼바이저 기반 : L40S, L4, A100
XEN 하이퍼바이저 기반 : V100, T4
Bare Metal Server : A100
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp1ls16-g3 | 1개 x 48GB | 16개 | 96GB | - | 4,309 원 | 3,102,080 원 |
gp1ls32-g3 | 1개 x 48GB | 32개 | 96GB | - | 5,504 원 | 3,962,327 원 |
gp2ls32-g3 | 2개 x 48GB | 32개 | 192GB | - | 8,617 원 | 6,204,161 원 |
gp2ls64-g3 | 2개 x 48GB | 64개 | 192GB | - | 11,007 원 | 7,924,654 원 |
gp4ls64-g3 | 4개 x 48GB | 64개 | 384GB | - | 16,401 원 | 11,808,264 원 |
gp4ls120-g3 | 4개 x 48GB | 120개 | 384GB | - | 20,782 원 | 14,962,330 원 |
(VAT 별도)
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp1l4-g3 | 1개 x 24GB | 4개 | 48GB | - | 1,447 원 | 1,041,186 원 |
gp1l8-g3 | 1개 x 24GB | 8개 | 48GB | - | 1,550 원 | 1,115,683 원 |
gp2l8-g3 | 2개 x 24GB | 8개 | 96GB | - | 2,893 원 | 2,082,371 원 |
gp2l16-g3 | 2개 x 24GB | 16개 | 96GB | - | 3,100 원 | 2,231,366 원 |
gp4l16-g3 | 4개 x 24GB | 16개 | 192GB | - | 4,721 원 | 3,398,644 원 |
gp4l32-g3 | 4개 x 24GB | 32개 | 192GB | - | 5,501 원 | 3,960,244 원 |
(VAT 별도)
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp8ap56-g3 | 8개 x 80GB | 56개 | 1.9TB | - | - | - |
(VAT 별도)
GPU A100은 Bare Metal Server도 함께 제공됩니다.
Bare Metal Server A100 GPU 요금은 네이버 클라우드 플랫폼의 Services > Compute > Bare Metal Server 에서 확인할 수 있습니다.
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp1vs8-g1-h50 | 1개 x 32GB | 8개 | 90GB | [HDD] 50GB | - | - |
gp1vs8-g1-s50 | 1개 x 32GB | 8개 | 90GB | [SSD] 50GB | - | - |
gp1vs8-g1-h100 | 1개 x 32GB | 8개 | 90GB | [HDD] 100GB | - | - |
gp1vs8-g1-s100 | 1개 x 32GB | 8개 | 90GB | [SSD] 100GB | - | - |
gp2vs16-g1-h50 | 2개 x 32GB | 16개 | 180GB | [HDD] 50GB | - | - |
gp2vs16-g1-s50 | 2개 x 32GB | 16개 | 180GB | [SSD] 50GB | - | - |
gp2vs16-g1-h100 | 2개 x 32GB | 16개 | 180GB | [HDD] 100GB | - | - |
gp2vs16-g1-s100 | 2개 x 32GB | 16개 | 180GB | [SSD] 100GB | - | - |
gp4vs32-g1-h50 | 4개 x 32GB | 32개 | 360GB | [HDD] 50GB | - | - |
gp4vs32-g1-s50 | 4개 x 32GB | 32개 | 360GB | [SSD] 50GB | - | - |
gp4vs32-g1-h100 | 4개 x 32GB | 32개 | 360GB | [HDD] 100GB | - | - |
gp4vs32-g1-s100 | 4개 x 32GB | 32개 | 360GB | [SSD] 100GB | - | - |
(VAT 별도)
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp1t4-g1-h50 | 1개 x 16GB | 4개 | 20GB | [HDD] 50GB | - | - |
gp1t4-g1-s50 | 1개 x 16GB | 4개 | 20GB | [SSD] 50GB | - | - |
gp1t4-g1-h100 | 1개 x 16GB | 4개 | 20GB | [HDD] 100GB | - | - |
gp1t4-g1-s100 | 1개 x 16GB | 4개 | 20GB | [SSD] 100GB | - | - |
gp1t8-g1-h50 | 1개 x 16GB | 8개 | 40GB | [HDD] 50GB | - | - |
gp1t8-g1-s50 | 1개 x 16GB | 8개 | 40GB | [SSD] 50GB | - | - |
gp1t8-g1-h100 | 1개 x 16GB | 8개 | 40GB | [HDD] 100GB | - | - |
gp1t8-g1-s100 | 1개 x 16GB | 8개 | 40GB | [SSD] 100GB | - | - |
gp2t8-g1-h50 | 2개 x 16GB | 8개 | 40GB | [HDD] 50GB | - | - |
gp2t8-g1-s50 | 2개 x 16GB | 8개 | 40GB | [SSD] 50GB | - | - |
gp2t8-g1-h100 | 2개 x 16GB | 8개 | 40GB | [HDD] 100GB | - | - |
gp2t8-g1-s100 | 2개 x 16GB | 8개 | 40GB | [SSD] 100GB | - | - |
gp1t16-g1-h50 | 1개 x 16GB | 16개 | 80GB | [HDD] 50GB | - | - |
gp1t16-g1-s50 | 1개 x 16GB | 16개 | 80GB | [SSD] 50GB | - | - |
gp1t16-g1-h100 | 1개 x 16GB | 16개 | 80GB | [HDD] 100GB | - | - |
gp1t16-g1-s100 | 1개 x 16GB | 16개 | 80GB | [SSD] 100GB | - | - |
gp2t16-g1-h50 | 2개 x 16GB | 16개 | 80GB | [HDD] 50GB | - | - |
gp2t16-g1-s50 | 2개 x 16GB | 16개 | 80GB | [SSD] 50GB | - | - |
gp2t16-g1-h100 | 2개 x 16GB | 16개 | 80GB | [HDD] 100GB | - | - |
gp2t16-g1-s100 | 2개 x 16GB | 16개 | 80GB | [SSD] 100GB | - | - |
gp2t32-g1-h50 | 2개 x 16GB | 32개 | 160GB | [HDD] 50GB | - | - |
gp2t32-g1-s50 | 2개 x 16GB | 32개 | 160GB | [SSD] 50GB | - | - |
gp2t32-g1-h100 | 2개 x 16GB | 32개 | 160GB | [HDD] 100GB | - | - |
gp2t32-g1-s100 | 2개 x 16GB | 32개 | 160GB | [SSD] 100GB | - | - |
(VAT 별도)
NVIDIA P40, V100 모델을 이용한 GPU Server를 제공합니다.
월 또는 시간 단위로 서버를 사용할 수 있습니다. 월 단위 요금으로 서버를 1개월 미만으로 사용하면 이용 요금은 일할 계산돼 청구됩니다.
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp8v1-g1 | 1개 x 32GB | 8개 | 90GB | [HDD] 50GB | - | - |
gp8v1-g1 | 1개 x 32GB | 8개 | 90GB | [SSD] 50GB | - | - |
gp8v1-g1 | 1개 x 32GB | 8개 | 90GB | [HDD] 100GB | - | - |
gp8v1-g1 | 1개 x 32GB | 8개 | 90GB | [SSD] 100GB | - | - |
gp16v2-g1 | 2개 x 32GB | 16개 | 180GB | [HDD] 50GB | - | - |
gp16v2-g1 | 2개 x 32GB | 16개 | 180GB | [SSD] 50GB | - | - |
gp16v2-g1 | 2개 x 32GB | 16개 | 180GB | [HDD] 100GB | - | - |
gp16v2-g1 | 2개 x 32GB | 16개 | 180GB | [SSD] 100GB | - | - |
gp32v4-g1 | 4개 x 32GB | 32개 | 360GB | [SSD] 50GB | - | - |
gp32v4-g1 | 4개 x 32GB | 32개 | 360GB | [SSD] 100GB | - | - |
(VAT 별도)
서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
gp4p1-g1 | 1개 x 24GB | 4개 | 30GB | [HDD] 50GB | - | - |
gp4p1-g1 | 1개 x 24GB | 4개 | 30GB | [SSD] 50GB | - | - |
gp4p1-g1 | 1개 x 24GB | 4개 | 30GB | [HDD] 100GB | - | - |
gp4p1-g1 | 1개 x 24GB | 4개 | 30GB | [SSD] 100GB | - | - |
gp8p2-g1 | 2개 x 24GB | 8개 | 60GB | [HDD] 50GB | - | - |
gp8p2-g1 | 2개 x 24GB | 8개 | 60GB | [SSD] 50GB | - | - |
gp8p2-g1 | 2개 x 24GB | 8개 | 60GB | [HDD] 100GB | - | - |
gp8p2-g1 | 2개 x 24GB | 8개 | 60GB | [SSD] 100GB | - | - |
(VAT 별도)
아웃바운드 트래픽에 대한 네트워크 사용량은 다음 요금표에 따라 과금합니다.
사용량 구간 | 요금 (GB 당) |
|---|---|
전 구간 동일 | - |
20GB 이하 | - |
20GB 초과 ~ 5TB 이하 | - |
5TB 초과 ~ 10TB 이하 | - |
10TB 초과 ~ 30TB 이하 | - |
30TB 초과 | - |
전 구간 동일 | - |
전 구간 동일 | - |
전 구간 동일 | - |
(VAT 별도)
운영체제 설치를 위한 기본 디스크가 제공됩니다.
Classic/VPC, 하이퍼바이저, 리전 등에 따라 제공되는 운영체제가 상이하며 상세 내용은 콘솔에서 확인하실 수 있습니다.
운영체제 구분 | 요금 | |||
|---|---|---|---|---|
운영체제 | 버전 | 32비트/64비트 | 시간 | 월 |
Linux | Ubuntu 22.04, 20.04 | 64비트 | 무료 | 무료 |
Rocky Linux 9.4, 8.10, 8.8 | 64비트 | 무료 | 무료 | |
Windows | Windows Server 2019, 2016 | 64비트 | - | - |
GPU 서버는 정지 시 요금 할인이 적용되지 않으며 서버 정지 시에도 요금이 정상적으로 청구됩니다.
구분 | 세대 | 대상 서버 타입 |
|---|---|---|
서버 정지 시 요금 할인 적용 대상 | Classic 1세대 | Compact 서버, Standard 서버, CPU Intensive 서버 |
Classic 2세대 | Standard-g2 서버, High CPU-g2 서버, High Memory-g2 서버 | |
VPC 2세대 | Standard-g2 서버, High CPU-g2 서버, High Memory-g2 서버, CPU Intensive-g2 서버 | |
VPC 3세대 | Standard-g3 서버, High CPU-g3 서버, High Memory-g3 서버, CPU Intensive-g3 서버, Service Function Chaining-g3 서버 | |
서버 정지 시 요금 할인이 적용되지 않는 대상 | Classic 1세대 | Micro 서버, High Memory 서버, GPU 서버, Baremetal 서버 |
Classic 2세대 | - | |
VPC 2세대 | Micro서버, GPU 서버, Baremetal 서버 | |
VPC 3세대 | Micro서버, GPU 서버 |