NVIDIA가 VM에 GPU를 할당하는 방식은 여러 가지가 있으며, 주로 GPU Passthrough, vGPU 등의 기술을 사용한다. 본 실습에서는 GPU Passthrough 기술을 사용할 것이다.
1️⃣ GPU Passthrough (Direct Assignment)
✅ 단일 VM이 GPU를 독점적으로 사용하는 방식
- 하나의 물리적 GPU를 특정 VM에 100% 할당
- 다른 VM에서는 해당 GPU를 사용할 수 없음
- VFIO + IOMMU를 이용하여 GPU를 VM에 직접 연결
- 고성능 연산 및 머신러닝 모델 학습 같은 단일 워크로드에 적합
✅ 장점
✔ 최대 성능 보장 (물리 GPU와 동일한 성능)
✔ CUDA, 머신러닝, 게임, 3D 렌더링 등에 최적화
❌ 단점
✖ 단일 GPU는 하나의 VM에서만 사용 가능
✖ VM이 GPU를 독점하므로 리소스 활용이 비효율적
2️⃣ NVIDIA vGPU (Virtual GPU)
✅ 하나의 물리적 GPU를 여러 개의 VM에서 공유하는 방식
- NVIDIA vGPU 소프트웨어를 이용하여 가상 GPU(Virtual GPU) 생성
- VM마다 vGPU를 할당하여 GPU 리소스를 효율적으로 분배
- 하나의 GPU를 여러 VM에서 사용 가능
- CUDA 및 AI 연산 가능 (일부 제한 사항 있음)
✅ 장점