云服务器
直通型（Passthrough）和虚拟型（Virtualized）GPU是两种不同的GPU资源分配方式，适用于不同的应用场景，主要区别在于硬件资源的隔离性和共享灵活性。以下是它们的核心特点及典型应用场景：
1. 直通型GPU（GPU Passthrough）
特点：
- 独占访问：将物理GPU直接分配给单个虚拟机（VM）或容器，VM完全控制GPU，性能接近裸机。
- 无虚拟化开销：绕过Hypervisor层，避免性能损失。
- 隔离性强：适合对性能敏感或需要完整GPU功能的场景。
应用场景：
- 高性能计算（HPC）：如科学计算、气候建模，需要低延迟和高吞吐量。
- 专业图形工作站：3D渲染（Maya、Blender）、CAD设计（AutoCAD），依赖完整GPU驱动支持。
- 机器学习训练：大规模模型训练（TensorFlow、PyTorch），需充分利用GPU算力。
- 游戏云主机：云游戏服务（如Stadia早期方案），要求低延迟和高帧率。
限制：
- 单台宿主机只能为少数VM分配GPU，资源利用率低。
- 迁移灵活性差，GPU绑定到特定VM。
2. 虚拟型GPU（vGPU, Virtualized GPU）
特点：
- 资源共享：单块物理GPU被虚拟化为多个vGPU，供多个VM或容器共享。
- 灵活分配：可动态调整vGPU的显存和算力配额。
- 管理便捷：支持GPU资源池化，适合多租户环境。
应用场景：
- 虚拟桌面基础设施（VDI）：企业办公（如NVIDIA GRID）、远程设计，多个用户共享GPU资源。
- 轻量级AI推理：多实例并发处理推理任务（如视频分析），单任务无需独占GPU。
- 教育与开发测试：学生或开发者共享GPU资源运行轻量级CUDA程序。
- 云计算平台：公有云服务（如AWS vGPU实例），按需分配GPU算力，降低成本。
限制：
- 存在虚拟化开销，性能略低于直通模式。
- 需要特定软件支持（如NVIDIA vGPU、Intel GVT-g）。
3. 对比总结
| 维度 | 直通型GPU | 虚拟型GPU |
|---|---|---|
| 性能 | 接近裸机，无损耗 | 有虚拟化开销，性能稍低 |
| 隔离性 | 强（独占） | 弱（共享） |
| 资源利用率 | 低（单VM独占） | 高（多VM共享） |
| 适用负载 | 计算密集型、专业图形 | 轻量级图形、并发推理 |
| 典型技术 | PCIe Passthrough、SR-IOV | NVIDIA vGPU、AMD MxGPU |
4. 混合场景与趋势
- SR-IOV扩展：部分GPU（如AMD MI200）支持SR-IOV，能在直通基础上实现硬件级虚拟化，兼顾性能和资源共享。
- 容器化GPU：Kubernetes结合NVIDIA MIG（多实例GPU），将单GPU切割为多个独立实例，适合微服务架构。
根据业务需求选择：追求极致性能选直通，需要弹性共享选虚拟化。