GPU 虚拟化是现代云计算和高性能计算中重要的技术，按架构与实现方式划分，可分为前端虚拟化（Front-end Virtualization）和后端虚拟化（Back-end Virtualization）。两者分别解决了虚拟机中的 GPU 使用接口与底层资源管理的问题。
前端虚拟化（Front-end Virtualization）
前端虚拟化主要关注如何在虚拟机（Guest OS）中使用 GPU 提供的计算与渲染能力。常见实现方式包括：
1. 纯 API 远程调用（Pure API Remoting）
原理：将 GPU API 调用从虚拟机转发到宿主机或 VMM（虚拟机监控器）执行，虚拟机本身无需直接与物理 GPU 通信。
通俗比喻：就像通过远程桌面让主机完成操作，而虚拟机只负责发出指令。
优点：
实现简单：无需在虚拟机内部直接处理硬件相关操作，降低实现复杂性。
支持多用户：易于同时支持多个虚拟机共享 GPU。
缺点：
性能开销：API 调用的转发和处理可能增加延迟，尤其在高频率调用场景中。
复杂场景受限：在某些需要深度硬件访问的场景下，可能无法满足需求。
2. 纯设备仿真（Pure Device Emulation）
原理：通过软件完全模拟 GPU 硬件的功能，让虚拟机认为其正在与物理 GPU 交互。
通俗比喻：像用一个虚拟打印机软件，模拟真实打印机的工作。
优点：
安全性与隔离性高：完全控制虚拟机的 GPU 访问，避免直接硬件干预导致的冲突或安全问题。
无需真实 GPU：可在没有物理 GPU 的系统中实现。
缺点：
实现复杂：需要精确模拟硬件行为，特别是对 GPU 专用指令集和硬件细节。
性能低下：由于通过 CPU 完全模拟 GPU 行为，性能远不如直接使用物理 GPU。
后端虚拟化（Back-end Virtualization）
后端虚拟化重点在于物理 GPU 的资源分配和管理，解决多虚拟机共享同一 GPU 或专用 GPU 的性能问题。主要技术包括：
1. 多实例 GPU (MIG)
原理：将一块物理 GPU 分成多个独立的小实例（逻辑 GPU），每个实例可以运行独立任务。
优点：
灵活性强：支持多个虚拟机共享 GPU，同时保证隔离性。
资源利用率高：可根据需求动态分配 GPU 实例。
缺点：
实现复杂：需要硬件和驱动的支持，且可能影响个别实例的最大性能。
适用性有限：目前主要由 NVIDIA 的 A100 等支持 MIG 技术的 GPU 提供。
2. 多进程服务 (MPS)
原理：通过多进程服务机制允许多个虚拟机共享 GPU，分时调度。
优点：
适合高性能计算 (HPC)：能显著提升计算密集型任务的并发能力。
低延迟：任务切换开销较低。
缺点：
隔离性较弱：多个进程可能影响彼此性能。
复杂度高：需要在应用和驱动层面进行深度集成。
3. 直通技术 (Passthrough)
原理：将整个物理 GPU 独占分配给一个虚拟机，提供接近裸机的性能。
优点：
性能最优：直接使用 GPU 硬件，无需额外的抽象和中间层。
支持复杂场景：如训练深度学习模型或图形密集型应用。
缺点：
资源利用率低：GPU 无法共享，单一虚拟机独占硬件。
灵活性差：无法动态调整 GPU 资源分配。
总结与选择
GPU 虚拟化根据场景需求选择不同方式：
前端虚拟化适用于用户无需直接管理硬件的场景，纯 API 远程调用适合轻量级任务，而设备仿真适合需要隔离但性能要求不高的场景。
后端虚拟化在多虚拟机资源共享中更为重要：
- MIG 提供了隔离性和灵活性，适合多租户场景。
- MPS 在 HPC 任务中性能优异。
- 直通技术适合高性能要求的单租户场景。
通过合理设计和部署，GPU 虚拟化技术能够高效地满足云计算和高性能计算的需求，提高硬件资源利用率，同时提供灵活的计算服务能力。
版权声明：本文为CSDN博主「EricWang1358」的原创文章，
遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/m0_74331272/article/details/144387627
