Nvidia GreenBoost - 시스템 RAM/NVMe로 GPU VRAM 확장

Nvidia greenboost: transparently extend GPU VRAM using system RAM/NVMe

요약

시스템 RAM과 NVMe를 활용하여 GPU VRAM을 투명하게 확장하는 기술이다.

핵심 포인트

  • GPU VRAM 부족 시 시스템 메모리를 활용한 자동 확장

왜 중요한가

대규모 모델 학습이나 추론 시 GPU 메모리 제약을 완화할 수 있어 개발 비용을 절감할 수 있다.