Tag: 레이어 오프로딩

All the articles with the tag "레이어 오프로딩".

• 멀티 GPU LLM 배포: GPU 선택 및 레이어 오프로딩 전략

  31 Jan, 2026

  XGEN 모델 서버에서 멀티 GPU 환경을 지원하는 방법 - main_gpu, split_mode, tensor_split, n_gpu_layers를 통한 레이어 오프로딩 설계와 ProcessManager의 백엔드 자동 선택 구조