Tag: Model Serving

All the articles with the tag "Model Serving".

• Admin 모델 서빙 매니저: GPU 현황과 모델 배포 UI

  20 Dec, 2025

  XGEN 2.0의 모델 서빙 관리 UI 구현기 — 다중 백엔드(vLLM/llamacpp/sglang) 지원, GPU 자동 감지, HuggingFace 검색, safetensors 샤드 그룹화까지