Tag: 추론 최적화

All the articles with the tag "추론 최적화".

• SGLang vs vLLM 비교: LLM 추론 프레임워크 선택 가이드

  19 Jul, 2025

  UC 버클리에서 개발된 SGLang과 vLLM의 아키텍처, 처리량, 지연 시간, 메모리 효율을 비교 분석한다. RadixAttention vs PagedAttention, 배치 스케줄링 전략 차이까지.