KM Wiki

sglang

4건의 항목

  • 2026년 10월 11일

    TypeLLM: SGLang 기반 타입 안정(Type-Safe) 생성 및 스키마 의존성 디코딩

    • models
    • optimization
    • sglang
    • type-safe
    • json-schema
    • constrained-decoding
    • structured-outputs
  • 2026년 9월 10일

    SGLang Gemma4 llm-serving 클러스터 운영 (12b/31b)

    • models
    • serving
    • sglang
    • kubernetes
    • gemma4
    • gpu
  • 2026년 7월 31일

    LMCache: LLM 서빙 가속을 위한 KV 캐시 공유 및 관리 레이어

    • models
    • optimization-and-serving
    • kv-cache
    • lmcache
    • vllm
    • sglang
  • 2026년 7월 24일

    LMSYS Miles: 온폴리시 증류 (On-Policy Distillation, OPD) 지원 가이드

    • models
    • rl
    • post-training
    • distillation
    • lmsys
    • miles
    • sglang