KM Wiki

continuous-batching

1건의 항목

  • 2026년 5월 12일

    연속 배칭(Continuous Batching) 및 동적 스케줄링

    • models/optimization
    • llm-serving
    • continuous-batching
    • throughput