KM Wiki

models/optimization

11건의 항목

  • 2026년 11월 17일

    DeepSeek-SOTA-연구-논문-및-인프라-핵심-요약

    • wiki
    • models/architectures
    • models/optimization
    • reinforcement-learning
    • deepseek
    • flashmla
  • 2026년 9월 17일

    리벨리온 NPU 기반 고성능 LLM 서빙 최적화 (vLLM-RBLN)

    • models/optimization
    • npu
    • rebellions
    • vllm
    • serving
  • 2026년 5월 12일

    LLM 최적화 및 서빙 기술 (Optimization & Serving) MOC

    • moc
    • models/optimization
    • serving
    • npu
  • 2026년 5월 12일

    연속 배칭(Continuous Batching) 및 동적 스케줄링

    • models/optimization
    • llm-serving
    • continuous-batching
    • throughput
  • 2026년 5월 12일

    FP8 vs INT8: 효율적 딥러닝 추론을 위한 정밀도 비교 분석

    • models/optimization
    • quantization
    • fp8
    • int8
    • precision
  • 2026년 5월 12일

    FlashAttention: 메모리 병목 해소를 위한 어텐션 최적화

    • models/optimization
    • flashattention
    • memory
    • hbm
    • sram
    • rebellions
  • 2026년 5월 12일

    LLM 모델 컴파일 (Model Compilation)

    • models/optimization
    • compilation
    • npu
    • gpu
    • performance
  • 2026년 5월 12일

    PagedAttention: KV 캐시 메모리 관리 효율화

    • models/optimization
    • pagedattention
    • kvcache
    • memory
    • vllm
    • rebellions
  • 2026년 5월 12일

    NPU 최적화를 위한 지능형 양자화(Quantization) 기술

    • models/optimization
    • quantization
    • npu
    • int8
    • fp8
  • 2026년 5월 12일

    Sliding Window Attention: 긴 문맥 처리를 위한 메모리 효율화

    • models/optimization
    • slidingwindowattention
    • swa
    • memory
    • longcontext
    • rebellions
  • 2026년 5월 12일

    투사적 MoE (Speculative MoE): 분산 추론 통신 최적화

    • models/optimization
    • moe
    • speculative-inference
    • distributed-inference