VLA-Adapter: 소형 VLA 모델을 위한 효과적인 패러다임

출처: 원본 링크 논문: https://arxiv.org/pdf/2509.09372

주요 요점 요약

이 기사는 자연어 지침을 사용하여 로봇을 제어하는 VLA(Vision-Language-Action) 모델을 훈련하기 위한 새롭고 매우 효율적인 접근 방식인 VLA-Adapter를 소개합니다.

  • 해결 과제: 시각적 인식, 언어 이해 및 로봇 행동을 효율적으로 연결하는 과제를 해결하며, 종종 많은 계산 리소스가 필요합니다.
  • 방법론 (VLA-Adapter):
    • “브리지 어텐션” 메커니즘을 특징으로 하는 경량 정책 네트워크와 결합된 소형 비전-언어 모델 백본(0.5억 매개변수)을 사용합니다.
    • 최적의 시각 및 언어 특징을 체계적으로 식별합니다.
    • 브리지 어텐션 메커니즘은 시각-언어 조건, ActionQuery 기능 및 고유 수용성 로봇 상태 정보를 동적으로 선택하고 통합합니다.
    • 훈련 프로세스는 종단 간이지만 ActionQuery 토큰과 정책 네트워크만 처음부터 훈련되므로 계산 비용이 크게 절감됩니다.
  • 결과 및 효율성:
    • 14배 더 작은 모델로 최첨단 성능을 달성합니다.
    • 훈련 시간과 VRAM 사용량을 극적으로 줄입니다.
    • 3배 이상 빠른 추론 속도를 제공합니다.
  • 결론: VLA-Adapter는 훨씬 작은 모델과 적은 계산 리소스로 고성능을 달성하여 VLA 모델 배포를 더욱 쉽게 만듭니다.

관련 노트