Snowflake: Arctic-Text2SQL-R1 (강화학습 기반 T2SQL)
요약
Snowflake가 강화학습(RL)을 활용하여 개발한 Text-to-SQL 특화 모델입니다. 7B 규모의 소형 모델임에도 불구하고 BIRD(Big Bench for Large-scale Database Grounding) 벤치마크에서 1위를 기록하며, 기존 70B급 거대 모델들을 능가하는 실행 정확도(Execution Accuracy)와 효율성을 입증했습니다.
핵심 기술
- 강화학습(RL) 적용: 쿼리의 구문 정확성뿐만 아니라 실제 실행 결과의 정답 여부를 보상(Reward)으로 활용하여 학습.
- 소형 모델의 고성능화: 7B 파라미터 모델로 거대 모델 이상의 성능을 달성, 비용 효율적인 엔터프라이즈 배포 가능.
- BIRD 벤치마크 최적화: 실제 기업의 복잡한 스키마와 대규모 데이터 환경에서의 추론 능력 극대화.
- 실행 정확도(EX) 중심: 단순히 SQL 문법이 맞는지가 아니라, 올바른 데이터를 추출하는지에 집중.
기존 지식과의 연결
- sLM 기반 T2SQL PoC 회고: 본문에서 언급된 ‘sLM의 4가지 주요 한계’를 강화학습(RL)과 특화 학습으로 극복한 실전 사례입니다. 7B 모델로 거대 모델 이상의 성능을 내는 구체적인 벤치마크 결과를 제공합니다.
- T2SQL: 벤치마크 성능 향상을 위한 파인튜닝 전략의 정석 제시.
- Fine-Tuning: 특정 도메인(SQL)에 특화된 강화학습 기법의 실질적인 성과.
- sLM: 작지만 강력한 모델이 특정 작업에서 범용 거대 모델을 압도할 수 있음을 증명.