재귀적 언어 모델(RLM): LLM의 장문 컨텍스트 처리 능력 확장 연구
요약
이 논문은 대규모 언어 모델(LLM)이 임의로 긴 프롬프트를 처리할 수 있도록 하는 새로운 추론 전략인 **재귀적 언어 모델(Recursive Language Models, RLM)**을 제안합니다. 기존 LLM은 컨텍스트 길이가 제한적이며, 컨텍스트가 길어질수록 성능이 급격히 저하되는 ‘컨텍스트 로트(context rot)’ 현상을 겪습니다. RLM은 이러한 한계를 극복하기 위해 긴 프롬프트를 외부 환경의 일부로 취급하고, LLM이 프롬프트의 스니펫을 프로그래밍 방식으로 검사, 분해하고 재귀적으로 자신을 호출할 수 있도록 합니다.
RLM의 핵심 아이디어는 긴 프롬프트를 신경망에 직접 공급하는 대신, LLM이 상징적으로 상호작용할 수 있는 환경의 일부로 처리하는 것입니다. 이는 Read-Eval-Print Loop (REPL) 프로그래밍 환경을 초기화하여 프롬프트를 변수로 설정하고, LLM이 이 변수를 들여다보고 분해하며, 재귀적으로 하위 작업을 호출하는 코드를 작성하도록 허용함으로써 구현됩니다. 이 접근 방식은 기존의 많은 접근 방식이 기본 LLM의 컨텍스트 창을 넘어 입력 스케일링을 할 수 없었던 근본적인 한계를 해결합니다.
연구팀은 GPT-5와 Qwen3-Coder-480B-A35B와 같은 최신 모델을 사용하여 RLM을 평가했습니다. 평가는 S-NIAH, BrowseComp-Plus, OOLONG, OOLONG-Pairs, LongBench-v2 CodeQA 등 다양한 복잡성을 가진 네 가지 장문 컨텍스트 작업에서 이루어졌습니다. RLM은 직접적인 LLM 호출, 컨텍스트 압축, 검색 도구 사용 에이전트, 코드 생성 에이전트와 비교되었습니다.
주요 결과는 다음과 같습니다:
- 확장성 및 성능: RLM은 모델 컨텍스트 창을 최대 두 자릿수 이상 초과하는 입력도 성공적으로 처리하며, 심지어 더 짧은 프롬프트에서도 기본 LLM 및 일반적인 장문 컨텍스트 스캐폴드보다 훨씬 뛰어난 성능을 보였습니다. 특히 10M+ 토큰 규모에서도 강력한 성능을 유지했습니다.
- REPL 환경의 중요성: REPL 환경은 긴 입력을 처리하는 데 필수적이며, 재귀적 하위 호출은 정보 밀도가 높은 입력에서 강력한 이점을 제공합니다. 하위 호출 기능이 없는 RLM도 모델의 컨텍스트 한계를 넘어 확장할 수 있었지만, OOLONG이나 OOLONG-Pairs와 같이 정보 밀도가 높은 작업에서는 재귀적 하위 호출이 성능 향상에 결정적인 역할을 했습니다.
- 컨텍스트 길이 및 복잡성에 따른 성능: 기본 LLM의 성능은 입력 길이와 문제 복잡성에 따라 급격히 저하되지만, RLM의 성능은 훨씬 느린 속도로 저하됩니다. 특히 2^14 토큰을 초과하는 컨텍스트 길이에서 RLM은 GPT-5보다 지속적으로 우수한 성능을 보였습니다.
- 추론 비용: RLM의 추론 비용은 기본 모델 호출과 비슷하지만, 작업 복잡성에 따라 궤적 길이가 달라지므로 분산이 큽니다. RLM은 컨텍스트를 선택적으로 볼 수 있기 때문에 전체 입력을 처리하는 요약 기반 방식보다 최대 3배 저렴하면서도 더 강력한 성능을 유지했습니다.
- 모델 불가지론적 추론 전략: RLM은 모델 불가지론적 추론 전략이지만, 다른 모델은 컨텍스트 관리 및 하위 호출에 대해 다른 결정을 내립니다. GPT-5와 Qwen3-Coder-480B 모두 RLM으로서 강력한 성능을 보였지만, 특정 작업에서는 다른 행동과 성능을 보였습니다.
현재 RLM 구현은 동기식 하위 호출에 초점을 맞추고 있지만, 비동기식 하위 호출 및 샌드박스 REPL과 같은 대안적인 전략은 런타임 및 추론 비용을 크게 줄일 수 있습니다. 또한, 재귀 깊이를 더 깊게 탐색하고, RLM으로 사용하기 위해 모델을 명시적으로 훈련하는 것이 추가적인 성능 향상을 가져올 수 있다고 제안합니다. 결론적으로, RLM은 LLM이 입력 컨텍스트를 오프로드하고 재귀적으로 자신을 하위 질의할 수 있도록 하는 일반적인 추론 프레임워크이며, 장문 컨텍스트 문제와 일반적인 추론 모두에 효과적인 작업 불가지론적 패러다임임을 입증했습니다.
관련 자료
- 원본 논문: arXiv:2512.24601v1
- 라이선스: CC BY 4.0
설명 이미지
Figure 1: GPT-5와 해당 RLM을 세 가지 복잡성 증가 장문 컨텍스트 작업(S-NIAH, OOLONG, OOLONG-Pairs)에서 비교한 그래프. 각 작업에 대해 입력 길이를 2^13에서 2^18로 스케일링합니다. GPT-5 성능은 입력 길이와 작업 복잡성에 따라 크게 저하되지만, RLM은 강력한 성능을 유지합니다. 빨간색 영역을 넘는 입력은 GPT-5의 272K 토큰 컨텍스트 창에 맞지 않지만, RLM은 이를 효과적으로 처리합니다.
Figure 2: 재귀적 언어 모델(RLM)은 프롬프트를 환경의 일부로 취급합니다. Python REPL 환경 내에서 입력 프롬프트를 변수로 로드하고, 변수의 프로그래밍 스니펫을 들여다보고, 분해하고, 재귀적으로 자신을 호출하는 코드를 작성합니다.
Figure 3: §2.2에 설명된 RLM 및 기준선의 비용을 총 API 비용의 25번째, 50번째, 75번째, 95번째 백분위수로 플로팅한 그래프. 50번째 백분위수에서 RLM의 비용이 비슷하거나 더 낮지만, 잠재적으로 긴 RLM 궤적 때문에 끝 부분에서 급격한 증가를 보입니다.
Figure 4: RLM은 작업을 해결할 때 궤적에서 공통적인 패턴을 가집니다. (a) RLM이 정규식 쿼리와 같은 코드를 통해 컨텍스트를 필터링하고 상호작용하는 것을 자주 관찰했습니다. (b) RLM이 재귀적 하위 호출을 통해 컨텍스트를 효과적으로 분해할 수 있음을 발견했습니다. (c) 긴 출력 작업에서 RLM은 재귀적 하위 LLM 호출을 사용하여 하위 문제를 해결하고 출력을 결합하여 최종 출력을 형성할 수 있습니다.