Self-evolving agents는 불완전한 continual learner
arXiv:2610.25858. 가중치는 동결하고 하네스(프롬프트·메모리·스킬)만 고치는 nonparametric self-evolution이 드리프트 스트림에서 유효한 continual learner인지 측정한다.
설정
- 스트림: BIRD / BFCL / ScienceWorld 기반 topic · workflow · domain · compound drift (블록당 50 train / 50 eval).
- 방법: ReasoningBank(검색 메모리) · GEPA(공유 strategy 프롬프트) · Meta-Harness(프롬프트+메모리+스킬+컨트롤러).
- 분해: within-block plasticity vs cross-block stability (pre-block interference + post-block forgetting).
핵심 발견
- 가소성↑ ↔ 안정성↓ — 편집 표면이 커질수록(메모리 → 프롬프트 → 풀 워크스페이스) 활성 블록 이득은 커지나 타 블록 손실도 커짐.
- Self-mod 간섭 — GEPA/Meta-Harness는 공유 표면을 전 태스크에 주입 → 미학습 그룹 사전 간섭 + 이후 블록이 이전 규칙을 압축·덮어씀.
- 검색도 불완전 — ReasoningBank는 원거리 도메인 망각은 줄이지만, 미학습 그룹에 외래 메모리 주입·유사 쿼리의 workflow collision(BFCL-Miss↔Base)을 막지 못함.
Gemini 3.6 Flash 요약: 4스트림 평균 terminal advantage GEPA +3.7 / ReasoningBank +2.5 / Meta-Harness +1.4 — 그러나 시나리오마다 최고 가소성 방법은 항상 최저 안정성 쪽.