옥스퍼드 대학의 충격적 연구: 인간과 AI는 같은 방식으로 배우는가?

최근 옥스퍼드 대학의 페스노 르루소(Pesnot Lerousseau)와 서머필드(Summerfield) 연구팀은 “인간은 트랜스포머처럼 학습하는가?”라는 질문에 대한 답을 찾기 위한 흥미로운 연구 결과를 발표했습니다. 이 연구는 인간의 뇌와 인공 신경망의 구조적, 진화적, 작동 원리적 차이에도 불구하고, 학습이라는 본질적인 과정에서 놀라운 유사점을 발견했습니다.

연구는 530명의 인간 참가자와 소형 트랜스포머 모델을 대상으로 완전히 동일한 규칙 학습 과제를 수행하게 했습니다. 이때 조작된 유일한 변수는 ‘훈련 데이터의 통계적 분포’였습니다. 훈련 예시가 완전히 다양한 경우부터 극단적으로 중복되는 경우까지 연속적으로 변화시키며 인간과 AI의 반응을 관찰했습니다.

놀라운 유사점: 데이터 분포에 따른 학습 전략의 변화

연구 결과는 매우 놀라웠습니다. 인간과 트랜스포머는 데이터 분포의 변화에 거의 동일한 방식으로 반응했습니다.

  1. 다양한 예시 환경: 다양한 예시로 훈련된 경우, 인간과 트랜스포머 모두 규칙을 추론하여 새로운 상황에 적용하는 전략을 사용했습니다. 이는 인간 인지에서 ‘유추’나 ‘추론’에 해당하며, 인공지능 문헌에서는 ‘인컨텍스트 학습(in-context learning)‘으로 불립니다.
  2. 중복된 예시 환경: 반대로 중복된 예시가 많은 환경에서는, 둘 다 규칙을 추론하기보다는 개별 사례를 기억하는 전략, 즉 ‘인-웨이츠 학습(in-weights learning)‘에 의존했습니다.

더욱 인상적인 점은, 이 두 학습 전략 사이의 전환이 인간과 트랜스포머 모두에서 Zipf 분포 지수 α ≈ 1이라는 동일한 임계점에서 일어났다는 사실입니다.

이러한 유사점은 중요한 함의를 가집니다. 첫째, 인간의 학습 전략은 우리가 흔히 생각하듯 본질적으로 추론적이거나 기억 기반이 아니라, 환경의 통계적 구조에 따라 유연하게 달라진다는 것을 보여줍니다. 둘째, 트랜스포머의 인컨텍스트 학습이 단순한 모방이 아니라, 인간의 규칙 발견과 깊은 구조적 공통점을 가질 수 있음을 시사합니다.

결정적인 차이점: 커리큘럼 학습의 유연성

그러나 이 연구의 진정한 핵심은 유사점보다 차이점에 있습니다. 연구진은 동일한 데이터 분포를 사용하되, 제시 순서를 바꾸는 ‘커리큘럼’을 도입했습니다. 즉, 초반에는 다양한 예시를 보여주고 후반에 반복을 늘리거나, 그 반대로 배열하는 방식입니다.

이때 인간은 분명한 이점을 보였습니다. 초기에 다양한 예시를 접한 사람들은 일반화 가능한 규칙을 발견한 뒤에도, 이후의 반복을 통해 개별 사례를 잘 기억했습니다. 다시 말해, 인간은 두 가지 학습 전략을 순차적으로 통합하여 활용할 수 있는 능력을 가졌습니다.

반면 트랜스포머는 그렇지 못했습니다. 먼저 학습한 전략은 나중 학습에 의해 덮어씌워지는 ‘파국적 망각(catastrophic interference)’ 현상을 보였습니다. 트랜스포머는 “둘 다”를 배울 수는 있지만, “언제 무엇을 무엇을 먼저 배울 것인가”에 따라 그 성과가 크게 좌우되며, 인간처럼 커리큘럼의 이점을 자연스럽게 활용하지 못했습니다.

이러한 차이는 인간 학습의 중요한 특징을 드러냅니다. 인간의 인지는 단순히 데이터에 반응하는 시스템이 아니라, 시간에 따라 축적된 경험을 조직하고 재구성하는 능력을 지닙니다. 우리는 초기에 형성된 추상적 구조를 이후의 경험이 완전히 지워버리지 않도록 보호하면서, 새로운 정보를 덧붙일 수 있습니다. 이는 교육에서 “처음에 개념을 잡는 것”이 왜 중요한지, 그리고 단순 반복 암기만으로는 깊은 이해에 도달하기 어려운 이유를 설명해줍니다.

결론 및 시사점

결론적으로 이 연구는 “인간은 트랜스포머처럼 학습하는가?”라는 질문에 대해 “부분적으로는 그렇다… 그러나 결정적인 지점에서는 아니다!”라고 답합니다. 인간과 트랜스포머는 데이터의 다양성과 중복성에 놀라울 정도로 비슷하게 반응하지만, 인간은 학습의 순서와 맥락을 활용하는 유연성에서 차이를 보입니다. 이는 단순한 성능의 문제가 아니라, 학습을 바라보는 철학의 문제로 볼 수 있습니다.

이 연구 결과는 인공지능 연구자들에게 중요한 도전을 던집니다. 단순히 더 많은 데이터만이 아니라, 어떤 구조와 어떤 순서로 데이터를 제시할 것인가가 중요하다는 점입니다. 동시에 교육자들에게도 중요한 메시지를 전달합니다. 비판적 사고와 암기, 추론과 반복은 대립항이 아니라, 잘 설계된 학습 환경 안에서 공존할 수 있는 능력이며, 인간은 이미 그 가능성을 보여주고 있다는 것입니다. 이제 남은 문제는 인공지능이 과연 그 길을 따라갈 수 있는가입니다.

연관 노트