출처: 원본 링크
안드레이 카르파티(Andrej Karpathy) - AGI는 아직 10년 남았다
드와케시 팟캐스트(Dwarkesh Podcast)의 안드레이 카르파티 에피소드에서 그는 인공 일반 지능(AGI)이 아직 10년은 더 걸릴 것이라고 주장합니다. 카르파티는 강화 학습(RL)이 비효율적이지만 다른 대안들은 훨씬 더 나쁘다고 설명하며, 모델 붕괴(model collapse)가 대규모 언어 모델(LLM)이 인간처럼 학습하는 것을 방해한다고 말합니다. 그는 AGI가 지난 250년간의 2% GDP 성장률에 자연스럽게 통합될 것이며, 자율 주행 기술 개발에 오랜 시간이 걸린 이유와 교육의 미래에 대한 자신의 견해를 밝힙니다.
카르파티는 현재의 에이전트(LLM 기반)들이 매우 인상적이지만, 여전히 많은 개선이 필요하다고 강조합니다. 그는 에이전트가 “직원이나 인턴”처럼 작동하려면 지속적인 학습, 다중 모드 능력, 컴퓨터 사용 능력 등 여러 인지적 결함을 해결해야 하며, 이 과정에 약 10년이 걸릴 것이라고 예상합니다. 그는 또한 인간의 지능과 LLM의 유사점을 언급하며, LLM의 가중치에 저장된 지식은 “희미한 기억”에 불과하며, 컨텍스트 창에 있는 정보가 “작업 기억”과 같다고 설명합니다.
그는 강화 학습이 “끔찍하다”고 표현하며, 인간은 문제 해결에 강화 학습을 사용하지 않는다고 주장합니다. 대신 인간은 복잡한 검토 과정을 통해 학습하며, 현재 LLM에는 이러한 기능이 없다고 지적합니다. 그러나 그는 모방 학습(imitation learning)과 강화 학습의 발전이 놀랍다고 인정하면서도, 여전히 더 많은 발전이 필요하다고 말합니다.
카르파티는 AI가 프로그래머의 생산성을 높이는 도구(예: 자동 완성)로서의 역할과, AI가 AI 엔지니어링 및 연구를 자동화하는 역할 사이의 차이점을 강조합니다. 그는 LLM이 “이전에 작성되지 않은 코드”를 생성하는 데는 능숙하지 않다고 말하며, 이는 AGI의 폭발적인 발전이 예상보다 더딜 수 있는 이유라고 설명합니다.
추출된 URL: