AI 산업의 길 잃음과 그 배경
2025년 8월, Turing Award 수상자이자 강화 학습의 선구자인 리처드 서튼은 AI 산업이 본래의 길을 잃었다고 주장했습니다. 참고기사에서 서튼은 지능의 핵심 원칙이 무시되고 있다고 언급하며, 현재 AI 연구의 방향이 과연 맞는지에 대해 의문을 제기했습니다. 그는 진정한 인공지능으로 나아가기 위해서는 지속적인 학습 능력을 가진 에이전트, 세계 모델, 계획 수립, 고차원적이고 학습 가능한 지식이 필요하다고 강조했습니다. 서튼의 발언은 AI가 단순한 기술 발전을 넘어 사회 전반에 미치는 파급력에 대해 다시 한번 생각해보게 만듭니다.
AI는 텍스트보다 실제 행동을 통해 학습해야 한다.
서튼은 현재 AI 연구가 대형 언어 모델의 확장에 지나치게 집중되어 있다고 비판합니다. 그는 이러한 접근 방식이 실제 환경과의 상호작용을 통해 학습하는 경험 기반 지능과는 거리가 멀다고 지적합니다. 서튼은 최근 데이비드 실버와 공동 연구를 통해 AI가 방대한 텍스트를 흡수하는 대신 실제 행동을 통해 학습해야 한다고 주장했습니다. 그의 “Bitter Lesson” 이론은 인간이 설계한 지식보다는 확장 가능한 일반적인 방법이 AI에서 성공한다는 주장을 뒷받침합니다.
서튼은 이러한 관점에서 Oak 아키텍처를 소개했습니다. Oak는 경험을 통해 배운 지식을 바탕으로 슈퍼 인텔리전스를 실현할 수 있는 에이전트를 목표로 합니다. 그러나, 그는 Oak가 연속적이고 안정적인 학습을 가능하게 하는 알고리즘에 의존한다고 설명하며, 이는 아직 실현되지 않은 기술적 과제임을 강조했습니다.
지속 가능한 학습과 경험 기반 지능이 미래 AI 기술 발전의 핵심 요소가 될 것
서튼의 비판은 AI 산업 전반에 걸쳐 새로운 연구 방향을 제시하는 데 중요한 역할을 할 수 있습니다. 그는 지속 가능한 학습과 경험 기반 지능이 미래 AI 기술 발전의 핵심 요소가 될 것이라고 전망합니다. 이는 AI 시스템의 설계방식뿐만 아니라 기업의 기술 개발 전략에도 큰 영향을 미칠 수 있습니다.
💡 참고 기사에서는 추가적으로 현재 AI 시스템이 초기 개발 단계에서만 지식을 획득할 수 있으며, 이후 학습이 진행될 때 기존 지식을 잃어버리는 ‘파멸적 망각’ 문제를 겪고 있다고 설명하고 있습니다. 또한, Oak 아키텍처는 보상 신호를 통한 목표 최대화라는 간단한 원칙에 기초하고 있다고 합니다.
지속 가능한 학습과 경험 기반 지능에 대한 노력
리처드 서튼의 주장은 AI 연구자와 개발자들에게 현재 방향성을 재고려할 필요성을 제시합니다. 특히, 지속 가능한 학습과 경험 기반 지능은 미래 AI 발전에 필수적인 요소로 인식될 것입니다. 이는 기업들이 장기적으로 어떤 기술 개발 전략을 선택할 것인지에 대한 중요한 시사점을 제공합니다. 또한, 정부와 정책 결정자들은 지속 가능한 AI 기술 발전을 지원하기 위한 정책 마련에 주력해야 할 것입니다.
참고
Matthias Bastian, Richard Sutton says the AI industry has “lost its way” by ignoring core principles of intelligence, the-decoder.com
About the Author
