RLM Theory Overview feat. Alex L. Zhang | long context + REPL + sub-agents
Deep Learning with Yacine · 133:20 · Watch on YouTube
재귀 언어 모델(RLM)은 MIT의 Alex Zhang과 동료들이 개발한 것으로, 재훈련 없이 기존 LLM이 수백만 개의 토큰으로 된 프롬프트를 처리하도록 해줍니다. 프롬프트는 컨텍스트 윈도우 대신 Python REPL의 변수로 로드되며, 모델은 이를 검색, 슬라이싱, 필터링하는 코드를 작성하고 재귀 서브-LM 호출로 서브-청크를 전송합니다. 호스트는 논문을 검토한 후 Zhang과 인터...