Why Nobody Has Solved Continual Learning
0:00 · Watch on YouTube
스피커의 주요 포인트는 "자신의 지능을 소유하라" 피드백 루프(traces → evals → train → deploy)의 "train" 단계가 아직 해결되지 않았다는 것입니다. 반복적인 SFT와 반복적인 RL은 모델을 계속 업데이트할 때 각각 다른 방식으로 붕괴되므로, 팀들은 얼마나 좁거나 광범위한 작업인지에 따라 SFT/distillation과 RL을 어느 정도로 섞을지 결정해야 합니다.