Building the next generation of AI models: Rohan Taori | Researcher at Anthropic & Alpaca co-creator
Foundation Capital · 37:33 · Watch on YouTube
로한 타오리(Rohan Taori)는 Anthropic의 다중모드 사전학습 연구자이자 Stanford의 Alpaca 창시자로, 적은 양의 저렴한 파인튜닝으로 사전학습된 모델을 대화에서 훨씬 더 좋게 만들 수 있다고 주장합니다. 하지만 모델의 대부분의 능력은 여전히 사전학습과 신중한 데이터 큐레이션에서 나옵니다. 그는 합성 데이터를 강력하지만 "모드 붕괴(mode collapse)"에 취...