The latest LLM research shows how they are getting SMARTER and FASTER.
Gaurav Sen · 12:19 · Watch on YouTube
비디오는 LLM을 더 똑똑하게 만드는 두 가지 방법을 다룹니다: 모델을 더 크게 만들거나(더 많은 파라미터), 각 예제에 더 많은 계산을 투입합니다. 연사는 두 번째 방법이 단위 노력당 훨씬 더 많은 지능을 제공한다고 주장합니다. 그는 저비트 가중치, FlashAttention, 희소 업데이트, 놀라움 기반 학습 및 선형 주의력을 필요한 시간과 계산을 확보하는 방법으로 제시합니다. 마지...