MTIA - Meta's First-Generation AI Inference Accelerator | AI at Meta
AI at Meta · 3:30 · Watch on YouTube
Meta는 MTIA (Meta Training and Inference Accelerator)라는 맞춤형 칩을 만들었습니다. 일반적인 CPU는 Meta의 제품 뒤에 있는 AI 워크로드를 효율적으로 처리할 수 없기 때문입니다. Meta는 MTIA가 이러한 워크로드를 현재 GPU의 두 배 효율로 실행한다고 주장하지만, 비디오는 이를 뒷받침할 벤치마크를 제공하지 않습니다. 짧은 프로모션 비디...