Tesla's 100 ExaFLOPs: How Daring Is It?
백색나무 · 6:04 · Watch on YouTube
2024년 10월 목표를 달성한다면 테슬라는 2022년 구글이 PaLM을 학습하는 데 사용한 컴퓨팅의 약 62배를 가질 것이라고 이 영상은 주장합니다. 논문상으로는 PaLM-540B 규모의 모델을 약 7시간 안에 학습하거나 100배 더 많은 컴퓨팅이 필요한 모델을 약 한 달 안에 학습할 수 있습니다. 이 결론은 병목 현상이 없는 이상적인 산술에 근거합니다. 기계 번역된 텍스트는 "exa...