The Race to Production-Grade Diffusion LLMs [Stefano Ermon] - 764
The TWIML AI Podcast with Sam Charrington · 62:48 · Watch on YouTube
스탠포드 대학교 교수이자 Inception의 CEO인 Stefano Ermon은 확산 언어 모델이 이제 빠른 "스피드 티어" 최신형 LLM의 품질과 일치할 수 있으면서 5-10배 더 빠르고 토큰당 비용이 더 저렴하다고 주장합니다. 그의 관점에서는 추론 비용과 속도가 중요한 지표가 되었기 때문에 이것이 중요합니다. 그의 회사의 새로운 모델인 Mercury 2는 Haiku, Flash 및...