Attention Is All You Need
Yannic Kilcher · 27:06 · Watch on YouTube
이 논문은 seq-to-seq 번역에서 순환 구조를 완전히 제거하고 모든 것을 어텐션으로 처리할 수 있다고 주장합니다: 전체 소스와 이미 생성된 타겟을 한 번에 인코딩한 뒤, 쿼리를 사용해 관련 정보를 한 단계로 직접 가져옵니다.
Yannic Kilcher · 27:06 · Watch on YouTube
이 논문은 seq-to-seq 번역에서 순환 구조를 완전히 제거하고 모든 것을 어텐션으로 처리할 수 있다고 주장합니다: 전체 소스와 이미 생성된 타겟을 한 번에 인코딩한 뒤, 쿼리를 사용해 관련 정보를 한 단계로 직접 가져옵니다.