Alexander D'Amour "Exploring (In)Stability in Modern Machine Learning and AI"
0:00 · Watch on YouTube
Google DeepMind의 Alex D'Amour(트랜스크립트에서는 이름을 "deore"로 표기)는 머신러닝이 주로 예측과 계산을 통해 발전했지만, 성공을 안정적이고 의미 있는 방식으로 정의하는 것이 여전히 어려운 문제라고 주장합니다. 그의 예시는 RLHF(인간 피드백으로부터의 강화학습)의 보상 모델입니다: 난수 시드만 변경해도 정확도 면에서는 거의 동일한 점수를 받지만 어떤 출력이...