Training AI Without Writing A Reward Function, with Reward Modelling
Robert Miles AI Safety · 17:51 · Watch on YouTube
AI는 우리가 기계가 할 수 없다고 생각했던 인지적 작업을 기계가 수행하도록 만드는 것으로 가장 잘 정의되며, 인간 선호로부터의 보상 모델링은 손으로 작성한 보상 함수를 인간 비교로 학습된 신경망으로 대체함으로써 그 범위를 크게 확장한다.