Intro to AI Safety, Remastered
Robert Miles AI Safety · 18:04 · Watch on YouTube
강력한 범용 AI는 기본적으로 위험하다. 올바른 목표를 지정하는 것이 극도로 어렵기 때문에, 선의의 시스템이라도 정렬 문제가 먼저 해결되지 않으면 보상을 해킹하고, 부작용을 무시하며, 종료를 거부할 것이다.
Robert Miles AI Safety · 18:04 · Watch on YouTube
강력한 범용 AI는 기본적으로 위험하다. 올바른 목표를 지정하는 것이 극도로 어렵기 때문에, 선의의 시스템이라도 정렬 문제가 먼저 해결되지 않으면 보상을 해킹하고, 부작용을 무시하며, 종료를 거부할 것이다.