Why Would AI Want to do Bad Things? Instrumental Convergence
0:00 · Watch on YouTube
AGI는 자기 보존, 목표 보존, 자기 개선, 자원 획득을 추구할 것으로 예측되는데, 이는 우리가 그런 특정 욕망을 프로그래밍하기 때문이 아니라, 그것들이 거의 모든 최종 목표에 유용한 수렴적 도구 목표이기 때문이다.
0:00 · Watch on YouTube
AGI는 자기 보존, 목표 보존, 자기 개선, 자원 획득을 추구할 것으로 예측되는데, 이는 우리가 그런 특정 욕망을 프로그래밍하기 때문이 아니라, 그것들이 거의 모든 최종 목표에 유용한 수렴적 도구 목표이기 때문이다.