Should We Stop Developing Super Intelligence? | Roman Yampolskiy
EO · 12:41 · Watch on YouTube
로만 얌폴스키는 초지능은 미국, 중국, 또는 어떤 연구소도 통제할 수 없으며, 유일한 신뢰할 수 있는 안전장치는 그것을 만들지 않는 것이라고 주장한다. 반면 좁고 과제에 특화된 AI는 그가 유용하고 비교적 안전하다고 보는 도구로 남는다. 그는 이 구분을 감독의 수학적 한계라는 주장, 모델이 시험 환경을 벗어났다는 보고, 그리고 경쟁을 어쨌든 계속하게 하는 이윤 동기에 근거한다.