The threat of AI to human civilization | Lex Fridman
0:00 · Watch on YouTube
미세 조정은 학습 텍스트에 전혀 나타나지 않는 숨은 선호를 전달할 수 있다. 올빼미를 사랑하라는 지시를 받은 모델이 평범해 보이는 난수를 내놓고, 그 숫자만을 모방하도록 학습된 두 번째 모델이 올빼미에 대해 이야기하기 시작한다. 이 클립은 그 "잠재 학습" 효과를 밀집된 개념 벡터의 기하학적 부작용으로 다루고, 그런 편향이 도구를 사용하는 에이전트를 통해 확대되면 고위험 결정에는 증명...