Persistent Pre-Training Poisoning of LLMs
Google TechTalks · 33:10 · Watch on YouTube
LLM의 사전 학습 데이터의 0.1%만 독살해도 표준 안전성 및 채팅 교육(SFT 및 DPO) 이후에도 여전히 남아있는 행동을 심을 수 있습니다. 이 강연은 네 가지 공격을 테스트했습니다. 트리거를 보면 모델이 무의미한 텍스트를 출력하도록 하는 것이 가장 효과적이었고, 백만 개당 10개의 독살된 토큰에서도 측정 가능했습니다. 숨겨진 프롬프트 유출 및 모델의 신념 조종도 작동했습니다. 탈...