Privacy Ripple Effects from Adding or Removing Personal Information in Language Model Training
0:00 · Watch on YouTube
LLM의 PII 추출 가능성은 최종 모델뿐만 아니라 시간에 따른 훈련 방식 변화에 달려 있습니다. 새로운 데이터에 대한 훈련은 모델이 이전에 본 이메일 주소를 추출 가능하게 만들 수 있습니다("보조된 기억화"). 더 많은 PII를 추가하면 이미 데이터에 있던 PII의 유출도 증가하며, PII를 제거하면 거의 기억화되었던 다른 PII가 노출될 수 있습니다. Northeastern의 JD...