The Surprising Effectiveness of Membership Inference with Simple N-Gram Coverage
Google TechTalks · 48:47 · Watch on YouTube
Skyler (USC)가 N-gram Coverage Attack, 즉 블랙박스 멤버십 추론 공격(MIA)을 발표합니다. 이는 모델의 텍스트 출력만을 사용하여 언어 모델이 주어진 문서로 학습되었는지를 테스트합니다. 모델에 문서의 전반부를 제공하고, 모델이 많은 연속 텍스트를 생성하며, 공격은 이러한 연속 텍스트가 실제 후반부를 얼마나 재현하는지를 간단한 n-gram 오버랩 메트릭을 사용...