요새를 넘어오는 이미지 공격에 대비하기: FENCE | 신뢰와 안전
kakao tech · 22:12 · Watch on YouTube
카카오뱅크의 기존 텍스트 전용 가드레일 LabFortress는 이미지에 숨겨진 공격을 탐지할 수 없어, 팀은 FENCE — 10,000개 샘플 규모의 한/영 금융 특화 VLM 프롬프트 공격 데이터셋 — 를 구축하고, 이러한 이미지 중심 공격의 98.6%를 약 1%의 오탐율로 차단하는 3B 가드레일을 학습시켰다.