DCSG1 - Autonomous and Exploitable: Breaking AI Agents before they break everything else - Aaron Ang
DEFCONConference · 45:25 · Watch on YouTube
[Content] AI 에이전트는 설계상 취약하다. LLM은 명령과 데이터를 구분할 수 없고, 사용자의 전체 권한으로 동작하며, 자율적으로 행동하기 때문이다 — 일반 영어 텍스트만으로 익스플로잇 코드 없이 프롬프트 인젝션, 도구 출력 오염, 지속적인 다중 에이전트 침해를 가능하게 한다.