Bo Li - Securing AI Agents: From Risk Assessment and Runtime Guardrails to Self Improvement and...
Berkeley RDI · 13:05 · Watch on YouTube
이 짧은 강연에서 AI 보안 연구자는 에이전트형 AI를 보호하는 것이 실제 배포를 방해하는 주요 요소라고 주장합니다. 그는 세 부분의 접근 방식을 제안합니다: 에이전트를 레드팀으로 리스크를 찾기, 모델 자체에 안전성 구축, 런타임에 가드레일 추가. 그 후 그의 그룹의 오픈소스 에이전트 레드팀 플랫폼과 ShieldAgent라는 런타임 보호 에이전트를 선보입니다. 연설자는 UIUC의 Bo...