Nicholas Carlini - Black-hat LLMs | [un]prompted 2026
unprompted · 26:28 · Watch on YouTube
Nicholas Carlini의 Anthropic 연구에 따르면, 오늘날의 언어 모델은 거의 특별한 설정 없이 중요한 소프트웨어의 심각한 제로데이 취약점을 자체적으로 찾아 악용할 수 있습니다. 그의 주요 요점은 모델이 현재 어느 수준에 있는지보다 개선 속도가 얼마나 빠른지에 관한 것입니다. 그는 공격자와 방어자 사이의 약 20년 균형이 끝나가고 있으며, 방어자들이 수년이 아닌 수개월 내...