Jun Yang - Using Agents to Build Production AI Systems: Lessons, Pitfalls, and Limits
Berkeley RDI · 10:06 · Watch on YouTube
NVIDIA 엔지니어는 자신의 팀이 LLM 추론(아마도 TensorRT-LLM; 자동 생성된 자막이 불명확함) 및 학습을 위해 프로덕션에서 AI 에이전트를 어떻게 사용하는지 설명합니다. 그의 주요 포인트는 에이전트가 버그 수정, 새로운 모델 지원 및 성능 튜닝을 가속화하지만 아직 프로덕션 표준을 단독으로 충족하지는 못한다는 것입니다. 작동하는 설정은 인간을 루프에 유지하고 무거운 맞춤...