LLM 실험 시스템으로 완성한 교통 예측 모델 전면 교체기: 정확도는 높이고 비용은 96% 줄인 9MB 경량 모델 | Model & Agent
kakao tech · 25:51 · Watch on YouTube
카카오모빌리티는 6개의 개별 교통 속도 모델을 단일 9MB TFT 기반 잔차 모델로 교체하여 서빙 비용을 약 96% 절감하고 ETA 오차를 약 2.6% 개선했으며, 에이전트의 편법을 방지하기 위해 해시된 계획, 베이스라인 검사, 독립 검증을 갖춘 LLM 실험 시스템을 구축했다.