MLOps

새 AI 모델을 바로 교체하지 않는 이유: 섀도 배포 실무

새 모델이 오프라인 평가에서 더 높은 점수를 받았다고 즉시 운영 모델을 바꾸면, 실제 입력 분포와 지연시간 때문에 예상 밖의 문제가 생길 수 있습니다. 섀도 배포는 사용자 응답은 기존 모델이 맡고 새 모델은 같은 요청을 뒤에서 평가하는 방법입니다.