Stage 6 · Ray Serve 서빙 — 로컬 모델 배포 · 스케일/동시성
앞선 Stage 5에서 학습한 모델을 Ray Serve로 로컬 HTTP 엔드포인트에 배포합니다. @serve.deployment와 serve.run으로 모델을 띄우고, deployment graph와 FastAPI 인그레스로 여러 모델을 조합하며, 로컬 스케일(num_replicas·배칭·동시성)과 그 주의점을 다룹니다.
태그: serve
'serve' 태그가 포함된 1개의 포스트