/ MLOPS

모델 서빙과 MLOps

Table of Contents

  1. IaaS, PaaS, SaaS
  2. Public Cloud, Private Cloud, Hybrid Cloud
  3. DAS, SAN, NAS (Storage)

모델 서빙이란?

  • 머신러닝 모델의 예측값을 실제로 사용자에게 전달하는 것

MLOps의 필요성

  • 모델의 성능은 test data의 추이에 따라 끊임없이 변함
  • 새롭게 개발한 모델이 더 성능이 안좋을 수도 있음(애매하거나)
  • 그럼 이전 모델을 다시 써야야할지, 새 모델을 써볼지 모델의 형상관리가 되어야 함
  • 그래서 버전 업데이트로 인해 사용자 경험이 끊기지 않아야 함

형상 관리?

  • 모델의 변경이력과 성능에 대한 정보를 관리하는 것

Reference