/ MLOPS

모델 서빙과 MLOps

Table of Contents

  1. IaaS, PaaS, SaaS
  2. Public Cloud, Private Cloud, Hybrid Cloud
  3. DAS, SAN, NAS (Storage)

모델 서빙이란?

  • 머신러닝 모델의 예측값을 실제로 사용자에게 전달하는 것

MLOps의 필요성

  • 모델의 성능은 test data의 추이에 따라 끊임없이 변함
  • 새롭게 개발한 모델이 더 성능이 안좋을 수도 있음(애매하거나)
  • 그럼 이전 모델을 다시 써야야할지, 새 모델을 써볼지 모델의 형상관리가 되어야 함
  • 그래서 버전 업데이트로 인해 사용자 경험이 끊기지 않아야 함

형상 관리?

  • 모델의 변경이력과 성능에 대한 정보를 관리하는 것

wandb의 필요성

  • 하이퍼 파라미터 몇일 때 최고성능이었나?
  • 열심히 돌렸는데 성과가 안나오네.. 인사이트라도 공유해야지
  • 어떤 하이퍼파라미터가 제일 중요해?

Reference