MLOps: 쉽게 구현하는 ML Model Serving A to Z

안승규

Speaker's bio

SKTelecom 에서 senior software engineer 로 일하고 있으며, Kubernetes Korea Group 을 리딩하고 있습니다.

2011년 이전까지는 Java Enterprise Application 개발을 해왔으며, 2015년 이전까지는 OpenStack을 활용했고, 이후 현재까지 Kubernetes 관련 기술을 활용하고 있습니다. 최근에는 MLOps 에 관심을 두고 공부하고 있습니다.

Schedule

Session detail

Machine Learning / Deep Learning 기술이 발전하면서 MLOps 기술이 중요시 되고 있습니다.

DevOps 가 어플리케이션을 개발하고 이를 운영에 적용/관리하는 기법을 의미하듯이, MLOps 는 Machine Learning Model 을 개발하고 이를 운영에 적용/관리하는 반복적인 라이프 사이클 자동화 기법을 의미합니다.

MLOps 의 영역은 데이터 전처리, 모델 학습 환경, 파이프라인 관리, 모델 서빙, 모델 모니터링 및 평가 등 다양합니다.

이번 세션에서는 MLOps 의 영역 중에 ML Model Serving 의 분야에 대한 설명으로, Kubernetes 위에 ML Model 을 Serving 하기 위해 알아야 하는 기술을 포함하여 Istio, Knative, KServe 등의 오픈소스 활용법에 대해서 설명합니다.