Search
🔵

mlops.1_3.1__1. title: 머신러닝 모델 서빙 시 모델뿐 아니라 적절한 버전의 모델 전처리 후처리 과정 혹은 아티팩트를 함께 불러올 수 있어야 한다.

🚀 prev note
17 more properties
앞서 만들어둔 모델(from1)에는 워드 임베딩 과정이 포함되어 있다. 사용자가 원하는 흐름은 string → 블랙박스 → class 이지만, 우리는 블랙박스가 string → 전처리(예를 들어, 사전 학습된 워드 임베딩 함수) → 머신러닝 모델 → 후처리 → class 같이 복잡한 파이프라인을 감추고 있을 뿐이라는 사실을 알고 있다.
따라서 BentoML(from3) 등 서빙 프레임워크를 이용해 머신러닝 모델 서빙 시 모델뿐 아니라 적절한 버전의 모델 전처리 후처리 과정을 함께 불러올 수 있어야 한다. 혹은, 머신러닝 모델 자체에 전처리과정을 함께 묶어버릴 수 있어야 한다(from2).
모델 자체에 전처리과정이 내재되어있지 않는 경우, 머신러닝 모델과 전후처리 코드를 짝지어 관리하는 일은 상당히 까다로운 문제이다. 이런 일들을 실험 관리 도구(from5)가 도맡아 하곤 한다. 특히 실험 관리 도구 wandb 는 이들을 모두 아티팩트(Artifact)(from4)라는 일관된 통에 담아서 버전을 붙이고 불러올 수 있도록 관리한다.
parse me : 언젠가 이 글에 쓰이면 좋을 것 같은 재료들.
from : 과거의 어떤 생각이 이 생각을 만들었는가?
1.
3.
5.
supplementary : 어떤 새로운 생각이 이 문서에 작성된 생각을 뒷받침하는가?
opposite : 어떤 새로운 생각이 이 문서에 작성된 생각과 대조되는가?
to : 이 문서에 작성된 생각이 어떤 생각으로 발전되고 이어지는가?
1.
2.
참고 : 레퍼런스
1.
None