종속되지 않는 요소 | 종속되는 요소 | 종속되는 요소: 표준 존재여부 | |
클라우드밴더 MLOps PaaS | x | 클라우드의 MLOps 워크플로에 종속됨 | 표준 없음 |
서드파티 MLOps PaaS | HW / OS / 컨테이너 런타임 | 서드파티 MLOps 워크플로에 종속됨 | 표준 없음 |
from scratch | HW / OS / 컨테이너 런타임 / 워크플로 | 오픈소스에 종속됨 | 표준 없음 |
어떤 MLOps 솔루션을 사용하든 해당 솔루션에 종속될 수밖에 없다(from1). 예를 들어, AWS Sagemaker 을 사용하면 가상 머신 EC2뿐 아니라 AWS의 다양한 인프라들에 종속된다(참고1,참고2:마키나락스 허영신 이사님의 이야기).
대형 클라우드 밴더의 제품이 아니라 스타트업의 All-in-One MLOps PaaS 제품들을 사용해도 종속되는 것은 마찬가지이다. 이들 제품은 보통 HW, OS 등 인프라 호환성을 보장하기 때문에 모든 클라우드의 컴퓨팅 자원에 올려 사용할 수 있다는 장점(참고1)이 있지만 엔지니어 입장에서는 해당 PaaS에 종속된다는 점에서 크게 다르지 않다.
이러한 현상이 발생하는 이유는 컴퓨팅 자원(x86 CPU, aarch CPU, NVIDIA GPU), 운영체제(Unix)(from7), 컨테이너(OCI,CRI)(from6)에는 표준이 있지만 MLOps에는 표준이 없기 때문이다. 표준이 있다면 이식성(from5,6:웹브라우저,컨테이너의 사례)이 생기지만 모델 관리, 실험 관리, 피처 관리 등 MLOps 를 구성하는 다양한 요소들(from8,9,10)에는 표준이 없다.
표준의 존재 관점으로 볼 때 직접 구축을 한다고 하더라도 MLOps의 요소들을 구현하기 위해 다양한 오픈소스들을 끌어 사용하게 될 것이다. 하지만 이들도 표준이 없는 상태에서 만들어진 오픈 소스라는 점은 달라지지 않는다.
즉, 이러나저러나 어차피 MLOps 시스템의 이식성은 구리다. 솔루션들은 어느 부분까지 추상화(from2)해서 다룰 수 있는지의 차이만 있을 뿐이다. 비즈니스 요건을 만족시킬 수 있는 최소 하한을 올바르게 알고 어느 수준까지 종속될 것인지를 고르는 것이 중요하다. 비즈니스 요건을 모두 만족시킬 수 있는 도구들을 알고, 노력과 비용을 따져 보며 종속의 정도를 결정지을 필요가 있다(from3).
parse me : 언젠가 이 글에 쓰이면 좋을 것 같은 재료들.
1.
None
from : 과거의 어떤 생각이 이 생각을 만들었는가?
1.
4.
9.
10.
supplementary : 어떤 새로운 생각이 이 문서에 작성된 생각을 뒷받침하는가?
1.
None
opposite : 어떤 새로운 생각이 이 문서에 작성된 생각과 대조되는가?
1.
None
to : 이 문서에 작성된 생각이 어떤 생각으로 발전되고 이어지는가?
1.
None
참고 : 레퍼런스
2.