Infrastructure

GPU 한 장을 여럿이 나눠 쓰는 4가지 방법 - MIG, MPS, 시분할, GPUShare

GPU 4장으로 최대 70개 파드를 동시에 추론시켜야 했을 때, 왜 하드웨어 파티셔닝(MIG)이 아니라 소프트웨어 레벨 공유(GPUShare)를 택했는지. 4가지 공유 방식의 동작 계층과 트레이드오프를 정리했다.