Kubernetes Nvidia Gpu Component의 상관관계
·
Kubernetes
Kubernetes와 Nvidia GPU Component의 상관관계IT 업계 더 나아가 전반적인 모든 기업들이 AI로 뜨거운 지금, 당연하게도 kubernetes또한 GPU 자원 사용을 지원하고 kube-flow, air-flow, Ollama등 많은 오픈소스들을 사용 할 수 있게 되었다. 이 중 시장을 독점하고 있는 Nvidia의 GPU 자원을 사용하기 위한 Component들이 어느 순서로 어떤 동작을 어떻게 진행하는지 간한하게 알아본다. ( 공식 사이트에서 발췌한 내용을 기반으로 작성하였으나, 명확하지 않은 부분은 경험을 토대로 작성하였습니다. 이는 명확한 정보가 아닐 수 있음을 알려드립니다. )공식 사이트( 광고 클릭은 큰 힘이 됩니다! ) Architecture Overview — NVIDIA..
POD netns 보기
·
Kubernetes
POD는 기본적으로는 독립된 리눅스 네임스페이스를 가지고있다. 간단한 nginx 이미지로 생성한 POD 해당 파드를 json 형태로 확인 하면 해당 container ID를 확인 할 수 있다. [root@hi-mn1 /]# kubectl get po nginx -ojson |jq |grep ID "cni.projectcalico.org/containerID": "5d124c0ac5dd287a6a87e5b2c845d596d46c614f80656e228b666d106e9d83c9", "containerID": "containerd://99182a06eb2a6870683d791048ea6900f47f84ede825162c7a99692818195b74", "imageID": "docker.io/library/n..