마구잡

개요nvidia gpu-operator를 통해 클러스터 내 여러 GPU를 개별적으로 MIG 설정을 하는 방법이 공식 문서에도 나와있지 않고블로그도 거의 찾기가 힘들어서 적어본다. 광고 클릭은 큰 힘이 됩니다.  이 글은 MIG 설정만 요약한 글이기에 nvidia-opertor 또는 GPU 드라이버 설정이 선행 되어야 한다.GPU 모델마다 적용 가능한 프로파일이 다르기 때문에 Nvidia 공식 홈페이지에서 확인 후 설정을 진행한다.본론gpu-operator namespace 내 기본 mig configmaps 확인kubectl get cm -n gpu-operatordefault-gpu-clients 1 63ddefault-mig-par..

지난번 하버 설치에 이어서 Kubernetes + gitlab + gitlab-ci + harbor + argocd 총 집합 ( 2 )지난번 깃랩 설치에 이어서 Kubernetes + gitlab + gitlab-ci + harbor + argocd 총 집합 ( 1 )이전 마지막 글을 쓴 시점 부터 지금까지 약 2개월간 혼자서 실제 사이트의 운영환경과 거의 비슷한 구성을 만들기mgujob.tistory.com 아르고CD 설치 전 MetalLB가 배포 되어있어야 한다.1. 아르고CD 설치헬름을 통한 아르고CD 차트 pullhelm repo add argo https://argoproj.github.io/argo-helmhelm pull argo/argo-cd 압축 해제 & 밸류 파일 복사tar -zxvf ..

지난번 깃랩 설치에 이어서 Kubernetes + gitlab + gitlab-ci + harbor + argocd 총 집합 ( 1 )이전 마지막 글을 쓴 시점 부터 지금까지 약 2개월간 혼자서 실제 사이트의 운영환경과 거의 비슷한 구성을 만들기 위해무수한 삽질 및 고생을하다 드디어 어느정도 윤곽이 잡혀 글을쓰게 되었mgujob.tistory.com 하버 설치 전 쿠버네티스 클러스터에서 사용 할 스토리지가 배포 되어있어야 한다. 하버 설치 전 MetalLB가 배포 되어있어야 한다. 1. 하버 설치 헬름을 통한 하버 차트 pullhelm repo add harbor https://helm.goharbor.iohelm pull harbor/harbor 압축 해제 & 밸류 파일 복사tar -zxvf harbo..

개요쿠버네티스 클러스터를 운영 하다 보면 언젠가 필연적으로 로컬 볼륨을 넘어서 외부 스토리지를 사용할 경우가 생긴다.그 필요에 따라 openEBS, Rook-Ceph, minIO, NFS-CSI 등 여러 스토리지 클래스를 선택하게 된다. (광고 클릭은 큰 힘이됩니다)오브젝트 스토리지들은 네트워크와 보조저장장치가 뒷받침 되지 않으면 실사용하기 힘든 단점이 있다. 그래서 벨레로 같은 특정 조건이 붙지 않으면 사용하기 편한 NFS-CSI를 필자는 자주 사용한다. 이 글에서는 배포하기 쉽고 배포 후 볼륨 확인이 직관적인 NFS-CSI를 배포해 본다.OSRedhat 8.6클러스터 버전Kubernetes 1.29 https://github.com/kubernetes-csi/csi-driver-nfs GitHub -..

이전 마지막 글을 쓴 시점 부터 지금까지 약 2개월간 혼자서 실제 사이트의 운영환경과 거의 비슷한 구성을 만들기 위해무수한 삽질 및 고생을하다 드디어 어느정도 윤곽이 잡혀 글을쓰게 되었다.구성 컴포넌트 선택 조건1. 오픈소스2. 프라이빗 환경에서 구동3. 다양한 래퍼런스를 가진 툴4. 최대한 파드 형태로 배포시킬 수 있을 것 클러스터 구성은 편한 방법을 이용하여 진행 . 저는 바이너리 설치로 진행했습니다. https://mgujob.tistory.com/11 Kubernetes Binary 설치 - 1개요 Kubespray, minikube, EKS등 여러 Kubernetes Cluster를 설치하는 Tool 및 서비스가 존재한다. 이번 글에선 좀 귀찮더라도 Binary 설치를 진행한다. (사실 나는 B..

https://mgujob.tistory.com/11 이전 내용에서 계속 Kubernetes Binary 설치 - 1 개요 Kubespray, minikube, EKS등 여러 Kubernetes Cluster를 설치하는 Tool 및 서비스가 존재한다. 이번 글에선 좀 귀찮더라도 Binary 설치를 진행한다. (사실 나는 Binary 설치를 더 많이 진행한터라 이 방법에 mgujob.tistory.com Kubeadm을 통한 클러스터 구성 https://kubernetes.io/docs/setup/production-environment/tools/kubeadm/install-kubeadm/ Installing kubeadm This page shows how to install the kubeadm to..

개요Kubespray, minikube, EKS등 여러 Kubernetes Cluster를 설치하는 Tool 및 서비스가 존재한다.이번 글에선 좀 귀찮더라도 Binary 설치를 진행한다. (사실 나는 Binary 설치를 더 많이 진행한터라 이 방법에 제일 편한데 따로 글로 정리를 안해봐서 이번에 클러스터 재구성 및 정리를 해보려 한다.)필요사항클러스터를 구축하기 위한 기본적인 통신, OS 스펙에 대한 설정은 건너뛴다.Redhat 계열 OS로 진행한다.CNI는 Calico로 선택한다.본문containerd: https://github.com/containerd/containerd/releases Releases · containerd/containerdAn open and reliable container..

오랜만에 글을 쓴다. 지금 만드는 내부 환경이 혼자 만들기엔 사이즈가 좀 커서 활동이 뜸해진다. 언젠가는 블로그에 정리하는 날이 오겠지.. 만든 이유 내 지식 부족인지 구글링의 한계인지 Image size를 보려면 꼭 UI의 TAG까지 들어가 따로 보는게 여간 귀찮았다. 완변하진 않지만 이미지가 많다면 아래 스크립트로 대략적인 Size 체크 정도는 가능하다. 주의할점 기본적으로 container 이미지는 레이어 형식이기에 태그마다 온전한 용량을 차지하지 않는다. Tag1.0: 100Mb + Tag 2.0: 101Mb = 201이 아니란 소리 환경 Docker-compose 구성 Harbor API V1.0 ( 2.0도 될거긴 할거다 아마..) jq 쿼리를 위한 서버에 jq 커맨드 보유 스크립트 #!/bi..

개요 NFS CSI 드라이버를 사용하던 클러스터의 볼륨들이 생성이 되지 않고 비정상 동작을 한다. 알고보니 NFS 버전이 낮아진것 ( 모종의 긴 이유가 있지만 생략 ) 요즘은 대부분 NFS 4 버전을 쓰기때문에 이런 이슈가 벌어질 경우가 없고 심지어 3버전을 사용한다고 해당 이슈가 무조건 발생은 아니라 찾기 힘들었던 이슈였다. 이슈 [root@geon-wn1 containerd]# systemctl status rpc-statd.service ● rpc-statd.service - NFS status monitor for NFSv2/3 locking. Loaded: loaded (/usr/lib/systemd/system/rpc-statd.service; static; vendor preset: disa..

개요 다른 클러스터가 묶인 네트워크 환경에서 운영하다보니 새로운 이미지를 가져와야하는 POD가 지속적으로 제한에 걸려 개인 도커허브 계정을 containerd config.toml에 도커 허브 계정을 지정하여 6시간 제한 횟수를 100 -> 200 으로 늘려준다. https://hub.docker.com/billing/plan/update Docker hub.docker.com 아래와 같이 too many requests 가 나오는 상황 [root@geon-mn1 docker]# crictl pull docker.io/library/busybox:latest E1124 16:16:41.001708 790767 remote_image.go:171] "PullImage from image service fa..