Serving

018. [Kubeflow][KServe] SKLearn model InferenceService 배포하기

[!NOTE] 이 문서는 KServe v0.7을 기준으로 작성되었습니다. 이번글에서는 SKLearn 모델을 학습하고 KServe의 InferenceService로 배포해보겠습니다. 모델 학습, 로컬 테스트, Inferece Serivce 배포 순서로 진행합니다. 모델 학습과 로컬 배포테스트는 건너 뛰셔도 무방합니다. 모델 학습하기 학습할 모델은 머신러닝에서 매우 유명한 Iris 데이터셋, 붓꽃 종 분류 문제를 해결하는 모델입니다. 다음 코드를 수행해서 모델을 학습하고 'model.joblib'으로 학습한 모델을 저장합니다. from sklearn import svm from sklearn import datasets from joblib import dump iris = datasets.load_iris..

015. [Kubeflow][KServe] Could not find CSRF cookie XSRF-TOKEN in the request 문제 해결

개요 Kubeflow 1.5 버전을 manifests로 설치하면 Kserve 모델 생성, Request 요청시 Could not find CSRF cookie XSRF-TOKEN in the request 에러가 발생한다. Kubeflow 1.5 버전 부터 KFserving의 이름이 Kserve로 바뀌고 Kubeflow에서 완전히 분리되어 개별 설치가 가능해졌다. 그러나 1.5버전은 호환성을 위해 기존 KFServing과 Kserve가 같이 설치 될 수 있다. 이 때문에 에러가 발생하는데, 기본 설치 Manifest의 README.md에는 별다른 설명 없이 kustomization yaml 파일에만 주석이 되어 있어서 아주 해결법을 찾기 까다롭다. 해결법 해결법은 아주 간단하다. 1. 기존에 설치한 Ku..