安装 klever 之前,需安装依赖的如下组件:
istio 的安装请参考 istio 安装官方手册
Seldon core 官方支持 helm 安装,具体请参考 install seldon-core by helm.
在 klever 中,当前对于流量分发只支持 istio, 暂不支持 ambassador, 并且暂不支持 seldon core 的 engine 模式,所以使用 klever 时安装 seldon core 必须设置一些额外的参数。
kubectl create namespace seldon-system
helm install seldon-core seldon-core-operator \
--repo https://storage.googleapis.com/seldon-charts \
--set usageMetrics.enabled=true \
--set istio.enabled=true \
--set istio.gateway=istio-system/kleveross-gateway \
--set ambassador.enabled=false \
--set executor.enabled=false \
--set defaultUserID=0 \
--set image.registry=ghcr.io \
--set image.repository=kleveross/seldon-core-operator \
--set image.tag=0.1.0 \
--namespace seldon-system
klever-model-registry 使用 Harbor 存储训练模型,Harbor 的安装方式请参考 harbor-helm 安装
$ kubectl create namespace kleveross-system
$ git clone https://github.com/kleveross/klever-model-registry
$ cd klever-model-registry/manifests
$ helm install klever-model-registry ./model-registry --namespace=kleveross-system --set ormb.domain={harbor address} --set externalAddress={model-registry-external-address} --set service.nodePort={port}
$ helm install klever-modeljob-operator ./modeljob-operator --namespace=kleveross-system --set ormb.domain={harbor address} --set model.registry.address={model-registry-internal-address}
Key | Comments |
---|---|
ormb.domain | ormb.domain 等于 harbor 地址,如果 harbor 安装在 k8s 集群中,不需设置,使用默认值即可;如果 harbor 安装在集群外部,则应设置为 harbor 访问地址,例如:demo.goharbor.io |
externalAddress | externalAddress 是 klever-model-registry 暴露到集群外的访问地址 |
service.nodePort | service.nodePort klever-model-registry 暴露到集群外部的端口,其端口应该和 externalAddress 中的端口匹配 |
Key | Comments |
---|---|
ormb.domain | ormb.domain 等于 harbor 地址,如果 harbor 安装在 k8s 集群中,不需设置,使用默认值即可;如果 harbor 安装在集群外部,则应设置为 harbor 访问地址,例如:demo.goharbor.io |
model.registry.address | model.registry.address 是 klever-model-registry 集群内部访问地址,使用默认值即可 |