Skip to content
栾鹏 edited this page Nov 30, 2023 · 3 revisions

替换基础组件

使用自有istio

开源版本中使用istio 1.15,可以在start.sh里面禁掉对istio的部署

注意事项,

1、isito作为平台的统一入口,需要暴露ip,并开放80,8080端口,会代理cube 的web界面,notebook,pipeline,nni,内部服务,推理服务,监控服务。

2、配置istio的监控指标对接到prometheus,并且默认不启动sidecar,通过label启动自动注入,同时流量的复制,分流,域名代理等功能可用

使用自有的prometheus

cube-studio对prometheus生态需求部分。(不需要下面的需求可以不使用prometheus)

  • pipeline编排界面查看任务的资源使用grafana看板。(需要配置pod的资源使用情况)
  • 整体资源界面有机器的,pod的,gpu的grafana资源采集看板,和pod的资源利用率。(需要配置机器的,pod的,gpu的资源使用情况)
  • 推理服务界面查看istio服务的吞吐和使用使用grafana看板(需要配置istio的指标采集)
  • 推理服务可以配置metric接口 (需要prometheus 支持通过annotations自动发现被注册的服务入口点)
  • 推理服务可以配置gpu弹性伸缩 (需要配置prometheus_adapter组件,将prometheus指标转化为弹性伸缩自定义指标)
  • pod资源,node资源,服务负载的grafana看板需要能接收变量,变量参考现有cube-studio的grafana看板

修改方法:

  • 1、注释掉start.sh平台“部署prometheus”部分,可以将cube-studio中的grafana看板部署到目标grafana组件上
  • 2、将config.py中的PROMETHEUS变量更改为目标prometheus服务地址
  • 3、将config.py中的GRAFANA_TASK_PATH,GRAFANA_SERVICE_PATH,GRAFANA_CLUSTER_PATH,GRAFANA_NODE_PATH,GRAFANA_GPU_PATH修改为对应的grafana看板地址
  • 4、将config.py中的ALL_LINKS中grafana中的地址 修改为真实的地址

使用自有kubernetes-dashboard

在config.py文件中替换 K8S_DASHBOARD_CLUSTER 变量

minio替换

在config.py文件中替换 MINIO_HOST 变量

redis 替换

替换infra命名空间kubeflow-dashboard-*的deployment的环境变量

mysql 替换

替换infra命名空间kubeflow-dashboard-*的deployment的环境变量

postgresql 替换

替换kubeflow命名空间labelstudio的deployment的环境变量

替换镜像名

基础组件镜像

myapp/install/kubernetes中部署的组件,可替换为源镜像名的新tag

业务镜像

模板镜像:,需要在myapp/init/init-job-template.json 中的image_name

notebook镜像:config.py中的NOTEBOOK_IMAGES变量配置

超参搜索镜像:config.py中NNI_IMAGES,WAIT_POD_IMAGES变量,myapp/init/init-automl.json中的job_worker_image

内部服务镜像:

  • myapp/init/init-service.json中image_name

推理服务镜像:

  • config.py中ML_SERVER_IMAGE,TFSERVING_IMAGES,TORCHSERVER_IMAGES,ONNXRUNTIME_IMAGES,TRITONSERVER_IMAGES
  • myapp/init/init-inference.json 中image_name

gpu镜像:

  • myapp/init/init-job-template.json中ccr.ccs.tencentyun.com/cube-studio开头的镜像

镜像管理:修改myapp/init/init-image.json中name

aihub镜像:myapp/init/init-aihub.json中的images

业务代码中镜像

搜索替换myapp/views/下 ccr.ccs.tencentyun.com/cube-studio 开头的镜像,替换为自己的镜像重新打包后台镜像

开源体验地址:

http://39.96.177.55:8888/

学习、部署、体验、咨询

Clone this wiki locally