本文介绍如果通过阿里云Prometheus对GPU资源进行监控,查看GPU各项指标。
前提条件
安装阿里云Prometheus监控
在使用阿里云Prometheus监控对GPU进行监控前,您需要安装阿里云Prometheus监控。
您有三种安装阿里云Prometheus监控的方式。有关具体操作,请参见开启阿里云Prometheus监控。
本文介绍如果通过阿里云Prometheus对GPU资源进行监控,查看GPU各项指标。
在使用阿里云Prometheus监控对GPU进行监控前,您需要安装阿里云Prometheus监控。
您有三种安装阿里云Prometheus监控的方式。有关具体操作,请参见开启阿里云Prometheus监控。
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
name: bert-intent-detection
spec:
replicas: 1
template:
metadata:
labels:
app: bert-intent-detection
spec:
containers:
- name: bert-container
image: registry.cn-beijing.aliyuncs.com/yukong/bert-intent-detection:1.0.1
ports:
- containerPort: 80
resources:
limits:
nvidia.com/gpu: 1
---
apiVersion: v1
kind: Service
metadata:
labels:
run: bert-intent-detection
name: bert-intent-detection-svc
spec:
ports:
- port: 8500
targetPort: 80
selector:
app: bert-intent-detection
type: LoadBalancer
kubectl get svc bert-intent-detection-svc
预期输出:NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
bert-intent-detection-svc LoadBalancer 172.23.5.253 123.56.xx.xx 8500:32451/TCP 14m
hey -z 10m -c 100 "http://123.56.xx.xx:8500/predict?query=music"
在文档使用中是否遇到以下问题
更多建议
匿名提交