产品文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云

备案控制台

首页容器服务 Kubernetes 版 ACK 云原生AI套件操作指南 AI服务部署 KServe

KServe

更新时间: 2024-05-16 10:57:40

KServe概述
安装ack-kserve️
部署vLLM推理服务
实现推理服务的灰度发布
为服务配置弹性扩缩容
配置Prometheus监控
使用Fluid实现模型加速
部署GPU共享推理服务
部署Serverless模式的模型推理服务

上一篇: 基于ECS的弹性推理下一篇: KServe概述

文档推荐

容器服务 Kubernetes 版 ACK-gatekeeper
ACK Virtual Node
csi-plugin
ack-onepilot
使用Fluid访问线下存储
使用P2P加速镜像拉取
HPA常见问题与诊断
CVE-2024-21626修复方案

阿里云首页容器服务Kubernetes版相关技术圈

为什么选择阿里云

什么是云计算全球基础设施技术领先稳定可靠安全合规分析师报告

产品和定价

全部产品免费试用产品动态产品定价价格计算器云上成本管理

解决方案

技术解决方案

文档与社区

文档开发者社区天池大赛培训与认证

权益中心

免费试用高校计划企业扶持计划推荐返现计划

支持与服务

基础服务企业增值服务迁云服务官网公告健康看板信任中心

关注阿里云

关注阿里云公众号或下载阿里云APP，关注云资讯，随时随地运维管控云服务

联系我们：4008013260

法律声明 Cookies政策廉正举报安全举报联系我们加入我们

友情链接

阿里巴巴集团淘宝网天猫全球速卖通阿里巴巴国际交易市场 1688 阿里妈妈飞猪阿里云计算 AliOS 万网高德 UC 友盟优酷钉钉支付宝达摩院淘宝海外阿里云盘饿了么

© 2009-2024 Aliyun.com 版权所有增值电信业务经营许可证：浙B2-20080101 域名注册服务机构许可：浙D3-20210002

浙公网安备 33010602009975号浙B2-20080101-4