文档

通义千问服务实例部署文档

更新时间:

本文介绍了通义千问的详细功能实践,计算巢在私有化部署(cloud op)场景下提供一键部署、高效运维、弹性伸缩等功能,提供详细的报价信息、资源分组、分账展示等功能,方便客户在解决方案类场景下快速部署落地。

背景介绍

继海外开源大模型体系推出并实现商用化后,8月3日,阿里云宣布其自研的大模型通义千问正式开源,成为首个宣布大模型开源的大型中国互联网科技公司。具体来看,通义千问70亿参数的通用模型Qwen-7B和对话模型Qwen-7B-Chat,均上架在AI模型社区魔搭ModelScope,开源、免费、可商用。8.8日,计算巢上线通义千问专属部署方案,3分钟完成一键部署体验。

方案实践

  1. 登录阿里云计算巢控制台,进入通义千问服务创建界面,根据界面提示,模板选择gpu集群版,填写相关参数(软件登录名及登录密码很重要,后面访问WebUI需要用到),填写完成单击确认订单

    1.png

    2.png

  2. 选中我已阅读并同意《计算巢服务协议》,然后单击立即创建按钮。1.png

  3. 查看部署进度。

    单击去列表页查看,可以看到刚刚创建的服务实例以及服务部署进度。2.png

  4. 访问等待状态变为已部署后,单击详情,进入对应的服务实例后,可以在页面上获取Endpoint以访问服务。3.png

  5. 单击Endpoint后面的链接,输入第1步设置的软件登录名及密码。4.png

  6. 完成验证后即可访问软件。4.png

联系方式

场景合作请钉钉联系。钉钉号为:075590。

  • 本页导读 (0)