基于函数计算快速搭建AI对话机器人

本文介绍如何使用函数计算,基于通义千问语言模型快速搭建AI对话机器人。

背景信息

通义千问是阿里云推出的一个较大规模的语言模型,功能包括多轮对话、文案创作、逻辑推理、多模态理解、多语言支持等。通义千问能够与人类进行多轮的交互,也融入了多模态的知识理解,且有文案创作能力,能够续写小说、编写邮件等。

本文为您介绍如何通过函数计算基于通义千问模型,快速搭建一个AI对话机器人。

重要
  • 阿里云不对第三方模型的合法性、安全性、准确性进行任何保证,阿里云不对由此引发的任何损害承担责任。

  • 您应自觉遵守第三方模型的用户协议、使用规范和相关法律法规,并就使用第三方模型的合法性、合规性自行承担相关责任。

前提条件

已开通函数计算服务,详情请参见开通函数计算服务

操作步骤

使用通义千问预体验应用框架知识问答过程将产生部分费用,包括GPU资源使用、vCPU资源使用、内存资源使用、磁盘资源使用和公网出流量以及函数调用的费用。具体信息,请参见费用说明

创建应用

  1. 登录函数计算控制台,在左侧导航栏,单击应用

    • 如果您首次使用函数计算的应用中心,或您的账号下没有创建任何应用,在左侧导航栏,单击应用后,将自动进入创建应用页面。

      image..png

    • 如果您之前使用过应用中心,在左侧导航栏,单击应用,然后在应用页面单击创建应用

      image..png

  2. 创建应用页面,选择通过模板创建应用,然后在应用列表中搜索并选择通义千问预体验模板,光标移至该卡片,然后单击立即创建

    image..png

  3. 创建应用页面,设置以下配置项,然后单击创建并部署默认环境

    image..png

    主要配置项说明如下,其余配置项保持默认值即可。

    配置项

    说明

    示例值

    部署类型

    选择部署应用的方式。

    直接部署

    角色名称

    首次登录用户,需要单击前往授权配置角色权限。

    image..png

    如果您的角色名称已有相关权限,则无需设置。

    image..png

    AliyunFCServerlessDevsRole

    地域

    选择部署应用的地域。

    重要

    如果部署异常,例如AIGC公共镜像拉取耗时长,拉取失败,请切换到其他地域重试。

    华北2(北京)

  4. 在应用详情页面,找到目标环境,单击其右侧操作列的访问域名

    image..png

    您进入快速体验页面后,就可以开始与通义千问对话。

与通义千问对话

您可以选择输入以下函数计算预置的问题,或者输入您自己的问题,与通义千问进行对话。每个阿里云账号将有30次对话额度。例如,您可以输入给我一段转发/proxy路径下所有流量到www.aliyun.com的Nginx配置,体验与通义千问对话的过程。

删除资源

如您暂时不需要使用此应用,请及时删除对应资源。如您需要长期使用此应用,请忽略此步骤。

  1. 返回函数计算控制台概览页面,在左侧导航栏,单击应用

  2. 单击目标应用右侧操作列的删除,在弹出的删除应用对话框,勾选我已确定资源删除的风险,依旧要删除上面已选择的资源,然后单击删除应用及所选资源

    image..png

费用说明

套餐领取

为了方便您体验本文提供的AI对话场景,首次开通用户可以领取试用套餐并开通函数计算服务。该套餐不支持抵扣公网出流量和磁盘使用量的费用。如果您没有购买相关资源包,公网出流量和超出512 MB的磁盘使用量将按量付费。

公网出流量和磁盘使用量评估

当前应用磁盘使用量为512 MB,不需要支付费用。在加载前端页面时,需要约1 MB的公网出流量。公网出流量使用量和磁盘使用量计费可参考以下表格内容。

计费项

单价

使用量

计费

公网出流量

0.50元/GB

1 MB

0.00049元

磁盘使用量

不超出512 MB:免费

512 MB

0元

内容安全费用

根据相关部门的规定,企业和开发者使用生成式人工智能服务需配备相应的内容风险管理机制,因此在本文场景中,默认为您集成了阿里云内容安全检测服务,具体请参见AIGC内容安全方案

本文使用的内容安全计费为:0.0075元/10条。

资源消耗评估

函数计算配置:CPU 2核、内存4 GB、磁盘 512 MB。通过本文场景进行30次对话的成本如下表所示。

资源

一次对话(20秒)

30次对话费用

调用次数

1次

30次/10000*0.009=0.000027元

CPU资源消耗

0.08 vCPU*20秒= 1.6 vCPU*秒

0.08 vCPU*20秒*0.000127*30次=0.006096元

内存资源消耗

128 MB/1024*20秒= 2.5 GB*秒

128 MB/1024*20秒*0.0000127*30次=0.0009525元

磁盘资源消耗

512 MB

0元

公网出流量

前端页面加载

1 MB

1 MB/1024*0.5=0.00049元

1次对话

2.5 KB

2.5 KB/1024/1024*0.5*30次=0.0000358元

其中,领取的试用套餐不包括磁盘资源消耗和公网出流量。所以30次对话这部分费用大概是:0.0005元,其他资源均可以从套餐额度中抵扣。

您需要根据实际情况进行评估,具体的计费信息,请参见计费概述