AnalyticDB与通义千问搭建AI智能客服

1. 创建专有网络VPC和交换机

您需要将云服务器 ECS和云原生数据仓库 AnalyticDB PostgreSQL 版等资源部署在同一个网络环境中。因此，您需要创建1个专有网络和1个交换机。

1. 登录专有网络管理控制台。

2. 在顶部菜单栏，选择被授权的资源组（本文以RAG为例）和地域（本文以华东1（杭州）地域为例）。建议地域选择华北2（北京）、华东1（杭州）、华东2（上海）。

3. 在左侧导航栏，单击专有网络。

4. 在专有网络页面，单击创建专有网络。

5. 在创建专有网络页面，配置1个专有网络和1台交换机。配置交换机时，请确保交换机所属的可用区的云服务器 ECS、云原生数据仓库 AnalyticDB PostgreSQL 版处于可用状态。

   项目	说明	示例值
   VPC名称	建议您在部署过程中新建一个VPC作为本方案的专有网络。部署过程中填写VPC名称即可创建对应名称的VPC。 长度为2~128个字符，以英文大小写字母或中文开头，可包含数字、下划线（_）和连字符（-）。	vpc_RAG
   IPv4网段	在创建VPC时，您必须按照无类域间路由块（CIDR block）的格式为您的专有网络划分私网网段。阿里云VPC支持的网段信息请参见专有网络组成部分。 在网络规划时可以按照管理网段-开发网段-测试网段-生产网段等规则做好规划。网段一旦投入使用，调整过程复杂，因此规划十分重要。	192.168.0.0/16
   资源组	选择被授权的资源组。	RAG
   交换机名称	建议您在部署过程中在新建的VPC内创建虚拟交换机。部署过程中填写交换机名称即可创建对应名称的虚拟交换机。 长度为2~128个字符，以英文大小字母或中文开头，可包含数字、下划线（_）和连字符（-）。	vsw_RAG
   可用区	在规划的地域内选择1个可用区。 建议可用区选择华北2（北京） 可用区I、华北2（北京） 可用区H、华东1（杭州） 可用区J、华东2（上海） 可用区L，避免因云原生数据仓库 AnalyticDB PostgreSQL 版资源不足造成资源栈回滚。	杭州 可用区J

2. 创建安全组

您已经在1个专有网络VPC下对应的可用区创建好了1台交换机。接下来您需要创建1个安全组，用于限制云服务器 ECS的网络流入和流出。

1. 登录ECS管理控制台。

2. 在左侧导航栏，选择网络与安全 > 安全组。

3. 在顶部菜单栏，选择被授权的资源组（本文以RAG为例）和地域（本文以华东1（杭州）地域为例）。

4. 在安全组页面，单击创建安全组。

5. 在创建安全组页面，填写基本信息。

   项目	说明	示例值
   名称	设置安全组的名称。	sg_RAG
   网络	选择之前规划的专有网络VPC。	vpc_RAG
   资源组	选择被授权的资源组。	RAG
   安全组类型	本方案用于为个人用户或组织的基础场景提供网络访问控制，建议您选择普通安全组。	普通安全组

6. 在访问规则-入方向中，单击手动添加。将5000填入端口范围，将需要访问AI智能服务的公网IP填写到授权对象。最后单击创建安全组。

3. 创建云服务器 ECS

您已经创建好专有网络VPC和交换机等资源。接下来您需要创建1个云服务器ECS实例，用于部署AI智能客服。

1. 登录ECS管理控制台。

2. 在左侧导航栏，选择实例与镜像 > 实例。

3. 在顶部菜单栏，选择被授权的资源组（本文以RAG为例）和地域（本文以华东1（杭州）地域为例）。

4. 在实例页面，单击创建实例。

5. 在云服务器 ECS购买页面，创建1台云服务器 ECS。

   下表中未说明的参数，在本方案中可使用默认值。

   参数	说明	示例值
   付费类型	云服务器 ECS实例的计费方式。详细信息请参见ECS计费方式概述。	按量付费
   网络及可用区	选择之前规划的专有网络VPC及交换机。 建议可用区选择华北2 可用区I、华北2 可用区H、华东1 可用区J或华东2 可用区L。
   实例和镜像
   实例	ECS实例是云上的虚拟计算服务器，包含vCPU、内存、操作系统、网络、磁盘等基础组件。实例规格定义了ECS实例在计算性能、存储性能、网络性能等方面的基本属性。	经济型 e（ecs.e-c1m1.large 2vCPU 2GiB）
   镜像	镜像提供了运行实例所需的信息，包括操作系统、初始化应用数据等。	Alibaba Cloud Linux
   镜像版本	镜像的版本。	Alibaba Cloud Linux 3.2104 LTS 64位
   存储
   系统盘类型	硬盘类型。	ESSD Entry
   系统盘容量	硬盘容量。	40 GiB
   带宽和安全组
   公网 IP	选择是否分配公网IPv4地址。	分配公网IPv4地址
   带宽计费方式	按使用流量：适用于流量小，波动大的场景。 按固定带宽：适用于流量较大，稳定的场景。	按使用流量
   带宽峰值	带宽峰值是指网络连接或系统在某一特定时间段内所能达到的最大数据传输速率。	1 Mbps
   安全组	选择之前创建的安全组。	sg_RAG
   管理设置
   登录凭证	本方案以自定义密码凭证为例。	自定义密码
   登录名	登录名设置为root，登录后将获得系统最高权限。	root
   登录密码	设置登录云服务器 ECS的密码。	password***
   确认密码
   高级选项
   实例名称	配置云服务器 ECS实例名称。	ecs_adb
   资源组	选择被授权的资源组。	RAG

4. 创建云原生数据仓库 AnalyticDB PostgreSQL 版

您已经创建好了1台云服务器 ECS。接下来您需要创建云原生数据仓库 AnalyticDB PostgreSQL 版集群。

5. 开通阿里云百炼大模型服务平台

1. 登录阿里云账号，访问大模型服务平台百炼控制台。

2. 在左侧导航栏选择模型广场/应用广场，均可点击开通模型调用服务。开通调用服务后才能测试模型体验、调用模型或应用体验服务。

3. 点击去开通按钮，勾选同意协议，点击确认开通，等待服务开通成功提示。即服务开通成功。

1. 创建大模型应用并配置知识库

要在AI智能客服系统中调用大模型回答企业产品的相关知识，您需要首先创建一个大模型应用，并将企业产品知识导入知识库作为大模型可参考的外部数据源。

1. 创建大模型应用

   1. 进入百炼控制台，选择左侧导航栏我的应用，在页面右侧点击新增应用。在对话框，选择智能体应用并创建。

   2. 在应用设置页面，模型选择通义千问-Plus，其他参数保持默认。

      您也可以选择输入Prompt，比如设定大模型的角色，以便更专业地回答客户咨询。

      

   3. 单击右上角发布。在页面右侧，输入问题验证模型效果。

      您会发现，目前它还无法作为某个手机厂商的客服去回答该公司的手机商品信息。我们将在步骤2中解决这一问题。

2. 为大模型应用配置知识库

   1. 上传文件：在百炼控制台数据管理页面中，单击导入数据，根据引导上传用于示例的百炼系列手机产品介绍.docx。

   2. 建立索引：知识库将为上一步导入的文档建立索引，用于后续大模型回答时知识检索。

      1. 在左侧导航栏中，单击数据应用 > 知识索引。

      2. 在知识索引页面，单击创建知识库，设置知识库名称，选择向量存储类型为ADB-PG，选择在部署资源阶段创建的AnalyticDB for PostgreSQL实例。

         ADB-PG，即AnalyticDB for PostgreSQL，作为统一的向量存储，可以满足多个应用的向量数据集中存储、灵活管理的需求。同时，AnalyticDB for PostgreSQL提供监控、SQL审计、权限管理等特性保障企业数据安全。

         

      3. 选择步骤a上传的文件，其他参数保持默认即可。最后单击导入完成。

   3. 引用知识：完成知识库的创建后，在左侧导航栏单击我的应用。找到步骤1中创建的大模型应用，单击管理。打开知识库检索增强、选择知识库，最后单击发布。Prompt中会被自动添加一段信息，以便大模型在后续回答时参考检索出来的信息。

3. 获取调用大模型应用所需的凭证

   为了在智能问答应用中通过API调用大模型应用的能力，我们需要获取百炼应用的API-KEY和应用 ID：

   1. 在顶部导航栏右侧，点击人型图标，点击API-KEY进入我的API-KEY页面。在页面右侧，点击创建我的API-KEY，在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

   2. 在应用列表中可以查看步骤1中创建的百炼应用 ID。

2. 在ECS上部署AI智能客服

1. 登录ECS管理控制台，点击左侧导航栏实例，找到目标实例，准备Python环境，建议Python版本为3.9及以上。

   准备Python环境

   1. 更新系统并安装依赖。

      sudo yum update -y && \
      sudo yum groupinstall "Development Tools" -y && \
      sudo yum install openssl-devel bzip2-devel libffi-devel -y

   2. 下载、解压和安装Python 3.9。

      cd /usr/src && \
      sudo curl -O https://www.python.org/ftp/python/3.9.0/Python-3.9.0.tgz && \
      sudo tar xzf Python-3.9.0.tgz && \
      cd Python-3.9.0 && \
      sudo ./configure --enable-optimizations && \
      sudo make altinstall

   3. 检查 Python 3.9 是否安装成功，并确保pip已经安装。

      python3.9 --version && \
      python3.9 -m ensurepip && \
      python3.9 -m pip install --upgrade pip

2. 下载智能问答的示例代码，请参见demo.zip。

3. 在云服务器 ECS Workbench页面的顶部菜单栏，单击文件 > 打开新文件管理，单击上传文件，在根目录下上传示例代码文件。

4. 上传成功后，在左侧导航栏，单击，回到终端界面。

5. 查看并解压示例代码的压缩包，进入到示例代码demo目录。

   ls
   sudo yum install unzip
   unzip demo.zip
   cd demo

6. 创建并激活虚拟环境，并安装示例代码的Python依赖包：

   python3.9 -m venv $(pwd)/venv
   source $(pwd)/venv/bin/activate
   pip install -r requirements.txt

7. 将百炼的API-KEY、百炼应用的应用ID、ECS实例的公网IP配置到环境变量。

   说明

   获取ECS实例公网IP的方法，请参见查看IP地址。

   vim ~/.bashrc

   export DASHSCOPE_API_KEY="<DASHSCOPE_API_KEY>"                       
   export APP_ID="<APP_ID>"
   export SOCKET_ENDPOINT="<ECS_NETWORK_IP>:5000"                

   source ~/.bashrc

8. 启动服务：

   python app-stream.py

   返回如下信息，说明启动成功。

    * Serving Flask app 'app-stream'
    * Debug mode: on
   WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead.
    * Running on all addresses (0.0.0.0)
    * Running on http://127.0.0.1:5000
    * Running on http://172.30.XX.XX:5000
   Press CTRL+C to quit
    * Restarting with stat
    * Debugger is active!
    * Debugger PIN: 100-XX-XX