创建专有网络VPC和交换机

您需要将云服务器 ECS和云原生数据仓库 AnalyticDB PostgreSQL 版等资源部署在同一个网络环境中。因此，您需要创建1个专有网络和1个交换机。

1. 登录专有网络管理控制台。

2. 在左侧导航栏，单击专有网络。在顶部菜单栏，选择地域（本文以华东1（杭州）地域为例）。

3. 在专有网络页面，单击创建专有网络。

4. 在创建专有网络页面，配置1个专有网络和1台交换机。配置交换机时，请确保交换机所属的可用区的云服务器 ECS、云原生数据仓库 AnalyticDB PostgreSQL 版处于可用状态。

   项目	说明	示例值
   VPC名称	建议您在部署过程中新建一个VPC作为本方案的专有网络。部署过程中填写VPC名称即可创建对应名称的VPC。 长度为2~128个字符，以英文大小写字母或中文开头，可包含数字、下划线（_）和连字符（-）。	vpc_RAG
   IPv4网段	在创建VPC时，您必须按照无类域间路由块（CIDR block）的格式为您的专有网络划分私网网段。阿里云VPC支持的网段信息请参见专有网络组成部分。 在网络规划时可以按照管理网段-开发网段-测试网段-生产网段等规则做好规划。网段一旦投入使用，调整过程复杂，因此规划十分重要。	192.168.0.0/16
   交换机名称	建议您在部署过程中在新建的VPC内创建虚拟交换机。部署过程中填写交换机名称即可创建对应名称的虚拟交换机。 长度为2~128个字符，以英文大小字母或中文开头，可包含数字、下划线（_）和连字符（-）。	vsw_RAG
   可用区	在规划的地域内选择1个可用区。	杭州 可用区J

创建安全组

您已经在1个专有网络VPC下对应的可用区创建好了1台交换机。接下来您需要创建1个安全组，用于限制云服务器 ECS的网络流入和流出。

1. 登录ECS管理控制台。

2. 在左侧导航栏，选择网络与安全>安全组。

3. 在顶部菜单栏，选择地域（本文以华东1（杭州）地域为例）。

4. 在安全组页面，单击创建安全组。

5. 在创建安全组页面，创建安全组。

   项目	说明	示例值
   名称	设置安全组的名称。	sg_RAG
   网络	选择之前规划的专有网络VPC。	vpc_RAG
   安全组类型	本方案用于为个人用户或组织的基础场景提供网络访问控制，建议您选择普通安全组。	普通安全组

6. 在访问规则-入方向中，单击增加规则。将5000填入访问目的(本实例)并单击提交完成添加。

创建云服务器 ECS

您已经创建好专有网络VPC和交换机等资源。接下来您需要创建1个云服务器ECS实例，用于部署AI智能客服。

1. 登录ECS管理控制台。

2. 在左侧导航栏，选择实例与镜像>实例。

3. 在顶部菜单栏，选择地域（本文以华东1（杭州）地域为例）。

4. 在实例页面，单击创建实例。

5. 在云服务器ECS购买页面，创建云服务器ECS。

   参数	说明	示例值
   付费类型	付费类型影响实例的计费和收费规则。ECS 计费的详细信息请参见计费方式概述。	按量付费
   地域	实例所在地域。	华东1（杭州）
   网络及可用区	选择VPC 和交换机。	vpc_RAG、vsw_RAG
   实例	ECS 的实例规格及内核、vCPU数量。关于 ECS 选型的最佳实践请参见实例规格选型指导。	经济型 e（ecs.e-c1m1.large 2vCPU 2GiB）
   镜像	ECS 的“装机盘”，为 ECS 实例提供操作系统、预装软件等。	在公共镜像中选择 Alibaba Cloud Linux
   镜像版本	镜像的版本。	Alibaba Cloud Linux 3.2104 LTS 64位
   系统盘类型	硬盘类型。	ESSD Entry
   系统盘容量	硬盘容量。	40 GiB
   公网 IP	用于在云服务器ECS中从公网下载相关应用程序。	选中分配公网 IPv4 地址
   带宽计费模式	由于本方案为解决方案示例，因此选择按使用流量，以节省流量成本。	按使用流量
   带宽峰值	本方案以5 Mbps为例。	5 Mbps
   安全组	使用之前创建的安全组。选择已有安全组。	sg_RAG
   管理设置	选择设置自定义密码，方便后续登录机器安装服务环境。	自定义密码

创建云原生数据仓库 AnalyticDB PostgreSQL 版

您已经创建好了1台云服务器 ECS。接下来您需要创建云原生数据仓库 AnalyticDB PostgreSQL 版实例。

创建大模型应用并配置知识库

要在AI智能客服系统中调用大模型回答企业产品的相关知识，您需要首先创建一个大模型应用，并将企业产品知识导入知识库作为大模型可参考的外部数据源。

1. 创建大模型应用

   1. 在阿里云百炼的应用管理页面，单击创建应用按钮。

      

   2. 在弹窗中选择智能体应用，输入任意应用名称后单击立即创建。

      

   3. 在应用中选择通义千问 3（通义千问-Plus） 模型，最长回复长度设定为 8192，开启思考模式。

      

   4. 在左侧导航栏中选择记忆，携带上下文轮数设定为 30。

      

   5. 单击右上角发布并在弹出对话框中点击确认发布。在页面右侧，输入问题验证模型效果。

      您会发现，目前它还无法作为某个手机厂商的客服去回答该公司的手机商品信息。我们将在步骤2中解决这一问题。

      

2. 为大模型应用配置知识库

   1. 上传文件：在阿里云百炼控制台应用数据页面中，单击+导入数据，根据引导上传用于示例的百炼系列手机产品介绍.docx。

   2. 建立索引：知识库将为上一步导入的文档建立索引，用于后续大模型回答时知识检索。

      1. 进入知识库页面，单击创建知识库。填写知识库名称，其他设置可保持默认，单击下一步。

      2. 单击选择文件，勾选前一步中上传的文件，并单击下一步。

      3. 选择向量存储为ADB-PG，region选择杭州，向量存储选择部署资源阶段创建的AnalyticDB for PostgreSQL实例，然后单击导入完成。

         ADB-PG，即AnalyticDB for PostgreSQL，作为统一的向量存储，可以满足多个应用的向量数据集中存储、灵活管理的需求。同时，AnalyticDB for PostgreSQL提供监控、SQL审计、权限管理等特性保障企业数据安全。

         

   3. 引用知识：完成知识库的创建后，在左侧导航栏单击应用管理。找到步骤1中创建的大模型应用，单击卡片上的配置。

      1. 在左侧导航栏中选择知识，然后单击文档右侧的+按钮，为模型添加知识库。

         

      2. 在选择知识库页签下，选择刚创建的知识库，单击添加，页面弹出添加成功提示。

      3. 单击发布按钮。

         

3. 获取调用大模型应用所需的凭证

   为了在智能问答应用中通过API调用大模型应用的能力，我们需要获取阿里云百炼应用的API-KEY和应用 ID：

   1. 获取API-KEY

   2. 进入应用管理界面，在应用列表中可以查看步骤1中创建的阿里云百炼应用 ID。

在ECS上部署AI智能客服

开通了云资源后，接下来您需要执行以下操作部署示例应用：

1. 远程连接云服务器ECS。

   1. 登录ECS管理控制台，在实例页面，找到前面步骤所创建的 ECS 实例。

   2. 在右侧操作列，单击远程连接，并选择通过Workbench远程连接。根据页面提示登录，进入终端页面。具体操作请参见：使用Workbench登录ECS实例。

2. 配置Python环境。

   1. 更新系统并安装依赖。

      sudo yum update -y && \
      sudo yum groupinstall "Development Tools" -y && \
      sudo yum install openssl-devel bzip2-devel libffi-devel -y

   2. 下载、解压并安装Python 3.9。

      cd /usr/src && \
      sudo curl -O https://www.python.org/ftp/python/3.9.0/Python-3.9.0.tgz && \
      sudo tar xzf Python-3.9.0.tgz && \
      cd Python-3.9.0 && \
      sudo ./configure --enable-optimizations && \
      sudo make altinstall

3. 下载智能问答的示例代码，请参见demo.zip。

4. 在云服务器ECS 根目录下上传示例代码文件。

   1. 点击页面左上方的文件并点击下拉菜单中的打开新文件管理。

   2. 点击并进入root文件夹。

   3. 点击上传文件并将之前下载好的代码压缩文件进行上传，上传成功后如下图所示。

   4. 关闭File Navigator并在控制台中执行后续操作。

5. 解压示例代码的压缩包，进入到示例代码demo目录。

   cd ~
   sudo yum install unzip
   unzip demo.zip
   cd demo

6. 创建并激活虚拟环境，并安装示例代码的Python依赖包：

   python3.9 -m venv $(pwd)/venv
   source $(pwd)/venv/bin/activate
   pip install -r requirements.txt

7. 获取ECS实例公网IP地址并配置环境变量。

   1. 获取ECS实例公网 IP 地址。

      登录 ECS控制台，在实例页面，找到目标实例，在IP 地址列可以查看到公网IP。

   2. 配置环境变量。

      说明

      替换"阿里云百炼平台的API密钥"为前面步骤获取的阿里云百炼 API-KEY；替换"APP_ID"为前面步骤获取的智能体应用ID；替换ECS_NETWORK_IP为ECS实例的公网IP地址。

      cat << EOF >> ~/.bashrc
      export DASHSCOPE_API_KEY="阿里云百炼平台的API密钥"                       
      export APP_ID="APP_ID"
      export SOCKET_ENDPOINT="ECS_NETWORK_IP:5000"
      EOF
      
      source ~/.bashrc

8. 启动服务。

   python app-stream.py

   返回如下信息，说明启动成功。

    * Serving Flask app 'app-stream'
    * Debug mode: on
   WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead.
    * Running on all addresses (0.0.0.0)
    * Running on http://127.0.0.1:5000
    * Running on http://172.30.XX.XX:5000
   Press CTRL+C to quit
    * Restarting with stat
    * Debugger is active!
    * Debugger PIN: 100-XX-XX