AI 助理
备案控制台
官方文档
输入文档关键字查找
首页

在ECS上使用阿里云百炼部署满血版deepseek r1

更新时间：
我的收藏

本实验为您介绍如何在ECS实例上部署Open WebUI，并通过大模型服务平台百炼API调用DeepSeek-R1模型推理服务，帮助您快速体验满血版DeepSeek-R1模型。

场景简介

本实验为您介绍如何在ECS实例上部署Open WebUI，并通过大模型服务平台百炼API调用DeepSeek-R1模型推理服务，帮助您快速体验满血版DeepSeek-R1模型。

实现体验满血版DeepSeek-R1模型的方案大致分为三步：

  1. 准备工作：在操作前，您需要为部署做好准备工作。例如，准备满足部署条件的ECS实例、安装Docker、配置阿里云百炼API信息等。

  2. 安装Open WebUI：在准备好的实例上安装Open WebUI。

  3. 设置Open WebUI：设置后，新用户即可通过http://<ECS公网IP地址>:8080访问并注册登录您部署的Open WebUI，与DeepSeek-R1模型进行对话问答。

背景知识

本场景主要涉及以下云产品和服务：

准备工作

您已购买的ECS实例部署Open WebUI时，需要满足以下条件。

  • 操作系统：Linux。

    本实验以Alibaba Cloud Linux 3为例，如实例不满足，请更换操作系统（更换系统盘）。

    image

  • 开通公网：实例已分配固定公网IP地址或绑定弹性公网IP（EIP）。

    本实验以为实例分配固定公网IP地址为例，如实例不满足，请开通公网。

    image

  • 安全组：入方向规则已放行22、8080端口。如实例不满足，请添加安全组规则。

    您可以在实例购买完成后，单击实例ID，进入实例详情页，在安全组页签中单击管理规则，手动添加入方向规则。

    说明

    如果需要使用HTTP或HTTPS默认端口，安全组入方向规则需要放行80以及443。

    image

    image

远程连接至ECS实例

连接至ECS实例，以便后续在实例上执行相关命令。

  1. 在实验页面，勾选我已阅读并同意《阿里云云起实践平台服务协议》后，单击进入实操。

    image

  2. 前往ECS控制台实例列表。

  3. 在实例列表页面，选择目标实例所在的资源组和地域后，在列表中找到需要连接的实例，单击其右侧操作列下的远程连接。

    image

  4. 在远程连接对话框中，单击通过Workbench远程连接对应的立即登录。

    image

  5. 在登录实例对话框中，选择认证方式，本实验以密码认证为例，填写相应登录凭证后，单击登录。

    image

安装Docker

在ECS实例上安装Docker，用于后续环境搭建及Open WebUI的部署。

  1. 执行以下命令，安装Docker社区版本。

    #添加Docker软件包源
sudo wget -O /etc/yum.repos.d/docker-ce.repo http://mirrors.cloud.aliyuncs.com/docker-ce/linux/centos/docker-ce.repo
sudo sed -i 's|https://mirrors.aliyun.com|http://mirrors.cloud.aliyuncs.com|g' /etc/yum.repos.d/docker-ce.repo
#Alibaba Cloud Linux3专用的dnf源兼容插件
sudo dnf -y install dnf-plugin-releasever-adapter --repo alinux3-plus
#安装Docker社区版本，容器运行时containerd.io，以及Docker构建和Compose插件
sudo dnf -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
#启动Docker
sudo systemctl start docker
#设置Docker守护进程在系统启动时自动启动
sudo systemctl enable docker

  2. 执行以下命令，验证Docker是否安装成功。

    sudo docker -v

    如下图回显信息所示，表示Docker已安装成功。

    image

配置阿里云百炼API信息

  1. 开通大模型服务平台百炼。

    1. 前往阿里云百炼控制台，如果页面顶部显示以下消息，您需要开通阿里云百炼的模型服务，以获得免费额度。如果未显示该消息，则表示您已经开通，请跳过此步骤。

      image

    2. 在弹出的对话框中，勾选我已阅读并同意《模型管理服务协议》，单击确认开通。

      image

  2. 获取阿里云百炼API KEY。

    1. 前往API-KEY页面，单击创建我的API-KEY。

      4484ff70302d38d51119a7e139ab25cd

    2. 在创建新的API-KEY对话框中，归属业务空间选择主账号空间，单击确定。

      说明

      请优先通过主账号空间获取API KEY。

      image

    3. 在我的API-KEY页面，单击目标API-KEY右侧操作列下的查看，您即可看到API-KEY的明文信息，在后续步骤需要使用到API-KEY。

      说明

      API-KEY请注意保存，不要存放在公开环境中。

      ab0fc98ea62304abe9b1cfbb9c1c6f05

  3. 配置环境变量。

    返回至终端页签，在ECS中执行以下命令，配置阿里云百炼API服务地址与API KEY到环境变量，并创建数据目录。

    说明

    请将命令中的<您的API KEY>替换为您获取的阿里云百炼API KEY。

    #环境变量配置
#设置阿里云百炼服务地址
export OPENAI_API_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
#设置阿里云百炼KEY
export OPENAI_API_KEY=<您的API KEY>
#数据目录准备
sudo mkdir -p /mnt/open-webui-data

    image

安装Open WebUI

  1. 拉取Python镜像。

    在ECS上执行以下命令，拉取Python镜像，作为基础环境。

    sudo docker pull alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1

  2. 安装Open WebUI。

    1. 执行以下命令，根据Python镜像启动容器，并在容器内安装并启动Open WebUI。

      #启动open-webui服务
sudo docker run -d -t --network=host --name open-webui \
-e ENABLE_OLLAMA_API=False \
-e OPENAI_API_BASE_URL=${OPENAI_API_BASE_URL} \
-e OPENAI_API_KEY=${OPENAI_API_KEY} \
-e DATA_DIR=/mnt/open-webui-data \
-e HF_HUB_OFFLINE=1 \
-v /mnt/open-webui-data:/mnt/open-webui-data \
alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1 \
/bin/bash -c "pip config set global.index-url http://mirrors.cloud.aliyuncs.com/pypi/simple/ && \
pip config set install.trusted-host mirrors.cloud.aliyuncs.com && \
pip install --upgrade pip && \
pip install open-webui==0.5.10 && \
mkdir -p /usr/local/lib/python3.11/site-packages/google/colab && \
open-webui serve"

    2. 执行以下命令，实时监控下载进度，等待下载结束（预计下载耗时需要10分钟）。

      说明

      您可以随时按下Ctrl+C退出，这不会影响容器的运行，即使退出日志监控也不会中断下载。

      sudo docker logs -f open-webui

      当日志中输出以下信息时，说明Open WebUI服务已启动。此时您可以按下Ctrl+C退出。

      image

设置Open WebUI

  1. 管理员登录并设置Open WebUI。

    1. 在本地电脑上使用浏览器访问http://<ECS公网IP地址>:8080，首次登录时，可根据提示创建管理员账号。

      说明

      请替换<ECS公网IP地址>为您的具体ECS实例公网IP地址，具体公网IP地址可在实例列表页的IP地址栏查看。

      image

    2. 单击右上角的头像，选择管理员面板。

      image

    3. 进入管理员后台，在顶部菜单栏单击设置。

      image

    4. 在左侧导航栏单击通用，打开允许新用户注册的开关，并设置默认用户角色为用户，设置完成后，单击保存。

      image

    5. 在左侧导航栏单击模型，然后单击deepseek-r1模型后的image按钮

      image

    6. 在可见性的下拉列表中，选择Public，单击保存并更新。

      image

  2. 新用户访问测试。

    1. 配置完成后，新用户可以访问http://<ECS公网IP地址>:8080，注册并登录到部署好的Open WebUI。

      说明

      若您当前登录的账号为管理员账号，可以单击右上角的头像，单击登出，再次访问地址时即为新用户。

      image

    2. 测试与DeepSeek-R1模型进行对话问答。

      image

说明

完成试验之后，如您不再使用ECS实例，建议及时释放实例。