内置平台模型使用案例

本文将介绍内置平台模型的使用案例。

目前PolarDB支持的内置平台模型信息如下:

函数名称

模型名称

.so文件

返回类型

描述

polarchat

builtin_polarchat

#ailib#_builtin_polarchat.so

STRING

基于大语言模型的交互式问答函数。

polarzixun

builtin_polarzixun

#ailib#_builtin_polarzixun.so

STRING

基于Retrieval+大语言模型的咨询函数。

qwen

builtin_qwen

#ailib#_builtin_qwen.so

STRING

基于通义千问的大模型函数。

本文将以内置平台模型builtin_polarzixun为例来介绍如何使用内置平台模型。具体操作步骤如下:

  1. 在目标集群上开启PolarDB for AI功能和冷数据归档功能。具体的操作步骤请参见开启PolarDB for AI功能开启冷数据归档

  2. 部署内置平台模型。

    连接数据库,并使用以下SQL语句来部署内置平台模型。

    /*polar4ai*/ DEPLOY MODEL builtin_polarzixun WITH (mode = 'in_db');

    部署完成后,您可以使用SHOW MODEL脚本来查看模型状态。部署成功后的状态为serving,表示内置平台模型部署完成。

    /*polar4ai*/ SHOW MODEL builtin_polarzixun;
  3. 创建函数。

    执行以下命令,创建函数。

    CREATE FUNCTION polarzixun RETURNS STRING SONAME "#ailib#_builtin_polarzixun.so";
  4. 使用创建的polarzixun函数进行相关咨询。示例如下:

    说明

    返回结果仅支持输出中文格式。

    • 示例一:

      SELECT polarzixun("请问一下不同地域或者账号下面的ecs和polardb之间可以内网互通吗") AS answer;

      返回结果如下:

      image.png

    • 示例二:

      SELECT polarzixun("PolarDB如何在不同节点实现负载均衡") AS Answer;

      返回结果如下:

      image.png

    • 示例三:

       SELECT polarzixun("polardb如何购买") AS Answer;

      返回结果如下:

      image.png