通义千问大模型数据推理和交互

PolarDB for AI将阿里云通义千问大模型部署到了PolarDB上,并作为内置模型供您使用。您可以直接使用内置的通义千问大模型对PolarDB中的数据进行推理和交互。

使用场景

情感分析模型:分析一句话的情感倾向。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo LIMIT 1) WITH ();
-- textinfo表查询结果:这个东西只是看着还行,实际体验上非常的不好,不推荐大家购买。 
输出:负向

聊天模型:根据一段内容生成答案。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT '你是谁') WITH ();
输出:我是来自阿里云的大规模语言模型,我叫通义千问。

总结模型:根据一篇内容,生成对这篇文章的总结。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();
-- textinfo表查询结果:近年来,中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31亿票房成为暑期档冠军。随后,《扫毒2》、《怒火·重案》和《中国医生》等影片也取得了成功。今年暑期档,现实题材如《消失的她》、《八角笼中》和《孤注一掷》等电影大受欢迎,反映了观众对贴近生活内容的兴趣。
输出:近年来,中国电影市场青睐现实题材。2018年,《我不是药神》以31亿票房夺冠。之后,《扫毒2》《怒火·重案》《中国医生》等也大获成功。今年暑...

翻译模型:将一篇中文内容翻译为英文。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo ORDER BY id ASC LIMIT 1) WITH ();
-- textinfo表查询结果:这个东西只是看着还行,实际体验上非常的不好,不推荐大家购买。 
输出:This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.

正面评论模型:根据一篇内容,生成正面的评价。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();
-- textinfo表查询结果:华为最新手机Mate 60 Pro自开卖后销售火爆,目前已缺货。知名分析师郭明錤周一发文称,大幅提升Mate 60 Pro的出货量预期,华为对于产业和股市的影响力不可忽视,这种影响力正在回归中。
输出:华为Mate 60 Pro自上市以来,凭借其卓越的性能和创新的技术,迅速赢得了消费者的青睐,销售情况异常火爆,甚至出现了供不应求的现象。知名...

负面评论模型:根据一篇内容,生成负面的评价。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();
-- textinfo表查询结果:华为最新手机Mate 60 Pro自开卖后销售火爆,目前已缺货。知名分析师郭明錤周一发文称,大幅提升Mate 60 Pro的出货量预期,华为对于产业和股市的影响力不可忽视,这种影响力正在回归中。
输出:尽管华为Mate 60 Pro的销售情况看似火热,但从长远来看,这种短期的市场反应可能并不足以证明产品的持久竞争力。在当前复杂的全球科技环...

使用限制

  • 为了确保查询性能,在线推理仅支持单条数据的处理。

  • 目前通义千问大模型的最大上下文长度(Token数)为8000。然而,由于模型在计算资源上的限制,如果结果无法在10秒内生成,则将不会产生最终结果。在这种情况下,您可以增加AI节点以提升性能。

使用说明

语法说明

调用内置的通义千问大模型进行推理仅支持在线推理方式。具体的语法说明如下。更多信息,请参见模型推理

--在线推理
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with ()
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with ()

参数说明

参数名称

参数说明

modelname

模型名称,需要根据使用场景指定。取值如下:

  • 情感分析模型:_polar4ai_tongyi_sa

  • 正面/负面评价模型:

    • 正面评价模型:_polar4ai_tongyi_p_comment

    • 负面评价模型:_polar4ai_tongyi_n_comment

  • 总结模型:_polar4ai_tongyi_summarize

  • 翻译模型:

    • 翻译成中文:_polar4ai_tongyi_tran_2_zh

    • 翻译成英文:_polar4ai_tongyi_tran_2_en

  • 聊天模型:_polar4ai_tongyi

tablename

表名。

columnname

表的列名。同时也是模型的输入。

text

纯文本。同时也是模型的输入。

无需创建数据表,即可直接执行,适用于接口调用场景。

使用示例

环境准备

  1. 增加AI节点,并设置AI节点的连接数据库账号:开启PolarDB for AI功能

    若您在购买集群时已添加AI节点,则可以直接为AI节点设置连接数据库的账号。
  2. 使用集群地址连接PolarDB集群:连接集群并执行AI SQL

数据准备

  1. 创建一个名为textinfo的表。

    CREATE TABLE IF NOT EXISTS textinfo (
        id INT NOT NULL,
        content TEXT NOT NULL
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
  2. textinfo表中添加如下数据。

    INSERT INTO textinfo (id,content) VALUES (1,"这个东西只是看着还行,实际体验上非常的不好,不推荐大家购买。");
    INSERT INTO textinfo (id,content) VALUES (2,"华为最新手机Mate 60 Pro自开卖后销售火爆,目前已缺货。知名分析师郭明錤周一发文称,大幅提升Mate 60 Pro的出货量预期,华为对于产业和股市的影响力不可忽视,这种影响力正在回归中。");
    INSERT INTO textinfo (id,content) VALUES (3,"近年来,中国电影市场逐渐倾向于现实题材。2018年的《我不是药神》以31亿票房成为暑期档冠军。随后,《扫毒2》、《怒火·重案》和《中国医生》等影片也取得了成功。今年暑期档,现实题材如《消失的她》、《八角笼中》和《孤注一掷》等电影大受欢迎,反映了观众对贴近生活内容的兴趣。");
    INSERT INTO textinfo (id,content) VALUES (4,"你是谁");
    INSERT INTO textinfo (id,content) VALUES (5,"This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.");

调用通义千问大模型

情感分析模型

分析一句话的情感倾向。主要应用于电商评论分析、新闻报道的倾向性分析以及舆情分析等领域。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo WHERE id = 1) WITH (); 

返回结果:

负向

正面/负面评价模型

根据一篇内容,生成正面或者负面的评价。

  • 生成正面评价:

    /*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_p_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

    返回结果:

    华为Mate 60 Pro自开卖后销售火爆,显示出消费者对于华为品牌的认可和支持。华为作为中国知名科技企业,其在手机市场上的表现一直备受关注。郭明錤的发文进一步证实了华为在产业和股市上的影响力,这表明华为正在逐步回归到其应有的地位。华为的影响力不仅体现在其产品销售上,还体现在其对于整个科技产业和股市的推动作用。我们应该鼓励和支持像华为这样的优秀企业,促进中国科技产业的持续发展。
  • 生成负面评价:

    /*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_n_comment, SELECT content FROM textinfo WHERE id = 2) WITH ();

    返回结果:

    华为Mate 60 Pro的销售火爆让人感到意外,但同时也表明消费者对于华为品牌的认可度和支持度依然很高。然而,这也可能与当前全球科技市场的不稳定因素有关。华为作为一家中国公司,在国际市场上一直受到政治和经济压力,这可能会影响其销售业绩。此外,知名分析师郭明錤的言论可能过于乐观,忽视了华为目前面临的挑战和困难。综上所述,华为的影响力虽然在回归中,但其未来的市场表现仍需要谨慎对待。

总结模型

根据一篇内容,生成对这篇文章的总结。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();

返回结果:

近年来,中国电影市场越来越青睐现实题材。2018年,《我不是药神》以31亿票房成为暑期档冠军。之后,《扫毒2》《怒火·重案》和《中国医生》等片也大获成功。今年暑期档,《消失的她》《八角笼中》和《孤注一掷》等现实题材电影备受观众喜爱,反映出人们对贴近生活的影片内容有浓厚兴趣。

翻译模型

  • 将一篇中文内容翻译为英文。

    /*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_en, SELECT content FROM textinfo WHERE id = 1) WITH ();

    返回结果:

    This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.
  • 将一篇其他语言(包括英文)内容翻译为中文。

    /*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_tran_2_zh, SELECT content FROM textinfo WHERE id = 5) WITH ();

    返回结果:

    这件商品看起来还不错,实际体验却很差。我不推荐购买。

聊天模型

根据一段内容生成答案。这个内容可包含一些显式的提示(prompt),答案将依据这些提示(prompt)生成。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT content FROM textinfo WHERE id = 4) WITH ();

返回结果:

我是来自阿里云的大规模语言模型,我叫通义千问。

此外,您也可以直接输入text纯文本获取答案。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT '你是谁') WITH ();

返回结果:

我是来自阿里云的大规模语言模型,我叫通义千问。