对语言模型流式输出文字进行文本审核

使用场景

大语言模型应用支持通过流式输出的方式尽快的将中间结果显示在用户界面上。以通义千问为例子，开发者可以通过参数控制流式输出模式，具体参考文档：流式输出。

当采用模型流式输出的方式时，通常需要开发者拼接文字片段后作为文本审核服务的输入内容，但这个方式存在明显的缺点：

• 大语言模型容易生成较长内容的文字，拼接全部输出文字后，内容长度有可能超过文本审核的输入限制；

• 采用流式输出的方式用户端会更快看到模型生成内容片段，待全部内容输出时潜在风险可能长时间暴露给用户。

因此阿里云文本审核增强版提供了对模型流式输出文字进行自动拼接并审核的功能。该功能既避免了由于内容过长导致文本审核输入限制，也显著降低潜在风险暴露给用户的时间。

功能特性

费用说明

阿里云文本审核增强版默认的计费方式为按量后付费，即按照调用审核的文本次数计费，对使用流式输出文字的场景下调用审核的文本次数会显著增加。

因此我们建议采用机器审核QPS的预付费方式（最低 500QPS起），需要联系商务开通和购买。

付费方式对比

以通义千问为例子，对比不同付费方式下，流式输出文字场景的模型服务费用和文本审核费用：

按量后付费

当您开通文本审核增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。

资源包抵扣

如果您的审核量较大，或有相对固定的审核需求，建议预先购买资源包的方式。购买资源包规格越大，享受的折扣越大，支持叠加购买和使用。更多内容，请参见购买内容审核增强版抵扣资源包。

该资源包用于内容审核增强版用量的抵扣，无法与内容安全流量包共享，具体的抵扣系数如下：

接入指南

步骤一：开通服务

访问开通服务，开通文本审核增强版服务。

开通文本增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。接口接入使用后系统会按使用量自动出账，具体信息，请参见计费说明。您也可以购买按量抵扣资源包，资源包相较于后付费存在一定阶梯折扣，适合使用量级可预期和较大的用户。

步骤二：为RAM用户授权

在接入SDK或者API之前，您需要为RAM用户授权。您可以为阿里云账号和RAM用户创建一个访问密钥（AccessKey）。在调用阿里云API时您需要使用AccessKey完成身份验证。获取方式，请参见获取AccessKey。

1. 使用阿里云账号（主账号）或RAM管理员登录RAM控制台。

2. 创建RAM用户。

   具体操作，请参见创建RAM用户。

3. 向RAM用户授权系统策略权限：AliyunYundunGreenWebFullAccess。

   具体操作，请参见为RAM用户授权。

   完成以上配置后，您可以使用RAM用户调用内容安全API。

步骤三：安装并接入SDK

API

使用说明

业务接口：https://green-cip.{region}.aliyuncs.com。

您可以调用该接口创建文本内容检测任务。关于如何构造HTTP请求，请参见请求结构；您也可以直接选用已构造好的HTTP请求，更多信息，请参见接入指南。

• 计费信息：

  该接口为收费接口。仅对HTTP状态码为200的请求进行计量计费，产生其他错误码时不会计费。关于计费方式，请参见计费说明。

QPS限制

本接口的单用户QPS默认限制为100次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。如采用机器审核QPS的预付费方式，可根据业务峰值扩容，请联系商务开通。

请求参数

返回参数

示例

请求示例

{
    "Service": "ai_art_detection",
    "ServiceParameters": {
        "content": "流式输出内容",
        "sessionId": "10123****"
    }
}

正常返回示例

{
    "Code": 200,
    "Data": {
        "labels": "sexual_content",
        "reason": "{\"riskTips\":\"色情_低俗词\",\"riskWords\":\"色情服务\"}"
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

Code说明