策略与插件

更新时间:2025-03-20 09:43:24

本文旨在为您介绍AI API常用的策略与插件。通过配置策略与插件,帮助您实现企业应用大模型服务的扩展需求。

消费者鉴权

消费者鉴权用于验证请求来源的合法性,确保只有授权用户或系统能够访问 API。具体详情,请参见消费者鉴权

限流

限流基于调用Token消耗量控制资源分配,精准匹配算力资源消耗,防止滥用高资源接口,保障核心业务稳定运行。具体详情,请参见限流

缓存

缓存通过存储高频访问的数据或结果,减少大模型重复计算消耗,提升响应速度和服务稳定性。具体详情,请参见缓存

内容安全防护

内容安全防护主要用于对AI请求和响应的内容进行实时审核与过滤,实时识别并拦截敏感信息,保障业务内容符合法律法规要求。具体详情,请参见内容安全防护

联网搜索

联网搜索扩展大模型的实时信息获取能力,动态填充搜索结果到模型上下文,提升生成内容的时效性与准确性,降低模型幻觉概率。具体详情,请参见联网搜索

  • 本页导读 (1)
  • 消费者鉴权
  • 限流
  • 缓存
  • 内容安全防护
  • 联网搜索