|
名称 |
类型 |
描述 |
示例值 |
|---|---|---|---|
|
object |
代理配置。 |
||
| policies |
object |
代理策略。 |
|
| requestTimeout |
integer |
请求超时配置。 |
30 |
| numRetries |
integer |
重试次数。 |
3 |
| cache |
boolean |
是否启用缓存能力。 |
|
| concurrencyLimit |
integer |
并发限制。 |
1 |
| fallbacks |
array |
降级模型列表。 |
|
|
object |
|||
| modelServiceName |
string |
模型服务名称。 |
qwen-service |
| modelName |
string |
模型名称。 |
qwen-plus |
| tokenRateLimiter |
object |
Token 限流配置。 |
|
| tps |
integer |
每秒 Token 限流阈值。 |
1000 |
| tpm |
integer |
每分钟 Token 限流阈值。 |
10000 |
| tph |
integer |
每小时 Token 限流阈值。 |
100000 |
| tpd |
integer |
每日 Token 限流阈值。 |
1000000 |
| aiGuardrailConfig |
object |
AI 安全护栏配置。 |
|
| checkRequest |
boolean |
是否启用请求内容检测。 |
|
| checkResponse |
boolean |
是否启用响应内容检测。 |
|
| level |
string |
问题严重程度：info, warning, error |
warning |
| maxTextLength |
integer |
最大文本长度。 |
10000 |
| blockOnContentModeration |
boolean |
内容安全检测命中时是否阻断。 |
|
| blockOnSensitiveData |
boolean |
敏感数据检测命中时是否阻断。 |
|
| blockOnPromptAttack |
boolean |
Prompt 攻击检测命中时是否阻断。 |
|
| blockOnMaliciousUrl |
boolean |
恶意 URL 检测命中时是否阻断。 |
|
| blockOnModelHallucination |
boolean |
模型幻觉检测命中时是否阻断。 |
|
| endpoints |
array |
后端端点列表。 |
|
|
object |
|||
| modelServiceName |
string |
模型服务名称。 |
qwen-service |
| weight |
integer |
端点的流量权重，取值范围为 0～100。 |
1 |
| baseUrl |
string |
模型提供商的默认 API 基础地址 |
https://api.openai.com/v1 |
| modelNames |
array |
该连接支持的模型名称列表 |
|
|
string |
模型名称中的单个条目。 |
qwen-plus |
ProxyConfig
更新时间：
复制 MD 格式
该文章对您有帮助吗？