LLM 应用语义规范正在不断演进当中,探针版本在新版本发布时,各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时,语义规范发生的变化。
Python 探针
2.0.0 版本
Span Attributes
所属组件 | 调用类型 | 原 Attribute | 新 Attribute | 备注 |
OpenAI | LLM | gen_ai.prompts | gen_ai.input.messages | 从平铺的属性记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为。 |
gen_ai.completions | gen_ai.output.messages | 从平铺的属性记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为。 | ||
gen_ai.model_name | 移除 | - | ||
gen_ai.request.model_name | gen_ai.request.model | - | ||
gen_ai.response.model_name | gen_ai.response.model | - | ||
input.mime_type | 移除 | - | ||
input.value | gen_ai.input.messages | 从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为。 | ||
output.mime_type | gen_ai.output.type | - | ||
output.value | gen_ai.output.messages | 从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为。 | ||
gen_ai.request.tool_calls | gen_ai.tool.definitions | 从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为。 | ||
新增 | gen_ai.request.choice.count | - | ||
新增 | gen_ai.request.seed | - | ||
新增 | gen_ai.request.frequency_penalty | - | ||
新增 | gen_ai.request.presence_penalty | - | ||
新增 | gen_ai.request.max_tokens | - | ||
新增 | gen_ai.request.top_p | - | ||
新增 | gen_ai.request.top_k | - | ||
新增 | gen_ai.request.stop_sequences | - | ||
新增 | gen_ai.response.id | - | ||
新增 | gen_ai.response.finish_reasons | - | ||
gen_ai.usage.prompt_tokens | gen_ai.usage.input_tokens | - | ||
gen_ai.usage.completion_tokens | gen_ai.usage.output_tokens | - | ||
Embedding | embedding.model_name | gen_ai.request.model | - | |
embedding.text | 移除 | - | ||
embedding.vector | 移除 | - | ||
embedding.vector_size | gen_ai.embeddings.dimension.count | - | ||
新增 | gen_ai.encoding.formats | - |