LLM 应用语义规范变更历史

LLM 应用语义规范正在不断演进当中,探针版本在新版本发布时,各种 LLM 插件会逐渐向最新版本的语义规范靠拢。本文档用于记录在新版本探针发布时,语义规范发生的变化。

Python 探针

2.0.0 版本

Span Attributes

所属组件

调用类型

原 Attribute

新 Attribute

备注

OpenAI

LLM

gen_ai.prompts

gen_ai.input.messages

从平铺的属性记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为

gen_ai.completions

gen_ai.output.messages

从平铺的属性记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为

gen_ai.model_name

移除

-

gen_ai.request.model_name

gen_ai.request.model

-

gen_ai.response.model_name

gen_ai.response.model

-

input.mime_type

移除

-

input.value

gen_ai.input.messages

从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为

output.mime_type

gen_ai.output.type

-

output.value

gen_ai.output.messages

从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为

gen_ai.request.tool_calls

gen_ai.tool.definitions

从非结构化记录方式替换为 JSON 格式,详情参见控制 LLM 应用对话历史采集行为

新增

gen_ai.request.choice.count

-

新增

gen_ai.request.seed

-

新增

gen_ai.request.frequency_penalty

-

新增

gen_ai.request.presence_penalty

-

新增

gen_ai.request.max_tokens

-

新增

gen_ai.request.top_p

-

新增

gen_ai.request.top_k

-

新增

gen_ai.request.stop_sequences

-

新增

gen_ai.response.id

-

新增

gen_ai.response.finish_reasons

-

gen_ai.usage.prompt_tokens

gen_ai.usage.input_tokens

-

gen_ai.usage.completion_tokens

gen_ai.usage.output_tokens

-

Embedding

embedding.model_name

gen_ai.request.model

-

embedding.text

移除

-

embedding.vector

移除

-

embedding.vector_size

gen_ai.embeddings.dimension.count

-

新增

gen_ai.encoding.formats

-