架构与技术选型

系统架构

记忆存储服务采用全托管 Serverless 架构，用户通过 API 与服务交互，底层资源由平台自动管理。数据流转过程如下：

1. 调用 AddMemories 接口，传入对话消息（messages）或纯文本（text)。

2. 系统将原始消息保存为短期记忆。

3. 系统从消息中提取可检索的长期记忆单元，并持久化存储到表格存储。

4. 调用 SearchMemories 接口时，服务结合语义检索和文本检索能力，并支持 Rerank 排序，返回相关长期记忆。

数据模型

记忆库的数据按以下实体组织。

记忆写入

记忆服务支持以下两种方式写入记忆：

• 对话消息写入：通过 AddMemories 接口传入 messages 数组。服务保存原始消息为短期记忆，并从中提取长期记忆单元。

• 文本写入：通过 AddMemories 接口传入 text 字段，直接提交纯文本内容。服务从文本中提取可检索的长期记忆。

写入时需指定 Scope 信息，其中 appId 必填，tenantId、agentId、runId 为空时自动补为 __default__。写入不允许使用通配符 *。

写入默认异步执行（sync=false）：原始消息先落库并可立即作为短期记忆查询，长期记忆抽取在后台进行。可通过 AddMemories 返回的 requestId，调用 GetMemoryTask 跟踪抽取任务的状态与产出的记忆单元。记忆库还支持自定义抽取指令（extractInstructions），在创建或更新记忆库时设置，注入抽取提示词以引导该库的长期记忆抽取聚焦业务关键信息。

记忆检索

SearchMemories 支持使用自然语言检索长期记忆。服务结合语义检索和文本检索能力，并支持 Rerank 排序，默认启用 Rerank。

检索时 appId 和 tenantId 为必填字段，agentId 和 runId 可使用通配符 * 扩大检索范围。

检索结果同时返回融合得分 score 与归一化相似度 similarity。可通过 minSimilarity 过滤低相关结果。设置 includeEvidence=true，可在结果中附带命中记忆对应的原始消息片段（evidence），便于增强答题模型的可解释性。

元数据

长期记忆支持附加元数据（metadata)。元数据可用于存储业务自定义信息，例如记忆来源、标签和优先级等。元数据随记忆单元一起存储，检索结果中会返回对应的元数据字段。

请求审计

服务记录记忆库请求，可通过 ListMemoryStoreRequests 查询请求日志。审计记录包含操作类型、响应状态、延迟和失败原因等字段，适用于排查写入、检索和管理操作中的问题。

记忆整理（Dream）

记忆整理（Dream）是对记忆库中已有数据进行二次提炼的异步能力。服务在后台分析长期记忆与原始消息，产出可应用的整理动作。整理对象分为三类：

• 记忆整理（memory）：对长期记忆去重、改写、合并，并删除过时项，对应 ADD、UPDATE、DELETE、MERGE、NOOP 动作。

• 技能提取（skill）：从历史交互中提取可复用技能，对应 EMIT_SKILL 动作。

• 画像提取（profile）：沉淀结构化用户画像，对应 EMIT_PROFILE 动作。

整理支持两种模式：proposal 模式生成提案，由人工或程序确认后应用；safe_auto 模式在达到置信度阈值时自动应用。

异步任务与可观测性

记忆写入与记忆整理均为异步任务，服务提供配套的查询能力：

• GetMemoryTask 与 ListMemoryTasks：查询记忆抽取任务的状态与产出。

• GetMemoryDreamTask、ListMemoryDreamTasks 与 ListMemoryDreamActions：查询记忆整理任务与动作。

• ListMemoryStoreScopes：列出记忆库中已存在的 Scope，便于发现某应用或租户下有哪些 Agent 和会话产生过记忆。

• ListMemoryStoreRequests：请求审计日志查询。

Scope 多租户

Scope 用于表示记忆数据的归属和隔离边界。记忆服务使用 appId / tenantId / agentId / runId 四级 Scope。

Scope 的层级为：

appId > tenantId > agentId > runId

核心规则：

• 写入时，appId 必填，其他字段为空时补为 __default__。写入不允许使用通配符 *。

• 检索长期记忆时，appId 和 tenantId 必填，agentId 和 runId 可使用 * 实现跨 Agent 或跨会话检索。

• 查询短期记忆时，四个字段均为必填且不允许通配符。

检索示例：

• agentId=""、runId=""：检索该租户下所有 Agent、所有会话的记忆。

• agentId="sales_assistant"、runId="*"：检索该租户下指定 Agent 的所有会话记忆。

适用性评估

推荐使用的场景：

• 智能客服、销售助手、企业助手等对话型应用。

• 需要跨会话记住用户偏好、配置和历史选择的个人助理。

• 多 Agent 协作场景下的共享记忆管理。

• 需要保留原始会话记录并支持审计排查的 Agent 应用。

• 需要在大规模租户和大量记忆数据下保持稳定检索性能的生产系统。

需要评估的场景：

• 对记忆写入实时性要求极高的场景（记忆提取是异步过程，存在处理延迟）。

• 需要自定义记忆提取策略的场景（当前为系统自动提取）。

不推荐的场景：

• 纯结构化数据查询（建议使用表格存储宽表模型或关系型数据库）。

• 仅需简单的上下文窗口管理、不需要持久化记忆（可直接使用 LLM 的上下文窗口）。

性能评测结果

从检索准确率、检索延时和存储规模三个维度对表格存储记忆服务进行了评测，并与业界主流记忆方案 Mem0 进行了对比。

上述数据用于展示服务能力边界，实际效果会受到数据规模、查询方式、网络环境、模型配置和业务数据分布影响。以下是各维度的详细评测。