请求录制与回放功能支持录制一段时间内的真实请求，并按照指定倍率进行回放，用于在服务发布、配置变更或性能优化后验证线上服务表现。
功能概述
请求录制与回放适用于以下场景：
服务发布后验证：录制发布前的线上流量，发布后回放对比性能指标。
配置变更回归：修改调度策略、限流规则等配置后，回放真实流量验证配置效果。
性能优化对比评测：优化推理引擎或模型后，回放相同流量对比优化前后的性能差异。
核心流程分为三步：录制 → 回放 → 观测。
录制与回放数据均存储在服务所在节点的本地临时磁盘上，服务重启后所有数据将被清除。请及时备份重要数据，并注意磁盘占用，磁盘接近用满时将不允许发起录制。
录制
在线录制
在TokenWorks左侧导航栏，单击请求回放。
单击开始录制，配置以下参数：
名称（可选）：录制任务的名称，如 production-baseline-2026-07。
备注（可选）：录制任务的备注信息，如 v2.3 发布前测试。
最长录制时长（秒，0=不限）：录制的最大持续时间，默认 300 秒。
最大请求数（0=不限）：录制的最大请求数量，默认 0（不限）。
达到时长或请求数上限时自动停止录制。
单击开始，启动录制。
导入录制
支持上传已有的录制数据文件。在录制页签右上角单击上传录制按钮，选择本地录制文件上传。
回放
在请求回放页面，单击发起回放，配置以下参数：
录制（必填）：从下拉列表中选择已录制的任务。
名称（可选）：本次回放任务的名称。
备注（可选）：本次回放的备注信息。
倍速（必填）：通过滑块调节回放速度，范围 0.1x ~ 2x，默认 1.0x（原始速度）。0.1x 表示减速到原始速度的十分之一，2x 表示加速到原始速度的两倍。
回放完成后，可在回放列表查看任务状态和结果。
分析对比
回放完成后，可在回放列表中单击对比，进入录制与回放的分析对比页面。对比页面左右并列展示录制和回放的完整性能指标，帮助您判断服务变更前后性能是否一致。
对比目的
通过对比录制（变更前）和回放（变更后）的性能指标，验证服务变更是否引入性能退化：
指标相近：变更未对性能产生明显影响，可放心上线。
指标差异明显：需要排查变更内容，定位性能退化原因。
关键指标说明
指标 | 说明 |
TTFT（首 Token 延迟） | 从用户发出请求到收到第一个 Token 的时间，反映模型的响应速度。值越小，用户感知等待越短。 |
E2E（端到端延迟） | 完整请求的总耗时，从发送请求到收到完整响应。包含 TTFT 和所有 Token 的生成时间。 |
TPOT（每 Token 处理时间） | 生成每个 Token 的平均时间，反映模型的生成速度。值越小，文本生成越快。 |
ITL（插值延迟） | 相邻 Token 之间的间隔时间，与 TPOT 类似，用于衡量生成流畅度。 |
命中率 | KV Cache 的缓存命中比例。实际命中率越高，说明缓存复用效果越好，推理效率越高。 |
Token 吞吐 | 单位时间内处理的 Token 数量（Token/s），反映系统的整体处理能力。 |
状态码分布 | 请求的 HTTP 状态码分布（如 200、500 等），用于判断请求成功率。 |