Tokenless 是 ANOLISA 的 Token 优化组件,旨在不侵入业务逻辑的前提下,通过自动压缩工具定义与模型响应内容,显著降低 LLM 推理成本,并支持 cosh 与 OpenClaw 等主流 Agent 场景。本文介绍如何安装配置使用Tokenless组件。
如何使用Tokenless
产品简介
tokenless 是 ANOLISA 的 Token 节省工具包,通过 Schema 压缩、响应压缩、TOON 编码、命令重写和工具就绪检查五条互补策略,在工具定义、API 返回和命令输出进入 LLM 上下文窗口之前削减冗余,从而降低 Agent 运行时的 Token 消耗和重试成本。
核心能力
Tokenless 主要包含以下能力:
能力 | 说明 |
上下文压缩 | 精简 Function Calling工具定义、过滤 CLI 命令响应中的干扰信息、紧凑编码压缩结构化数据 |
统计追踪 | 自动记录压缩前后对比,按类型汇总节省量 |
透明集成 | 通过插件和 Hook 自动介入,对 Agent 框架零侵入 |
使用范围
本工具适用于以下 8个 Agent 框架(工具就绪检查当前默认关闭):
Agent 框架 | 集成方式 | 压缩策略 |
cosh(Copilot Shell) | 默认集成,无需额外安装 | 命令重写 + 响应压缩 + TOON + Schema 压缩 |
OpenClaw | 插件 | 命令重写 + 响应压缩 + Schema 压缩 |
Hermes Agent | 插件 | 命令重写 + 响应压缩 + TOON |
Qoder CLI | 插件 | 命令重写 + 响应压缩 |
Claude Code | 插件 | 命令重写 + 响应压缩 + TOON |
Codex | 插件 | 命令重写 + 响应压缩 + TOON |
Qwen Code | Extension 插件 | 命令重写 + 响应压缩 + Schema 压缩 |
OpenCode | 插件 | 命令重写 + 响应压缩 + Schema 压缩 |
安装方式
支持 RPM 包安装(推荐用于 Alinux 4)与源码一键安装两种方式。
RPM 包安装(推荐):
# 使用 dnf 安装(自动解决依赖)
sudo dnf install tokenlessRPM 安装到系统级 FHS 路径:
二进制:/usr/bin/tokenless
辅助工具:/usr/libexec/anolisa/tokenless/{rtk,toon}
适配器资源:/usr/share/anolisa/adapters/tokenless/
cosh 扩展:/usr/share/anolisa/extensions/tokenless/
源码一键安装:
git clone --recursive https://github.com/alibaba/anolisa.git
cd src/tokenless
make setup
# 构建依赖:Rust ≥ 1.91、just、Git、nodejs+npm(编译 OpenClaw TS 插件)。
# 运行时依赖:python3、jq、bash。配置与集成
RPM 安装后,各 Agent 的适配器资源位于 /usr/share/anolisa/adapters/tokenless/,每个子目录下包含 scripts/install.sh 用于完成对应框架的集成注册。
Cosh(Copilot Shell) 集成
无需手动操作。RPM 安装后 cosh extension 已部署就位,cosh 启动时自动发现。如需手动管理。
OpenClaw 集成
运行 install.sh 脚本自动完成 openclaw 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/openclaw/scripts/install.sh
# 安装后重启 OpenClaw gateway:
openclaw gateway restart
# 使用 openclaw 命令查看 tokenless 插件安装状态
openclaw plugins list |grep tokenlessHermes Agent 集成
运行 install.sh 脚本自动完成 hermes 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/hermes/scripts/install.sh
# 使用 hermes 命令查看 tokenless 插件安装状态
hermes plugins list |grep tokenlessQoder CLI 集成
运行 install.sh 脚本自动完成 qoder cli 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/qoder/scripts/install.sh
# 使用 qoder 命令查看 tokenless 插件安装状态
qoder plugins list |grep tokenlessClaude Code 集成
运行 install.sh 脚本自动完成 claude code 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/claude-code/scripts/install.sh
# 使用 claude 命令查看 tokenless 插件安装状态
claude plugins listCodex 集成
运行 install.sh 脚本自动完成 codex 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/codex/scripts/install.sh
# 使用 codex 命令查看 tokenless 插件安装状态
codex plugin list |grep tokenlessQwen Code 集成
运行 install.sh 脚本自动完成 qwen 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/qwencode/scripts/install.sh
# 使用 qwen 命令查看 tokenless 插件安装状态
qwen extensions listOpenCode 集成
运行 install.sh 脚本自动完成 qwen 插件集成:
sudo bash /usr/share/anolisa/adapters/tokenless/opencode/scripts/install.sh
# OpenCode当前没有可用命令查看plugin,因此可以直接查看配置文件
opencode debug configTool ready 工具就绪(默认关闭)
tokenless env-check --tool Shell # 检查单个工具
tokenless env-check --all # 检查全部
tokenless env-check --all --fix # 自动修复
tokenless env-check --all --json # 机器可读 JSON压缩效果统计
stats命令查询
可通过 tokenless stats 命令查看tokenless压缩统计效果:
tokenless stats summary # 汇总(按操作类型分组)
tokenless stats summary --json # JSON 格式
tokenless stats list # 最近 20 条记录
tokenless stats list -l 50 # 最近 50 条
tokenless stats show 42 # 查看第 42 条记录的压缩前后文本
tokenless stats clear --yes # 清空统计
tokenless stats status # 查看 stats/SLS 开关状态及来源
tokenless stats enable # 启用统计记录
tokenless stats disable # 禁用统计记录双跑对比(tokenless stats summary --compare)
通过 dry-run 模式对比同一任务在压缩开启/关闭下的真实 Token 消耗:
# 跑 1:dry-run 基线(不压缩)
TOKENLESS_COMPRESSION_ENABLED=0 <跑同一任务> # 记录 session ID
# 跑 2:真实压缩
TOKENLESS_COMPRESSION_ENABLED=1 <跑同一任务> # 记录 session ID
# 对照
tokenless stats summary --compare <session-A> <session-B>
tokenless stats summary --compare <session-A> <session-B> --json对比效果:
输出示例:
Tokenless Comparison Report
============================================================
operation baseline tokenless saved saved%
--------------------------------------------------------------------
compress-response 4500 1200 3300 73.3%
compress-schema 1200 500 700 58.3%
--------------------------------------------------------------------
TOTAL 5700 1700 4000 70.2%AgentSight 集成
AgentSight 已经接入 Tokenless 压缩统计数据库,可通过 AgentSight 的 Dashboard 查看压缩效果,详情可参看《如何使用AgentSight》。