如何使用Tokenless

更新时间:
复制 MD 格式

Tokenless 是 ANOLISA 的 Token 优化组件,旨在不侵入业务逻辑的前提下,通过自动压缩工具定义与模型响应内容,显著降低 LLM 推理成本,并支持 cosh 与 OpenClaw 等主流 Agent 场景。本文介绍如何安装配置使用Tokenless组件。

如何使用Tokenless

产品简介

tokenless 是 ANOLISA 的 Token 节省工具包,通过 Schema 压缩、响应压缩、TOON 编码、命令重写和工具就绪检查五条互补策略,在工具定义、API 返回和命令输出进入 LLM 上下文窗口之前削减冗余,从而降低 Agent 运行时的 Token 消耗和重试成本。

核心能力

Tokenless 主要包含以下能力:

能力

说明

上下文压缩

精简 Function Calling工具定义、过滤 CLI 命令响应中的干扰信息、紧凑编码压缩结构化数据

统计追踪

自动记录压缩前后对比,按类型汇总节省量

透明集成

通过插件和 Hook 自动介入,对 Agent 框架零侵入


使用范围

本工具适用于以下 8个 Agent 框架(工具就绪检查当前默认关闭):

Agent 框架

集成方式

压缩策略

cosh(Copilot Shell)

默认集成,无需额外安装

命令重写 + 响应压缩 + TOON + Schema 压缩

OpenClaw

插件

命令重写 + 响应压缩 + Schema 压缩

Hermes Agent

插件

命令重写 + 响应压缩 + TOON

Qoder CLI

插件

命令重写 + 响应压缩

Claude Code

插件

命令重写 + 响应压缩 + TOON

Codex

插件

命令重写 + 响应压缩 + TOON

Qwen Code

Extension 插件

命令重写 + 响应压缩 + Schema 压缩

OpenCode

插件

命令重写 + 响应压缩 + Schema 压缩

安装方式

支持 RPM 包安装(推荐用于 Alinux 4)与源码一键安装两种方式。

RPM 包安装(推荐)

# 使用 dnf 安装(自动解决依赖)
sudo dnf install tokenless

RPM 安装到系统级 FHS 路径:

  • 二进制:/usr/bin/tokenless

  • 辅助工具:/usr/libexec/anolisa/tokenless/{rtk,toon}

  • 适配器资源:/usr/share/anolisa/adapters/tokenless/

  • cosh 扩展:/usr/share/anolisa/extensions/tokenless/

源码一键安装

git clone --recursive https://github.com/alibaba/anolisa.git
cd src/tokenless
make setup
# 构建依赖:Rust ≥ 1.91、just、Git、nodejs+npm(编译 OpenClaw TS 插件)。
# 运行时依赖:python3、jq、bash。

配置与集成

RPM 安装后,各 Agent 的适配器资源位于 /usr/share/anolisa/adapters/tokenless/,每个子目录下包含 scripts/install.sh 用于完成对应框架的集成注册。

Cosh(Copilot Shell) 集成

无需手动操作。RPM 安装后 cosh extension 已部署就位,cosh 启动时自动发现。如需手动管理。

OpenClaw 集成

运行 install.sh 脚本自动完成 openclaw 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/openclaw/scripts/install.sh
# 安装后重启 OpenClaw gateway:
openclaw gateway restart
# 使用 openclaw 命令查看 tokenless 插件安装状态
openclaw plugins list |grep tokenless

Hermes Agent 集成

运行 install.sh 脚本自动完成 hermes 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/hermes/scripts/install.sh
# 使用 hermes 命令查看 tokenless 插件安装状态
hermes plugins list |grep tokenless

Qoder CLI 集成

运行 install.sh 脚本自动完成 qoder cli 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/qoder/scripts/install.sh
# 使用 qoder 命令查看 tokenless 插件安装状态
qoder plugins list |grep tokenless

Claude Code 集成

运行 install.sh 脚本自动完成 claude code 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/claude-code/scripts/install.sh
# 使用 claude 命令查看 tokenless 插件安装状态
claude plugins list

Codex 集成

运行 install.sh 脚本自动完成 codex 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/codex/scripts/install.sh
# 使用 codex 命令查看 tokenless 插件安装状态
codex plugin list |grep tokenless

Qwen Code 集成

运行 install.sh 脚本自动完成 qwen 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/qwencode/scripts/install.sh
# 使用 qwen 命令查看 tokenless 插件安装状态
qwen extensions list

OpenCode 集成

运行 install.sh 脚本自动完成 qwen 插件集成:

sudo bash /usr/share/anolisa/adapters/tokenless/opencode/scripts/install.sh
# OpenCode当前没有可用命令查看plugin,因此可以直接查看配置文件
opencode debug config

Tool ready 工具就绪(默认关闭)

  tokenless env-check --tool Shell      # 检查单个工具
  tokenless env-check --all             # 检查全部
  tokenless env-check --all --fix       # 自动修复
  tokenless env-check --all --json      # 机器可读 JSON

压缩效果统计

stats命令查询

可通过 tokenless stats 命令查看tokenless压缩统计效果:

  tokenless stats summary                # 汇总(按操作类型分组)
  tokenless stats summary --json         # JSON 格式
  tokenless stats list                   # 最近 20 条记录
  tokenless stats list -l 50             # 最近 50 条
  tokenless stats show 42                # 查看第 42 条记录的压缩前后文本
  tokenless stats clear --yes            # 清空统计
  tokenless stats status                 # 查看 stats/SLS 开关状态及来源
  tokenless stats enable                 # 启用统计记录
  tokenless stats disable                # 禁用统计记录

双跑对比(tokenless stats summary --compare)

通过 dry-run 模式对比同一任务在压缩开启/关闭下的真实 Token 消耗:

  # 跑 1:dry-run 基线(不压缩)
  TOKENLESS_COMPRESSION_ENABLED=0 <跑同一任务>  # 记录 session ID

  # 跑 2:真实压缩
  TOKENLESS_COMPRESSION_ENABLED=1 <跑同一任务>  # 记录 session ID

  # 对照
  tokenless stats summary --compare <session-A> <session-B>
  tokenless stats summary --compare <session-A> <session-B> --json

对比效果:

  输出示例:

  Tokenless Comparison Report
  ============================================================
  operation                 baseline     tokenless     saved     saved%
  --------------------------------------------------------------------
  compress-response              4500          1200       3300       73.3%
  compress-schema                1200           500        700       58.3%
  --------------------------------------------------------------------
  TOTAL                          5700          1700       4000       70.2%

AgentSight 集成

AgentSight 已经接入 Tokenless 压缩统计数据库,可通过 AgentSight 的 Dashboard 查看压缩效果,详情可参看《如何使用AgentSight》。