量化算法

RaBitQ

RaBitQ 先将数据向量中心化，再使用快速 Walsh-Hadamard 变换（FWHT）结合随机符号翻转实现随机正交旋转，随后按指定的位宽量化每个维度。随机正交旋转使向量信息更均匀地分布在各维度中，因此在相同压缩率下，RaBitQ 的量化误差分布更稳定，通常能获得比同尺寸标量量化更高的召回率。

RaBitQ 支持 1-bit、4-bit 和 8-bit 三种位宽，通过索引参数 quantization_nbits 指定，默认值为 1。

• 1-bit：每维仅存储符号位，压缩率为 32 倍，编码最紧凑；量化误差较大，建议配合重排使用。

• 4-bit：压缩率为 8 倍，是压缩率与检索精度之间的折中选择。

• 8-bit：压缩率为 4 倍，编码尺寸与 SQ8 相同；在相同压缩率下，召回率通常优于 SQ8。

• 最大支持维度：1-bit 和 4-bit 为 16,000；8-bit 为 8,000。

• 限制：向量维度必须是 8 的整数倍，例如 128、256、512 或 1024，以满足字节对齐的二进制编码要求。

• 注意：quantization_nbits 是索引的物理格式参数。创建索引后，如需修改该参数，必须重建索引（REINDEX）。

-- 1-bit（默认）
CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=rabitq, train_samples=5000);

-- 4-bit
CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=rabitq, quantization_nbits=4, train_samples=5000);

-- 8-bit
CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=rabitq, quantization_nbits=8, train_samples=5000);

SQ4和SQ8

SQ 量化算法将向量的每个维度压缩为 4 bit 或 8 bit 存储，压缩率分别为 8 倍和 4 倍。

• SQ8：最大支持 8,000 维。

• SQ4：最大支持 16,000 维。

CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=sq4, train_samples=5000);
CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=sq8, train_samples=5000);

PQ

PQ 量化算法将原始向量分割为 pq_m 个子向量，对每组子向量独立完成 K-means 聚类并学习各自的码本（codebook）。每个子向量固定使用 1 字节存储。例如，对于 1024 维全精度向量，pq_m = 128 表示压缩率为 8 倍。pq_m 参数决定压缩率和精度之间的平衡：pq_m 越小，压缩率越高，但精度损失越大。

• 最大支持维度：16,000。

• 限制：向量维度必须是 pq_m 的整数倍，且大于 pq_m。

CREATE INDEX ON vecs USING hnsw(embedding vector_cosine_ops) WITH (m=16, ef_construction=256, quantization=pq, pq_m=128, train_samples=5000);

低精度量化需要重排对齐精度

量化位宽越低，编码携带的信息越少，基于编码估算的距离与真实距离的偏差越大，直接检索的召回率下降也越明显。

• RaBitQ 1-bit 和 4-bit、SQ4，以及 pq_m 较小的 PQ 等低精度量化，必须开启重排，才能将召回率对齐到接近全精度索引的水平。

• RaBitQ 8-bit 和 SQ8 等高精度量化的误差较小，默认即可达到较高召回率；是否开启重排取决于业务的召回目标，可关闭重排以换取性能，也可仅使用较小的 k_factor。

重排对性能的影响

重排时，每次查询需要回表读取 hnsw.rerank_k_factor × hnsw.ef_search 个候选的全精度向量，并重新计算精确距离。这会引入额外的堆表随机 I/O 和 CPU 开销，查询延迟随 k_factor 增大而上升。量化算法已大幅优化向量索引检索过程，即使开启重排仍可获得较好性能；但容量规划时应将这部分开销计入评估。

• 低精度量化场景：开启重排，从 k_factor = 2.0 开始，并根据实测召回率和延迟权衡调整。

• 高精度量化场景（RaBitQ 8-bit 和 SQ8）：默认关闭重排；确需更高召回率时再开启，并使用较小的 k_factor。

• 避免同时使用过大的 ef_search 和 k_factor，两者相乘决定回表候选数量。

参数设置

SET hnsw.enable_rerank = on;
SET hnsw.rerank_k_factor = 2.0;