PolarDB Agent LakeBase提供高并发数据同步工具lakebase-client,支持在对象存储OSS、本地文件系统、LakeBase等存储之间进行批量数据迁移和增量同步。
适用范围
(可选)已完成LakeBase挂载。
确保与源端、目标端网络联通。
操作步骤
下载
lakebase-client工具。wget -O lakebase-client https://lakebase-client.oss-cn-beijing.aliyuncs.com/lakebase-client-latest chmod +x lakebase-client执行同步命令。
lakebase-client sync [OPTIONS] SRC DST示例:通过
lakebase://协议向LakeBase同步数据。lakebase-client sync /data/subdir/ "lakebase://META_URL/subdir/" --update --links --perms --dirs
参数说明
SRC/DST路径格式
类型 | 格式 | 示例 |
本地/LakeBase FUSE挂载点 |
|
|
LakeBase |
|
|
对象存储OSS |
|
|
路径末尾的/不可省略,否则语义不同。
OPTIONS参数
参数 | 说明 |
(默认)不填写 | 比较源端和目标端文件大小,不同才同步。 |
| 比较源端和目标端文件修改时间(mtime),源mtime大于目标mtime才同步。 |
| 无条件同步。 |
| 排除匹配指定PATTERN的路径,如 |
| 需与 |
| 跳过大于指定大小的文件,如 |
| 跳过小于指定大小的文件。 |
| 跳过修改时间超过指定时长的文件,如 |
| 跳过修改时间不足指定时长的文件。 |
| 跳过早于指定时间修改的文件,格式为 |
| 跳过晚于指定时间修改的文件,格式为 |
| 仅更新目标端已存在的文件,不创建新文件。 |
| 仅创建新文件,不更新目标端已存在的文件。 |
| 从指定文件中读取要同步的对象列表。 |
| 限制本次处理的对象数量上限,默认为 |
| 每个文件复制完立即进行字节级校验。 |
| 对所有文件进行字节级校验。 |
| 同步完成后重新查询源文件是否发生变化。 |
| 数据传输的并发线程数,默认为10。 |
| List操作的并发线程数,默认为1。 |
| 并发列表的目录深度,默认为1。 |
| 同步空目录。默认仅同步含文件的目录树。 |
| 直接复制符号链接本身。默认展开符号链接后同步实际内容。 |
| 空运行,不实际写入或删除,仅打印执行计划。 |
| 删除目标端中源端不存在的多余对象,使两端完全镜像。该操作不可逆,请先使用 |
| 同步文件的 |
| 打印Debug级别日志。 |
| 将指标推送到指定的 PushGateway 地址,如 |
| 指标推送间隔,单位为秒,默认为 10。 |
| 推送 PushGateway 的 Basic Auth 凭据,格式为 |
PATTERN规则
--exclude和--include参数支持以下通配符:
字符 | 含义 |
| 匹配单个路径段中的任意字符。例如 |
| 匹配任意字符(包括 |
| 匹配任意单个非 |
| 匹配一组字符,例如 |
| 不匹配一组字符,例如 |
| 转义通配字符。 |