|
名称 |
类型 |
描述 |
示例值 |
|---|---|---|---|
|
object |
S3 导入配置 |
||
| awsRegion |
string |
s3 region |
ap-northeast-1 |
| awsAccessKey |
string |
aws access key |
AKIxxxxxxxxxxYJE |
| awsAccessKeySecret |
string |
aws access key secret |
123xxxxxxxxxxfjf |
| bucket |
string |
s3 bucket |
s3bucket |
| compressionCodec |
string |
压缩类型：none,snappy,gzip |
none |
| encoding |
string |
编码类型 |
UTF-8 |
| format |
object |
格式 |
|
|
any |
格式 |
{"type": "line"} |
|
| interval |
string |
检查新文件周期 |
30m |
| pattern |
string |
文件路径正则过滤 |
.* |
| prefix |
string |
文件路径前缀过滤 |
prefix |
| awsUseSQS |
boolean |
使用 sqs |
false |
| awsSQSQueueUrl |
string |
sqs queue url |
https://sqs.ap-northeast-1.amazonaws.com/123456788/chifan |
| useAwsSQSOnly |
boolean |
仅使用 sqs 获取新文件 |
false |
| tagPackId |
boolean |
支持上下文浏览 |
false |
| startTime |
integer |
某个时间点后修改过的文件 |
1714274081 |
| endTime |
integer |
某个时间点前修改过的文件 |
1714360481 |
| timeField |
string |
提取时间字段 |
__time__ |
| timeFormat |
string |
时间字段格式 |
yyyy-MM-dd HH:mm:ss |
| timePattern |
string |
提取时间正则 |
[0-9]{0,2}\/[0-9a-zA-Z]+\/[0-9:,]+ |
| timeZone |
string |
时间字段分区 |
GMT+08:00 |
| processorId |
string |
写入处理器 ID |
ingest-processor-1756802123-953901 |
| endpoint |
string |
s3 endpoint |
s3.us-east-1.amazonaws.com |
该文章对您有帮助吗？