BigQuery数据源

支持的版本及地域

• BigQuery使用的SDK版本是google-cloud-bigquery 2.29.0，SDK能力具体请参见官网文档。

• 支持创建BigQuery数据源的地域如下：

  中国香港、日本（东京）、新加坡、澳大利亚（悉尼）、马来西亚（吉隆坡）、印度尼西亚（雅加达）、印度（孟买）、德国（法兰克福）、英国（伦敦）、美国（硅谷）、美国（弗吉尼亚）

支持的字段类型

BigQuery的字段类型请参见BigQuery的官方文档。下面为您列出当前主要字段的支持情况。

数据同步前准备：配置BigQuery的网络连接

在DataWorks上进行数据同步前，您需要将BigQuery的网络与数据集成的独享资源组打通，使之通过内网地址进行访问。网络打通的具体方法可参考：配置资源组与网络连通。

数据同步任务开发

BigQuery数据同步任务的配置入口和通用配置流程指导可参见下文的配置指导，详细的配置参数解释可在配置界面查看对应参数的文案提示。

创建数据源

在进行数据同步任务开发时，您需要在DataWorks上创建一个对应的数据源，操作流程请参见创建并管理数据源。

以下对BigQuery数据源的几个配置项进行说明：

• BigQuery Project ID：Google BigQuery的项目名。

• BigQuery授权认证信息：上传Google Cloud的认证文件。

单表离线同步任务配置指导

• 操作流程请参见通过向导模式配置离线同步任务、通过脚本模式配置离线同步任务。

• 脚本模式配置的全量参数和脚本Demo请参见下文的附录：脚本Demo与参数说明。

附录：脚本Demo与参数说明

离线任务脚本配置方式

如果您配置离线任务时使用脚本模式的方式进行配置，您需要在任务脚本中按照脚本的统一格式要求编写脚本中的参数，脚本模式的统一要求请参见通过脚本模式配置离线同步任务，以下为您介绍脚本模式下的数据源的Reader参数的指导详情。

BigQuery Reader脚本Demo

{
  "stepType": "bigquery"
  "parameter":
  {
    "datasource":"bq_test1",
    "table": "partition_1107",
    "where": "xxx=3",
    "dataSet": "database_0724",
    "partition": [
      "_PARTITIONTIME='2023-11-07'"
     ],
    "column":
    [
      "id",
      "table_id",
      "table_no",
      "table_name",
      "table_status"
    ]
  },
  "name": "Reader",
  "category": "reader"
}

BigQuery Reader脚本参数