全部产品
Search
文档中心

大数据开发治理平台 DataWorks:GetDIJob - 查看任务

更新时间:Dec 11, 2024

查看数据集成任务。

调试

您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。

授权信息

当前API暂无授权信息透出。

请求参数

名称类型必填描述示例值
DIJobIdlong

实例 ID。

11588
WithDetailsboolean

是否返回详细配置信息,详细配置信息包括 TransformationRules、TableMappings、JobSettings。默认返回。

true
ProjectIdlong

DataWorks 工作空间 ID。您可以通过 ListProjects 接口获取工作空间 ID。

10000

返回参数

名称类型描述示例值
object
RequestIdstring

请求的 ID。用于定位日志,排查问题。

C99E2BE6-9DEA-5C2E-8F51-1DDCFEADE490
PagingInfoobject

分页信息

Descriptionstring

描述。

description
DestinationDataSourceSettingsarray<object>

目的端数据源属性列表。

DestinationDataSourceSettingsobject

单个目的端数据源属性。

DataSourceNamestring

目的端数据源名称。

dw_mysql
DestinationDataSourceTypestring

目标端数据源类型,枚举值:Hologres。

Hologres
JobNamestring

任务名称。

imp_ods_dms_det_dealer_info_df
JobSettingsobject

运行时设置。

ChannelSettingsstring

通道相关任务设置,Json String 形式。

{"structInfo":"MANAGED","storageType":"TEXTFILE","writeMode":"APPEND","partitionColumns":[{"columnName":"pt","columnType":"STRING","comment":""}],"fieldDelimiter":""}
ColumnDataTypeSettingsarray<object>

列类型映射。

ColumnDataTypeSettingsobject

列类型映射。

DestinationDataTypestring

目标端类型。

text
SourceDataTypestring

源端类型。

bigint
CycleScheduleSettingsobject

周期调度设置。

CycleMigrationTypestring

需要周期调度的同步类型。取值范围:

  • Full:全量
  • OfflineIncremental:离线增量
Full
ScheduleParametersstring

调度参数。

bizdate=$bizdate
DdlHandlingSettingsarray<object>

DDL 类型处理数组,包含一系列需要处理的 DDL 类型以及对应规则。

DdlHandlingSettingsobject

单条 DDL 类型处理规则。

Actionstring

处理动作,可选的枚举值:

  • Ignore(忽略)
  • Critical(报错)
  • Normal(正常处理)
Ignore
Typestring

DDL 类型,可选的枚举值:

  • RenameColumn(重命名列)
  • ModifyColumn(重命名列)
  • CreateTable(重命名列)
  • TruncateTable(清空表)
  • DropTable(删除表)
CreateTable
RuntimeSettingsarray<object>

运行时设置。

RuntimeSettingsobject

运行时设置。

Namestring

设置名称,可选的枚举值:

  • runtime.offline.speed.limit.mb(离线批量任务限流大小,当 runtime.offline.speed.limit.enable=true 时有效)
  • runtime.offline.speed.limit.enable(离线批量任务是否开启限流)
  • dst.offline.connection.max(离线批量任务写端最大连接数)
  • runtime.offline.concurrent(离线批量同步任务并发度)
  • dst.realtime.connection.max(实时任务写端最大连接数)
  • runtime.enable.auto.create.schema(是否自动在目标端创建 schema)
  • src.offline.datasource.max.connection(离线批量任务源端最大连接数)
  • runtime.realtime.concurrent(实时任务并发度)
runtime.offline.concurrent
Valuestring

设置取值。

1
MigrationTypestring

同步类型,可选的枚举值有:

  • FullAndRealtimeIncremental(全量和实时增量)
  • RealtimeIncremental(实时增量)
  • Full(全量)
  • OfflineIncremental(离线增量)
  • FullAndOfflineIncremental(全量+离线增量)
FullAndRealtimeIncremental
ProjectIdlong

DataWorks 工作空间的 ID。您可以登录 DataWorks 控制台,进入工作空间配置页面获取工作空间 ID。

该参数用来确定本次 API 调用操作使用的 DataWorks 工作空间。

98330
ResourceSettingsobject

资源设置。

OfflineResourceSettingsobject

离线同步资源。

RequestedCudouble

离线同步任务使用的调度资源组 cu。

2.0
ResourceGroupIdentifierstring

离线同步使用的数据集成资源组标识。

S_res_group_7708_1667792816832
RealtimeResourceSettingsobject

实时同步资源。

RequestedCudouble

实时同步使用的数据集成资源组 cu

2.0
ResourceGroupIdentifierstring

实时任务使用的数据集成资源组标识。

S_res_group_235454102432001_1579085295030
ScheduleResourceSettingsobject

调度资源

RequestedCudouble

离线调度任务使用的数据集成资源组 cu

2.0
ResourceGroupIdentifierstring

离线调度任务使用的调度资源组标识

S_res_group_235454102432001_1718359176885
SourceDataSourceSettingsarray<object>

源端数据源设置数组列表。

SourceDataSourceSettingsobject

单个源端数据源设置。

DataSourceNamestring

数据源名称。

dw_mysql
DataSourcePropertiesobject

数据源属性。

Encodingstring

数据库编码。

UTF-8
Timezonestring

时区

GMT+8
SourceDataSourceTypestring

源端数据源类型,枚举值:MySQL。

Mysql
TableMappingsarray<object>

同步对象转换映射列表,列表中每个元素描述了一组源端同步对象选择规则列表和在该组同步对象上应用的同步对象转换规则列表。

TableMappingsobject

每条规则代表选择需要同步的一个表。

SourceObjectSelectionRulesarray<object>

每条规则可选择待同步源端对象的集合,多条规则组成选一个表。

SourceObjectSelectionRulesobject

每条规则可选择待同步源端对象的不同对象类型,如选择源端数据库、源端数据表。

Actionstring

选择动作,取值范围:Include/Exclude

Include
Expressionstring

表达式。

mysql_table_1
ExpressionTypestring

表达式类型,取值范围:Exact/Regex

Exact
ObjectTypestring

对象类型,可选的枚举值:

  • Table(表)
  • Database(数据库)
Table
TransformationRulesarray<object>

同步对象转换规则定义列表,列表中每个元素为一条转换规则定义。

TransformationRuleNamesobject

源端对象上应用的转换规则。

RuleNamestring

规则名称,当动作类型和动作作用的目标类型相同时,规则名称需保证唯一性。

rename_rule_1
RuleActionTypestring

动作类型,可选的枚举值:

  • DefinePrimaryKey(定义主键)
  • Rename(重命名)
  • AddColumn(增加列)
  • HandleDml(DML 处理)
AddColumn
RuleTargetTypestring

动作作用的目标类型,可选的枚举值:

  • Table(表)
  • Schema(schema)
Table
TransformationRulesarray<object>

同步对象转换规则定义列表,列表中每个元素为一条转换规则定义。

TransformationRulesobject

同步对象转换规则定义列表,列表中每个元素为一条转换规则定义。

RuleActionTypestring

动作类型,可选的枚举值:

  • DefinePrimaryKey(定义主键)
  • Rename(重命名)
  • AddColumn(增加列)
  • HandleDml(DML 处理)
  • DefineIncrementalCondition(定义增量条件)
  • DefineCycleScheduleSettings(定义周期调度设置)
  • DefineRuntimeSettings(定义高级配置参数)
  • DefinePartitionKey(定义分区列)
Rename
RuleExpressionstring

规则表达式,json string 格式。

重命名规则(Rename)示例: {"expression":"${srcDatasourceName}_${srcDatabaseName}_0922","variables":[{"variableName":"srcDatabaseName","variableRules":[{"from":"fromdb","to":"todb"}]}]}

  • expression:为重命名转换规则表达式,表达式内支持变量包括:${srcDatasourceName}(源端数据源名)、${srcDatabaseName}(源端库名)、${srcTableName}(源端表名)。
  • variables:为重命名转换规则表达式中各变量的生成规则,参数默认值为对应含义在源端的原始值,可按需定义一组字符串替换规则对原始值进行改写。variableName:变量名,不含${}。variableRules:变量生成规则组,按顺序串行执行替换,from 原始字符串;to 替换后字符串。

在目标端增加指定列并赋值规则(AddColumn)示例: {"columns":[{"columnName":"my_add_column","columnValueType":"Constant","columnValue":"123"}]}

  • 如不指定,默认规则为不加列不复制。
  • columnName:附加的列名称。
  • columnValueType:附加的列取值类型,包括 Constant(常量)、Variable(变量)。
  • columnValue:附加的列取值。当 columnValueType=Constant 时,value 为自定义常量,String 类型。当 columnValueType=Variable 时,value 为内置变量。内置变量可选值包括:EXECUTE_TIME(执行时间,Long 类型)、DB_NAME_SRC(源端数据库名称,String 类型)、DATASOURCE_NAME_SRC(源端数据源名称,String 类型)、TABLE_NAME_SRC(源端表名,String 类型)、DB_NAME_DEST(目标端数据库名称,String 类型)、DATASOURCE_NAME_DEST(目标端数据源名称,String 类型)、TABLE_NAME_DEST(目标端表名,String 类型)、DB_NAME_SRC_TRANSED(转换后的数据库名称,String 类型)。

指定目标端表的主键列列名(DefinePrimaryKey)示例: {"columns":["ukcolumn1","ukcolumn2"]}

  • 如不指定默认使用源端主键列。
  • 当目标端为已有表:数据集成系统不会修改目标端表结构,如果指定的主键列不在目标端的列集合中,任务启动会报错提示。
  • 当目标端为自动建表:数据集成系统会自动创建目标端表结构,表结构包含定义的主键列。当指定的主键列不在目标端的列集合中时,任务启动会报错提示。

DML 处理规则(HandleDml)示例: {"dmlPolicies":[{"dmlType":"Delete","dmlAction":"Filter","filterCondition":"id > 1"}]}

  • 如不指定,默认规则为 Insert、Update、Delete 均为 Normal
  • dmlType:DML 操作类型,Insert(插入)、Update(更新)、Delete(删除)
  • dmlAction:DML 处理策略,Normal(正常处理)、Ignore(忽略)、Filter(有条件的正常处理,当 dmlType=Update/Delete 时使用)、LogicalDelete(逻辑删除)
  • filterCondition:DML 过滤条件,当 dmlAction=Filter 时使用
{"expression":"${srcDatasoureName}_${srcDatabaseName}"}
RuleNamestring

规则名称,在一种动作类型+动作作用的目标类型下规则名称唯一。

rename_rule_1
RuleTargetTypestring

动作作用的目标类型,可选的枚举值;

  • Table(表)
  • Schema(schema)
Table
DIJobIdstring

任务 ID。

32601
JobStatusstring

任务状态。 同步状态,取值范围:

  • Finished:运行成功已结束
  • Failed:运行失败
  • Running:运行中
  • Initialized:初始化完成(未启动)
  • Stopping:停止中
  • Stop:停止
Running

示例

正常返回示例

JSON格式

{
  "RequestId": "C99E2BE6-9DEA-5C2E-8F51-1DDCFEADE490",
  "PagingInfo": {
    "Description": "description",
    "DestinationDataSourceSettings": [
      {
        "DataSourceName": "dw_mysql"
      }
    ],
    "DestinationDataSourceType": "Hologres",
    "JobName": "imp_ods_dms_det_dealer_info_df",
    "JobSettings": {
      "ChannelSettings": "{\"structInfo\":\"MANAGED\",\"storageType\":\"TEXTFILE\",\"writeMode\":\"APPEND\",\"partitionColumns\":[{\"columnName\":\"pt\",\"columnType\":\"STRING\",\"comment\":\"\"}],\"fieldDelimiter\":\"\"}",
      "ColumnDataTypeSettings": [
        {
          "DestinationDataType": "text",
          "SourceDataType": "bigint"
        }
      ],
      "CycleScheduleSettings": {
        "CycleMigrationType": "Full",
        "ScheduleParameters": "bizdate=$bizdate\n"
      },
      "DdlHandlingSettings": [
        {
          "Action": "Ignore",
          "Type": "CreateTable"
        }
      ],
      "RuntimeSettings": [
        {
          "Name": "runtime.offline.concurrent\n",
          "Value": "1"
        }
      ]
    },
    "MigrationType": "FullAndRealtimeIncremental",
    "ProjectId": 98330,
    "ResourceSettings": {
      "OfflineResourceSettings": {
        "RequestedCu": 2,
        "ResourceGroupIdentifier": "S_res_group_7708_1667792816832"
      },
      "RealtimeResourceSettings": {
        "RequestedCu": 2,
        "ResourceGroupIdentifier": "S_res_group_235454102432001_1579085295030"
      },
      "ScheduleResourceSettings": {
        "RequestedCu": 2,
        "ResourceGroupIdentifier": "S_res_group_235454102432001_1718359176885"
      }
    },
    "SourceDataSourceSettings": [
      {
        "DataSourceName": "dw_mysql",
        "DataSourceProperties": {
          "Encoding": "UTF-8\n",
          "Timezone": "GMT+8\n"
        }
      }
    ],
    "SourceDataSourceType": "Mysql",
    "TableMappings": [
      {
        "SourceObjectSelectionRules": [
          {
            "Action": "Include",
            "Expression": "mysql_table_1",
            "ExpressionType": "Exact",
            "ObjectType": "Table"
          }
        ],
        "TransformationRules": [
          {
            "RuleName": "rename_rule_1",
            "RuleActionType": "AddColumn",
            "RuleTargetType": "Table"
          }
        ]
      }
    ],
    "TransformationRules": [
      {
        "RuleActionType": "Rename",
        "RuleExpression": "{\"expression\":\"${srcDatasoureName}_${srcDatabaseName}\"}",
        "RuleName": "rename_rule_1",
        "RuleTargetType": "Table"
      }
    ],
    "DIJobId": "32601",
    "JobStatus": "Running"
  }
}

错误码

访问错误中心查看更多错误码。

变更历史

变更时间变更内容概要操作
2024-10-15API 内部配置变更,不影响调用查看变更详情
2024-10-15OpenAPI 返回结构发生变更查看变更详情
2024-10-14OpenAPI 入参发生变更查看变更详情