借助阿里云在亚洲加速迈向成功
一站式安全合规咨询服务
MLPS 2.0 一站式合规解决方案
依托我们的网络进军中国市场
提升面向互联网应用的性能和安全性
保障您的中国业务安全无忧
通过强大的数据安全框架保护您的数据资产
申请 ICP 备案的流程解读和咨询服务
面向大数据建设、管理及应用的全域解决方案
企业内大数据建设、管理和应用的一站式解决方案
将您的采购和销售置于同一企业级全渠道数字平台上
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
快速搭建在线教育平台
提供域名注册、分析和保护服务
云原生 Kubernetes 容器化应用运行环境
以 Kubernetes 为使用界面的容器服务产品,提供符合容器规范的算力资源
安全的镜像托管服务,支持全生命周期管理
多集群环境下微服务应用流量统一管理
提供任意基础设施上容器集群的统一管控,助您轻松管控分布式云场景
高弹性、高可靠的企业级无服务器 Kubernetes 容器产品
敏捷安全的 Serverless 容器运行服务
为虚拟机和容器提供高可靠性、高性能、低时延的块存储服务
一款海量、安全、低成本、高可靠的云存储服务
可靠、弹性、高性能、多共享的文件存储服务
全托管、可扩展的并行文件系统服务。
全托管的 NoSQL 结构化数据实时存储服务
可抵扣多种存储产品的容量包,兼具灵活性和长期成本优化
让您的应用跨不同可用区资源自动分配访问量
随时绑定和解绑 VPC ECS
云网络公网、跨域流量统一计费
高性价比,可抵扣按流量计费的流量费用
创建云上隔离的网络,在专有环境中运行资源
在 VPC 环境下构建公网流量的出入口
具备网络状态可视化、故障智能诊断能力的自助式网络运维服务。
安全便捷的云上服务专属连接
基于阿里云专有网络的私有 DNS 解析服务
保障在线业务不受大流量 DDoS 攻击影响
系统运维和安全审计管控平台
业务上云的第一个网络安全基础设施
集零信任内网访问、办公数据保护、终端管理等多功能于一体的办公安全管控平台
提供7X24小时安全运维平台
防御常见 Web 攻击,缓解 HTTP 泛洪攻击
实现全站 HTTPS,呈现可信的 WEB 访问
为云上应用提供符合行业标准和密码算法等级的数据加解密、签名验签和数据认证能力
一款发现、分类和保护敏感数据的安全服务
创建、控制和管理您的加密密钥
快速提高应用高可用能力服务
围绕应用和微服务的 PaaS 平台
兼容主流开源微服务生态的一站式平台
多集群环境下微服务应用流量统一管理
Super MySQL 和 PostgreSQL,高度兼容 Oracle 语法
全托管 MySQL、PostgreSQL、SQL Server、MariaDB
兼容 Redis® 的缓存和KV数据库
兼容Apache Cassandra、Apache HBase、Elasticsearch、OpenTSDB 等多种开源接口
文档型数据库,支持副本集和分片架构
100%兼容 Apache HBase 并深度扩展,稳定、易用、低成本的NoSQL数据库。
低成本、高可用、可弹性伸缩的在线时序数据库服务
专为搜索和分析而设计,成本效益达到开源的两倍,采用最新的企业级AI搜索和AI助手功能。
一款兼容PostgreSQL协议的实时交互式分析产品
一种快速、完全托管的 TB/PB 级数据仓库
基于 Flink 为大数据行业提供解决方案
基于Qwen和其他热门模型的一站式生成式AI平台,可构建了解您业务的智能应用程
一站式机器学习平台,满足数据挖掘分析需求
高性能向量检索服务,提供低代码API和高成本效益
帮助您的应用快速构建高质量的个性化推荐服务能力
提供定制化的高品质机器翻译服务
全面的AI计算平台,满足大模型训练等高性能AI计算的算力和性能需求
具备智能会话能力的会话机器人
基于机器学习的智能图像搜索产品
基于阿里云深度学习技术,为用户提供图像分割、视频分割、文字识别等离线SDK能力,支持Android、iOS不同的适用终端。
语音识别、语音合成服务以及自学习平台
一站式智能搜索业务开发平台
助力金融企业快速搭建超低时延、高质量、稳定的行情数据服务
帮助企业快速测算和分析企业的碳排放和产品碳足迹
企业工作流程自动化,全面提高效率
金融级云原生分布式架构的一站式高可用应用研发、运维平台
eKYC 数字远程在线解决方案
可智能检测、大数据驱动的综合性反洗钱 (AML) 解决方案
阿里云APM类监控产品
实时云监控服务,确保应用及服务器平稳运行
为系统运维人员管理云基础架构提供全方位服务的云上自动化运维平台
面向您的云资源的风险检测服务
提升分布式环境下的诊断效率
日志类数据一站式服务,无需开发就能部署
ECS 预留实例
让弹性计算产品的成本和灵活性达到最佳平衡的付费方式。云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势自带IP上云
自带公网 IP 地址上云全球网络互联
端到端的软件定义网络解决方案,可推动跨国企业的业务发展全球应用加速
提升面向互联网应用的性能和安全性全球互联网接入
将IDC网关迁移到云端云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势金融科技云数据库解决方案
利用专为金融科技而设的云原生数据库解决方案游戏行业云数据库解决方案
提供多种成熟架构,解决所有数据问题Oracle 数据库迁移
将 Oracle 数据库顺利迁移到云原生数据库数据库迁移
加速迁移您的数据到阿里云阿里云上的数据湖
实时存储、管理和分析各种规模和类型的数据数码信贷
利用大数据和 AI 降低信贷和黑灰产风险面向企业数据技术的大数据咨询服务
帮助企业实现数据现代化并规划其数字化未来人工智能对话服务
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人EasyDispatch 现场服务管理
为现场服务调度提供实时AI决策支持在线教育
快速搭建在线教育平台窄带高清 (HD) 转码
带宽成本降低高达 30%广电级大型赛事直播
为全球观众实时直播大型赛事,视频播放流畅不卡顿直播电商
快速轻松地搭建一站式直播购物平台用于供应链规划的Alibaba Dchain
构建和管理敏捷、智能且经济高效的供应链云胸牌
针对赛事运营的创新型凭证数字服务数字门店中的云 POS 解决方案
将所有操作整合到一个云 POS 系统中元宇宙
元宇宙是下一代互联网人工智能 (AI) 加速
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速DevOps
快速、安全地最大限度提高您的DevOps优势数据迁移解决方案
加速迁移您的数据到阿里云企业 IT 治理
在阿里云上构建高效可控的云环境基于日志管理的AIOps
登录到带有智能化日志管理解决方案的 AIOps 环境备份与存档
数据备份、数据存档和灾难恢复用阿里云金融服务加快创新
在云端开展业务,提升客户满意度
为全球资本市场提供安全、准确和数字化的客户体验
利用专为金融科技而设的云原生数据库解决方案
利用大数据和 AI 降低信贷和黑灰产风险
建立快速、安全的全球外汇交易平台
新零售时代下,实现传统零售业转型
利用云服务处理流量波动问题,扩展业务运营、降低成本
快速轻松地搭建一站式直播购物平台
面向大数据建设、管理及应用的全域解决方案
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
以数字化媒体旅程为当今的媒体市场准备就绪您的内容
带宽成本降低高达 30%
快速轻松地搭建一站式直播购物平台
为全球观众实时直播大型赛事,视频播放流畅不卡顿
使用阿里云弹性高性能计算 E-HPC 将本地渲染农场连接到云端
构建发现服务,帮助客户找到最合适的内容
保护您的媒体存档安全
通过统一的数据驱动平台提供一致的全生命周期客户服务
在钉钉上打造一个多功能的电信和数字生活平台
在线存储、共享和管理照片与文件
提供全渠道的无缝客户体验
面向中小型企业,为独立软件供应商提供可靠的IT服务
打造最快途径,助力您的新云业务扬帆起航
先进的SD-WAN平台,可实现WAN连接、实时优化并降低WAN成本
通过自动化和流程标准化实现快速事件响应
针对关键网络安全威胁提供集中可见性并进行智能安全分析
提供大容量、可靠且高度安全的企业文件传输
用智能技术数字化体育赛事
基于人工智能的低成本体育广播服务
专业的广播转码及信号分配管理服务
基于云的音视频内容引入、编辑和分发服务
在虚拟场馆中模拟关键运营任务
针对赛事运营的创新型凭证数字服务
智能和交互式赛事指南
轻松管理云端背包单元的绑定直播流
通过数据加强您的营销工作
元宇宙是下一代互联网
利用生成式 AI 加速创新,创造新的业务佳绩
阿里云高性能开源大模型
借助AI轻松解锁和提炼文档中的知识
通过AI驱动的语音转文本服务获取洞察
探索阿里云人工智能和数据智能的所有功能、新优惠和最新产品
该体验中心提供广泛的用例和产品帮助文档,助您开始使用阿里云 AI 产品和浏览您的业务数据。
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速
元宇宙是下一代互联网
构建发现服务,帮助客户找到最合适的内容
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
加速迁移您的数据到阿里云
在阿里云上建立一个安全且易扩容的环境,助力高效率且高成本效益的上云旅程
迁移到完全托管的云数据库
将 Oracle 数据库顺利迁移到云原生数据库
自带公网 IP 地址上云
利用阿里云强大的安全工具集,保障业务安全、应用程序安全、数据安全、基础设施安全和帐户安全
保护、备份和还原您的云端数据资产
MLPS 2.0 一站式合规解决方案
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
实现对 CloudOps、DevOps、SecOps、AIOps 和 FinOps 的高效、安全和透明的管理
构建您的原生云环境并高效管理集群
快速、安全地最大限度提高您的DevOps优势
实施细粒度安全控制
提供运维效率和总体系统安全性
实时分析您的云消耗并实现节约
实时存储、管理和分析各种规模和类型的数据
登录到带有智能化日志管理解决方案的 AIOps 环境
帮助企业实现数据现代化并规划其数字化未来
帮助零售商快速规划数字化之旅
将全球知名的 CRM 平台引入中国
在线存储、共享和管理照片与文件
构建、部署和管理高可用、高可靠、高弹性的应用程序
快速、安全地最大限度提高您的DevOps优势
将您的采购和销售置于同一企业级全渠道数字平台上
企业内大数据建设、管理和应用的一站式解决方案
帮助企业简化 IT 架构、实现商业价值、加速数字化转型的步伐
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
快速搜集、处理、分析联网设备产生的数据
0.0.201
本文介绍DataWorks的事件类型、消息格式、以及消息中各字段含义,本文档可帮助您快速获取和查询相应的事件列表以及消息格式的信息。
在DataWorks中,事件根据是否能在DataWorks内部形成卡点,以及是否能在被自建服务订阅后返回处理结果,被划分为普通事件和扩展点事件。
普通事件:用户可订阅此类事件消息,但不支持阻断DataWorks内部操作,您可以通过OpenEvent订阅此类事件消息,详情请参见开放事件(OpenEvent)。
扩展点事件:用户订阅这类事件消息后,您可以通过DataWorks开放平台的扩展程序功能自定义事件消息的响应。即当使用扩展程序(Extensions)对扩展点的操作进行管控时,DataWorks平台使用者在平台侧针对扩展点的操作将被中断,直至您自定义的扩展程序返回处理结果。
本列表按照模块将各模块支持的事件及该事件所属类型(普通事件或扩展点事件)进行划分,并列出EventBridge 事件类型(Type)以及扩展程序事件编码(eventCode)。
EventBridge 事件类型(Type):用于过滤事件消息的字段。具体详情请参见开启消息订阅。
扩展程序事件编码(eventCode):事件类型对应的事件编码,在本地开发时,该编码可从DataWorks发出的消息内容中获取,用来判断目标事件类型。
空间级模块生成的是事件为空间级事件,例如数据开发模块中对节点运行产生的事件消息、运维中心模块周期实例状态变更产生的事件消息等。您可通过下文事件列表了解各个模块支持的事件消息中,哪些为普通事件,哪些为扩展点事件,以及对应事件的发送的消息格式。
以下消息格式页签仅包含部分内容,发送给EventBridge或函数计算的完整消息,您需要结合附录:消息格式。
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型(Type) | 扩展程序事件编码(eventCode) |
节点相关 | 新增节点
|
|
| ||
更新节点
|
|
| |||
文件相关
| 删除文件 开发环境删除节点 说明 删除的文件将进入回收站。 |
|
| ||
提交文件 |
|
| |||
发布文件 |
|
| |||
运行代码 |
|
| |||
节点代码评审 |
|
| |||
表相关 | 表提交开发环境 |
|
| ||
表发布生产环境 |
|
|
节点新增、修改、删除事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"nodeName": "****",
"programType": "ODPS_SQL",
"cronExpress": "00 04 00 * * ?",
"blockBusiness": false,
"schedulerType": "NORMAL",
"ownerId": "19****735",
"priority": 1,
"baselineId": 70***287,
"operator": "19***735", //本次操作人
"eventCode": "node-change-created",
"repeatability": true,
"modifyTime": 17***864,
"createTime": 17***864,
"tenantId": 28***656,
"nodeId": 70***003,
"projectId": 9***4
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
nodeName | String | 节点名称。 |
programType | String | 文件的代码类型。可以调用ListFileType接口来查询文件的代码类型,或查阅支持的节点类型查看文件代码类型。 |
cronExpress | String | 周期调度的cron表达式。 该参数与DataWorks控制台中,数据开发任务的调度配置 > 时间属性 > cron表达式对应。 配置完调度周期及定时调度时间后,DataWorks会自动生成相应cron表达式。示例如下:
说明 cron表达式的限制如下:
|
schedulerType | String | 任务实例的调度类型,取值如下:
|
ownerId | String | 节点责任人的阿里云用户ID。如果该参数为空,则默认使用调用者的阿里云用户ID。 |
priority | Integer | 任务优先级,取值为1、3、5、7、8。数值越大,优先级越高。 |
baselineId | Long | 基线ID。 |
repeatability | Boolean | 节点是否可以重复运行:
|
modifyTime | Long | 节点最近一次的修改时间。 |
createTime | Long | 节点的创建时间。 |
nodeId | Long | 节点ID。 |
projectId | Long | 节点所在的项目空间ID。 |
tenantId | Long | 节点所属的租户ID。 |
operator | String | 新增、修改或删除节点的用户UID。 |
eventCode | String | 扩展程序事件编码。 |
文件提交、发布事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"fileName": "******",
"extensionBizId": "eb******9ce",
"changeType": "0",
"blockBusiness": false,
"dataSourceName": "0_******engine",
"operator": "19***735",
"eventCode": "commit-file",
"fileCreateTime": "2024-07-12 11:08:50",
"tenantId": 28***656,
"fileOwner": "19***735",
"fileVersion": 1,
"projectId": 9***4,
"fileType": 10,
"fileId": 50***830,
"resourceType": 1
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 提交或发布文件的用户UID。 |
projectId | Long | 文件所属项目空间的ID。 |
tenantId | Long | 租户ID。 |
nodeId | Long | 调度节点ID。 |
fileType | Long | 文件的代码类型。可以调用ListFileType接口来查询文件的代码类型,或查阅支持的节点类型查看文件代码类型。 |
fileName | String | 文件名称。 |
fileOwner | String | 文件所有者。 |
extensionBizId | String | 扩展程序卡点流程ID。 |
changeType | String | 文件的变更类型:
|
fileCreateTime | String | 文件的创建时间,格式为 |
fileId | Long | 文件ID。 |
fileVersion | Long | 文件版本。 |
dataSourceName | String | 数据源名称。 |
eventCode | String | 扩展程序事件编码。 |
文件删除、运行事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"fileName": "***",
"extensionBizId": "bf******6e3",
"blockBusiness": false,
"operator": "19***735",
"eventCode": "delete-file",
"fileCreateTime": "2024-07-12 11:08:50", //文件创建时间
"tenantId": 28***656,
"fileOwner": "19***735", //文件所有人
"nodeId": 70***003,
"projectId": 9***4,
"fileType": 10,
"fileId": 50***830,
"resourceType": 1
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 删除或运行文件的用户UID。 |
projectId | Long | 文件所属项目空间的ID。 |
tenantId | Long | 租户ID。 |
nodeId | Long | 调度节点ID。 |
fileType | Long | 文件的代码类型。可以调用ListFileType接口来查询文件的代码类型,或查阅支持的节点类型查看文件代码类型。 |
fileName | String | 文件名称。 |
fileOwner | String | 文件所有者。 |
extensionBizId | String | 扩展程序卡点流程ID。 |
fileCreateTime | String | 文件的创建时间,格式为 |
fileId | Long | 文件ID。 |
eventCode | String | 扩展程序事件编码。 |
代码评审的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data":{
"id":111,
"tenantId" : 租户Id,
"projectId" : 项目Id,
"status": "Reviewing",
"resourceName": "评审文件",
"resourceType": "评审类型",
"resourceId": "50***9789",
"submitTime": 1688697808000,
"lastReviewTime": 1688697808000,
"reviewUrl" : "评审链接",
"reviewer": "评审人",
"submitter": "提交人"
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
id | Long | 代码评审单ID。 |
tenantId | Long | 租户ID。 |
projectId | Long | 项目空间ID。 |
status | String | 代码评审单状态:
|
resourceName | String | 评审资源名称。 |
resourceType | String | 评审资源类型,取值如下:
|
resourceId | String | 评审资源ID。 |
submitTime | Long | 代码评审提交时间。 |
lastReviewTime | Long | 最近查看评审单的时间。 |
reviewUrl | String | 代码评审的详情地址。 |
reviewer | String | 代码评审的审批人。 |
submitter | String | 代码评审的提交人。 |
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"operator": "**************",
"projectId": 12*****56,
"tenantId": 12******56,
"extensionBizId": "123456",
"tableName":"table1",
"tableType":"ODPS",
"maxComputeProject":"project1"
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 提交或发布表的用户UID。 |
projectId | Long | 项目空间ID。 |
tenantId | Long | 租户ID。 |
extensionBizId | String | 扩展程序卡点流程ID。 |
tableName | String | 表名称。 |
tableType | String | 表类型,取值为ODPS。 |
maxComputeProject | String | 对应MaxCompute的项目名称。 |
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型 (Type) | 扩展程序事件类型(eventCode) |
节点变更 | 删除节点
|
|
| ||
下线节点 生产环境周期任务直接下线节点 说明 该操作会同步删除数据开发中的节点,并放入回收站。 |
|
| |||
冻结节点 |
|
| |||
解冻节点 |
|
| |||
节点补数据 | 节点补数据 |
|
| ||
任务状态变更 | 调度任务状态变更 |
|
| ||
实例运维 | 冻结实例 |
|
| ||
解冻实例 |
|
| |||
终止实例 |
|
| |||
重跑实例
|
|
| |||
置成功实例 |
|
| |||
移除实例指定上游依赖 |
|
| |||
工作流状态变更 | 工作流状态变更
|
|
| ||
监控告警 | 监控告警 |
|
|
节点删除事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"nodeName": "",
"programType": "ODPS_SQL",
"cronExpress": "00 20 00 * * ?",
"schedulerType": "NORMAL",
"ownerId": "1912232488744735",
"priority": 1,
"baselineId": 117801853,
"repeatability": true,
"modifyTime": 1646364549642,
"createTime": 1646364549642,
"datasource": "odps_source",
"tenantId": 28378****10656,
"nodeId": 100***150,
"projectId": 30**95,
"operator": "**************" //本次操作人
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
nodeName | String | 节点名称。 |
programType | String | 文件的代码类型。可以调用ListFileType接口来查询文件的代码类型,或查阅支持的节点类型查看文件代码类型。 |
cronExpress | String | 周期调度的cron表达式。 该参数与DataWorks控制台中,数据开发任务的调度配置 > 时间属性 > cron表达式对应。 配置完调度周期及定时调度时间后,DataWorks会自动生成相应cron表达式。示例如下:
说明 cron表达式的限制如下:
|
schedulerType | String | 任务实例的调度类型,取值如下:
|
ownerId | String | 节点责任人的阿里云用户ID。如果该参数为空,则默认使用调用者的阿里云用户ID。 |
priority | Integer | 任务优先级,取值为1、3、5、7、8。数值越大,优先级越高。 |
baselineId | Long | 基线ID。 |
repeatability | Boolean | 节点是否可以重复运行:
|
modifyTime | Long | 节点最近一次的修改时间。 |
createTime | Long | 节点的创建时间。 |
nodeId | Long | 节点ID。 |
projectId | Long | 节点所在的项目空间ID。 |
tenantId | Long | 节点所属的租户ID。 |
operator | String | 新增、修改或删除节点的用户UID。 |
节点冻结、解冻、下线事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"operator": "**************",
"projectId": 123456,
"tenantId": 123456,
"nodeIds":[1,2,3],
"extensionBizId": "123456"
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 冻结、解冻、下线节点的用户UID。 |
projectId | Long | 节点所在项目空间ID。 |
tenantId | Long | 租户ID。 |
nodeIds | Array | 被操作的节点ID列表。 |
extensionBizId | String | 扩展程序卡点流程ID 。 |
补数据操作事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"excludeNodeIds":[],
"rootNodeId": 10000838271,
"startFutureInstanceImmediately": false,
"useMultipleTimePeriods": true,
"operator": "1320876710332592",
"eventCode": "backfill-data",
"multipleTimePeriods": "[{\"bizBeginTime\":\"2022-04-17\",\"bizEndTime\":\"2022-04-17\"}]",
"parallelGroup": 1,
"rootNodeProjectId": 12*****8,
"isParallel": false,
"name": "P_fff_20220418_215404",
"tenantId": 16935*****3377,
"includeNodeIds":
[
10***271
],
"projectId": 12958,
"order": "asc",
"extensionBizId": "123456"
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
name | String | 补数据工作流的名称。 |
rootNodeId | Long | 补数据工作流根节点ID。 |
rootNodeProjectId | Long | 补数据工作流根节点所在的项目空间ID。 |
includeNodeIds | Array | 补数据的节点ID列表。 |
excludeNodeIds | Array | 无需补数据的节点ID列表。该列表中的节点会生成空跑实例,空跑实例被调度后直接运行成功,不会执行脚本内容。 |
bizBeginTime | String | 任务的开始时间。仅小时调度任务需要设置该参数,格式为 |
bizEndTime | String | 任务的结束时间。仅小时调度任务需要设置该参数,格式为 |
isParallel | Boolean | 补数据操作是否可以并行运行:
|
parallelGroup | Integer | 并行运行的分组数,1表示不分组。 |
startFutureInstanceImmediately | Boolean | 是否跳过调度时间,立即调度运行未来时间的实例:
|
order | String | 根据业务日期制定补数据运行的顺序:
|
multipleTimePeriods | String | 分段选取业务日期。示例, |
tenantId | Long | 租户ID。 |
projectId | Long | 补数据操作所在的项目ID。 |
operator | String | 执行补数据操作的用户。 |
extensionBizId | String | 扩展程序卡点流程ID。 |
eventCode | String | 扩展程序事件编码。 |
调度任务状态变更事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"beginWaitTimeTime": 1652700576000,
"dagId": 446555330,
"dagType": 0,
"eventCode": "instance-status-changes",
"taskType": 0,
"modifyTime": 1652700577000,
"createTime": 1652543233000,
"appId": 3*****2,
"tenantId": 235454***432001,
"opCode": 31,
"flowId": 1,
"nodeId": 1002698219,
"beginWaitResTime": 1652700577000,
"taskId": 4532688169,
"status": 3
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
finishTime | Long | 调度任务实例运行完成的具体时间。 |
beginWaitTimeTime | Long | 调度任务实例开始等待运行的具体时间。 |
beginRunningTime | Long | 调度任务实例开始运行的具体时间。 |
dagId | Long | 根据 |
dagType | Integer | Dag的类型,取值如下:
|
taskType | Integer | 任务实例的调度类型,取值如下:
|
modifyTime | Long | 任务实例最近一次的修改时间。 |
createTime | Long | 任务实例的创建时间。 |
appId | Long | 工作空间的ID。您可以调用ListProjects查看空间ID信息。 |
tenantId | Long | 调度任务实例所在工作空间的租户ID。 |
opCode | Integer | 调度任务实例的操作码。该字段可忽略。 |
flowId | Long | 业务流程的ID。
|
nodeId | Long | 调度任务实例对应的节点ID。 |
beginWaitResTime | Long | 调度任务实例开始等待资源的具体时间。 |
taskId | Long | 调度任务实例的ID。 |
status | Integer | 任务的状态,取值如下:
|
eventCode | String | 扩展程序事件编码。 |
实例操作事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"eventCode": "freeze-instance",
"operator": "182293110403****",
"projectId": 123488,
"projectType": "PROD",
"taskIds": [
523536569736
],
"tenantId": 280749521950784
}
}
字段说明如下
字段名称 | 字段类型 | 说明 |
operator | String | 操作实例(冻结、解冻、终止、重跑、置成功等操作)用户的UID。 |
projectType | String | 运行环境。
|
taskIds | List<Long> | 实例的ID集合。 |
projectId | Long | DataWorks项目空间ID。 |
tenantId | Long | 实例所在工作空间的租户ID。 |
eventCode | String | 扩展程序事件编码。 |
移除实例指定上游依赖的消息实体格式(即事件消息中data
字段的内容)示例如下:
{
"datacontenttype": "application/json;charset=utf-8",
"aliyunaccountid": "110******38",
"aliyunpublishtime": "2024-12-18T07:12:35.463Z",
"data": {
"eventCode": "delete-task-instance-dependencies",
"upstreamTaskInstanceIds": [
52******35,
52******98,
52******37
],
"appId": 3***03,
"tenantId": 52******36,
"blockBusiness": false,
"taskInstanceId": 52******49,
"operator": "11******38",
"operationTime": 1734505954897
},
"aliyunoriginalaccountid": "11******38",
"specversion": "1.0",
"aliyuneventbusname": "l***t",
"id": "d2a*******4f6",
"source": "acs.dataworks",
"time": "2024-12-18T15:12:35.399Z",
"aliyunregionid": "cn-shanghai",
"type": "dataworks:InstanceChange:DeleteTaskInstanceDependencies"
}
字段说明如下:
D
字段名称 | 字段类型 | 说明 |
taskInstanceId | Long | 下游实例ID。 |
upstreamTaskInstanceIds | List | 移除依赖关系的上游实例ID列表。 |
operator | String | 操作用户ID。 |
operationTime | Long | 操作时间。 |
工作流状态变更事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"bizDate": "2022-11-07 00:00:00",
"createTime": "2022-11-08 10:56:32",
"dagId": 500358972116,
"dagName": "P_test_spark_true_copy_20221108_105631",
"eventCode": "dag-status-changes",
"dagType": 3,
"flowId": 1,
"flowName": "ATCLOUD_FLOW",
"operator": "11****538",
"projectEnv": "PROD",
"projectId": 25***63,
"status": 6,
"tenantId": 52***736
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
bizDate | String | 工作流的业务日期。格式为 |
createTime | String | 工作流的创建时间。格式为 |
dagId | Long | DagId,根据DagId可获取Dag详情。 |
dagName | String | 工作流的名称。 |
dagType | Integer | Dag的类型,取值如下:
|
flowId | Integer | 工作流对应的业务流程ID。 |
flowName | String | 工作流对应的业务流程名称。 |
operator | String | 创建工作流的用户UID。 |
projectEnv | String | 工作流所属环境,取值如下:
|
tenantId | Long | 调度任务实例所在工作空间的租户ID。 |
projectId | Long | 工作空间ID。 |
status | Integer | 工作流中任务的状态,取值如下:
|
eventCode | String | 扩展程序事件编码。 |
基线告警的消息实体格式(即消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"eventCode": "workbench-monitor-alert",
"alarmType": "SLA_ALERT",
"baselineId": 137000723,
"baselineName": "ods层check任务专用 -- 小时级",
"baselineStatus": 3,
"bizDate": 1654444800000,
"inGroupId": 14,
"nodeId": 10000398734,
"projectId": 7634,
"taskId": 3072893778,
"tenantId": 260953503125729
}
}
字段说明如下表。
字段名称 | 字段类型 | 说明 |
alarmType | String | 告警类型。取值如下:
|
baselineId | Long | 基线ID。 |
baselineName | String | 基线名称。 |
baselineStatus | Integer | 基线的状态。取值如下:
|
bizDate | Long | 业务日期时间戳。 |
inGroupId | Integer | 基线实例的周期号。天基线为 |
nodeId | Long | 导致基线异常的节点ID。 |
projectId | Long | 基线所属项目空间ID。 |
taskId | Long | 导致基线异常的实例ID。 |
tenantId | Long | 租户ID。 |
eventCode | String | 扩展程序事件编码。 |
事件告警的消息实体格式(即消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"alarmType": "TOPIC_ALERT",
"nodeId": 10000316315,
"projectId": 9109,
"taskId": 3072750357,
"taskStatus": 5,
"tenantId": 280749521950784,
"topicId": 1084769
}
}
字段说明如下表。
字段名称 | 字段类型 | 说明 |
alarmType | String | 告警类型。取值如下:
|
topicId | Long | 事件的ID。 |
taskStatus | String | 触发事件的节点实例状态。 |
nodeId | Integer | 触发事件的节点ID。 |
projectId | Long | 触发事件的节点所属项目空间ID。 |
taskId | Long | 触发事件的节点实例ID。 |
tenantId | Long | 租户ID。 |
任务规则告警的消息实体格式(即消息中data
字段的内容)示例如下。
通常,规则对象为任务节点、基线、工作空间、业务流程等。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"alarmType": "REMIND_ALERT",
"nodeIds": "10000405472,10000405473,10000405474",
"projectId": 9876,
"remindId": 7605,
"remindName": "出错报警",
"remindType": "ERROR",
"remindUnit": "NODE",
"taskIds": "3072900896,3072900870,3072900855",
"tenantId": 259025816027648
}
}
字段说明如下表。
字段名称 | 字段类型 | 说明 |
alarmType | String | 告警类型。取值如下:
|
nodeIds | String | 触发规则告警的节点列表。 |
remindId | Long | 规则ID。 |
remindType | Stirng | 规则触发条件。取值如下:
|
projectId | Long | 触发规则的节点所属项目空间ID。 |
remindUnit | String | 触发规则的对象类型。取值如下:
|
tenantId | Long | 租户ID。 |
taskId | String | 触发规则告警的实例列表。 |
remindName | String | 规则名称。 |
资源组规则告警的消息实体格式(即消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"alarmType": "REMIND_ALERT",
"projectId": 2991,
"remindId": 200000186,
"remindName": "独享资源组告警",
"remindType": "RES_GROUP_THRESHOLD",
"remindUnit": "GATEWAY_RES",
"resourceGroupIdentifier": "S_res_group_195820716552192_1650965857744",
"resourceGroupName": "emr_exclusive_scheduld",
"resourceGroupType": "GATEWAY",
"tenantId": 195820716552192
}
}
字段说明如下表。
字段名称 | 字段类型 | 说明 |
alarmType | String | 告警类型。取值如下:
|
remindId | Long | 规则ID。 |
remindType | Stirng | 规则触发条件。取值如下:
|
projectId | Long | 触发规则的节点所属项目空间ID。 |
remindUnit | String | 触发规则的对象类型。取值如下:
|
tenantId | Long | 租户ID。 |
remindName | String | 规则名称。 |
resourceGroupIdentifier | String | 资源组的唯一标识符。 |
resourceGroupName | String | 资源组名称。 |
resourceGroupType | String | 资源组类型。取值如下:
|
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型 (Type) | 扩展程序消息类型(eventCode) |
审批中心(创建、完成申请单) | 创建申请单 |
|
| ||
完成申请单 |
|
| |||
安全中心(表权限申请) | 表权限申请 |
|
|
创建审批单事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"appId":194209,
"assignee":"286098539641742899",
"assigneeName":"yupeng.sunyp",
"createTime":1652094363000,
"eventType":"approval",
"process":{
"applicant":"286098539641742899",
"applicantName":"yupeng.sunyp",
"approvalContent":{
"applyPeriod":"2997964800000",
"applyReason":"测试",
"arrayData":[
{
"ownerBaseId":"1822***45",
"objectType":"TABLE",
"odpsTable":"loghub_070103",
"envType":1,
"projectGuid":"odps.b_mc1",
"objectGuid":"odps.b_mc1.loghub_070103",
"tenantId":0,
"objectName":"loghub_070103",
"ownerAccountName":"ALIYUN$******(******)",
"odpsProject":"B_MC1",
"projectName":"B_MC1",
"actions":[
"Select",
"Describe"
],
"projectId":194209,
"workspaceId":"194209"
}
],
"contentType":"application/json",
"granteeAccounts":[
{
"granteeId":"2860985***99",
"granteeTypeSub":103,
"granteeType":1,
"granteeName":"RAM$dataworks_3h1_1:yupeng.sunyp"
},
{
"granteeId":"237857631119109360",
"granteeTypeSub":105,
"granteeType":1,
"granteeName":"RAM$dataworks_3h1_1:dev"
}
],
"odpsProjectName":"B_MC1",
"projectEnv":"1",
"resourceSummary":"loghub_070103",
"tenantId":280749521950784,
"workspaceId":194209
},
"assignmentCategory":"MaxCompute",
"createTime":1652094363000,
"processDefinitionId":"definition-3dcc9ce7-d29d-435d-a908-60d4355ff5e2",
"processId":"528535869984706",
"status":"Pending",
"title":"MaxComputeTable",
"updateTime":1652094363000
},
"processId":"528535869984706",
"status":"Submit",
"eventCode": "approval-change-created",
"taskId":"528535870015424",
"tenantId":280749521950784,
"updateTime":1652094364000
}
}{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"appId":227859,
"assignee":"286098539641742899",
"eventCode": "approval-change-finished",
"assigneeName":"******.******",
"comments":"ces",
"createTime":1652095981000,
"eventType":"approval",
"process":{
"applicant":"286098539641742899",
"applicantName":"yupeng.sunyp",
"approvalContent":{
"applyPeriod":"2997964800000",
"applyReason":"测试",
"arrayData":[
{
"ownerBaseId":"238266539737108884",
"objectType":"TABLE",
"odpsTable":"cdd",
"objectNameCn":"******",
"envType":1,
"projectGuid":"odps.da_simple_202112",
"objectGuid":"odps.da_simple_202112.cdd",
"tenantId":0,
"objectName":"cdd",
"ownerAccountName":"RAM$******(******)",
"odpsProject":"da_simple_202112",
"projectName":"da_simple_202112",
"actions":[
"Select",
"Describe"
],
"projectId":227859,
"workspaceId":"227859"
}
],
"contentType":"application/json",
"granteeAccounts":[
{
"granteeId":"286098539641742899",
"granteeTypeSub":103,
"granteeType":1,
"granteeName":"RAM$dataworks_3h1_1:yupeng.sunyp"
}
],
"odpsProjectName":"da_simple_202112",
"projectEnv":"1",
"resourceSummary":"cdd",
"tenantId":280749521950784,
"workspaceId":227859
},
"assignmentCategory":"MaxCompute",
"createTime":1652095981000,
"processDefinitionId":"definition-6e6418e6-c65f-4f26-a673-88576b1c1e4a",
"processId":"528539182432192",
"status":"Pending",
"title":"MaxComputeTable",
"updateTime":1652095981000
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
appId | Long | 工作空间ID。 |
assignee | String | 审批单处理人的BaseId。 |
assigneeName | String | 审批单处理人的名称。 |
comments | String | 备注信息。 |
createTime | Long | 审批单的创建时间戳。 |
processId | String | 审批单的ID。 |
status | String | 审批单的状态。 |
taskId | String | 审批任务的ID。 |
tenantId | String | 租户ID。 |
updateTime | String | 审批单更新的时间戳。 |
eventType | String | 事件类型。 |
process | Object | 审批任务对象。 |
applicant | String | 申请BaseID。 |
applicantName | String | 申请人名称。 |
assignmentCategory | String | 申请内容类型。 |
createTime | String | 审批单创建的时间戳。 |
processDefinitionId | String | 工作流定义ID。 |
processId | String | 工作流ID。 |
status | String | 工作流状态。 |
title | String | 工作流标题。 |
updateTime | Long | 审批单更新的时间戳。 |
approvalContent | Object | 审批内容对象。 |
applyPeriod | String | 审批单的申请时长。 |
applyReason | String | 审批单的申请原因。 |
contentType | String | 审批内容类型。 |
odpsProjectName | String | 审批项目名称。 |
resourceSummary | String | 资源描述。 |
tenantId | Long | 租户ID。 |
workspaceId | Long | 工作空间ID。 |
projectEnv | String | 审批项目所属环境。 |
granteeAccounts | Array | 授权列表。 |
.granteeId | String | 授权主体ID。 |
granteeType | String | 授权类型。 |
granteeTypeSub | String | 授权主体子类型。 |
granteeName | String | 授权主体名称。 |
arrayData | Array | 授权内容列表,详情请参见开发参考:事件列表与消息格式。 |
eventType | String | 事件类型。 |
完成审批单事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"appId": 227859,
"assignee": "286098539641742899",
"eventCode": "approval-change-finished",
"assigneeName": "******.******",
"comments": "ces",
"createTime": 1652095981000,
"eventType": "approval",
"process": {
"applicant": "286098539641742899",
"applicantName": "yupeng.sunyp",
"approvalContent": {
"applyPeriod": "2997964800000",
"applyReason": "测试",
"arrayData": [
{
"ownerBaseId": "238266539737108884",
"objectType": "TABLE",
"odpsTable": "cdd",
"objectNameCn": "******",
"envType": 1,
"projectGuid": "odps.da_simple_202112",
"objectGuid": "odps.da_simple_202112.cdd",
"tenantId": 0,
"objectName": "cdd",
"ownerAccountName": "RAM$******(******)",
"odpsProject": "da_simple_202112",
"projectName": "da_simple_202112",
"actions": [
"Select",
"Describe"
],
"projectId": 227859,
"workspaceId": "227859"
}
],
"contentType": "application/json",
"granteeAccounts": [
{
"granteeId": "286098539641742899",
"granteeTypeSub": 103,
"granteeType": 1,
"granteeName": "RAM$dataworks_3h1_1:yupeng.sunyp"
}
],
"odpsProjectName": "da_simple_202112",
"projectEnv": "1",
"resourceSummary": "cdd",
"tenantId": 280749521950784,
"workspaceId": 227859
},
"assignmentCategory": "MaxCompute",
"createTime": 1652095981000,
"processDefinitionId": "definition-6e6418e6-c65f-4f26-a673-88576b1c1e4a",
"processId": "528539182432192",
"status": "Pending",
"title": "MaxComputeTable",
"updateTime": 1652095981000
}
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
appId | Long | 工作空间ID。 |
assignee | String | 审批单处理人BaseId。 |
assigneeName | String | 审批单处理人名称。 |
comments | String | 备注信息。 |
createTime | Long | 审批单的创建时间戳。 |
processId | String | 审批单ID。 |
status | String | 审批单状态。 |
taskId。 | String | 审批任务ID。 |
tenantId | String | 租户ID。 |
updateTime | String | 审批单最近一次更新的时间戳。 |
eventType | String | 事件类型。 |
process | Object | 审批任务对象。 |
applicant | String | 申请BaseID。 |
applicantName | String | 申请人名称。 |
assignmentCategory | String | 申请内容类型。 |
createTime | String | 审批单创建的时间戳。 |
processDefinitionId | String | 工作流定义ID。 |
processId | String | 工作流ID。 |
status | String | 工作流状态。 |
title | String | 工作流标题。 |
updateTime | Long | 审批单更新的时间戳。 |
approvalContent | Object | 审批内容对象。 |
applyPeriod | String | 申请时长。 |
applyReason | String | 申请原因。 |
contentType | String | 内容类型。 |
odpsProjectName | String | 项目名称。 |
resourceSummary | String | 资源描述。 |
tenantId | Long | 租户ID。 |
workspaceId | Long | 工作空间ID。 |
projectEnv | String | 所属环境。 |
granteeAccounts | Array | 授权列表。 |
granteeId | String | 授权主体ID。 |
granteeType | String | 授权类型。 |
granteeTypeSub | String | 授权主体子类型。即授权账号类型,具体如下:
|
granteeName | String | 授权主体名称。 |
arrayData | Array | 授权内容列表,详情请参见开发参考:事件列表与消息格式。 |
eventType | String | 事件类型。 |
表权限申请前置事件的消息实体格式(即事件消息中data
字段的内容)示例如下
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"eventType": "approval-create-before",
"operator":"1239****8872",
"order":{
"applyReason":"测试",
"deadlineDate":"1",
"deadlineType":"month",
"granteeObjectList":[
{
"granteeId":"1239****8872"
}
],
"projectMeta":{
"envCode":1,
"labelSecurity":false,
"objectMetaList":[
{
"action":[
"Select",
"Describe"
],
"name":"tablei",
"projectGuid":"odps.d11aa"
}
],
"projectId":2****0,
"projectName":"d11aa"
}
},
"projectId":2****0,
"tenantId":5564****6465
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 执行表权限申请前置操作的用户ID。 |
projectId | Long | 执行表权限申请前置操作的工作空间ID。 |
tenantId | Long | 执行表权限申请前置操作的租户ID。 |
order | Object | 申请单信息。 |
applyReason | String | 申请原因。 |
deadlineDate | String | 申请单有效期。 |
deadlineType | String | 申请单有效期的时间单位。例如,Day、Month。 |
granteeObjectList | Object | 授权对象列表。 |
granteeId | String | 授权对象ID,即RAM用户ID。 |
projectMeta | Object | 工作空间信息。 |
envCode | Integer | 工作空间环境标识,0表示开发环境,1表示生产环境。 |
labelSecurity | Boolean | 是否开启Label级别管控:
|
objectMetaList | Array | 授权对象列表。 |
action | Array | 授权动作。例如,授权拥有表的Select或Describe权限。 |
name | String | 待申请权限的表名称。 |
projectGuid | String | 表所在工作空间Guid。 |
projectName | String | 表所在工作空间名称。 |
eventType | String | 事件类型。 |
DataWorks在安全中心事件中,触发审批和表权限申请时,触发的事件消息发送至事件总线(EventBridge)消息之中会增加arrayData
数据,当assignmentCategory
类型为MaxCompute
时,arrayData
的数据内容如下:
{
"ownerBaseId":"1822931104031845",
"objectType":"TABLE",
"odpsTable":"oracle_************",
"envType":1,
"projectGuid":"odps.***********",
"objectGuid":"odps.******.******",
"tenantId":0,
"objectName":"oracle_******",
"ownerAccountName":"ALIYUN***************",
"odpsProject":"dataworks******",
"projectName":"dataworks******",
"actions":[
"Select",
"Describe"
],
"projectId":107100,
"workspaceId":"107100"
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
ownerBaseId | String | 表所有者的BaseID。 |
ownerAccountName | String | 表所有者的名称。 |
objectType | String | 对象类型。 |
odpsTable | String | 表名称。 |
envType | String | 表所属环境。 |
projectGuid | String | 项目Guid。 |
objectGuid | String | 对象Guid。 |
objectName | String | 对象名称。 |
odpsProject | String | ODPS项目名称。 |
projectName | String | 项目代码。 |
projectId | Long | 项目ID。 |
workspaceId | String | 工作空间ID。 |
actions | Array | 操作类型列表。 |
DataWorks在安全中心事件中,触发审批以及表权限申请时,发送至事件总线(EventBridge)消息中会增加arrayData
数据,当assignmentCategory
类型为DataService
时,arrayData
的数据内容如下
{
"resourceId":"DsApiDeploy/******/workspaceId/******/dsDeployId/******",
"ownerName":"******",
"resourceVersion":1,
"name":"api_api",
"dsDeployId":"******",
"workspaceName":"da_******",
"id":"******",
"type":1,
"ownerId":"******",
"url":"https://******.data.aliyun.com/?projectId=******&type=api&id=******&version=***&defaultProjectId=******",
"workspaceId":"******"
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
resourceId | String | 资源ID。 |
ownerName | String | 资源所有者的名称。 |
resourceVersion | Long | 资源版本。 |
name | String | 资源名称。 |
dsDeployId | String | 数据服务发布ID。 |
workspaceName | String | 工作空间名称。 |
id | String | 资源唯一ID。 |
type | String | 资源类型,取值如下:
|
ownerId | String | 资源责任人BaseID。 |
url | String | 数据服务链接地址。 |
workspaceId | String | 工作空间ID。 |
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型 (Type) | 扩展程序事件类型(eventCode) |
数据质量校验 | 校验结果反馈
|
| | ||
校验完成
|
|
|
数据质量校验结果反馈事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"ruleCheckId": 521771452,
"feedbackContent": "跳过",
"ruleId": 28610334,
"createUser": "110755000425****",
"taskId": "167644814****9a26ecf4063a88797",
"beginTime": "1676448145000",
"envType": "ODPS",
"projectName": "test_mc_2303_kongjian",
"projectId": 242601,
"tenantId": 524257424564736
}
}
重要字段说明如下表。
字段名称 | 字段类型 | 说明 |
ruleId | Long | 数据质量规则ID。 |
ruleCheckId | Long | 校验结果自增ID。 |
feedbackContent | String | 反馈内容。 |
createUser | String | 反馈人用户ID。 |
taskid | String | 数据质量任务的ID。 |
beginTime | String | 反馈时间。 |
envType | String | 规则关联的表所属数据源类型,包括:ODPS、EMR、HOLO。 |
projectName | String | 规则关联的表所属的数据源唯一标识。 |
projectId | Long | DataWorks项目空间ID。 |
tenantId | Long | DataWorks租户ID。 |
数据质量校验完成事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"data": {
"projectId": 242601,
"tenantId": 52425742456****,
"id": 52177****,
"taskId": "1676463288449d1b2102ac40048aeb7a628753363****",
"entityId": 1562***,
"ruleId": 28610334,
"property": "-",
"bizdate": "2023-02-09 00:00:00",
"dateType": "YMD",
"actualExpression": "ds\u003d20230210",
"matchExpression": "ds\u003d$[yyyymmdd]",
"blockType": 1,
"checkResult": 0,
"eventCode": "dqc-check-finished-event",
"checkResultStatus": 0,
"methodName": "table_count",
"beginTime": "2023-02-15 20:14:48",
"endTime": "2023-02-15 20:14:55",
"timeConsuming": "7s",
"externalType": "CWF2",
"externalId": "triggerByManual",
"discrete": false,
"fixedCheck": true,
"referenceValue": [
{
"bizDate": "3000-12-31 00:00:00",
"discreteProperty": "表行数,1天差值",
"value": 0.0,
"singleCheckResult": 0
}
],
"sampleValue": [
{
"bizDate": "2023-02-09 00:00:00",
"value": 3.0
}
],
"trend": "\u003e\u003d",
"expectValue": 0.0,
"op": "\u003e\u003d",
"projectName": "test_mc_2303_kongjian",
"tableName": "sx_dim_1209_001",
"templateId": 47,
"checkerType": 0,
"ruleName": "前一天差值",
"isPrediction": false,
"feedbackStatus": 0,
"whetherToFilterDirtyData": false
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 | |
id | Long | 本次校验流程的主键ID。每触发一次规则校验,都会新增一条主键ID记录。 | |
projectId | Long | DataWorks项目空间ID | |
tenantId | Long | DataWorks租户ID | |
taskId | String | 校验任务的ID。 | |
entityId | Long | 分区表达式ID。 | |
ruleId | Long | 规则ID。 | |
property | String | 规则属性的字段,即被校验数据源表的column名称。 | |
bizdate | Long | 业务日期。如果被校验的业务主体为离线数据,则业务日期通常为执行校验操作的前一天。 | |
dateType | String | 调度周期的类型。通常为YMD,即年任务、月任务、天任务。 | |
actualExpression | String | 被校验的数据源表的实际分区。 | |
matchExpression | String | 分区表达式。 | |
blockType | Integer | 校验规则的强弱。强弱表示规则的重要程度。取值如下:
您可以根据实际需求设置重要的规则为强规则。如果使用强规则并触发了红色告警,则会阻塞调度任务。 | |
checkResult | Integer | 校验结果状态。取值如下:
| |
methodName | String | 采集样本数据的方法包括:avg、count、sum、min、max、count_distinct、user_defined、table_count、table_size、table_dt_load_count、table_dt_refuseload_count、null_value、null_value/table_count、(table_count-count_distinct)/table_count、table_count-count_distinct等。 | |
beginTime | Long | 执行校验操作的开始时间。 | |
endTime | Long | 查询校验结果的截止时间。 | |
timeConsuming | String | 执行校验任务花费的时间。 | |
externalType | String | 调度系统的类型。目前仅支持CWF2。如果externalType为空则表示是手动试跑任务。 | |
externalId | String |
| |
discrete | Boolean | 是否为离散校验。取值如下:
| |
fixedCheck | Boolean | 是否为固定值校验。取值如下:
| |
referenceValue | 历史样本值。 | ||
bizDate | Long | 业务日期。如果被校验的业务主体为离线数据,则业务日期通常为执行校验操作的前一天。 | |
discreteProperty | String | 通过group by分组后的样本字段取值。例如group by性别字段,则DiscreteProperty为男生、女生和null。 | |
value | Decimal | 样本值。 | |
singleCheckResult | Integer | 校验结果的字符串。 | |
sampleValue | 当前使用的样本。 | ||
bizDate | Long | 业务日期。如果被校验的业务主体为离线数据,则业务日期通常为执行校验操作的前一天。 | |
value | Decimal | 样本值。 | |
trend | String | 校验结果的趋势。 | |
expectValue | Double | 期望值。 | |
op | String | 比较符。 | |
projectName | String | 需要进行数据质量校验的引擎或者数据源名称。 | |
tableName | String | 进行校验的表名称。 | |
templateId | Integer | 使用的校验模板的ID。 | |
checkerType | Integer | 校验器的类型。 | |
ruleName | String | 规则的名称。 | |
isPrediction | Boolean | 是否为预测的结果。取值如下:
| |
comment | String | 校验规则的描述。 | |
eventCode | String | 扩展程序事件编码。 |
租户级模块生成的是租户级事件,例如管控台删除空间所产生的事件消息。您可通过下文事件列表了解各个模块支持的事件消息中,哪些为普通事件,哪些为扩展点事件,以及对应事件的发送的消息格式。
以下消息格式页签仅包含部分内容,发送给EventBridge或函数计算的完整消息,您需要结合附录:消息格式。
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型(Type) | 扩展程序事件类型(eventCode) |
删除项目空间 | 删除空间前置 |
|
| ||
删除空间后置 |
|
|
租户删除项目空间前置事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"data": {
"eventCode": "delete-project",
"projectId": 7***7, // 工作空间ID
"tenantId": 2807****0784, // 租户ID
"operator": "操作用户BaseId"
}
字段说明如下:
字段名称 | 字段类型 | 说明 | |
operator | String | 删除DataWorks工作空间的用户ID。 | |
projectId | Long | 待删除的DataWorks工作空间ID。 | |
tenantId | Long | 待删除工作空间所属的租户ID。 | |
eventCode | String | 扩展程序事件编码。 |
租户删除项目空间后置事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"data": {
"eventCode": "project-deleted",
"tenantId": 605355236006144,
"blockBusiness": false,
"projectName": "test2",
"projectId": 380708,
"operator": "1493189603770213",
"timestamp": 1702260556896
}
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
operator | String | 删除DataWorks工作空间的用户ID。 |
projectId | Long | 待删除的DataWorks工作空间ID。 |
projectName | String | 待删除的DataWorks工作空间名称。 |
tenantId | Long | 待删除工作空间所属的租户ID。 |
timestamp | Long | 发送消息的时间戳。 |
eventCode | String | 扩展程序事件编码。 |
事件类型 | 事件(及产生事件的操作) | 普通事件 | 扩展点事件 | EventBridge事件类型(Type) | 扩展程序事件类型(eventCode) |
数据下载与上传 | 数据下载前置-文件生成 | dataworks:ResourcesDownload:DownloadResources | download-resources | ||
数据下载前置-文件下载 | dataworks:ResourcesDownload:DownloadResourcesExecute | download-resources-execute | |||
数据上传前置 | dataworks:ResourcesUpload:UploadDataToTable | upload-data-to-table |
“数据下载前置事件-文件生成”的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"data": {
"eventCode": "download-resources",
"moduleType": "sqlx_query",
"operatorBaseId": "123936573******",
"operatorUid": "14931896037*******",
"fileName": "文件名称.csv",
"fileSize": 10241024,
"datasourceId": "1111",
"datasourceName": "odps_first",
"queryDwProjectId": "22222",
"queryDwProjectName": "test_project",
"dataRowSize": "123456",
"sqlText": "select sku_code, sku_name from dim_sku",
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
moduleType | String | 下载数据的来源:
|
operatorBaseId | String | 执行下载操作的用户BaseID。 |
operatorUid | String | 执行下载操作的用户UID。 |
fileName | String | 下载文件的名称。 |
fileSize | Long | 下载文件的大小。 |
datasourceId | String | 下载的数据所属的数据源ID。 |
datasourceName | String | 下载的数据所属的数据源名称。 |
queryDwProjectId | String | 下载的数据所属的DataWorks工作空间ID。 |
queryDwProjectName | String | 下载的数据所属的DataWorks工作空间标识。 |
dataRowSize | Long | 下载的数据条数。 |
sqlText | String | 通过SQL语句查询并下载数据,此处为使用的SQL代码。 |
eventCode | String | 扩展程序事件类型。 |
“数据下载前置事件-文件下载”的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"aliyunaccountid": "1493189603770213",
"aliyunpublishtime": "2023-12-11T02:10:00.194Z",
"data": {
"eventCode": "download-resources-execute",
"moduleType": "sqlx_query",
"operatorBaseId": "123936573******",
"operatorUid": "14931896037*******",
"fileName": "文件名称.csv",
"fileSize": 10241024,
"datasourceId": "1111",
"datasourceName": "odps_first",
"queryDwProjectId": "22222",
"queryDwProjectName": "test_project",
"dataRowSize": "123456",
"sqlText": "select sku_code, sku_name from dim_sku",
"ip": "198.10.X.X"
},
"aliyunoriginalaccountid": "149318960******",
"specversion": "1.0",
"aliyuneventbusname": "default",
"id": "2c3e41e5-3486-40ce-87d4-910f989cf2a7",
"source": "acs.dataworks",
"time": "2023-12-11T10:10:00.117Z",
"aliyunregionid": "cn-shanghai",
"type": "dataworks:ResourcesDownload:DownloadResourcesExecute"
}
重要字段说明如下表。
字段名称 | 字段类型 | 说明 |
moduleType | String | 下载数据的来源:
|
operatorBaseId | String | 执行下载操作的用户BaseID。 |
operatorUid | String | 执行下载操作的用户UID。 |
fileName | String | 下载文件的名称。 |
fileSize | Long | 下载文件的大小。 |
datasourceId | String | 下载的数据所属的数据源ID。 |
datasourceName | String | 下载的数据所属的数据源名称。 |
queryDwProjectId | String | 下载的数据所属的DataWorks工作空间ID。 |
queryDwProjectName | String | 下载的数据所属的DataWorks工作空间标识。 |
dataRowSize | Long | 下载的数据条数。 |
sqlText | String | 通过SQL语句查询并下载数据,此处为使用的SQL代码。 |
ip | String | 执行下载操作的用户的IP地址。 |
eventCode | String | 扩展程序事件类型。 |
数据上传前置事件的消息实体格式(即事件消息中data
字段的内容)示例如下。
{
"datacontenttype": "application/json;charset=utf-8",
"aliyunaccountid": "1493189603770213",
"aliyunpublishtime": "2023-12-11T02:10:00.194Z",
"data": {
"eventCode": "upload-data-to-table",
"uploadSourceType": "LOCAL",
"optTableType": "CREATE",
"targetEngineType": "MAXCOMPUTE",
"writeType": "OVERWRITE",
"conflictMode": "IGNORE",
"operatorBaseId": "12312*****",
"operatorUid": "1222222*****",
"datasourceId": "1111",
"datasourceName": "odps_first",
"tableGuid": "odps.mc_project.test_table",
"queryDwProjectId": "22222",
"queryDwProjectName": "test_project",
"fileSize": 123456
},
"aliyunoriginalaccountid": "149318960******",
"specversion": "1.0",
"aliyuneventbusname": "default",
"id": "2c3e41e5-3486-40ce-87d4-910f989cf2a7",
"source": "acs.dataworks",
"time": "2023-12-11T10:10:00.117Z",
"aliyunregionid": "cn-shanghai",
"type": "dataworks:ResourcesUpload:UploadDataToTable"
}
字段说明如下:
字段名称 | 字段类型 | 说明 |
uploadSourceType | String | 上传数据的来源:
|
optTableType | String | 选择将数据上传至指定引擎数据源的已有表或新建表。取值如下:
|
targetEngineType | String | 选择将数据上传至哪类引擎。取值如下:
|
writeType | String | 数据写入至目标表的方式。取值如下:
|
conflictMode | String | 上传数据时,目标表的主键冲突处理策略:
|
operatorBaseId | String | 执行上传操作的用户BaseID。 |
operatorUid | String | 执行上传操作的用户UID。 |
datasourceId | String | 上传数据至哪个数据源,此处填写数据源ID。 |
datasourceName | String | 上传数据至哪个数据源,此处填写数据源名称。 |
tableGuid | String | 表的Guid。示例如下:
|
queryDwProjectId | String | 表所属的DataWorks工作空间ID。 |
queryDwProjectName | String | 表所属的DataWorks工作空间名称。 |
fileSize | Long | 上传文件的大小,单位为字节。 |
eventCode | String | 扩展程序事件编码。 |
在配置开放事件(OpenEvent)添加事件分发通道后,若在DataWorks内触发空间级或租户级事件后,会按照在事件总线(EventBridge)中的配置的事件类型(Type)进行过滤,以下为DataWorks通过事件分发通道发送至事件总线EventBridge的消息格式。
{
"datacontenttype": "application/json;charset=utf-8",//参数data的内容形式。datacontenttype只支持application/json格式。
"data": {
//消息类型不同,消息内容也不同。以下为消息中固定的两个字段。各事件消息请参见上文。
"tenantId": 28378****10656,//租户id,DataWorks每个阿里云主账号对应一个租户,每个租户有自己的租户id,该值您可在DataWorks数据开发右上角用户信息查看。
"eventCode": "xxxx"//
},
"id": "539fd8f4-4ea1-4625-aa8b-6c906674****",//事件ID。标识事件的唯一值。
"source": "acs.dataworks",//事件源,提供事件的服务,说明此消息由dataworks推送。
"specversion": "1.0",
"subject": "",
"time": "2020-11-19T21:04:41+08:00",//事件产生时间。
"type": "dataworks:InstanceStatusChanges:InstanceStatusChanges",//事件类型。该事件类型可在EventBridge控制台对DataWorks推送的全量消息进行过滤,每个事件的事件Type值不同,请参见上文获取不同事件消息类型。
"aliyunaccountid": "123456789098****",//阿里云主账号ID
"aliyunpublishtime": "2020-11-19T21:04:42.179PRC",//EventBridge接收事件的时间。
"aliyuneventbusname": "default",//用于接收DataWorks事件消息的EventBridge事件总线名称。
"aliyunregionid": "cn-hangzhou",//接收事件的地域。
"aliyunpublishaddr": "172.25.XX.XX"
}
一个完整的事件消息包括消息的实体格式,以及消息的ID、来源、产生时间等基础信息。其中,重要字段的详细说明如下表。
字段名称 | 字段类型 | 说明 |
data | object | 消息实体格式。不同类型事件的消息格式及其包含的字段含义存在差异,详情请参见: 数据开发事件消息格式:数据开发事件列表。 运维中心事件消息格式:运维中心事件列表。 安全中心事件消息格式:安全中心事件列表。 数据质量事件消息格式:数据质量事件列表。 |
id | String | 事件消息的唯一ID。用于定位事件消息。 |
type | String | 事件类型。用于描述事件源相关的事件类型。取值示例如下:
该事件类型可在EventBridge控制台对DataWorks推送的全量消息进行过滤,每个事件的事件Type值不同,请参见上文获取不同事件消息类型。 |
在DataWorks上配置扩展程序(Extensions):函数计算方式时,DataWorks会将触发对应的扩展点事件时的消息以JSON的形式将消息发送至函数计算,以下为发送至函数计算的消息格式。
{
"blockBusiness": true,
"eventCategoryType": "resources-download",//事件类别
"eventType": "upload-data-to-table",//事件类型
"extensionBizId": "job_6603643923728775070",
"messageBody": {
//消息类型不同,消息内容也不同。以下为消息中固定的两个字段。各事件消息请参见上文。
"tenantId": 28378****10656,//租户id,DataWorks每个阿里云主账号对应一个租户,每个租户有自己的租户id,该值您可在DataWorks数据开发右上角用户信息查看。
"eventCode": "xxxx"//
},
"messageId": "52d44ee7-b51f-4d4d-afeb-*******"//事件ID。标识事件的唯一值。
}
重要字段详细说明如下:
字段名称 | 字段类型 | 说明 | |
messageId | String | 事件ID,标识事件的唯一值。 | |
messageBody | DataWorks推送的具体事件消息,您可在开发扩展程序中使用,消息类型不同,此部分内容也不同。 | ||
tenantId | 租户id,DataWorks每个阿里云主账号对应一个租户,每个租户有自己的租户id,该值您可在DataWorks数据开发右上角用户信息查看 | ||
eventCode | 事件编码。用于标识某一类事件消息,各事件类型对应的eventCode请查阅开发参考:事件列表与消息格式表格中扩展程序事件类型(eventCode)列。 |