DataWorks提供了全链路的数据开发治理能力,为您提供了统一的数据开发治理流程,同时也支持您在DataWorks的默认流程上基于自己的业务需求在关键的流程节点进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。

背景信息

DataWorks的工作空间分为标准模式和简单模式,不同模式工作空间下任务的开发流程存在一定差异,两种模式的数据开发流程示意如下。
  • 标准模式工作空间开发流程标准模式工作空间开发流程
  • 简单模式工作空间开发流程简单模式工作空间开发流程
如上图所示,在通用流程的关键节点,例如,任务运行调试前、任务提交前、任务发布前,您可以进行流程管控。
任务运行前校验示例任务提交前校验示例任务发布前校验示例
代码运行文件提交文件发布
您可以通过DataWorks的开放平台、数据治理等功能模块,实现在关键节点对数据开发流程的管控校验。
涉及的功能模块运行前校验提交前校验发布前校验流程管控能力引导介绍
数据治理中心支持支持支持DataWorks的数据治理中心为您内置了多个检查项,您可以根据业务需要选择开启对应的检查项,开启后,后续在涉及到对应操作时即会触发DataWorks的内置校验逻辑对当前操作进行管控校验,管控校验完成后才会继续后续流程。
开放平台支持支持支持如果DataWorks的内置检查项不足以满足您的流程管控需求,您也可以使用开放平台,针对需要管控的事件自行开发校验程序,并将管控流程嵌入数据开发流程中。
下文以标准模式工作空间的场景为例,为您介绍这些关键节点的流程管控能力。

启用内置检查项:数据治理中心

DataWorks的数据治理中心为您内置了多个检查项,您可以根据业务需要选择开启对应的检查项,开启后,后续在涉及到对应操作时即会触发DataWorks的内置校验逻辑对当前操作进行管控校验,管控校验完成后才会继续后续流程。
细分介绍
涉及DataWorks功能模块DataWorks数据治理中心
DataWorks的数据治理中心内置了很多检查项,开启后即可以进行对应操作的管控校验。检查项
  • 运行前管控时:您可根据需要开启生效检查环节为代码运行前置事件的检查项。
  • 提交前管控时:您可根据需要开启生效检查环节为文件提交前置事件的检查项。
  • 发布前管控时:您可根据需要开启生效检查环节为文件发布前置事件的检查项。
配置入口与指导您需要在数据治理中心启用检查项,并设置启用的检查项在哪个工作空间生效。

通用操作指导请参见配置治理项

自定义校验逻辑:开放平台

如果DataWorks的内置检查项不足以满足您的流程管控需求,您也可以使用开放平台,针对需要管控的事件自行开发校验程序,并将管控流程嵌入数据开发流程中。调试运行前的自定义校验逻辑的管控校验能力介绍如下。
细分介绍
涉及DataWorks功能模块DataWorks开放平台

DataWorks开放平台提供开放事件(OpenEvent)、扩展程序(Extensions)和OpenAPI功能,您可以通过OpenEvent订阅用户在DataStudio中的操作事件消息,并在事件消息后,通过Extensions功能,自定义一个校验审批程序,并将程序的审批结果通过OpenAPI回调给DataWorks系统。OpenEvent和Extensions的详细介绍请参见OpenEvent概述扩展程序概述

校验流程如果您使用开放平台功能,配置了对DataStudio中关键操作的事件订阅与事件校验,则当用户进行对应操作时会触发校验流程,以运行前管控为例,管控校验流程如下。运行前校验流程
配置入口与指导您需要在开放平台中配置订阅DataStudio的事件,并自行开发事件处理的扩展程序,将扩展程序上线至DataWorks,并设置在哪个工作空间启用。
  • 运行前管控时:您需要订阅处理运行类的事件,例如文件运行前置事件
  • 提交前管控时:您需要订阅处理提交类的事件,例如文件提交前置事件表提交前置事件
  • 发布前管控时:您需要订阅处理发布类的事件,例如文件发布前置事件表发布前置事件
更多开放平台支持订阅管控的事件类型请参见扩展程序概述