全部產品
Search
文件中心

DataWorks:周期任務基本營運操作

更新時間:Jun 19, 2024

周期任務是指在調度系統按照調度配置周期性自動調度的任務。您可以在營運中心 > 周期任務列表查看指定工作空間下的周期任務,並對任務進行營運操作,包括自動調度和手動運行周期任務、查看任務運行詳情、暫停任務、下線任務等。本文為您介紹周期任務的營運操作詳情。

使用說明

  • 僅生產環境營運中心支援自動調度組建循環執行個體,開發環境營運中心不支援自動調度,且不會產生自動調度的周期執行個體。
  • 對生產環境的任務代碼、調度配置、資源、函數進行新增、修改、下線等操作,均可通過提交和發布流程來實現。
  • 任務的變更均需執行發佈動作,發布成功後該變更才會在生產環境中生效。發布時可能存在發布失敗、發布流程被阻塞或發布版本不符合預期等情況,因此,建議您在任務發布後,進入營運中心 > 周期任務介面進行排查。詳情請參見查看並管理周期任務

營運操作概述

本文為您介紹周期任務的營運操作詳情。
營運操作說明
查看周期任務您可以在周期任務頁面通過列表及DAG圖的方式,快速查看任務的詳細資料並執行相關操作。
運行周期任務
  • 運行方式:發布至生產環境的任務將根據您定義的調度時間進行自動調度,您可在營運中心 > 周期執行個體頁面查看任務周期調度執行結果,此外,您也可以在生產環境針對任務進行測試與補歷史或未來一段時間資料的操作,並通過補資料執行個體測試執行個體查看任務執行結果。
  • 任務運行條件與問題定位:瞭解任務運行條件並進一步排查任務未運行原因。
  • 緊急營運操作:任務未運行情境下,支援您緊急去除未啟動並執行上遊依賴,以及出現資料汙染時強制重跑下遊等操作。
管理周期任務
  • 任務上線與下線
    • 上線周期任務:任務需要通過發布流程發布至生產調度系統後,您才可以在營運中心的周期工作清單中看到該任務。
    • 下線周期任務:當某任務或商務程序不需要運行時,您可以選擇下線該任務或大量下線該商務程序中的任務。
      說明 下線後任務將進入資源回收筒,您可以在資源回收筒還原任務。
  • 任務管理
    • 暫停調度運行:如果某任務及其下遊任務在未來一段時間內不需要自動調度運行,您可以選擇暫停(凍結)該任務。
    • 任務監控警示:您可以在周期工作清單對任務的運行狀態、產出的表資料品質配置監控規則、及任務執行資源組進行監控。
    • 管理工作優先順序:您可以通過基準管理功能,管理工作的優先順序。高優先順序的任務將會優先獲得調度資源。
    • 修改任務執行資源組:支援修改任務運行時的相關屬性,包括修改調度資源群組、修改Data Integration任務執行資源組等。
    • 修改任務責任人:支援大量操作。
查看周期任務操作記錄您可以查看任務或執行個體的動作記錄、節點版本及操作歷史。

查看周期任務

周期工作清單中為您展示生產環境下調度系統按照調度配置自動定時啟動並執行任務,您可以檢查任務代碼、調度參數、調度依賴、節點血緣等是否符合預期。同時,支援您通過列表及DAG圖的方式,快速查看任務的詳細資料並執行相關操作。詳情請參見:查看並管理周期任務
說明
  • 僅發布至生產環境的任務才可以在營運中心的周期工作清單中看到。
  • 當任務展開父節點時沒有依賴任何父節點,或者某任務為上遊任務但又同時依賴了自己的下遊任務,導致依賴關係成環。這兩種類型的任務在自動調度時將不會被調度調起。

運行周期任務

您可瞭解DataWorks任務運行方式,並根據任務執行情況快速進行營運診斷。

運行方式

DataWorks每晚會根據周期任務自動產生第二天待啟動並執行周期執行個體,同時支援您手動觸發周期任務,分別產生補資料執行個體和測試執行個體。
執行個體類型應用情境與周期任務的關係

(對應執行個體如何產生)

執行個體觸發方式

(對應執行個體如何觸發執行)

周期執行個體周期性自動化進行ETL操作。平台每晚根據某一時間點周期任務快照資訊自動產生第二天待啟動並執行周期執行個體。
說明 開發環境營運中心不會自動調度組建循環執行個體。
平台自動觸發周期執行個體執行。
補資料執行個體需要對當前任務及下遊任務執行補過去某一時間段或未來某段時間的資料的操作,即需要對歷史或未來時間段的資料進行ETL操作。人為針對當前周期任務手動觸發補資料操作,並產生補資料執行個體。產生補資料執行個體的同時觸發補資料執行個體執行。
執行測試並查看測試執行個體需要對當前周期任務進行測試,觀察執行結果是否符合預期。
說明 測試執行個體的運行也在真實執行代碼邏輯。
人為針對當前周期任務手動觸發測試操作,並產生測試執行個體。產生測試執行個體的同時觸發測試執行個體執行。

任務運行條件和問題定位

任務啟動並執行條件

調度任務運行需要滿足上遊任務運行成功、當前任務定時時間已到、調度資源充足、當前任務未凍結等條件,詳情請參見:調度任務啟動並執行必要條件運行流程圖

任務運行問題診斷

問題現象:當任務到定時時間,但還未運行時,可能原因是該節點所有依賴的父節點還未運行成功、任務定時時間未到、專案下沒有足夠的調度資源可讓任務運行、任務被凍結等。

問題排查:建議您先通過DAG面板中的上遊分析功能,快速定位阻塞當前任務啟動並執行關鍵上遊任務,再通過運行診斷功能,診斷關鍵執行個體未啟動並執行原因或存在的問題,當任務依賴複雜時,您可以通過該功能快速定位問題,提升營運效率。上遊分析更多詳情請參見任務到定時時間,為什麼還沒運行?等待資源任務凍結與解凍

緊急營運操作

  • 當上遊任務未運行,且存在多個父節點依賴時。如果要緊急運行某任務,您可以按右鍵未運行執行個體,選擇緊急操作 > 去除依賴
    說明 需要根據任務代碼、任務血緣確認該操作是否會對資料造成影響。
  • 當發生大範圍的資料品質問題時,您可以按右鍵執行個體,選擇緊急操作 > 強制重跑或強制重跑下遊。詳情請參見附錄:強制重跑下遊

管理周期任務

上線周期任務

任務需要先通過發布流程發布至生產調度系統後,您才可以在營運中心的周期工作清單中看到該任務。操作詳情請參見:發布任務上下任務

下線周期任務

當某任務或商務程序無需再運行時,您可選擇下線相應任務,下線後,周期任務介面將無法找到該任務。詳情請參見下線任務

暫停調度運行

重要 請勿隨意操作projectname_root節點,該節點為工作空間根節點。周期任務的執行個體均依賴於該節點,如果凍結該節點,周期執行個體將無法運行。
操作情境說明
暫停(凍結)周期任務如果某任務及其下遊任務在未來一段時間內不需要自動調度運行,您可以選擇暫停(凍結)該任務。
  • 凍結操作:自動調度情境下,任務運行需要當前節點依賴的所有父節點均執行成功,當前節點才會執行,如果父節點處於凍結狀態,將阻塞下遊節點運行。所以,如果某任務及其下遊任務均不需要運行時,可以選擇暫停對應商務程序的根節點。
  • 凍結後現象:凍結周期任務後,產生的周期執行個體會處於凍結狀態,並導致依賴該周期執行個體的下遊執行個體無法運行。
暫停(凍結)執行個體如果周期任務產生的某個執行個體不需要運行,您可以選擇凍結該執行個體。凍結操作僅在該執行個體生效。不影響當天其他執行個體與周期任務後期產生的執行個體的運行。
周期任務置為空白跑如果某任務一段時間內不需要自動調度運行,但不阻塞下遊任務運行時,您可以將任務的調度類型設定為空跑調度空跑狀態的周期任務將產生空跑的執行個體(作業記錄為空白,無執行時間長度,不會實際跑資料)。空跑
說明 在資料開發介面將任務的調度類型設定為暫停調度與產生營運中心對周期任務進行暫停操作效果一致。但在資料開發介面的修改僅在開發環境生效,若要在生產環境生效,需要進行發佈動作。詳情請參見:發布任務
說明 凍結解凍周期任務和周期執行個體的影響請參見:任務凍結與解凍

任務優先順序管理

您可以通過基準管理功能,管理工作的優先順序,高優先順序的任務將會優先獲得調度資源。詳情請參見管理基準

任務監控警示

您可以在周期工作清單對任務配置監控規則:
  • 支援針對周期任務設定周期執行個體調度運行時的狀態監控。詳情請參見:建立並管理自訂規則
  • 支援針對周期任務設定周期執行個體、補資料執行個體、測試執行個體運行時產出的表資料品質監控。詳情請參見:資料品質概述
  • 支援針對任務執行資源組設定等執行個體數,資源使用率監控警示。詳情請參見:建立並管理自訂規則

修改任務資源群組

支援您修改任務使用的資源群組,包括修改調度資源群組、修改Data Integration任務執行資源組。詳情請參見通用參考:切換資源群組
說明 如果您需要重新定義周期任務的相關屬性,可以進入資料開發介面,找到該任務並開啟配置視窗進行配置。詳情請參見:配置基礎屬性。如果要批量對任務進行修改,可以進入大量操作介面進行操作。

修改任務責任人

需要先開啟允許子帳號修改責任人。開啟允許

開啟後,空間管理員可在如下位置操作。

  • 支援在資料開發修改單個任務或批量修改任務責任人
    1. 修改單個任務:開啟節點調度配置介面 > 基礎屬性面板
    2. 批量修改任務:大量操作頁面,請參見大量操作

    開發環境修改完成後,需要走發布流程發布,生產任務責任人變更才會生效。

  • 生產環境修改:
    說明圖示
    修改單個任務責任人單個
    批量修改任務責任人批量
    說明 生產環境修改責任人會同步變更開發環境任務責任人。

查看周期任務操作記錄

入口說明圖示
任務或執行個體的動作記錄動作記錄可以查看任務或執行個體的變更記錄。動作記錄
節點版本如果通過發布流程發布的操作無詳細記錄,您可以在資料開發介面,通過節點版本與生產環境版本對比,擷取版本變更的詳細情況。詳情請參見:發布任務對比
操作歷史操作歷史可以查看任務、執行個體、基準的操作記錄。需求請參見:查看營運中心操作記錄動作記錄

常見問題

周期任務營運相關的常見問題,請參見周期任務常見問題