周期任務是指在調度系統按照調度配置周期性自動調度的任務。您可以在
列表查看指定工作空間下的周期任務,並對任務進行營運操作,包括自動調度和手動運行周期任務、查看任務運行詳情、暫停任務、下線任務等。本文為您介紹周期任務的營運操作詳情。使用說明
- 僅生產環境營運中心支援自動調度組建循環執行個體,開發環境營運中心不支援自動調度,且不會產生自動調度的周期執行個體。
- 對生產環境的任務代碼、調度配置、資源、函數進行新增、修改、下線等操作,均可通過提交和發布流程來實現。
- 任務的變更均需執行發佈動作,發布成功後該變更才會在生產環境中生效。發布時可能存在發布失敗、發布流程被阻塞或發布版本不符合預期等情況,因此,建議您在任務發布後,進入查看並管理周期任務。 介面進行排查。詳情請參見
營運操作概述
本文為您介紹周期任務的營運操作詳情。
營運操作 | 說明 |
查看周期任務 | 您可以在周期任務頁面通過列表及DAG圖的方式,快速查看任務的詳細資料並執行相關操作。 |
運行周期任務 | |
管理周期任務 |
|
查看周期任務操作記錄 | 您可以查看任務或執行個體的動作記錄、節點版本及操作歷史。 |
查看周期任務
周期工作清單中為您展示生產環境下調度系統按照調度配置自動定時啟動並執行任務,您可以檢查任務代碼、調度參數、調度依賴、節點血緣等是否符合預期。同時,支援您通過列表及DAG圖的方式,快速查看任務的詳細資料並執行相關操作。詳情請參見:查看並管理周期任務。
說明
- 僅發布至生產環境的任務才可以在營運中心的周期工作清單中看到。
- 當任務展開父節點時沒有依賴任何父節點,或者某任務為上遊任務但又同時依賴了自己的下遊任務,導致依賴關係成環。這兩種類型的任務在自動調度時將不會被調度調起。
運行周期任務
您可瞭解DataWorks任務運行方式,並根據任務執行情況快速進行營運診斷。
運行方式
DataWorks每晚會根據周期任務自動產生第二天待啟動並執行周期執行個體,同時支援您手動觸發周期任務,分別產生補資料執行個體和測試執行個體。
執行個體類型 | 應用情境 | 與周期任務的關係 (對應執行個體如何產生) | 執行個體觸發方式 (對應執行個體如何觸發執行) |
周期執行個體 | 周期性自動化進行ETL操作。 | 平台每晚根據某一時間點周期任務快照資訊自動產生第二天待啟動並執行周期執行個體。 說明 開發環境營運中心不會自動調度組建循環執行個體。 | 平台自動觸發周期執行個體執行。 |
補資料執行個體 | 需要對當前任務及下遊任務執行補過去某一時間段或未來某段時間的資料的操作,即需要對歷史或未來時間段的資料進行ETL操作。 | 人為針對當前周期任務手動觸發補資料操作,並產生補資料執行個體。 | 產生補資料執行個體的同時觸發補資料執行個體執行。 |
執行測試並查看測試執行個體 | 需要對當前周期任務進行測試,觀察執行結果是否符合預期。 說明 測試執行個體的運行也在真實執行代碼邏輯。 | 人為針對當前周期任務手動觸發測試操作,並產生測試執行個體。 | 產生測試執行個體的同時觸發測試執行個體執行。 |
任務運行條件和問題定位
任務啟動並執行條件
調度任務運行需要滿足上遊任務運行成功、當前任務定時時間已到、調度資源充足、當前任務未凍結等條件,詳情請參見:調度任務啟動並執行必要條件。
任務運行問題診斷
問題現象:當任務到定時時間,但還未運行時,可能原因是該節點所有依賴的父節點還未運行成功、任務定時時間未到、專案下沒有足夠的調度資源可讓任務運行、任務被凍結等。
問題排查:建議您先通過DAG面板中的上遊分析功能,快速定位阻塞當前任務啟動並執行關鍵上遊任務,再通過運行診斷功能,診斷關鍵執行個體未啟動並執行原因或存在的問題,當任務依賴複雜時,您可以通過該功能快速定位問題,提升營運效率。更多詳情請參見任務到定時時間,為什麼還沒運行?、等待資源、任務凍結與解凍。
緊急營運操作
- 當上遊任務未運行,且存在多個父節點依賴時。如果要緊急運行某任務,您可以按右鍵未運行執行個體,選擇說明 需要根據任務代碼、任務血緣確認該操作是否會對資料造成影響。 。
- 當發生大範圍的資料品質問題時,您可以按右鍵執行個體,選擇附錄:強制重跑下遊。 。詳情請參見
管理周期任務
上線周期任務
任務需要先通過發布流程發布至生產調度系統後,您才可以在營運中心的周期工作清單中看到該任務。操作詳情請參見:發布任務。
下線周期任務
當某任務或商務程序無需再運行時,您可選擇下線相應任務,下線後,周期任務介面將無法找到該任務。詳情請參見下線任務。
暫停調度運行
重要 請勿隨意操作projectname_root節點,該節點為工作空間根節點。周期任務的執行個體均依賴於該節點,如果凍結該節點,周期執行個體將無法運行。
操作 | 情境 | 說明 |
暫停(凍結)周期任務 | 如果某任務及其下遊任務在未來一段時間內不需要自動調度運行,您可以選擇暫停(凍結)該任務。 |
|
暫停(凍結)執行個體 | 如果周期任務產生的某個執行個體不需要運行,您可以選擇凍結該執行個體。 | 凍結操作僅在該執行個體生效。不影響當天其他執行個體與周期任務後期產生的執行個體的運行。 |
周期任務置為空白跑 | 如果某任務一段時間內不需要自動調度運行,但不阻塞下遊任務運行時,您可以將任務的調度類型設定為空跑調度。 | 空跑狀態的周期任務將產生空跑的執行個體(作業記錄為空白,無執行時間長度,不會實際跑資料)。 說明 在資料開發介面將任務的調度類型設定為暫停調度與產生營運中心對周期任務進行暫停操作效果一致。但在資料開發介面的修改僅在開發環境生效,若要在生產環境生效,需要進行發佈動作。詳情請參見:發布任務。 |
說明 凍結解凍周期任務和周期執行個體的影響請參見:任務凍結與解凍。
任務優先順序管理
您可以通過基準管理功能,管理工作的優先順序,高優先順序的任務將會優先獲得調度資源。詳情請參見管理基準。
任務監控警示
您可以在周期工作清單對任務配置監控規則:
修改任務資源群組
支援您修改任務使用的資源群組,包括修改調度資源群組、修改Data Integration任務執行資源組。詳情請參見通用參考:切換資源群組。
修改任務責任人
需要先開啟允許子帳號修改責任人。
開啟後,空間管理員可在如下位置操作。
- 支援在資料開發修改單個任務或批量修改任務責任人
- 修改單個任務:開啟 。
- 批量修改任務:大量操作頁面,請參見大量操作。
開發環境修改完成後,需要走發布流程發布,生產任務責任人變更才會生效。
- 生產環境修改:
說明 圖示 修改單個任務責任人 批量修改任務責任人 說明 生產環境修改責任人會同步變更開發環境任務責任人。
查看周期任務操作記錄
入口 | 說明 | 圖示 |
任務或執行個體的動作記錄 | 動作記錄可以查看任務或執行個體的變更記錄。 | |
節點版本 | 如果通過發布流程發布的操作無詳細記錄,您可以在資料開發介面,通過節點版本與生產環境版本對比,擷取版本變更的詳細情況。詳情請參見:發布任務。 | |
操作歷史 | 操作歷史可以查看任務、執行個體、基準的操作記錄。需求請參見:查看營運中心操作記錄。 |
常見問題
周期任務營運相關的常見問題,請參見周期任務常見問題。