營運中心是一站式巨量資料營運監控平台,支援即時查看任務運行狀態,提供智能診斷、重跑等營運操作,協助您對異常任務進行基礎營運;提供智能基準,協助您解決重要任務產出時間不可控,海量任務監控難的問題,保障任務產出的時效性;提供引擎、資源、調度等多方位的營運能力。
營運中心功能模組
在資料開發中完成任務開發,提交並發布後,即可在營運中心對周期任務、手動任務以及即時任務進行生產任務運行、任務運行問題定位、任務運行狀態監控、任務營運關鍵計量查看、引擎工作清單查看等營運操作。
注意事項
任務發布至生產環境後才會自動調度運行,開發環境內的任務不會自動調度運行。
進入營運中心
登入DataWorks控制台,切換至目標地區後,單擊左側導覽列的 ,在下拉框中選擇對應工作空間後單擊進入營運中心。
任務營運
任務營運模組包含了周期任務營運、即時任務營運以及手動任務營運三種任務類型的營運,您可通過營運大屏查看任務啟動並執行重要指標,並利用營運助手中的補資料、智能診斷、自動營運等功能對需要營運的任務進行多方面的營運操作。
模組 | 說明 | 環境支援情況 | |
營運大屏以報表的形式為您展示調度任務的關鍵營運指標統計與Data Integration離線同步與即時同步任務營運專頁。 | 開發環境營運中心無此模組。 | ||
周期任務營運 | 周期任務為您提供周期任務的DAG圖、任務測試、補資料等更多操作。 | 開發環境營運中心無法自動調度組建循環執行個體。 | |
周期執行個體為您展示周期任務提交至調度系統後產生的執行個體列表,在列表內可進行執行個體的DAG圖、運行診斷、重跑周期執行個體等更多操作。 | |||
測試執行個體列表為您展示周期任務執行測試操作後產生的測試執行個體,您可以查看測試執行個體的執行情況,在列表內可查看執行個體的DAG圖、運行診斷、重跑執行個體等更多操作。 | |||
即時任務營運 | Realtime Compute任務頁面方便您對Realtime Compute任務進行啟動、停止、下線操作,以及設定監控警示,保證在任務運行異常時及時發現並處理異常。 | - | |
即時同步任務頁面方便您對即時同步任務進行啟動、停止、下線、修改負責人的操作,以及設定監控警示,保證在任務運行異常時及時發現並處理異常。 | - | ||
手動任務營運 | 在手動任務中您可以對手動任務進行查詢、DAG圖查看、手動運行、查看執行個體以及更多操作。 | - | |
在手動執行個體中您可以通過DAG圖的方式,快速查看執行個體的詳細資料並執行查看作業記錄、運行診斷、查看代碼、查看血緣等一系列相關操作。 | - | ||
營運助手 | 補資料頁面為您提供了對補資料任務進行管理操作。 | - | |
智能診斷為您提供了對任務進行全鏈路分析的能力,您可以使用該功能快速定位問題所在。可查看任務的運行詳情、基本資料、影響基準以及歷史執行個體。 | 開發環境營運中心無此模組。 | ||
自動營運為您提供了自訂的營運規則,您可以實現對運行在目標資源群組上的執行個體定製監控指標與自訂營運規則,在觸發規則後,將會觸發營運動作,達成自動營運目的。 | - |
以周期執行個體中的任務為例,任務開始運行前需滿足以下條件:
依賴的所有父節點執行個體狀態都為成功狀態。
已到達任務節點設定的任務定時已耗用時間。
調度資源充足。
本任務不是凍結狀態。
營運中心中,不同的執行個體顏色代表執行個體處於不同的狀態中,執行個體運行狀態示意詳情可參考:附錄:執行個體運行狀態與運行診斷。
任務監控
任務監控模組包含了智能基準、監控警示功能,您可以通過配置智能基準功能來擷取任務異常情況並進行預警,以及組態管理規則、警示資訊以及值班表,實現對營運警示的及時處理等操作。
模組 | 描述 | 環境支援情況 | |
智能基準能夠及時捕捉導致基準上的任務無法按時完成的異常情況並提前預警,重要資料能在預期時間內順利產出,協助您降低配置成本、避免無效警示、自動監控所有重要任務。 | 開發環境營運中心無此模組。 | ||
監控警示 | 規則管理為您提供了自訂監控規則的配置,您可以通過監控規則來監控任務運行狀態或資源使用方式,方便您及時發現任務異常並處理異常。 | ||
警示資訊功能提供了統一管理任務監控模組產生的所有警示資訊。其中包括智能基準產生的基準預警資訊、事件警示資訊、自訂規則警示資訊以及全域規則警示產生的警示資訊。 | |||
值班表為您提供了處理營運警示的排班情況,能確保出現警示或執行個體需要維護時可及時響應。配置好值班表後,DataWorks將警示資訊發送給對應的值班人員,以便值班人員及時發現並處理問題。 |
其他營運
DataWorks除了為您提供了任務營運和智能監控外,還為您提供了對計算引擎(E-MapReduce)詳情的查看,對資源群組使用方式的監控營運,以及自訂調度參數,為您的日常營運與工作提供更便利、更豐富營運操作。
模組 | 描述 | 環境支援情況 | |
引擎營運為您提供了對計算引擎(E-MapReduce)作業的詳細資料進行查看,及時尋找並清理運行有誤的作業,避免該類作業阻塞下遊任務,影響執行個體任務正常運行。 | 開發環境營運中心無此模組。 | ||
資源營運通過可視化的方式為您展示資源群組使用方式及執行個體任務執行情況,實現資源群組及執行個體任務的智能監控和自動化營運,減少繁雜的人工操作,提高營運管理效率。 | - | ||
調度設定為您提供了對調度日曆和工作空間參數進行建立並管理的平台,更方便您自訂任務調度的方式。 | - |
附錄:執行個體運行狀態與運行診斷
營運中心按照不同的顏色標識來辨識任務正處於運行流程中的哪個階段,不同的執行個體顏色與標識代表執行個體處於不同的狀態。不同的執行個體顏色與標識所對應的任務狀態如下所示。關於任務運行必要條件詳情請參見:任務運行診斷。
序號 | 狀態類型 | 狀態標識 | 運行流程圖 |
1 | 運行成功狀態 | ||
2 | 未運行狀態 | ||
3 | 運行失敗狀態 | ||
4 | 執行狀態 | ||
5 | 等待狀態 | ||
6 | 暫停/凍結狀態 |