Simple Log Service：觀測與監控資料加工（新版）任務

專案

說明

作用

用於監控資料加工任務中Shard消費延遲情況。當加工延遲時間長度大於規則參數中延遲監控閾值時觸發警示。

關聯儀錶盤

請參見Shard訊息延遲。

分析SQL範例

以下模板{job_name}替換為需要監控的資料加工（新版）任務名稱。

__topic__: etl_metrics and 
job_name: {job_name} and
"_etl_:connector_meta.action": ingest
| select
  split_part(
    "_etl_:connector_meta.task_name",
    '#',
    2
  ) as shard,
  max_by("_etl_:connector_metrics.lags", __time__) as lags
group by
  shard
having
  shard is not null
limit
  all

監控規則

• 觸發條件選擇有資料匹配，評估運算式為：lags>120，延遲監控閾值為120秒。

• 查詢區間為：5分鐘。

• 檢查頻率為：5分鐘。

消除方法

請按照如下原則進行處理：

1. 如果該資料加工任務處理歷史資料，且剛建立，需要一段時間完成歷史資料，請先觀察1小時，看延遲是否降到警示範圍以內。若否，則進行下一步。

2. 如果源Logstore的資料量明顯增長：

   • 加工速率 (events/s)速度同時提高，而且Shard消費延遲（s）出現下降趨勢，則說明由於源Logstore資料增長，資料加工任務在自動擴容資源。請先觀察5分鐘，看延遲是否降到警示範圍以內。若否，則進行下一步。

   • 加工速率 (events/s)速度沒有提高，或者Shard消費延遲（s）還處於上漲趨勢，則說明可能是源Logstore的Shard數目不足，導致資料加工資源擴充受限，您需要手動分裂源Logstore的Shard。具體操作，請參見管理Shard。完成分裂後，請先觀察5分鐘，看延遲是否降到警示範圍以內。若否，則進行下一步。

3. 如果存在資料加工異常報錯監控，請優先處理。處理完成後，請先觀察5分鐘，看延遲是否降到警示範圍以內。若否，則進行下一步。

4. 如果警示無法處理，請準備Project、Logstore和資料加工任務ID資訊，提工單聯絡阿里雲支援人員。

專案

說明

作用

用於監控資料加工任務中異常報錯。當資料加工出現異常報錯時觸發警示。

關聯儀錶盤

請參見運行異常。

分析SQL範例

以下模板{job_name}替換為需要監控的資料加工（新版）任務名稱。

__topic__: etl_metrics and 
job_name: {job_name} and 
"_etl_:connector_metrics.error": *
| select
  distinct "_etl_:connector_metrics.error" as errors

監控規則

• 觸發條件選擇有資料。

• 查詢區間為：10分鐘

• 檢查頻率為：10分鐘。

消除方法

請按照如下對應報錯資訊進行處理：

• 錯誤資訊中包含Invalid SPL query，則說明資料加工任務配置的SPL規則存在語法錯誤，需要參照報錯資訊進行修改。更多資訊，請參見SPL文法。

• 錯誤資訊中包含Unauthorized、InvalidAccessKeyId或SignatureNotMatch，則說明資料加工任務讀取源Logstore資料、或者寫入目標Logstore許可權不足。更多資訊，請參見授權概述。

• 錯誤資訊中包含ProjectNotExist或LogStoreNotExist，則說明資料加工任務涉及的Project或Logstore不存在。請登入 Log Service控制台檢查並處理。

• 如果警示無法處理，請準備Project、Logstore和資料加工任務ID資訊，提工單聯絡阿里雲支援人員。

專案

說明

作用

用於監控資料加工任務寫出至目標Logstore的處理結果資料量，與從源Logstore讀取的未經處理資料量的比例，相比昨日、以及上一周的增長閾值和下跌閾值情況。當增長大於規則參數中日/周同比增長閾值或下跌超過規則參數中日/周同比下跌閾值時觸發警示。

關聯儀錶盤

寫出日誌數佔比：成功投遞到目標Logstore的資料條數占源Logstore讀取到資料條數的比例，預設時間周期為1天。

分析SQL範例

建立警示規則的查詢統計對話方塊中輸入以下SQL。

以下模板{job_name}替換為需要監控的資料加工（新版）任務名稱。

__topic__: etl_metrics and 
job_name: {job_name}
| select
  round(diff [1], 1) as percent,
  round(coalesce(diff [3], 0), 1) as ratio_1d,
  round(coalesce(diff [5], 0), 1) as ratio_1w
from(
    select
      compare(percent, 86400, 604800) as diff
    FROM      (
        select
          deliver /(ingest + 0.0001) as percent
        from(
            select
              sum(
                if(
                  "_etl_:connector_meta.action" = 'ingest',
                  "_etl_:connector_metrics.native_bytes",
                  0
                )
              ) as ingest,
              sum(
                if(
                  "_etl_:connector_meta.action" = 'deliver',
                  "_etl_:connector_metrics.native_bytes",
                  0
                )
              ) as deliver
            FROM              log
          )
      )
  )

監控規則

• 觸發條件選擇有資料匹配，評估運算式為：(ratio_1d>120 || ratio_1d<80) && (ratio_1w>120 || ratio_1w<80) ，日/周同比增長和下跌閾值均為20%。

• 查詢區間為：1小時

• 檢查頻率為：1小時。

消除方法

請按照如下原則進行處理：

1. 如果源Logstore的資料量存在變化，請先檢查是否有新數模式的資料接入、或者某些模式的資料斷流。如果存在該情況，且由此導致的資料變化與當前規則對應的指標一致，則說明是由於源Logstore資料模式變化導致的。否則，進行下一步。

2. 如果存在資料加工延遲監控、或者處理異常報錯監控，請優先處理。處理完成後，請先觀察15分鐘，如果資料加工延遲已經回到1分鐘以內，但是加工資料量與源Logstore資料量增加（減少）趨勢不一致，則進行下一步。

3. 如果警示無法處理，請準備Project、Logstore和資料加工任務ID資訊，提工單聯絡阿里雲支援人員。

專案

說明

作用

用於監控資料加工任務讀取資料量相比昨日、以及上一周的增長閾值和下跌閾值情況。當增長大於規則參數中日/周同比增長閾值或下跌超過規則參數中日/周同比下跌閾值時觸發警示。

關聯儀錶盤

讀取日誌數總計：從源Logstore的各個shard中讀取到的資料條數總計，預設時間周期為1天。

分析SQL範例

建立警示規則的查詢統計對話方塊中輸入以下SQL。

以下模板{job_name}替換為需要監控的資料加工（新版）任務名稱。

__topic__: etl_metrics and 
job_name: {job_name} and
"_etl_:connector_meta.action": ingest
| select
  diff [1] as events,
  round(coalesce(diff [3], 0),  1) as ratio_1d,
  round(coalesce(diff [5], 0),  1) as ratio_1w
from(
    select
      compare(events, 86400, 604800) as diff
    FROM      (
        select
          sum("_etl_:connector_metrics.events") as events
        FROM          log
      )
  )

監控規則

• 觸發條件選擇有資料匹配，評估運算式為：(ratio_1d>120 || ratio_1d<80) && (ratio_1w>120 || ratio_1w<80) ，日/周同比增長和下跌閾值均為20%。

• 查詢區間為：1小時

• 檢查頻率為：1小時。

消除方法

請按照如下原則進行處理：

1. 如果該值變化趨勢與源Logstore的資料量增長（減少）趨勢一致，則說明是由於源Logstore資料量導致的。否則，進行下一步。

2. 如果存在資料加工延遲監控、或者處理異常報錯監控，請優先處理。處理完成後，請先觀察15分鐘，如果資料加工延遲已經回到1分鐘以內，但是加工資料量與源Logstore資料量增加（減少）趨勢不一致，則進行下一步。

3. 如果警示無法處理，請準備Project、Logstore和資料加工任務ID資訊，提工單聯絡阿里雲支援人員。

專案

說明

作用

用於監控資料加工任務寫出資料量相比昨日、以及上一周的增長閾值和下跌閾值情況。當增長大於規則參數中日/周同比增長閾值或下跌超過規則參數中日/周同比下跌閾值時觸發警示。

關聯儀錶盤

寫出日誌數總計：成功寫入到所有目標Logstore的資料條數總計，預設時間周期為1天。

分析SQL範例

建立警示規則的查詢統計對話方塊中輸入以下SQL。

以下模板{job_name}替換為需要監控的資料加工（新版）任務名稱。

__topic__: etl_metrics and 
job_name: {job_name} and
"_etl_:connector_meta.action": deliver
| select
  diff [1] as events,
  round(coalesce(diff [3], 0),  1) as ratio_1d,
  round(coalesce(diff [5], 0),  1) as ratio_1w
from(
    select
      compare(events, 86400, 604800) as diff
    FROM      (
        select
          sum("_etl_:connector_metrics.events") as events
        FROM          log
      )
  )

監控規則

• 觸發條件選擇有資料匹配，評估運算式為：(ratio_1d>120 || ratio_1d<80) && (ratio_1w>120 || ratio_1w<80) ，日/周同比增長和下跌閾值均為20%。

• 查詢區間為：1小時

• 檢查頻率為：1小時。

消除方法

請按照如下原則進行處理：

1. 如果該值變化趨勢與源Logstore的資料量增長（減少）趨勢一致，則說明是由於源Logstore資料量導致的。若否，則進行下一步。

2. 如果存在資料加工延遲監控、或者處理異常報錯監控，請優先處理。處理完成後，請先觀察15分鐘，如果資料加工延遲已經回到1分鐘以內，但是加工資料量與源Logstore資料量增加（減少）趨勢不一致，則進行下一步。

3. 如果警示無法處理，請準備Project、Logstore和資料加工任務ID資訊，提工單聯絡阿里雲支援人員。