全部產品
Search
文件中心

Simple Log Service:資料加工概述

更新時間:Jun 30, 2024

Simple Log Service提供可託管、可擴充、高可用的資料加工服務。資料加工服務可用於資料的規整、富化、流轉、脫敏和過濾。

加工流程

資料加工服務通過如下三個步驟完成加工處理。

  1. 通過協同消費組對源Logstore的資料進行讀取。

  2. 通過加工規則對讀取到的每一條資料進行加工處理。

  3. 將加工後的資料寫入目標Logstore。

    資料加工完成後,您可以在目標Logstore中查看加工後的資料。

功能特性

Simple Log Service提供資料加工功能,用於資料的規整、富化、流轉、脫敏和過濾。具體說明如下:

  • 資料規整:針對混亂格式的日誌進列欄位提取、格式轉換,擷取結構化資料以支援後續的流處理、資料倉儲計算。

  • 資料富化:對日誌(例如訂單日誌)和維表(例如使用者資訊表)進列欄位串連(JOIN),為日誌添加更多維度資訊,用於資料分析。

  • 資料流轉:通過跨地區加速功能將海外地區的日誌傳輸到中心地區,實現全球日誌集中化管理。

  • 資料脫敏:對資料中包含的密碼、手機號、地址等敏感資訊進行脫敏。

  • 資料過濾:過濾出關鍵服務的日誌,用於重點分析。

適用情境

  • 資料規整(一對一):從源Logstore中讀取日誌資料,進行加工後輸出到目標Logstore中。資料規整

  • 資料指派(一對多):從源Logstore中讀取日誌資料,進行加工後分別輸出到不同的目標Logstore中。資料指派

  • 資料融合(多對一):分別從不同的源Logstore中讀取日誌資料,進行加工後輸出到目標Logstore中。多源彙集

加工文法

SLS DSL(Domain Specific Language)提供了200多個內建函數以及400多個Regex模式,同時提供靈活的自訂函數(UDF)能力。更多資訊,請參見文法簡介

優勢

  • SLS DSL自由編排,包括過濾、規整、富化、流轉、脫敏等。

  • 即時處理、資料秒級可見、計算能力擴充、按量Auto Scaling、高吞吐能力。

  • 面向日誌分析情境,提供開箱即用的函數。

  • 提供即時儀錶盤、異常日誌和警示整合功能。

  • 全託管、免營運,與阿里雲巨量資料產品、開源生態整合。

費用說明

  • 若Logstore的計費模式為按寫入資料量計費時,資料加工服務不產生費用,僅從Log Service公網網域名稱所在介面拉取資料時,會產生外網讀取流量(按照壓縮後的資料量計算)。具體內容,可參見按寫入資料量計費模式計費項目

  • 若Logstore的計費模式為按使用功能計費時,資料加工服務會消耗機器與網路資源產生相應費用。更多資訊,請參見按使用功能計費模式計費項目

  • 您可以根據實際情況關閉源Logstore的索引,並設定較短的日誌資料儲存時間,以節省費用。更多資訊,請參見效能指南成本最佳化指南