Simple Log Service提供可託管、可擴充、高可用的資料加工服務。資料加工服務可用於資料的規整、富化、流轉、脫敏和過濾。
加工流程
資料加工服務通過如下三個步驟完成加工處理。
通過協同消費組對源Logstore的資料進行讀取。
通過加工規則對讀取到的每一條資料進行加工處理。
將加工後的資料寫入目標Logstore。
資料加工完成後,您可以在目標Logstore中查看加工後的資料。
功能特性
Simple Log Service提供資料加工功能,用於資料的規整、富化、流轉、脫敏和過濾。具體說明如下:
資料規整:針對混亂格式的日誌進列欄位提取、格式轉換,擷取結構化資料以支援後續的流處理、資料倉儲計算。
資料富化:對日誌(例如訂單日誌)和維表(例如使用者資訊表)進列欄位串連(JOIN),為日誌添加更多維度資訊,用於資料分析。
資料流轉:通過跨地區加速功能將海外地區的日誌傳輸到中心地區,實現全球日誌集中化管理。
資料脫敏:對資料中包含的密碼、手機號、地址等敏感資訊進行脫敏。
資料過濾:過濾出關鍵服務的日誌,用於重點分析。
適用情境
資料規整(一對一):從源Logstore中讀取日誌資料,進行加工後輸出到目標Logstore中。
資料指派(一對多):從源Logstore中讀取日誌資料,進行加工後分別輸出到不同的目標Logstore中。
資料融合(多對一):分別從不同的源Logstore中讀取日誌資料,進行加工後輸出到目標Logstore中。
加工文法
SLS DSL(Domain Specific Language)提供了200多個內建函數以及400多個Regex模式,同時提供靈活的自訂函數(UDF)能力。更多資訊,請參見文法簡介 。
優勢
SLS DSL自由編排,包括過濾、規整、富化、流轉、脫敏等。
即時處理、資料秒級可見、計算能力擴充、按量Auto Scaling、高吞吐能力。
面向日誌分析情境,提供開箱即用的函數。
提供即時儀錶盤、異常日誌和警示整合功能。
全託管、免營運,與阿里雲巨量資料產品、開源生態整合。
費用說明
若Logstore的計費模式為按寫入資料量計費時,資料加工服務不產生費用,僅從Log Service公網網域名稱所在介面拉取資料時,會產生外網讀取流量(按照壓縮後的資料量計算)。具體內容,可參見按寫入資料量計費模式計費項目。
若Logstore的計費模式為按使用功能計費時,資料加工服務會消耗機器與網路資源產生相應費用。更多資訊,請參見按使用功能計費模式計費項目。
您可以根據實際情況關閉源Logstore的索引,並設定較短的日誌資料儲存時間,以節省費用。更多資訊,請參見效能指南和成本最佳化指南。