全部產品
Search
文件中心

Simple Log Service:JSON格式

更新時間:Aug 30, 2024

Log Service將資料投遞到OSS後,支援儲存為不同的檔案格式。本文介紹JSON格式。

參數配置

建立OSS投遞任務(新版)時,如果選擇儲存格式json,對應的參數配置如下所示。

json

參數

說明

是否投遞tag

是否投遞日誌tag欄位,例如__tag__:abc

OSS檔案地址

投遞到OSS後,OSS檔案地址範例如下所示。

說明
  • 在建立OSS投遞任務時,如果您自訂了檔案尾碼,則檔案尾碼由您自訂的尾碼決定。

  • 在建立OSS投遞任務時,如果您未自訂檔案尾碼,則檔案尾碼由壓縮類型決定。

壓縮類型

檔案尾碼

OSS檔案地址樣本

說明

不壓縮

如果您自訂了檔案尾碼,則以您的設定為準,例如.json。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.json

未壓縮的JSON檔案可下載到本地,以文本方式開啟查看。檔案範例如下所示。

{"__time__":"1453809242","__topic__":"","__source__":"10.170.***.***","ip":"10.200.**.***","time":"26/Jan/2016:19:54:02 +0800","url":"POST
              /PutData?Category=YunOsAccountOpLog&AccessKeyId=<yourAccessKeyId>&Date=Fri%2C%2028%20Jun%202013%2006%3A53%3A30%20GMT&Topic=raw&Signature=<yourSignature>
              HTTP/1.1","status":"200","user-agent":"aliyun-sdk-java"}

如果未自訂檔案尾碼,則無檔案尾碼。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937

壓縮(snappy)

如果您自訂了檔案尾碼,則以您的設定為準,例如.json。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.json

使用snappy壓縮、解壓縮的詳細說明,請參見解壓Snappy壓縮檔

問題:

如果使用了snappy壓縮且通過EMR的hive讀取檔案時,可能會報如下錯誤:

image

解決方案:

請先執行語句:io.compression.codec.snappy.native=true; ,再進行查詢操作。EMR的hive其他相關問題,請提工單解決。

如果未自訂檔案尾碼,則檔案尾碼為.snappy。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.snappy

壓縮(gzip)

如果您自訂了檔案尾碼,則以您的設定為準,例如.json。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.json

如果使用了gzip壓縮,則您可以安裝並使用gzip命令進行解壓。

如果未自訂檔案尾碼,則檔案尾碼為.gz。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.gz

壓縮(zstd)

如果您自訂了檔案尾碼,則以您的設定為準,例如.json。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.json

如果使用了zstd壓縮,則您可以安裝並使用zstd命令進行解壓。

如果未自訂檔案尾碼,則檔案尾碼為.zst。

oss://oss-shipper-chengdu/ecs_test/2022/01/26/20/54_1453812893059571256_937.zst