全部產品
Search
文件中心

Simple Log Service:資料擷取概述

更新時間:Aug 01, 2024

Log Service支援採集伺服器與應用、開源軟體、物聯網、移動端、標準協議、阿里雲產品等多種來源的資料。本文列舉了Log Service所支援的資料來源。

採集方式

採集方式

說明

相關文檔

Logtail採集

Logtail是Log Service提供的日誌採集Agent,多年來一直承載著阿里巴巴集團重要服務的資料擷取。每天採集數百萬台伺服器上的即時資料,日流量數十PB,並曆經多次雙十一挑戰。

雲產品日誌採集

採集彈性計算、儲存服務、安全、資料庫等多種阿里雲雲產品的日誌資料,包括雲產品的操作資訊、健全狀態、業務動態等資訊。

雲產品日誌概述

資料匯入

匯入OSS檔案、Amazon S3檔案、MySQL資料、Elasticsearch資料、Kafka資料等。

其他採集方式

通過Kafka協議、Syslog協議、Loggie上傳日誌到Log Service,通過WebTracking功能或者通過Log ServiceSDK上傳日誌。

採集常見日誌

採集Log4j日誌、Python日誌、Node.js日誌、WordPress日誌、Unity3D日誌。

資料來源

類別

來源

接入方式

更多

應用

程式輸出

Logtail

訪問日誌

Logtail

分析Nginx訪問日誌

鏈路跟蹤

時序資料

語言

Java

Log4J Appender

LogBack Appender

LogBack

C

Log Service C SDK

Python

Log Service Python SDK

Python Logging

PHP

Log Service PHP SDK

.Net

Log Service csharp SDK

C++

Log Service C++ SDK

Go

NodeJS

NodeJs

JS

JS/Web Tracking

OS

Linux

Logtail

Windows

Logtail

Mac/Unix

Native C

Docker檔案

Logtail

Docker輸出

Logtail

資料庫

MySQL Binlog

Logtail

MySQL查詢

Logtail

SQL Server查詢結果

Logtail

PostgreSQL查詢結果

Logtail

移動端

iOS、Android

網頁

JS/Web Tracking

智能IoT

C Producer Library

標準協議

HTTP 輪詢

Logtail

採集和查詢分析Nginx監控日誌

Syslog

Logtail

Kafka

Kafka Producer SDK

OpenTelemetry

OpenTelemetry等

輸入匯入

OSS資料

匯入服務

MySQL資料

匯入服務

Elasticsearch資料

匯入服務

CloudMonitor資料

匯入服務

第三方

Logstash

LogstashKafka協議

Flume

Flume消費

Beats

Kafka協議

Fluentd

Kafka協議

Telegraf

Kafka協議

阿里雲雲產品

ECS、OSS等阿里雲產品日誌

雲產品日誌採集

選擇網路類型和存取點(Endpoint)

  • 阿里雲內網:阿里雲內網為千兆共用網路,日誌資料通過阿里雲內網傳輸比公網傳輸更快速、穩定,內網包括VPC和傳統網路。

  • 公網:使用公網傳輸日誌資料,不僅會受到網路頻寬的限制,還可能會因網路抖動、延遲、丟包等影響資料擷取的速度和穩定性。

  • 傳輸加速:利用阿里雲CDN邊緣節點進行日誌採集加速,相對公網採集在網路延遲、穩定性上具有很大優勢。 

不同網路類型的使用情境,請參見選擇網路。存取點(Endpoint)的列表,請參見服務存取點。開啟傳輸加速網域名稱的步驟,請參見管理傳輸加速

常見問題

  • 專線方式接入應如何選擇網路?

    請選擇阿里雲內網(傳統網路或Virtual Private Cloud)。

  • 採集公網資料時能否採集公網IP地址?

    您可以在Logstore屬性中開通記錄外網IP功能。更多資訊,請參見建立Logstore

  • 將地區A上的ECS日誌採集到地區B下Log ServiceProject中,應如何選擇網路?

    在地區A上的ECS中安裝地區B公網的版本Logtail,進行公網傳輸。其他情況下的網路選擇,請參見選擇網路

  • 如何快速判斷目標網域名稱能否串連?

    執行以下命令,如果有返回資訊則表示可以聯通。

     curl $myproject.cn-hangzhou.log.aliyuncs.com
    • $myproject:Project名。

    • cn-hangzhou.log.aliyuncs.com:訪問存取點。