Log Service支援採集伺服器與應用、開源軟體、物聯網、移動端、標準協議、阿里雲產品等多種來源的資料。本文列舉了Log Service所支援的資料來源。
採集方式
採集方式 | 說明 | 相關文檔 |
Logtail採集 | Logtail是Log Service提供的日誌採集Agent,多年來一直承載著阿里巴巴集團重要服務的資料擷取。每天採集數百萬台伺服器上的即時資料,日流量數十PB,並曆經多次雙十一挑戰。 | |
雲產品日誌採集 | 採集彈性計算、儲存服務、安全、資料庫等多種阿里雲雲產品的日誌資料,包括雲產品的操作資訊、健全狀態、業務動態等資訊。 | |
資料匯入 | 匯入OSS檔案、Amazon S3檔案、MySQL資料、Elasticsearch資料、Kafka資料等。 | |
其他採集方式 | 通過Kafka協議、Syslog協議、Loggie上傳日誌到Log Service,通過WebTracking功能或者通過Log ServiceSDK上傳日誌。 | |
採集常見日誌 | 採集Log4j日誌、Python日誌、Node.js日誌、WordPress日誌、Unity3D日誌。 |
資料來源
類別 | 來源 | 接入方式 | 更多 |
應用 | 程式輸出 | 無 | |
訪問日誌 | |||
鏈路跟蹤 | 無 | ||
時序資料 | 無 | ||
語言 | Java | 無 | |
Log4J Appender | 無 | ||
LogBack Appender | 無 | ||
C | 無 | ||
Python | 無 | ||
Python Logging | 無 | 無 | |
PHP | 無 | ||
.Net | 無 | ||
C++ | 無 | ||
Go | 無 | ||
NodeJS | 無 | ||
JS | 無 | ||
OS | Linux | 無 | |
Windows | 無 | ||
Mac/Unix | 無 | ||
Docker檔案 | 無 | ||
Docker輸出 | 無 | ||
資料庫 | MySQL Binlog | 無 | |
MySQL查詢 | 無 | ||
SQL Server查詢結果 | 無 | ||
PostgreSQL查詢結果 | 無 | ||
移動端 | iOS、Android | 無 | |
網頁 | 無 | ||
智能IoT | 無 | ||
標準協議 | HTTP 輪詢 | ||
Syslog | 無 | ||
Kafka | 無 | ||
OpenTelemetry | 無 | ||
輸入匯入 | OSS資料 | 無 | |
MySQL資料 | 無 | ||
Elasticsearch資料 | 無 | ||
CloudMonitor資料 | 無 | ||
第三方 | Logstash | 無 | |
Flume | 無 | ||
Beats | 無 | ||
Fluentd | 無 | ||
Telegraf | 無 | ||
阿里雲雲產品 | ECS、OSS等阿里雲產品日誌 | 無 |
選擇網路類型和存取點(Endpoint)
阿里雲內網:阿里雲內網為千兆共用網路,日誌資料通過阿里雲內網傳輸比公網傳輸更快速、穩定,內網包括VPC和傳統網路。
公網:使用公網傳輸日誌資料,不僅會受到網路頻寬的限制,還可能會因網路抖動、延遲、丟包等影響資料擷取的速度和穩定性。
傳輸加速:利用阿里雲CDN邊緣節點進行日誌採集加速,相對公網採集在網路延遲、穩定性上具有很大優勢。
不同網路類型的使用情境,請參見選擇網路。存取點(Endpoint)的列表,請參見服務存取點。開啟傳輸加速網域名稱的步驟,請參見管理傳輸加速。
常見問題
專線方式接入應如何選擇網路?
請選擇阿里雲內網(傳統網路或Virtual Private Cloud)。
採集公網資料時能否採集公網IP地址?
您可以在Logstore屬性中開通記錄外網IP功能。更多資訊,請參見建立Logstore。
將地區A上的ECS日誌採集到地區B下Log ServiceProject中,應如何選擇網路?
在地區A上的ECS中安裝地區B公網的版本Logtail,進行公網傳輸。其他情況下的網路選擇,請參見選擇網路。
如何快速判斷目標網域名稱能否串連?
執行以下命令,如果有返回資訊則表示可以聯通。
curl $myproject.cn-hangzhou.log.aliyuncs.com
$myproject
:Project名。cn-hangzhou.log.aliyuncs.com
:訪問存取點。