Simple Log Serviceのドメイン固有言語 (DSL) は、Simple Log Serviceのデータ変換に使用されるPython互換のスクリプト言語です。 DSL for Simple Log ServiceはPythonに基づいて開発されており、データ変換ジョブを簡素化するために使用できる200以上の組み込み関数を提供しています。
柔軟なオーケストレーション
DSL for Simple Log Serviceを使用して、関数を柔軟に編集し、関数を組み合わせて、ほとんどのデータ変換シナリオで複雑なロジックを実装できます。
動的分布
DSL for Simple Log Serviceを使用して、特定のロジックとビジネス要件に基づいてさまざまなログストアにデータを配信できます。 Logstoreの名前は、動的コンピューティングを使用するか、Object Storage Service (OSS) バケットなどの外部リソースから取得できます。
データ強化
DSL for Simple Log Serviceを使用して、OSSバケットやApsaraDB RDS for MySQLインスタンスなどのローカルまたは外部リソースから強化用のデータを取得できます。
DSL for Simple Log Serviceを使用して、辞書とテーブルの定期的なマッピングと、テーブルの高度なマッピングを実行できます。
DSL for Simple Log Serviceを使用して、ロードされた外部リソースを自動的に更新できます。
グローバル処理機能
DSL for Simple Log Serviceは、約30のグローバル処理機能を提供します。 グローバル処理関数のパラメーターを設定して、処理操作を制御できます。 グローバル処理関数は、式関数の結果をパラメータとして受け入れます。 フロー制御関数はグローバル処理関数の一種であり、式関数および次の種類のグローバル処理関数と一緒に使用できます。
e_if_else
、e_if
、e_switch
、e_compose
などの関数を使用して、条件に基づいてプロセスを制御できます。e_search
などの単純な検索機能を使用して、さまざまな種類のログを柔軟に処理できます。
イベントを破棄、保持、分割、書き込み、および複製できます。
フィールドを保持、削除、および名前変更できます。
正規表現、Grokパターン、syslogプロトコル、引用符、キーと値のペアの区切り文字、コンマ (、) 、縦棒 (|) 、タブ (\t) などの区切り文字に基づいて、フィールドから値またはキーと値のペアを抽出できます。
JSONデータを抽出および強化できます。
辞書またはテーブルに基づいてデータをマップまたは検索できます。
ルール設定、外部OSSバケット、ApsaraDB RDS for MySQLインスタンスなどのリソースからデータをエンリッチするために使用されるディメンションテーブルに関する情報を取得できます。
関数を使用して、完全または増分変更ログに基づいて外部リソースを自動的に更新できます。
一部のログフィールドに関する情報を充実させることができます。 たとえば、IPアドレスの脅威インテリジェンスを取得し、ログ分析のために脅威インテリジェンスをログフィールドに保存できます。
Expression functions
DSL for Simple Log Serviceは、イベントを変換したり、グローバル処理関数の結果に影響を与えるために、200を超える組み込み式関数を提供します。 式関数は、ほとんどのデータ変換シナリオに適しています。 DSL for Simple Log Serviceは、次の式関数を提供します。
DSL for Simple Log Serviceは、Luceneのような構文、完全な正規表現、文字列、汎用文字、数値比較、およびand、OR、NOTなどの論理演算子を使用する条件ベースのフィルタリングメカニズムを提供します。
フィールド値を抽出、制御、比較できます。 複数のフィールドに対してコンテナの評価と操作を実行することもできます。
基本データ型の値を変換できます。 数値、辞書、リストを変換することもできます。
基本計算、多値計算、および数学計算を実行できます。 数学的パラメータに基づいて操作を実行することもできます。
複数のフィールドをエンコード、デコード、ソート、リバース、置換、正規化、検索、評価、切り捨て、およびフォーマットできます。 文字セットに基づいて評価を行うこともできます。
日付と時刻の値を変換できます。 日付と時刻の属性、日付と時刻の値、UNIXのタイムスタンプ、および日付と時刻の文字列を取得できます。 日付と時刻の値を変更および比較することもできます。
フィールドの抽出、照合、評価、置換、および切り捨てを行うことができます。
DSL for Simple Log Serviceは、400を超える組み込みGrokパターンを提供します。 Grokパターンは置き換えることができます。
JSON、Protobuf、およびXMLデータを抽出およびフィルタリングできます。
IPアドレスを解析してデータを変換できます。
SHA1、SHA256、SHA512、MD5、HTML、URL、またはBase64形式でテキストをエンコードおよびデコードできます。