全部產品
Search
文件中心

Platform For AI:邊聚類係數

更新時間:Dec 26, 2024

邊聚類係數(Edge Clustering Coefficient)是用于衡量網路中一條邊在其鄰域內形成三角形閉合程度的指標。它通過計算串連兩個節點的邊在其共同鄰置中形成三角形的比例來實現。這一係數在分析網路結構和社區檢測中具有重要意義,有助於識別局部的聚集模式和群體結構。

配置組件

方法一:可視化方式

在Designer工作流程頁面添加邊聚類係數組件,並在介面右側配置相關參數:

參數類型

參數

描述

欄位設定

起始節點

邊表的起點所在列。

終止節點

邊表的終點所在列。

執行調優

進程數量

作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。

進程記憶體

單個作業可使用的最大記憶體量,單位:MB,預設值為4096。

如果實際使用記憶體超過該值,會拋出OutOfMemory異常。

資料切分大小

資料切分的大小,單位:MB,預設值為64。

方法二:PAI命令方式

使用PAI命令配置邊聚類係數組件參數。您可以使用SQL指令碼組件進行PAI命令調用,詳情請參見情境4:在SQL指令碼組件中執行PAI命令

PAI -name EdgeDensity
    -project algo_public
    -DinputEdgeTableName=EdgeDensity_func_test_edge
    -DfromVertexCol=flow_out_id
    -DtoVertexCol=flow_in_id
    -DoutputTableName=EdgeDensity_func_test_result;

參數

是否必選

預設值

描述

inputEdgeTableName

輸入邊表名。

inputEdgeTablePartitions

全表讀入

輸入邊表的分區。

fromVertexCol

輸入邊表的起點所在列。

toVertexCol

輸入邊表的終點所在列。

outputTableName

輸出表名。

outputTablePartitions

輸出表的分區。

lifecycle

輸出表的生命週期。

workerNum

未設定

作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。

workerMem

4096

單個作業可使用的最大記憶體量,單位:MB,預設值為4096。

如果實際使用記憶體超過該值,會拋出OutOfMemory異常。

splitSize

64

資料切分的大小,單位:MB。

使用樣本

  1. 添加SQL指令碼組件,輸入以下SQL語句產生訓練資料。

    drop table if exists EdgeDensity_func_test_edge;
    create table EdgeDensity_func_test_edge as
    select * from
    (
      select '1' as flow_out_id,'2' as flow_in_id
      union all
      select '1' as flow_out_id,'3' as flow_in_id
      union all
      select '1' as flow_out_id,'5' as flow_in_id
      union all
      select '1' as flow_out_id,'7' as flow_in_id
      union all
      select '2' as flow_out_id,'5' as flow_in_id
      union all
      select '2' as flow_out_id,'4' as flow_in_id
      union all
      select '2' as flow_out_id,'3' as flow_in_id
      union all
      select '3' as flow_out_id,'5' as flow_in_id
      union all
      select '3' as flow_out_id,'4' as flow_in_id
      union all
      select '4' as flow_out_id,'5' as flow_in_id
      union all
      select '4' as flow_out_id,'8' as flow_in_id
      union all
      select '5' as flow_out_id,'6' as flow_in_id
      union all
      select '5' as flow_out_id,'7' as flow_in_id
      union all
      select '5' as flow_out_id,'8' as flow_in_id
      union all
      select '7' as flow_out_id,'6' as flow_in_id
      union all
      select '6' as flow_out_id,'8' as flow_in_id
    )tmp;
    drop table if exists EdgeDensity_func_test_result;
    create table EdgeDensity_func_test_result
    (
      node1 string,
      node2 string,
      node1_edge_cnt bigint,
      node2_edge_cnt bigint,
      triangle_cnt bigint,
      density double
    );

    對應的資料結構圖:

    image

  2. 添加SQL指令碼組件,輸入以下PAI命令進行訓練。

    drop table if exists ${o1};
    PAI -name EdgeDensity
        -project algo_public
        -DinputEdgeTableName=EdgeDensity_func_test_edge
        -DfromVertexCol=flow_out_id
        -DtoVertexCol=flow_in_id
        -DoutputTableName=${o1};
  3. 右擊上一步的組件,選擇查看資料 > SQL指令碼的輸出,查看訓練結果。

    | node1 | node2 | node1_edge_cnt | node2_edge_cnt | triangle_cnt | density |
    | ----- | ----- | -------------- | -------------- | ------------ | ------- |
    | 3     | 1     | 4              | 4              | 2            | 0.5     |
    | 5     | 1     | 7              | 4              | 3            | 0.75    |
    | 7     | 1     | 3              | 4              | 1            | 0.33333 |
    | 1     | 2     | 4              | 4              | 2            | 0.5     |
    | 4     | 2     | 4              | 4              | 2            | 0.5     |
    | 2     | 3     | 4              | 4              | 3            | 0.75    |
    | 5     | 3     | 7              | 4              | 3            | 0.75    |
    | 3     | 4     | 4              | 4              | 2            | 0.5     |
    | 8     | 4     | 3              | 4              | 1            | 0.33333 |
    | 2     | 5     | 4              | 7              | 3            | 0.75    |
    | 4     | 5     | 4              | 7              | 3            | 0.75    |
    | 7     | 5     | 3              | 7              | 2            | 0.66667 |
    | 5     | 6     | 7              | 3              | 2            | 0.66667 |
    | 8     | 6     | 3              | 3              | 1            | 0.33333 |
    | 6     | 7     | 3              | 3              | 1            | 0.33333 |
    | 5     | 8     | 7              | 3              | 2            | 0.66667 |