全部產品
Search
文件中心

Platform For AI:Modularity

更新時間:Jul 13, 2024

模組度(Modularity)是一種評估社區網路結構的指標,用來評估社區內部串連相對於社區之間串連的緊密程度,通常模組度為0.3以上表示社區劃分品質較為合適。Modularity組件能夠輸出圖的模組度。

配置組件

方法一:可視化方式

在Designer工作流程頁面添加Modularity組件,並在介面右側配置相關參數:

參數類型

參數

描述

欄位設定

源頂點列

邊表的起點所在列。

起始點標籤列

邊表起點的群組。

目標頂點列

邊表的終點所在列。

目標點標籤列

邊表終點的群組。

執行調優

進程數

作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。

進程記憶體

單個作業可使用的最大記憶體量,單位:MB,預設值為4096。

如果實際使用記憶體超過該值,會拋出OutOfMemory異常。

方法二:PAI命令方式

使用PAI命令配置Modularity組件參數。您可以使用SQL指令碼組件進行PAI命令調用,詳情請參見情境4:在SQL指令碼組件中執行PAI命令

PAI -name Modularity
    -project algo_public
    -DinputEdgeTableName=Modularity_func_test_edge
    -DfromVertexCol=flow_out_id
    -DfromGroupCol=group_out_id
    -DtoVertexCol=flow_in_id
    -DtoGroupCol=group_in_id
    -DoutputTableName=Modularity_func_test_result;

參數

是否必選

預設值

描述

inputEdgeTableName

輸入邊表名。

inputEdgeTablePartitions

全表讀入

輸入邊表的分區。

fromVertexCol

輸入邊表的起點所在列。

fromGroupCol

輸入邊表起點的群組。

toVertexCol

輸入邊表的終點所在列。

toGroupCol

輸入邊表終點的群組。

outputTableName

輸出表名。

outputTablePartitions

輸出表的分區。

lifecycle

輸出表的生命週期。

workerNum

未設定

作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。

workerMem

4096

單個worker可使用的最大記憶體量,單位:MB,預設值為4096。

如果實際使用記憶體超過該值,會拋出OutOfMemory異常。

splitSize

64

資料切分的大小,單位:MB。

使用樣本

說明

步驟中SQL指令碼組件均去勾選使用Script模式是否由系統添加Create Table語句

  1. 添加SQL指令碼組件,輸入以下SQL語句產生訓練資料。

    drop table if exists Modularity_func_test_edge;
    create table Modularity_func_test_edge as
    select * from
    (
        select '1' as flow_out_id,'3' as group_out_id,'2' as flow_in_id,'3' as group_in_id
        union all
        select '1' as flow_out_id,'3' as group_out_id,'3' as flow_in_id,'3' as group_in_id
        union all
        select '1' as flow_out_id,'3' as group_out_id,'4' as flow_in_id,'3' as group_in_id
        union all
        select '2' as flow_out_id,'3' as group_out_id,'3' as flow_in_id,'3' as group_in_id
        union all
        select '2' as flow_out_id,'3' as group_out_id,'4' as flow_in_id,'3' as group_in_id
        union all
        select '3' as flow_out_id,'3' as group_out_id,'4' as flow_in_id,'3' as group_in_id
        union all
        select '4' as flow_out_id,'3' as group_out_id,'6' as flow_in_id,'7' as group_in_id
        union all
        select '5' as flow_out_id,'7' as group_out_id,'6' as flow_in_id,'7' as group_in_id
        union all
        select '5' as flow_out_id,'7' as group_out_id,'7' as flow_in_id,'7' as group_in_id
        union all
        select '5' as flow_out_id,'7' as group_out_id,'8' as flow_in_id,'7' as group_in_id
        union all
        select '6' as flow_out_id,'7' as group_out_id,'7' as flow_in_id,'7' as group_in_id
        union all
        select '6' as flow_out_id,'7' as group_out_id,'8' as flow_in_id,'7' as group_in_id
        union all
        select '7' as flow_out_id,'7' as group_out_id,'8' as flow_in_id,'7' as group_in_id
    )tmp
    ;

    對應的資料結構圖:

    image

  2. 添加SQL指令碼組件,輸入以下PAI命令進行訓練,並和步驟 1中添加的組件連線。

    drop table if exists ${o1};
    PAI -name Modularity
        -project algo_public
        -DinputEdgeTableName=Modularity_func_test_edge
        -DfromVertexCol=flow_out_id
        -DfromGroupCol=group_out_id
        -DtoVertexCol=flow_in_id
        -DtoGroupCol=group_in_id
        -DoutputTableName=${o1};
  3. 運行此工作流程。運行完成後右擊步驟 2中添加的組件,選擇查看資料 > SQL指令碼的輸出,查看訓練結果。

    | val                 |
    | ------------------- |
    | 0.42307692766189575 |