點聚類係數是網路分析中的一個指標,用於量化節點在其鄰置中的聚集程度。具體而言,它表示一個節點的鄰置中實際存在的連邊數與所有可能連邊數之間的比值。該係數的值介於0到1之間,數值越高表示節點的鄰居間聯絡越緊密,反映了網路中的局部聚集特性。
演算法說明
在無向圖中,點聚類係數表示計算每一個節點周圍的稠密度,星狀網路稠密度為0,全連通網路稠密度為1。
在網路分析中,星狀網路和全連通網路是兩種典型的網路拓撲結構:
星狀網路:這種結構由一個中心節點和多個外圍節點群組成,所有外圍節點僅與中心節點直接連接。星狀網路的特點是中心節點的聚類係數為0,因為其鄰居(外圍節點)之間沒有直接連接。
全連通網路:在這種結構中,每個節點與其他所有節點直接連接。全連通網路的特點是所有節點的聚類係數為1,因為每個節點的鄰居之間都存在所有可能的串連。
這兩種結構分別代表了網路拓撲中的極端情況,星狀網路具有最低的局部聚集性,而全連通網路具有最高的局部聚集性。
配置組件
方法一:可視化方式
在Designer工作流程頁面添加點聚類係數組件,並在介面右側配置相關參數:
參數類型 | 參數 | 描述 |
欄位設定 | 起始節點 | 邊表的起點所在列。 |
終止節點 | 邊表的終點所在列。 | |
參數設定 | 最大節點度 | 預設值為500,如果節點度大於該值,則進行抽樣。 |
執行調優 | 進程數量 | 作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。 |
進程記憶體 | 單個作業可使用的最大記憶體量,單位:MB,預設值為4096。 如果實際使用記憶體超過該值,會拋出 | |
資料切分大小 | 資料切分的大小,單位:MB,預設值為64。 |
方法二:PAI命令方式
使用PAI命令配置點聚類係數組件參數。您可以使用SQL指令碼組件進行PAI命令調用,詳情請參見情境4:在SQL指令碼組件中執行PAI命令。
PAI -name NodeDensity
-project algo_public
-DinputEdgeTableName=NodeDensity_func_test_edge
-DfromVertexCol=flow_out_id
-DtoVertexCol=flow_in_id
-DoutputTableName=NodeDensity_func_test_result
-DmaxEdgeCnt=500;
參數 | 是否必選 | 預設值 | 描述 |
inputEdgeTableName | 是 | 無 | 輸入邊表名。 |
inputEdgeTablePartitions | 否 | 全表讀入 | 輸入邊表的分區。 |
fromVertexCol | 是 | 無 | 輸入邊表的起點所在列。 |
toVertexCol | 是 | 無 | 輸入邊表的終點所在列。 |
outputTableName | 是 | 無 | 輸出表名。 |
outputTablePartitions | 否 | 無 | 輸出表的分區。 |
lifecycle | 否 | 無 | 輸出表的生命週期。 |
maxEdgeCnt | 否 | 500 | 如果節點度大於該值,則進行抽樣。 |
workerNum | 否 | 未設定 | 作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。 |
workerMem | 否 | 4096 | 單個作業可使用的最大記憶體量,單位:MB,預設值為4096。 如果實際使用記憶體超過該值,會拋出 |
splitSize | 否 | 64 | 資料切分的大小,單位:MB。 |
使用樣本
添加SQL指令碼組件,去勾選使用Script模式和是否由系統添加Create Table語句,並在SQL指令碼中輸入以下SQL語句。
drop table if exists NodeDensity_func_test_edge; create table NodeDensity_func_test_edge as select * from ( select '1' as flow_out_id, '2' as flow_in_id union all select '1' as flow_out_id, '3' as flow_in_id union all select '1' as flow_out_id, '4' as flow_in_id union all select '1' as flow_out_id, '5' as flow_in_id union all select '1' as flow_out_id, '6' as flow_in_id union all select '2' as flow_out_id, '3' as flow_in_id union all select '3' as flow_out_id, '4' as flow_in_id union all select '4' as flow_out_id, '5' as flow_in_id union all select '5' as flow_out_id, '6' as flow_in_id union all select '5' as flow_out_id, '7' as flow_in_id union all select '6' as flow_out_id, '7' as flow_in_id )tmp; drop table if exists NodeDensity_func_test_result; create table NodeDensity_func_test_result ( node string, node_cnt bigint, edge_cnt bigint, density double, log_density double );
對應的資料結構圖:
添加SQL指令碼組件,去勾選使用Script模式和是否由系統添加Create Table語句,在SQL指令碼中輸入以下PAI命令,並將步驟 1和步驟 2的組件進行連線。
drop table if exists ${o1}; PAI -name NodeDensity -project algo_public -DinputEdgeTableName=NodeDensity_func_test_edge -DfromVertexCol=flow_out_id -DtoVertexCol=flow_in_id -DoutputTableName=${o1} -DmaxEdgeCnt=500;
單擊左上方,運行工作流程。
待運行結束,按右鍵步驟 2的組件,選擇查看資料 > SQL指令碼的輸出,查看訓練結果。
| node | node_cnt | edge_cnt | density | log_density | | ---- | -------- | -------- | ------- | ----------- | | 1 | 5 | 4 | 0.4 | 1.45657 | | 2 | 2 | 1 | 1.0 | 1.24696 | | 3 | 3 | 2 | 0.66667 | 1.35204 | | 4 | 3 | 2 | 0.66667 | 1.35204 | | 5 | 4 | 3 | 0.5 | 1.41189 | | 6 | 3 | 2 | 0.66667 | 1.35204 | | 7 | 2 | 1 | 1.0 | 1.24696 |