点聚类系数是网络分析中的一个指标,用于量化节点在其邻居中的聚集程度。具体而言,它表示一个节点的邻居中实际存在的连边数与所有可能连边数之间的比值。该系数的值介于0到1之间,数值越高表示节点的邻居间联系越紧密,反映了网络中的局部聚集特性。
算法说明
在无向图中,点聚类系数表示计算每一个节点周围的稠密度,星状网络稠密度为0,全连通网络稠密度为1。
在网络分析中,星状网络和全连通网络是两种典型的网络拓扑结构:
星状网络:这种结构由一个中心节点和多个外围节点组成,所有外围节点仅与中心节点直接连接。星状网络的特点是中心节点的聚类系数为0,因为其邻居(外围节点)之间没有直接连接。
全连通网络:在这种结构中,每个节点与其他所有节点直接连接。全连通网络的特点是所有节点的聚类系数为1,因为每个节点的邻居之间都存在所有可能的连接。
这两种结构分别代表了网络拓扑中的极端情况,星状网络具有最低的局部聚集性,而全连通网络具有最高的局部聚集性。
配置组件
方法一:可视化方式
在Designer工作流页面添加点聚类系数组件,并在界面右侧配置相关参数:
参数类型 | 参数 | 描述 |
字段设置 | 起始节点 | 边表的起点所在列。 |
终止节点 | 边表的终点所在列。 | |
参数设置 | 最大节点度 | 默认值为500,如果节点度大于该值,则进行抽样。 |
执行调优 | 进程数量 | 作业并行执行的节点数。数字越大并行度越高,但是框架通讯开销会增大。 |
进程内存 | 单个作业可使用的最大内存量,单位:MB,默认值为4096。 如果实际使用内存超过该值,会抛出 | |
数据切分大小 | 数据切分的大小,单位:MB,默认值为64。 |
方法二:PAI命令方式
使用PAI命令配置点聚类系数组件参数。您可以使用SQL脚本组件进行PAI命令调用,详情请参见场景4:在SQL脚本组件中执行PAI命令。
PAI -name NodeDensity
-project algo_public
-DinputEdgeTableName=NodeDensity_func_test_edge
-DfromVertexCol=flow_out_id
-DtoVertexCol=flow_in_id
-DoutputTableName=NodeDensity_func_test_result
-DmaxEdgeCnt=500;
参数 | 是否必选 | 默认值 | 描述 |
inputEdgeTableName | 是 | 无 | 输入边表名。 |
inputEdgeTablePartitions | 否 | 全表读入 | 输入边表的分区。 |
fromVertexCol | 是 | 无 | 输入边表的起点所在列。 |
toVertexCol | 是 | 无 | 输入边表的终点所在列。 |
outputTableName | 是 | 无 | 输出表名。 |
outputTablePartitions | 否 | 无 | 输出表的分区。 |
lifecycle | 否 | 无 | 输出表的生命周期。 |
maxEdgeCnt | 否 | 500 | 如果节点度大于该值,则进行抽样。 |
workerNum | 否 | 未设置 | 作业并行执行的节点数。数字越大并行度越高,但是框架通讯开销会增大。 |
workerMem | 否 | 4096 | 单个作业可使用的最大内存量,单位:MB,默认值为4096。 如果实际使用内存超过该值,会抛出 |
splitSize | 否 | 64 | 数据切分的大小,单位:MB。 |
使用示例
添加SQL脚本组件,去勾选使用Script模式和是否由系统添加Create Table语句,并在SQL脚本中输入以下SQL语句。
drop table if exists NodeDensity_func_test_edge; create table NodeDensity_func_test_edge as select * from ( select '1' as flow_out_id, '2' as flow_in_id union all select '1' as flow_out_id, '3' as flow_in_id union all select '1' as flow_out_id, '4' as flow_in_id union all select '1' as flow_out_id, '5' as flow_in_id union all select '1' as flow_out_id, '6' as flow_in_id union all select '2' as flow_out_id, '3' as flow_in_id union all select '3' as flow_out_id, '4' as flow_in_id union all select '4' as flow_out_id, '5' as flow_in_id union all select '5' as flow_out_id, '6' as flow_in_id union all select '5' as flow_out_id, '7' as flow_in_id union all select '6' as flow_out_id, '7' as flow_in_id )tmp; drop table if exists NodeDensity_func_test_result; create table NodeDensity_func_test_result ( node string, node_cnt bigint, edge_cnt bigint, density double, log_density double );
对应的数据结构图:
添加SQL脚本组件,去勾选使用Script模式和是否由系统添加Create Table语句,在SQL脚本中输入以下PAI命令,并将步骤 1和步骤 2的组件进行连线。
drop table if exists ${o1}; PAI -name NodeDensity -project algo_public -DinputEdgeTableName=NodeDensity_func_test_edge -DfromVertexCol=flow_out_id -DtoVertexCol=flow_in_id -DoutputTableName=${o1} -DmaxEdgeCnt=500;
单击左上角,运行工作流。
待运行结束,右键单击步骤 2的组件,选择查看数据 > SQL脚本的输出,查看训练结果。
| node | node_cnt | edge_cnt | density | log_density | | ---- | -------- | -------- | ------- | ----------- | | 1 | 5 | 4 | 0.4 | 1.45657 | | 2 | 2 | 1 | 1.0 | 1.24696 | | 3 | 3 | 2 | 0.66667 | 1.35204 | | 4 | 3 | 2 | 0.66667 | 1.35204 | | 5 | 4 | 3 | 0.5 | 1.41189 | | 6 | 3 | 2 | 0.66667 | 1.35204 | | 7 | 2 | 1 | 1.0 | 1.24696 |