全部产品
Search
文档中心

人工智能平台 PAI:点聚类系数

更新时间:Nov 27, 2024

点聚类系数是网络分析中的一个指标,用于量化节点在其邻居中的聚集程度。具体而言,它表示一个节点的邻居中实际存在的连边数与所有可能连边数之间的比值。该系数的值介于0到1之间,数值越高表示节点的邻居间联系越紧密,反映了网络中的局部聚集特性。

算法说明

在无向图中,点聚类系数表示计算每一个节点周围的稠密度,星状网络稠密度为0,全连通网络稠密度为1。

在网络分析中,星状网络和全连通网络是两种典型的网络拓扑结构:

  • 星状网络:这种结构由一个中心节点和多个外围节点组成,所有外围节点仅与中心节点直接连接。星状网络的特点是中心节点的聚类系数为0,因为其邻居(外围节点)之间没有直接连接。

  • 全连通网络:在这种结构中,每个节点与其他所有节点直接连接。全连通网络的特点是所有节点的聚类系数为1,因为每个节点的邻居之间都存在所有可能的连接。

这两种结构分别代表了网络拓扑中的极端情况,星状网络具有最低的局部聚集性,而全连通网络具有最高的局部聚集性。

配置组件

方法一:可视化方式

在Designer工作流页面添加点聚类系数组件,并在界面右侧配置相关参数:

参数类型

参数

描述

字段设置

起始节点

边表的起点所在列。

终止节点

边表的终点所在列。

参数设置

最大节点度

默认值为500,如果节点度大于该值,则进行抽样。

执行调优

进程数量

作业并行执行的节点数。数字越大并行度越高,但是框架通讯开销会增大。

进程内存

单个作业可使用的最大内存量,单位:MB,默认值为4096。

如果实际使用内存超过该值,会抛出OutOfMemory异常。

数据切分大小

数据切分的大小,单位:MB,默认值为64。

方法二:PAI命令方式

使用PAI命令配置点聚类系数组件参数。您可以使用SQL脚本组件进行PAI命令调用,详情请参见场景4:在SQL脚本组件中执行PAI命令

PAI -name NodeDensity
    -project algo_public
    -DinputEdgeTableName=NodeDensity_func_test_edge
    -DfromVertexCol=flow_out_id
    -DtoVertexCol=flow_in_id
    -DoutputTableName=NodeDensity_func_test_result
    -DmaxEdgeCnt=500;

参数

是否必选

默认值

描述

inputEdgeTableName

输入边表名。

inputEdgeTablePartitions

全表读入

输入边表的分区。

fromVertexCol

输入边表的起点所在列。

toVertexCol

输入边表的终点所在列。

outputTableName

输出表名。

outputTablePartitions

输出表的分区。

lifecycle

输出表的生命周期。

maxEdgeCnt

500

如果节点度大于该值,则进行抽样。

workerNum

未设置

作业并行执行的节点数。数字越大并行度越高,但是框架通讯开销会增大。

workerMem

4096

单个作业可使用的最大内存量,单位:MB,默认值为4096。

如果实际使用内存超过该值,会抛出OutOfMemory异常。

splitSize

64

数据切分的大小,单位:MB。

使用示例

  1. 添加SQL脚本组件,去勾选使用Script模式是否由系统添加Create Table语句,并在SQL脚本中输入以下SQL语句。

    drop table if exists NodeDensity_func_test_edge;
    create table NodeDensity_func_test_edge as
    select * from
    (
      select '1' as flow_out_id, '2' as flow_in_id
      union all
      select '1' as flow_out_id, '3' as flow_in_id
      union all
      select '1' as flow_out_id, '4' as flow_in_id
      union all
      select '1' as flow_out_id, '5' as flow_in_id
      union all
      select '1' as flow_out_id, '6' as flow_in_id
      union all
      select '2' as flow_out_id, '3' as flow_in_id
      union all
      select '3' as flow_out_id, '4' as flow_in_id
      union all
      select '4' as flow_out_id, '5' as flow_in_id
      union all
      select '5' as flow_out_id, '6' as flow_in_id
      union all
      select '5' as flow_out_id, '7' as flow_in_id
      union all
      select '6' as flow_out_id, '7' as flow_in_id
    )tmp;
    drop table if exists NodeDensity_func_test_result;
    create table NodeDensity_func_test_result
    (
      node string,
      node_cnt bigint,
      edge_cnt bigint,
      density double,
      log_density double
    );

    对应的数据结构图:

    image

  2. 添加SQL脚本组件,去勾选使用Script模式是否由系统添加Create Table语句,在SQL脚本中输入以下PAI命令,并将步骤 1和步骤 2的组件进行连线。

    drop table if exists ${o1};
    PAI -name NodeDensity
        -project algo_public
        -DinputEdgeTableName=NodeDensity_func_test_edge
        -DfromVertexCol=flow_out_id
        -DtoVertexCol=flow_in_id
        -DoutputTableName=${o1}
        -DmaxEdgeCnt=500;
  3. 单击左上角image,运行工作流。

  4. 待运行结束,右键单击步骤 2的组件,选择查看数据 > SQL脚本的输出,查看训练结果。

    | node | node_cnt | edge_cnt | density | log_density |
    | ---- | -------- | -------- | ------- | ----------- |
    | 1    | 5        | 4        | 0.4     | 1.45657     |
    | 2    | 2        | 1        | 1.0     | 1.24696     |
    | 3    | 3        | 2        | 0.66667 | 1.35204     |
    | 4    | 3        | 2        | 0.66667 | 1.35204     |
    | 5    | 4        | 3        | 0.5     | 1.41189     |
    | 6    | 3        | 2        | 0.66667 | 1.35204     |
    | 7    | 2        | 1        | 1.0     | 1.24696     |