單源最短路徑使用Dijkstra演算法,用於尋找從一個起始節點到所有其他節點的最短路徑。單源最短路徑組件能夠輸出起始節點到其他關聯節點的最短路徑及其數量。
配置組件
方法一:可視化方式
在Designer工作流程頁面添加單源最短路徑組件,並在介面右側配置相關參數:
參數類型 | 參數 | 描述 |
欄位設定 | 選擇源頂點列 | 邊表的起點所在列。 |
選擇目標頂點列 | 邊表的終點所在列。 | |
選擇邊權值列 | 邊表邊的權重所在列。 | |
參數設定 | 起始節點 ID | 用於計算最短路徑的起始節點。 |
執行調優 | 進程數 | 作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。 |
進程記憶體 | 單個作業可使用的最大記憶體量,單位:MB,預設值為4096。 如果實際使用記憶體超過該值,會拋出 |
方法二:PAI命令方式
使用PAI命令配置單源最短路徑組件參數。您可以使用SQL指令碼組件進行PAI命令調用,詳情請參見情境4:在SQL指令碼組件中執行PAI命令。
PAI -name SSSP
-project algo_public
-DinputEdgeTableName=SSSP_func_test_edge
-DfromVertexCol=flow_out_id
-DtoVertexCol=flow_in_id
-DoutputTableName=SSSP_func_test_result
-DhasEdgeWeight=true
-DedgeWeightCol=edge_weight
-DstartVertex=a;
參數 | 是否必選 | 預設值 | 描述 |
inputEdgeTableName | 是 | 無 | 輸入邊表名。 |
inputEdgeTablePartitions | 否 | 全表讀入 | 輸入邊表的分區。 |
fromVertexCol | 是 | 無 | 輸入邊表的起點所在列。 |
toVertexCol | 是 | 無 | 輸入邊表的終點所在列。 |
outputTableName | 是 | 無 | 輸出表名。 |
outputTablePartitions | 否 | 無 | 輸出表的分區。 |
lifecycle | 否 | 無 | 輸出表的生命週期。 |
workerNum | 否 | 未設定 | 作業並存執行的節點數。數字越大並行度越高,但是架構通訊開銷會增大。 |
workerMem | 否 | 4096 | 單個作業可使用的最大記憶體量,單位:MB,預設值為4096。 如果實際使用記憶體超過該值,會拋出 |
splitSize | 否 | 64 | 資料切分的大小,單位:MB。 |
startVertex | 是 | 無 | 起始節點ID。 |
hasEdgeWeight | 否 | false | 輸入邊表的邊是否有權重。 |
edgeWeightCol | 否 | 無 | 輸入邊表邊的權重所在列。 |
使用樣本
添加SQL指令碼組件,輸入以下SQL語句產生訓練資料。
drop table if exists SSSP_func_test_edge; create table SSSP_func_test_edge as select flow_out_id,flow_in_id,edge_weight from ( select "a" as flow_out_id,"b" as flow_in_id,1.0 as edge_weight union all select "b" as flow_out_id,"c" as flow_in_id,2.0 as edge_weight union all select "c" as flow_out_id,"d" as flow_in_id,1.0 as edge_weight union all select "b" as flow_out_id,"e" as flow_in_id,2.0 as edge_weight union all select "e" as flow_out_id,"d" as flow_in_id,1.0 as edge_weight union all select "c" as flow_out_id,"e" as flow_in_id,1.0 as edge_weight union all select "f" as flow_out_id,"g" as flow_in_id,3.0 as edge_weight union all select "a" as flow_out_id,"d" as flow_in_id,4.0 as edge_weight ) tmp;
對應的資料結構圖:
添加SQL指令碼組件,輸入以下PAI命令進行訓練。
drop table if exists ${o1}; PAI -name SSSP -project algo_public -DinputEdgeTableName=SSSP_func_test_edge -DfromVertexCol=flow_out_id -DtoVertexCol=flow_in_id -DoutputTableName=${o1} -DhasEdgeWeight=true -DedgeWeightCol=edge_weight -DstartVertex=a;
右擊上一步的組件,選擇查看資料 > SQL指令碼的輸出,查看訓練結果。
| start_node | dest_node | distance | distance_cnt | | ---------- | --------- | -------- | ------------ | | a | a | 0.0 | 0 | | a | b | 1.0 | 1 | | a | c | 3.0 | 1 | | a | d | 4.0 | 3 | | a | e | 3.0 | 1 |