全部產品
Search
文件中心

MaxCompute:COLLECT_LIST

更新時間:Jun 19, 2024

colname指定的列值彙總為一個數組。此函數為MaxCompute 2.0擴充函數。

注意事項

升級到MaxCompute 2.0後,產品擴充了部分函數。如果您用到的函數涉及新資料類型(TINYINT、SMALLINT、INT、FLOAT、VARCHAR、TIMESTAMP或BINARY),在使用擴充函數時,需要執行如下語句開啟新資料類型開關:

  • Session層級:如果使用新資料類型,您需要在SQL語句前加上語句set odps.sql.type.system.odps2=true;,並與SQL語句一起提交執行。

  • Project層級:Project Owner可根據需要對Project進行設定,等待10~15分鐘後才會生效。命令如下。

    setproject odps.sql.type.system.odps2=true;

    setproject的詳細說明請參見專案空間操作。關於開啟Project層級資料類型的注意事項,請參見資料類型版本說明

在同一條SQL語句中同時使用多個彙總函式時,如果專案資源不足,會出現記憶體溢出問題,請您根據實際業務情況最佳化SQL或購買計算資源。

命令格式

array collect_list(<colname>)

參數說明

colname:必填。表的列名稱,可為任意類型。

傳回值說明

返回ARRAY類型。colname值為NULL時,該行不參與計算。

樣本資料

為便於理解各函數的使用方法,本文為您提供來源資料,基於來源資料提供函數相關樣本。建立表emp,並添加資料,命令樣本如下:

create table if not exists emp
   (empno bigint,
    ename string,
    job string,
    mgr bigint,
    hiredate datetime,
    sal bigint,
    comm bigint,
    deptno bigint);
tunnel upload emp.txt emp;   --請根據您上傳資料檔案的實際path(路徑以及名稱)替換emp.txt

emp.txt中的資料如下:

7369,SMITH,CLERK,7902,1980-12-17 00:00:00,800,,20
7499,ALLEN,SALESMAN,7698,1981-02-20 00:00:00,1600,300,30
7521,WARD,SALESMAN,7698,1981-02-22 00:00:00,1250,500,30
7566,JONES,MANAGER,7839,1981-04-02 00:00:00,2975,,20
7654,MARTIN,SALESMAN,7698,1981-09-28 00:00:00,1250,1400,30
7698,BLAKE,MANAGER,7839,1981-05-01 00:00:00,2850,,30
7782,CLARK,MANAGER,7839,1981-06-09 00:00:00,2450,,10
7788,SCOTT,ANALYST,7566,1987-04-19 00:00:00,3000,,20
7839,KING,PRESIDENT,,1981-11-17 00:00:00,5000,,10
7844,TURNER,SALESMAN,7698,1981-09-08 00:00:00,1500,0,30
7876,ADAMS,CLERK,7788,1987-05-23 00:00:00,1100,,20
7900,JAMES,CLERK,7698,1981-12-03 00:00:00,950,,30
7902,FORD,ANALYST,7566,1981-12-03 00:00:00,3000,,20
7934,MILLER,CLERK,7782,1982-01-23 00:00:00,1300,,10
7948,JACCKA,CLERK,7782,1981-04-12 00:00:00,5000,,10
7956,WELAN,CLERK,7649,1982-07-20 00:00:00,2450,,10
7956,TEBAGE,CLERK,7748,1982-12-30 00:00:00,1300,,10

樣本

  • 樣本1:將所有職工薪資(sal)彙總為一個數組。命令樣本如下:

    select collect_list(sal) from emp;

    返回結果如下:

    +------+
    | _c0  |
    +------+
    | [800, 1600, 1250, 2975, 1250, 2850, 2450, 3000, 5000, 1500, 1100, 950, 3000, 1300, 5000, 2450, 1300] |
    +------+
  • 樣本2:與group by配合使用,對所有職工按照部門(deptno)進行分組,並將同組的職工薪資(sal)彙總為一個數組。命令樣本如下:

    select deptno, collect_list(sal) from emp group by deptno;

    返回結果如下:

    +------------+------+
    | deptno     | _c1  |
    +------------+------+
    | 10         | [2450, 5000, 1300, 5000, 2450, 1300] |
    | 20         | [800, 2975, 3000, 1100, 3000] |
    | 30         | [1600, 1250, 1250, 2850, 1500, 950] |
    +------------+------+
  • 樣本3:與group by配合使用,對所有職工按照部門(deptno)進行分組,並將同組的職工薪資(sal)去重後彙總為一個數組。命令樣本如下:

    select deptno, collect_list(distinct sal) from emp group by deptno;

    返回結果如下:

    +------------+------+
    | deptno     | _c1  |
    +------------+------+
    | 10         | [1300, 2450, 5000] |
    | 20         | [800, 1100, 2975, 3000] |
    | 30         | [950, 1250, 1500, 1600, 2850] |
    +------------+------+
  • 樣本4:資料concat。

    -- collect_list實現
    select array_join(collect_list(sal), ',') from emp;
    
    -- 更優的wm_concat實現
    select wm_concat(',', sal) from emp;

    返回結果如下:

    +-----+
    | _c0 |
    +-----+
    | 800,1600,1250,2975,1250,2850,2450,3000,5000,1500,1100,950,3000,1300,5000,2450,1300 |
    +-----+
  • 樣本5:分組隨機播放一個資料。

    -- collect_list實現
    select collect_list(sal)[0] from emp;
    
    -- 更優的any_value實現
    select any_value(sal) from emp;

    返回結果如下:

    +------------+
    | _c0        |
    +------------+
    | 800        |
    +------------+
  • 樣本6:有序的wm_concat。

    -- collect_list實現
    select concat_ws(',', sort_array(collect_list(ename))) from emp;
    
    -- WITHIN GROUP實現
    select wm_concat(',', ename) WITHIN group (order by ename) from emp; 

    返回結果如下:

    +-----+
    | _c0 |
    +-----+
    | ADAMS,ALLEN,BLAKE,CLARK,FORD,JACCKA,JAMES,JONES,KING,MARTIN,MILLER,SCOTT,SMITH,TEBAGE,TURNER,WARD,WELAN |
    +-----+

COLLECT_LIST函數可以用來將分組內的所有資料彙總成一個Array,部分情境的COLLECT_LIST可以用其他方式代替,有時可以降低複雜類型處理的開銷。例如上述樣本中的樣本4、樣本5和樣本6。

相關函數

COLLECT_LIST函數屬於彙總函式,更多將多條輸入記錄進行求平均值、參數彙總的相關函數請參見彙總函式