EMR-3.42及後續版本或EMR-5.8.0及後續版本的叢集,支援OSS-HDFS(JindoFS服務)作為資料存放區,提供緩衝加速服務和Ranger鑒權功能,使得在Hive或Spark等巨量資料ETL情境將獲得更好的效能和HDFS平遷能力。本文為您介紹E-MapReduce(簡稱EMR)Hive或Spark如何操作OSS-HDFS。
背景資訊
OSS-HDFS服務是一款雲原生資料湖儲存產品,基於統一的中繼資料管理能力,在完全相容HDFS檔案系統介面的同時,提供充分的POSIX能力支援,能更好的滿足巨量資料和AI領域豐富多樣的資料湖計算情境,詳細資料請參見什麼是OSS-HDFS服務。
操作步驟
說明
本樣本以Hive操作OSS-HDFS為例介紹。您也可以參照此方式使用Spark操作OSS-HDFS。
- 登入叢集,具體操作請參見登入叢集。
建立指向OSS-HDFS的Hive表。
- 執行以下命令,進入Hive命令列。
執行以下命令,建立指向OSS-HDFS的資料庫。
CREATE DATABASE if not exists dw LOCATION 'oss://<yourBucketName>.<yourBucketEndpoint>/<path>';
- 執行以下命令,使用新建立的資料庫。
- 執行以下命令,在建立的資料庫下建立表。
CREATE TABLE IF NOT EXISTS employee(eid int, name String,salary String,destination String)
COMMENT 'Employee details';
- 向表中插入資料。
使用INSERT INTO語句向表寫入資料,該語句會產生MapReduce作業。
INSERT INTO employee(eid, name, salary, destination) values(1, 'liu hua', '100.0', '');
- 驗證表資料。
SELECT * FROM employee WHERE eid = 1;
返回資訊中會包含插入的資料。
OK
1 liu hua 100.0
Time taken: 12.379 seconds, Fetched: 1 row(s)