全部产品
Search
文档中心

开源大数据平台E-MapReduce:Iceberg数据源

更新时间:Jul 16, 2024

Iceberg Catalog是一种External Catalog。通过Iceberg Catalog,您可以直接查询Iceberg中的数据。本文为您介绍如何在E-MapReduce的StarRocks集群上创建和查看Iceberg Catalog。

前提条件

  • 已创建包含Iceberg服务的集群,例如DataLake或Custom集群,详情请参见创建集群。

  • 已创建包含StarRocks服务的集群,例如OLAP或Custom集群,并成功连接到集群,详情请参见创建集群快速入门

使用限制

  • 创建的两个集群需要在同一个VPC下,并且在同一个可用区下。

  • StarRocks当前支持查询Versions 1表(Analytic Data Tables),暂不支持查询Versions 2表(Row-level Deletes)。两种表的详细信息请参见Iceberg Table Spec

创建Iceberg Catalog

语法

CREATE EXTERNAL CATALOG <catalog_name>
PROPERTIES
( 
  "key"="value", 
  ...
);

参数说明

  • catalog_name:Iceberg Catalog的名称,必选参数。命名要求如下:

    • 必须由字母(a~z或A~Z)、数字(0~9)或下划线(_)组成,并且只能以字母开头。

    • 总长度不能超过64个字符。

  • PROPERTIES:Iceberg Catalog的属性,必选参数。Iceberg使用的元数据服务不同,该参数的配置也不同。Iceberg Catalog的作用是保存Iceberg表和其存储路径的映射关系。不同元数据服务的配置方法如下:

    属性

    是否必选

    说明

    type

    数据源类型,取值为iceberg

    iceberg.catalog.type

    Iceberg中Catalog的类型。使用Hive MetaStore则设置该参数为HIVE

    hive.metastore.uris

    Hive MetaStore的URI。格式为thrift://<Hive MetaStore的IP地址>:<端口号>,端口号默认为9083。当使用DLF的元数据时,该配置可省略。

示例

以下示例创建了一个名为iceberg_catalog的Iceberg Catalog。

CREATE EXTERNAL CATALOG iceberg_catalog
PROPERTIES
(
    "type" = "iceberg",
    "iceberg.catalog.type" = "HIVE",
    "hive.metastore.uris" = "thrift://xx.xx.xx.xx:9083"
);

查看Iceberg表数据

您可以通过SELECT查询目标数据库中的目标表。

SELECT * FROM <catalog_name>.<database_name>.<table_name>;

相关文档

Iceberg更多介绍,请参见Iceberg概述