借助阿里云在亚洲加速迈向成功
一站式安全合规咨询服务
MLPS 2.0 一站式合规解决方案
依托我们的网络进军中国市场
提升面向互联网应用的性能和安全性
保障您的中国业务安全无忧
通过强大的数据安全框架保护您的数据资产
申请 ICP 备案的流程解读和咨询服务
面向大数据建设、管理及应用的全域解决方案
企业内大数据建设、管理和应用的一站式解决方案
将您的采购和销售置于同一企业级全渠道数字平台上
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
快速搭建在线教育平台
提供域名注册、分析和保护服务
云原生 Kubernetes 容器化应用运行环境
以 Kubernetes 为使用界面的容器服务产品,提供符合容器规范的算力资源
安全的镜像托管服务,支持全生命周期管理
多集群环境下微服务应用流量统一管理
提供任意基础设施上容器集群的统一管控,助您轻松管控分布式云场景
高弹性、高可靠的企业级无服务器 Kubernetes 容器产品
敏捷安全的 Serverless 容器运行服务
为虚拟机和容器提供高可靠性、高性能、低时延的块存储服务
一款海量、安全、低成本、高可靠的云存储服务
可靠、弹性、高性能、多共享的文件存储服务
全托管、可扩展的并行文件系统服务。
全托管的 NoSQL 结构化数据实时存储服务
可抵扣多种存储产品的容量包,兼具灵活性和长期成本优化
让您的应用跨不同可用区资源自动分配访问量
随时绑定和解绑 VPC ECS
云网络公网、跨域流量统一计费
高性价比,可抵扣按流量计费的流量费用
创建云上隔离的网络,在专有环境中运行资源
在 VPC 环境下构建公网流量的出入口
具备网络状态可视化、故障智能诊断能力的自助式网络运维服务。
安全便捷的云上服务专属连接
基于阿里云专有网络的私有 DNS 解析服务
保障在线业务不受大流量 DDoS 攻击影响
系统运维和安全审计管控平台
业务上云的第一个网络安全基础设施
集零信任内网访问、办公数据保护、终端管理等多功能于一体的办公安全管控平台
提供全面统一的云原生防护平台(CNAPP)能力
防御常见 Web 攻击,缓解 HTTP 泛洪攻击
实现全站 HTTPS,呈现可信的 WEB 访问
为云上应用提供符合行业标准和密码算法等级的数据加解密、签名验签和数据认证能力
一款发现、分类和保护敏感数据的安全服务
创建、控制和管理您的加密密钥
快速提高应用高可用能力服务
围绕应用和微服务的 PaaS 平台
兼容主流开源微服务生态的一站式平台
多集群环境下微服务应用流量统一管理
Super MySQL 和 PostgreSQL,高度兼容 Oracle 语法
全托管 MySQL、PostgreSQL、SQL Server、MariaDB
兼容 Redis® 的缓存和KV数据库
兼容Apache Cassandra、Apache HBase、Elasticsearch、OpenTSDB 等多种开源接口
文档型数据库,支持副本集和分片架构
100%兼容 Apache HBase 并深度扩展,稳定、易用、低成本的NoSQL数据库。
低成本、高可用、可弹性伸缩的在线时序数据库服务
专为搜索和分析而设计,成本效益达到开源的两倍,采用最新的企业级AI搜索和AI助手功能。
一款兼容PostgreSQL协议的实时交互式分析产品
一种快速、完全托管的 TB/PB 级数据仓库
基于 Flink 为大数据行业提供解决方案
基于Qwen和其他热门模型的一站式生成式AI平台,可构建了解您业务的智能应用程
一站式机器学习平台,满足数据挖掘分析需求
高性能向量检索服务,提供低代码API和高成本效益
帮助您的应用快速构建高质量的个性化推荐服务能力
提供定制化的高品质机器翻译服务
全面的AI计算平台,满足大模型训练等高性能AI计算的算力和性能需求
具备智能会话能力的会话机器人
基于机器学习的智能图像搜索产品
基于阿里云深度学习技术,为用户提供图像分割、视频分割、文字识别等离线SDK能力,支持Android、iOS不同的适用终端。
语音识别、语音合成服务以及自学习平台
一站式智能搜索业务开发平台
助力金融企业快速搭建超低时延、高质量、稳定的行情数据服务
帮助企业快速测算和分析企业的碳排放和产品碳足迹
企业工作流程自动化,全面提高效率
金融级云原生分布式架构的一站式高可用应用研发、运维平台
eKYC 数字远程在线解决方案
可智能检测、大数据驱动的综合性反洗钱 (AML) 解决方案
阿里云APM类监控产品
实时云监控服务,确保应用及服务器平稳运行
为系统运维人员管理云基础架构提供全方位服务的云上自动化运维平台
面向您的云资源的风险检测服务
提升分布式环境下的诊断效率
日志类数据一站式服务,无需开发就能部署
ECS 预留实例
让弹性计算产品的成本和灵活性达到最佳平衡的付费方式。云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势自带IP上云
自带公网 IP 地址上云全球网络互联
端到端的软件定义网络解决方案,可推动跨国企业的业务发展全球应用加速
提升面向互联网应用的性能和安全性全球互联网接入
将IDC网关迁移到云端云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势金融科技云数据库解决方案
利用专为金融科技而设的云原生数据库解决方案游戏行业云数据库解决方案
提供多种成熟架构,解决所有数据问题Oracle 数据库迁移
将 Oracle 数据库顺利迁移到云原生数据库数据库迁移
加速迁移您的数据到阿里云阿里云上的数据湖
实时存储、管理和分析各种规模和类型的数据数码信贷
利用大数据和 AI 降低信贷和黑灰产风险面向企业数据技术的大数据咨询服务
帮助企业实现数据现代化并规划其数字化未来人工智能对话服务
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人EasyDispatch 现场服务管理
为现场服务调度提供实时AI决策支持在线教育
快速搭建在线教育平台窄带高清 (HD) 转码
带宽成本降低高达 30%广电级大型赛事直播
为全球观众实时直播大型赛事,视频播放流畅不卡顿直播电商
快速轻松地搭建一站式直播购物平台用于供应链规划的Alibaba Dchain
构建和管理敏捷、智能且经济高效的供应链云胸牌
针对赛事运营的创新型凭证数字服务数字门店中的云 POS 解决方案
将所有操作整合到一个云 POS 系统中元宇宙
元宇宙是下一代互联网人工智能 (AI) 加速
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速DevOps
快速、安全地最大限度提高您的DevOps优势数据迁移解决方案
加速迁移您的数据到阿里云企业 IT 治理
在阿里云上构建高效可控的云环境基于日志管理的AIOps
登录到带有智能化日志管理解决方案的 AIOps 环境备份与存档
数据备份、数据存档和灾难恢复用阿里云金融服务加快创新
在云端开展业务,提升客户满意度
为全球资本市场提供安全、准确和数字化的客户体验
利用专为金融科技而设的云原生数据库解决方案
利用大数据和 AI 降低信贷和黑灰产风险
建立快速、安全的全球外汇交易平台
新零售时代下,实现传统零售业转型
利用云服务处理流量波动问题,扩展业务运营、降低成本
快速轻松地搭建一站式直播购物平台
面向大数据建设、管理及应用的全域解决方案
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
以数字化媒体旅程为当今的媒体市场准备就绪您的内容
带宽成本降低高达 30%
快速轻松地搭建一站式直播购物平台
为全球观众实时直播大型赛事,视频播放流畅不卡顿
使用阿里云弹性高性能计算 E-HPC 将本地渲染农场连接到云端
构建发现服务,帮助客户找到最合适的内容
保护您的媒体存档安全
通过统一的数据驱动平台提供一致的全生命周期客户服务
在钉钉上打造一个多功能的电信和数字生活平台
在线存储、共享和管理照片与文件
提供全渠道的无缝客户体验
面向中小型企业,为独立软件供应商提供可靠的IT服务
打造最快途径,助力您的新云业务扬帆起航
先进的SD-WAN平台,可实现WAN连接、实时优化并降低WAN成本
通过自动化和流程标准化实现快速事件响应
针对关键网络安全威胁提供集中可见性并进行智能安全分析
提供大容量、可靠且高度安全的企业文件传输
用智能技术数字化体育赛事
基于人工智能的低成本体育广播服务
专业的广播转码及信号分配管理服务
基于云的音视频内容引入、编辑和分发服务
在虚拟场馆中模拟关键运营任务
针对赛事运营的创新型凭证数字服务
智能和交互式赛事指南
轻松管理云端背包单元的绑定直播流
通过数据加强您的营销工作
元宇宙是下一代互联网
利用生成式 AI 加速创新,创造新的业务佳绩
阿里云高性能开源大模型
借助AI轻松解锁和提炼文档中的知识
基于生成式AI的一体化平台,助您在同一个工作空间内高效创作多样化内容
通过AI驱动的语音转文本服务获取洞察
探索阿里云人工智能和数据智能的所有功能、新优惠和最新产品
该体验中心提供广泛的用例和产品帮助文档,助您开始使用阿里云 AI 产品和浏览您的业务数据。
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速
元宇宙是下一代互联网
构建发现服务,帮助客户找到最合适的内容
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
加速迁移您的数据到阿里云
在阿里云上建立一个安全且易扩容的环境,助力高效率且高成本效益的上云旅程
迁移到完全托管的云数据库
将 Oracle 数据库顺利迁移到云原生数据库
自带公网 IP 地址上云
利用阿里云强大的安全工具集,保障业务安全、应用程序安全、数据安全、基础设施安全和帐户安全
保护、备份和还原您的云端数据资产
MLPS 2.0 一站式合规解决方案
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
实现对 CloudOps、DevOps、SecOps、AIOps 和 FinOps 的高效、安全和透明的管理
构建您的原生云环境并高效管理集群
快速、安全地最大限度提高您的DevOps优势
实施细粒度安全控制
提供运维效率和总体系统安全性
实时分析您的云消耗并实现节约
实时存储、管理和分析各种规模和类型的数据
登录到带有智能化日志管理解决方案的 AIOps 环境
帮助企业实现数据现代化并规划其数字化未来
帮助零售商快速规划数字化之旅
将全球知名的 CRM 平台引入中国
在线存储、共享和管理照片与文件
构建、部署和管理高可用、高可靠、高弹性的应用程序
快速、安全地最大限度提高您的DevOps优势
将您的采购和销售置于同一企业级全渠道数字平台上
企业内大数据建设、管理和应用的一站式解决方案
帮助企业简化 IT 架构、实现商业价值、加速数字化转型的步伐
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
快速搜集、处理、分析联网设备产生的数据
0.0.201
DataWorks提供了丰富的OpenAPI,您可以根据需要使用DataWorks的OpenAPI等开放能力实现各种业务场景。本文以元数据表管理为例,为您介绍如何串连元数据的OpenAPI来达成查询列表、查询表详情等操作。
在进行本实践之前,建议您先参考以下链接,了解DataWorks的OpenAPI的基本能力和概念:
下文为您提供了表管理的多个细分场景的实践:
以下实践将介绍如何使用OpenAPI来实现查询表列表,获得MaxCompute项目下的所有表的列表,并做分页查询,实践的主要流程如下。
在MetaServiceProxy中编写一个GetMetaDBTableList方法,处理前端参数并发送请求到OpenAPI GetMetaDBTableList中,以获取元数据表的列表信息。
package com.aliyun.dataworks.services;
import com.aliyun.dataworks.dto.*;
import com.aliyuncs.IAcsClient;
import com.aliyuncs.dataworks_public.model.v20200518.*;
import com.aliyuncs.exceptions.ClientException;
import com.aliyuncs.exceptions.ServerException;
import com.aliyuncs.utils.StringUtils;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import org.springframework.util.CollectionUtils;
/**
* @author dataworks demo
*/
@Service
public class MetaServiceProxy {
@Autowired
private DataWorksOpenApiClient dataWorksOpenApiClient;
/**
* DataWorks OpenAPI : GetMetaDBTableList
* Link : https://www.alibabacloud.com/help/doc-detail/173916.html
*
* @param listTablesDto
*/
public GetMetaDBTableListResponse.Data getMetaDBTableList(ListTablesDto listTablesDto) {
try {
IAcsClient client = dataWorksOpenApiClient.createClient();
GetMetaDBTableListRequest getMetaDBTableListRequest = new GetMetaDBTableListRequest();
if (StringUtils.isEmpty(listTablesDto.getDataSourceType())) {
// 数据类型,目前仅支持odps和emr。
getMetaDBTableListRequest.setDataSourceType("odps");
}
// 项目的唯一标识,格式为odps.{projectName}。仅当数据类型为odps时,需要配置该参数。
getMetaDBTableListRequest.setAppGuid(listTablesDto.getAppGuid());
// 请求的数据页数,用于翻页。
getMetaDBTableListRequest.setPageNumber(listTablesDto.getPageNumber());
// 每页显示的条数,默认为10条,最大为100条。
getMetaDBTableListRequest.setPageSize(listTablesDto.getPageSize());
// 数据库的名称。
getMetaDBTableListRequest.setDatabaseName(listTablesDto.getDatabaseName());
GetMetaDBTableListResponse acsResponse = client.getAcsResponse(getMetaDBTableListRequest);
// 计算引擎的总数
System.out.println(acsResponse.getData().getTotalCount());
for (GetMetaDBTableListResponse.Data.TableEntityListItem tableEntityListItem : acsResponse.getData()
.getTableEntityList()) {
// 表的唯一标识
System.out.println(tableEntityListItem.getTableGuid());
// 表的名称
System.out.println(tableEntityListItem.getTableName());
// 数据库的名称
System.out.println(tableEntityListItem.getDatabaseName());
}
return acsResponse.getData();
} catch (ServerException e) {
e.printStackTrace();
} catch (ClientException e) {
e.printStackTrace();
// 请求ID
System.out.println(e.getRequestId());
// 错误码
System.out.println(e.getErrCode());
// 错误信息
System.out.println(e.getErrMsg());
}
return null;
}
}
在MetaRestController中添加一个listMetaDBTable方法作为入口供前端访问。
package com.aliyun.dataworks.demo;
import com.aliyun.dataworks.dto.*;
import com.aliyun.dataworks.services.MetaServiceProxy;
import com.aliyuncs.dataworks_public.model.v20200518.*;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.bind.annotation.CrossOrigin;
/**
* 演示如何通过DataWorks OpenAPI构建自定义元数据平台
*
* @author dataworks demo
*/
@RestController
@RequestMapping("/meta")
public class MetaRestController {
@Autowired
private MetaServiceProxy metaService;
/**
* 分页查询表数据
*
* @param listTablesDto
* @return {@link GetMetaDBTableListResponse.Data}
*/
@GetMapping("/listTables")
public GetMetaDBTableListResponse.Data listMetaDBTable(ListTablesDto listTablesDto) {
return metaService.getMetaDBTableList(listTablesDto);
}
}
在前端实现一个简易的可交互介面。
下方代码简化了部分非表查询流程,只展示表查询的最小实现。
import React from 'react';
import { Table, Form, Field, Input, Button, Pagination, Dialog, Card } from '@alifd/next';
function getTableList(params: TableListInput): Promise<TableListOutput> {
const url = helpers.createFetchUrl(METHOD_URL.GET_TABLE_LIST, params);
const response = await fetch(url);
const result = await response.json();
return result;
}
const { Column } = Table;
const { Item } = Form;
const { Header, Content } = Card;
const App: React.FunctionComponent<Props> = () => {
const field = Field.useField();
const [datasource, setDatasource] = React.useState<TableItem[]>([]);
const [loading, setLoading] = React.useState<boolean>(false);
const [total, setTotal] = React.useState<number>(0);
React.useEffect(() => field.setValue('dataSourceType', 'odps'), []);
const onSubmit = React.useCallback((pageNumber: number = 1) => {
field.validate(async (errors, values) => {
if (errors) return;
setLoading(true);
try {
const response = await getTableList({ pageNumber, ...values } as TableListInput);
setDatasource(response.tableEntityList);
setTotal(response.totalCount);
} catch (e) {
throw e;
} finally {
setLoading(false);
}
});
}, [field]);
return (
<div>
<Card free hasBorder={false}>
<Header title="元数据表管理场景 Demo" />
<Content style={{ marginTop: 24 }}>
<Form field={field} colon fullWidth>
<Item label="MaxCompute项目ID" name="appGuid" required>
<Input />
</Item>
<Item label="数据库名称" name="databaseName">
<Input />
</Item>
<div>
<Button type="primary" onClick={() => onSubmit()}>查询</Button>
<Button type="primary">创建表</Button>
</div>
</Form>
<div>
<Table dataSource={datasource} loading={loading}>
<Column title="数据库名称" dataIndex="databaseName" />
<Column title="表GUID" dataIndex="tableGuid" />
<Column title="表名称" dataIndex="tableName" />
<Column title="操作" width={150} cell={(value, index, record) => (
<div>
<Button type="primary" text>查看详情</Button>
<Button type="primary" text>查看表血缘</Button>
</div>
)} />
</Table>
<Pagination
total={total}
onChange={onSubmit}
showJump={false}
/>
</div>
</Content>
</Card>
</div>
);
};
export default App;
完成上述代码开发后,您可在本地部署并运行工程代码。部署并运行的操作请参见通用操作:本地部署运行。
以下实践将结合元数据中GetMetaTableBasicInfo、GetMetaTableColumn与GetMetaTablePartition三个OpenAPI来实现查询表详情,实践操作流程如下。
在MetaServiceProxy中构建getMetaTableBasicInfo、getMetaTableColumn与getMetaTablePartition方法来调用OpenAPI服务获取表的基础信息、表的字段信息与表的分区信息。
package com.aliyun.dataworks.services;
import com.aliyun.dataworks.dto.*;
import com.aliyuncs.IAcsClient;
import com.aliyuncs.dataworks_public.model.v20200518.*;
import com.aliyuncs.exceptions.ClientException;
import com.aliyuncs.exceptions.ServerException;
import com.aliyuncs.utils.StringUtils;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import org.springframework.util.CollectionUtils;
/**
* @author dataworks demo
*/
@Service
public class MetaServiceProxy {
@Autowired
private DataWorksOpenApiClient dataWorksOpenApiClient;
/**
* DataWorks OpenAPI : GetMetaTableBasicInfo
* Link : https://help.aliyun.com/document_detail/173920.htmlhttps://www.alibabacloud.com/help/doc-detail/173920.html
*
* @param getMetaTableBasicInfoDto
*/
public GetMetaTableBasicInfoResponse.Data getMetaTableBasicInfo(GetMetaTableBasicInfoDto getMetaTableBasicInfoDto) {
try {
IAcsClient client = dataWorksOpenApiClient.createClient();
GetMetaTableBasicInfoRequest getMetaTableBasicInfoRequest = new GetMetaTableBasicInfoRequest();
// MaxCompute表的唯一标识。格式为odps.projectName.tableName。
getMetaTableBasicInfoRequest.setTableGuid(getMetaTableBasicInfoDto.getTableGuid());
// 数据库名称
getMetaTableBasicInfoRequest.setDatabaseName(getMetaTableBasicInfoDto.getDatabaseName());
// EMR的表名称
getMetaTableBasicInfoRequest.setTableName(getMetaTableBasicInfoDto.getTableName());
// 数据类型,包括odps和emr。
getMetaTableBasicInfoRequest.setDataSourceType("odps");
// 是否包含扩展字段。扩展字段包含读取次数、收藏次数、浏览次数等。仅当数据类型为ODPS时,该参数生效。
getMetaTableBasicInfoRequest.setExtension(true);
GetMetaTableBasicInfoResponse acsResponse = client.getAcsResponse(getMetaTableBasicInfoRequest);
// 表的名称。
System.out.println(acsResponse.getData().getTableName());
// 表的收藏次数。仅当Extension参数取值为true时才会返回该参数,并且该参数仅对odps数据类型生效。
System.out.println(acsResponse.getData().getFavoriteCount());
// 表的描述。
System.out.println(acsResponse.getData().getComment());
// 字段的个数。
System.out.println(acsResponse.getData().getColumnCount());
// 创建表的时间。
System.out.println(acsResponse.getData().getCreateTime());
// 工作空间的ID。
System.out.println(acsResponse.getData().getProjectId());
// 表所有者的ID。
System.out.println(acsResponse.getData().getOwnerId());
// 环境类型,取值如下:
// 0表示开发表。
// 1表示生产表。
System.out.println(acsResponse.getData().getEnvType());
// 数据库的名称。
System.out.println(acsResponse.getData().getDatabaseName());
// 表的可见性:0表示目标表对工作空间成员可见。
// 1表示目标表对租户内成员可见。
// 2表示目标表对租户间成员均可见。
// 3表示目标表仅对责任人可见。
System.out.println(acsResponse.getData().getIsVisible());
// 表的唯一标识。
System.out.println(acsResponse.getData().getTableGuid());
// 表的读取次数。仅当Extension参数取值为true时才会返回该参数,并且该参数仅对odps数据类型生效。
System.out.println(acsResponse.getData().getReadCount());
// EMR集群的ID。
System.out.println(acsResponse.getData().getClusterId());
// 是否为分区表,取值如下:
// true:是分区表。
// false:不是分区表。
System.out.println(acsResponse.getData().getIsPartitionTable());
// 是否为视图,取值如下:
// true:是视图。
// false:不是视图。
System.out.println(acsResponse.getData().getIsView());
// 表的生命周期。单位为天。
System.out.println(acsResponse.getData().getLifeCycle());
// 工作空间的名称。
System.out.println(acsResponse.getData().getProjectName());
// 表的浏览次数。仅当Extension参数取值为true时才会返回该参数,并且该参数仅对odps数据类型生效。
System.out.println(acsResponse.getData().getViewCount());
// 最近一次访问表的时间。
System.out.println(acsResponse.getData().getLastAccessTime());
// 表占用的存储空间。单位为Byte。
System.out.println(acsResponse.getData().getDataSize());
// 最近一次更新表的时间。
System.out.println(acsResponse.getData().getLastModifyTime());
// 最近一次变更表结构的时间。
System.out.println(acsResponse.getData().getLastDdlTime());
// Hive分区。
System.out.println(acsResponse.getData().getPartitionKeys());
// Hive数据库的存储地址。
System.out.println(acsResponse.getData().getLocation());
// 表的中文名称。
System.out.println(acsResponse.getData().getCaption());
// 租户ID。
System.out.println(acsResponse.getData().getTenantId());
return acsResponse.getData();
} catch (ServerException e) {
e.printStackTrace();
} catch (ClientException e) {
e.printStackTrace();
// 请求ID
System.out.println(e.getRequestId());
// 错误码
System.out.println(e.getErrCode());
// 错误信息
System.out.println(e.getErrMsg());
}
return null;
}
/**
* DataWorks OpenAPI : GetMetaTableColumn
* Link : https://www.alibabacloud.com/help/doc-detail/173921.html
*
* @param getMetaTableColumnDto
*/
public GetMetaTableColumnResponse.Data getMetaTableColumn(GetMetaTableColumnDto getMetaTableColumnDto) {
try {
IAcsClient client = dataWorksOpenApiClient.createClient();
GetMetaTableColumnRequest getMetaTableColumnRequest = new GetMetaTableColumnRequest();
// 表的唯一标识。
getMetaTableColumnRequest.setTableGuid(getMetaTableColumnDto.getTableGuid());
// 请求获取的数据页码数,用于翻页。
getMetaTableColumnRequest.setPageNum(getMetaTableColumnDto.getPageNum());
// 每页显示的条数,默认为10条,最大100条。
getMetaTableColumnRequest.setPageSize(getMetaTableColumnDto.getPageSize());
// EMR集群的ID,您可以登录EMR管理控制台,获取集群ID。
getMetaTableColumnRequest.setClusterId(getMetaTableColumnDto.getClusterId());
// EMR的数据库名称
getMetaTableColumnRequest.setDatabaseName(getMetaTableColumnDto.getDatabaseName());
// EMR的数据库名称
getMetaTableColumnRequest.setTableName(getMetaTableColumnDto.getTableName());
// 数据类型,当前仅支持取值为emr。
getMetaTableColumnRequest.setDataSourceType(getMetaTableColumnDto.getDataSourceType());
GetMetaTableColumnResponse acsResponse = client.getAcsResponse(getMetaTableColumnRequest);
// 字段的总数。
System.out.println(acsResponse.getData().getTotalCount());
for (GetMetaTableColumnResponse.Data.ColumnListItem columnListItem : acsResponse.getData()
.getColumnList()) {
// 字段的唯一标识。
System.out.println(columnListItem.getColumnGuid());
// 字段的名称。
System.out.println(columnListItem.getColumnName());
// 字段是否为分区字段,取值如下:
// true,是分区字段。
// false,不是分区字段。
System.out.println(columnListItem.getIsPartitionColumn());
// 字段的备注。
System.out.println(columnListItem.getComment());
// 字段的类型。
System.out.println(columnListItem.getColumnType());
// 字段是否为主键,取值如下:
// true,是主键。
// false,不是主键。
System.out.println(columnListItem.getIsPrimaryKey());
// 字段的排序。
System.out.println(columnListItem.getPosition());
// 字段的描述。
System.out.println(columnListItem.getCaption());
// 字段是否为外键,取值如下:
// true,是外键。
// false,不是外键。
System.out.println(columnListItem.getIsForeignKey());
// 字段热度。
System.out.println(columnListItem.getRelationCount());
}
return acsResponse.getData();
} catch (ServerException e) {
e.printStackTrace();
} catch (ClientException e) {
e.printStackTrace();
// 请求ID
System.out.println(e.getRequestId());
// 错误码
System.out.println(e.getErrCode());
// 错误信息
System.out.println(e.getErrMsg());
}
return null;
}
/**
* DataWorks OpenAPI : GetMetaTablePartition
* Link : https://www.alibabacloud.com/help/doc-detail/173923.html
*
* @param getMetaTablePartitionDto
*/
public GetMetaTablePartitionResponse.Data getMetaTablePartition(GetMetaTablePartitionDto getMetaTablePartitionDto) {
try {
IAcsClient client = dataWorksOpenApiClient.createClient();
GetMetaTablePartitionRequest getMetaTablePartitionRequest = new GetMetaTablePartitionRequest();
// 请求的数据页数,用于翻页。
getMetaTablePartitionRequest.setPageNumber(getMetaTablePartitionDto.getPageNumber());
// 每页显示的条数,默认为10条,最大100条。
getMetaTablePartitionRequest.setPageSize(getMetaTablePartitionDto.getPageSize());
// 表的唯一标识。
getMetaTablePartitionRequest.setTableGuid(getMetaTablePartitionDto.getTableGuid());
// EMR集群的ID,仅当数据类型为EMR时,需要配置该参数。
getMetaTablePartitionRequest.setClusterId(getMetaTablePartitionDto.getClusterId());
// 数据库的名称。仅当数据类型为EMR时,需要配置该参数。
getMetaTablePartitionRequest.setDatabaseName(getMetaTablePartitionDto.getDatabaseName());
// 数据库的名称。仅当数据类型为EMR时,需要配置该参数。
getMetaTablePartitionRequest.setTableName(getMetaTablePartitionDto.getTableName());
// 数据类型,支持ODPS或者EMR。
getMetaTablePartitionRequest.setDataSourceType(getMetaTablePartitionDto.getDataSourceType());
GetMetaTablePartitionResponse acsResponse = client.getAcsResponse(getMetaTablePartitionRequest);
for (GetMetaTablePartitionResponse.Data.DataEntityListItem dataEntityListItem : acsResponse.getData()
.getDataEntityList()) {
// 分区的目录。
System.out.println(dataEntityListItem.getPartitionPath());
// 分区的大小,单位为Byte。
System.out.println(dataEntityListItem.getDataSize());
// 分区的名称。
System.out.println(dataEntityListItem.getPartitionName());
// 备注信息。
System.out.println(dataEntityListItem.getComment());
// 修改分区的时间。
System.out.println(dataEntityListItem.getModifiedTime());
// 创建分区的时间。
System.out.println(dataEntityListItem.getCreateTime());
// 分区的数据量。
System.out.println(dataEntityListItem.getRecordCount());
// 分区的类型。
System.out.println(dataEntityListItem.getPartitionType());
// 分区的唯一标识。
System.out.println(dataEntityListItem.getPartitionGuid());
// Hive分区的地址。
System.out.println(dataEntityListItem.getPartitionLocation());
// 表的唯一标识。
System.out.println(dataEntityListItem.getTableGuid());
}
return acsResponse.getData();
} catch (ServerException e) {
e.printStackTrace();
} catch (ClientException e) {
e.printStackTrace();
// 请求ID
System.out.println(e.getRequestId());
// 错误码
System.out.println(e.getErrCode());
// 错误信息
System.out.println(e.getErrMsg());
}
return null;
}
}
在MetaRestController中提供三个方法分别为getMetaTableBasicInfo、getMetaTableColumn与getMetaTablePartition供前端进行调用。
package com.aliyun.dataworks.demo;
import com.aliyun.dataworks.dto.*;
import com.aliyun.dataworks.services.MetaServiceProxy;
import com.aliyuncs.dataworks_public.model.v20200518.*;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.bind.annotation.CrossOrigin;
/**
* 演示如何通过DataWorks OpenAPI构建自定义元数据平台
*
* @author dataworks demo
*/
@RestController
@RequestMapping("/meta")
public class MetaRestController {
@Autowired
private MetaServiceProxy metaService;
/**
* 获取表的基本属性
*
* @param getMetaTableBasicInfoDto
* @return {@link GetMetaTableBasicInfoResponse.Data}
*/
@GetMapping("/getTable")
public GetMetaTableBasicInfoResponse.Data getMetaTableBasicInfo(GetMetaTableBasicInfoDto getMetaTableBasicInfoDto) {
return metaService.getMetaTableBasicInfo(getMetaTableBasicInfoDto);
}
/**
* 查询表的列信息
*
* @param getMetaTableColumnDto
* @return {@link GetMetaTableColumnResponse.Data}
*/
@GetMapping("/getTableColumn")
public GetMetaTableColumnResponse.Data getMetaTableColumn(GetMetaTableColumnDto getMetaTableColumnDto) {
return metaService.getMetaTableColumn(getMetaTableColumnDto);
}
/**
* 查询表分区
*
* @param getMetaTablePartitionDto
* @return
*/
@GetMapping("/getTablePartition")
public GetMetaTablePartitionResponse.Data getMetaTablePartition(GetMetaTablePartitionDto getMetaTablePartitionDto) {
return metaService.getMetaTablePartition(getMetaTablePartitionDto);
}
}
在前端实现一个简易的详情页来调用表基本信息、表列信息与表分区的接口,并展示出来。
import React from 'react';
import moment from 'moment';
import { Form, Grid, Table, Pagination } from '@alifd/next';
import cn from 'classnames';
import * as services from '../services';
import type { TableItem, TableDetailOutput, TableColumn, TableEntity } from '../services/meta';
export interface Props {
item: TableItem;
}
const formItemLayout = {
labelCol: {
fixedSpan: 6
},
wrapperCol: {
span: 18
},
labelTextAlign: 'left' as const,
colon: true,
};
const { Row, Col } = Grid;
const { Item } = Form;
const { Column } = Table;
const DetailContent: React.FunctionComponent<Props> = (props) => {
const [detail, setDetail] = React.useState<Partial<TableDetailOutput>>({});
const [columns, setColumns] = React.useState<Partial<TableColumn[]>>([]);
const [partitions, setPartitions] = React.useState<Partial<TableEntity[]>>([]);
const [columnsTotal, setColumnsTotal] = React.useState<number>(0);
const [partitionTotal, setPartitionTotal] = React.useState<number>(0);
// 实现一个调用获取表基本信息接口的方法
const getTableDetail = React.useCallback(async () => {
const response = await services.meta.getTableDetail({ tableGuid: props.item.tableGuid });
setDetail(response);
}, [props.item.tableGuid]);
// 实现一个调用获取表字段信息接口的方法
const getTableColumns = React.useCallback(async (pageNum: number = 1) => {
const response = await services.meta.getMetaTableColumns({
pageNum,
tableGuid: props.item.tableGuid,
});
setColumns(response.columnList);
setColumnsTotal(response.totalCount);
}, [props.item.tableGuid]);
// 实现一个调用获取表分区信息接口的方法
const getTablePartition = React.useCallback(async (pageNumber: number = 1) => {
const response = await services.meta.getTablePartition({
pageNumber,
tableGuid: props.item.tableGuid,
});
setPartitions(response.dataEntityList);
setPartitionTotal(response.totalCount);
}, []);
// 表的权限映射
const isVisible = React.useMemo(() => {
switch (detail.isVisible) {
case 0:
return '对工作空间成员可见';
case 1:
return '对租户内成员可见';
case 2:
return '对租户间成员均可见';
case 3:
return '仅对责任人可见';
default:
return '';
}
}, [detail.isVisible]);
React.useEffect(() => {
if (props.item.tableGuid) {
getTableDetail();
getTableColumns();
getTablePartition();
}
}, [props.item.tableGuid]);
// 渲染前端页面
return (
<div>
<Form labelTextAlign="left">
<Row>
<Col>
<Item {...formItemLayout} label="表GUID">
<span>{detail.tableGuid}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="表名称">
<span>{detail.tableName}</span>
</Item>
</Col>
</Row>
<Row>
<Col>
<Item {...formItemLayout} label="所属工作空间">
<span className={cn(classes.formContentWrapper)}>{detail.projectName}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="表所有者ID">
<span className={cn(classes.formContentWrapper)}>{detail.ownerId}</span>
</Item>
</Col>
</Row>
<Row>
<Col>
<Item {...formItemLayout} label="表生命周期">
<span className={cn(classes.formContentWrapper)}>{detail.lifeCycle ? `${detail.lifeCycle} 天` : '永久'}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="备注信息">
<span className={cn(classes.formContentWrapper)}>{detail.comment}</span>
</Item>
</Col>
</Row>
<Row>
<Col>
<Item {...formItemLayout} label="存储空间">
<span className={cn(classes.formContentWrapper)}>{`${detail.dataSize} Bytes`}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="是否为分区表">
<span className={cn(classes.formContentWrapper)}>{detail.isView ? '是' : '否'}</span>
</Item>
</Col>
</Row>
<Row>
<Col>
<Item {...formItemLayout} label="表的可见性">
<span className={cn(classes.formContentWrapper)}>{isVisible}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="表的读取次数">
<span className={cn(classes.formContentWrapper)}>{detail.readCount}</span>
</Item>
</Col>
</Row>
<Row>
<Col>
<Item {...formItemLayout} label="创建时间">
<span className={cn(classes.formContentWrapper)}>{moment(detail.createTime).format('YYYY-MM-DD HH:mm:ss')}</span>
</Item>
</Col>
<Col>
<Item {...formItemLayout} label="最后修改时间">
<span className={cn(classes.formContentWrapper)}>{moment(detail.lastModifyTime).format('YYYY-MM-DD HH:mm:ss')}</span>
</Item>
</Col>
</Row>
<Item label="字段详情" colon>
<Table dataSource={columns}>
<Column title="名称" dataIndex="columnName" />
<Column title="类型" dataIndex="columnType" />
<Column title="是否为主键" dataIndex="isPrimaryKey" />
<Column title="是否为外键" dataIndex="isForeignKey" />
<Column title="是否为分区" dataIndex="isPartitionColumn" />
<Column title="说明" dataIndex="comment" />
</Table>
<Pagination
total={columnsTotal}
onChange={getTableColumns}
showJump={false}
className={cn(classes.tablePaginationWrapper)}
/>
</Item>
<Item label="分区详情" style={{ marginTop: 32, marginBottom: 32 }} colon>
<Table
dataSource={partitions}
emptyContent={<span>非分区表</span>}
>
<Column title="名称" dataIndex="partitionName" />
<Column title="类型" dataIndex="partitionType" />
<Column title="分区大小" dataIndex="dataSize" cell={value => `${value} bytes`} />
<Column title="备注" dataIndex="comment" />
</Table>
<Pagination
total={partitionTotal}
onChange={getTablePartition}
showJump={false}
className={cn(classes.tablePaginationWrapper)}
/>
</Item>
</Form>
</div>
);
}
export default DetailContent;
完成上述代码开发后,您可在本地部署并运行工程代码。部署并运行的操作请参见通用操作:本地部署运行。
当一张表口径发生变更时,您可以通过DataWorks OpenAPI、OpenData、消息订阅的方式进行下游任务的血缘分析,查找表对应的节点。具体操作如下。
通过ListLineage,查看表的血缘关系。
消息目前支持表变更、任务变更等。企业版用户可以对接表变更的消息,当接收到表变更的时候,您可以查看表的血缘关系。
根据字段血缘或表血缘,查到受影响的表的列表,根据表列表,通过GetMetaTableOutput,获取表的任务ID。
根据指定任务ID,通过GetNode获取任务详情,确认对的业务影响。
准备依赖环境。
您需准备好以下依赖环境:java8及以上、maven构建工具、node环境、pnpm工具。您可以执行以下命令来确定是否具备上述环境:
npm -v // 如果已安装成功,执行命令将展示版本号,否则会报没有命令错误
java -version // 如果已安装成功,执行命令将展示版本号,否则会报没有命令错误
pnpm -v // 如果已安装成功,执行命令将展示版本号,否则会报没有命令错误
下载工程代码并执行以下命令。
工程代码下载链接:meta-api-demo.zip
pnpm i
在范例工程中的backend/src/main/resources路径下找到application.properties文件,修改文件中的核心参数。
api.access-key-id与api.access-key-secret需修改为您阿里云账号的AccessKey ID 和 AccessKey Secret。
您可以在AccessKey 管理页面获取阿里云账号的相关信息。
api.region-id、api.endpoint需修改为待调用OpenAPI的地域信息。
其他参数可根据实际情况修改,修改后的填写示例如下。
在工程根目录下执行以下命令,运行示例实践代码。
npm run dev