借助阿里云在亚洲加速迈向成功
一站式安全合规咨询服务
MLPS 2.0 一站式合规解决方案
依托我们的网络进军中国市场
提升面向互联网应用的性能和安全性
保障您的中国业务安全无忧
通过强大的数据安全框架保护您的数据资产
申请 ICP 备案的流程解读和咨询服务
面向大数据建设、管理及应用的全域解决方案
企业内大数据建设、管理和应用的一站式解决方案
将您的采购和销售置于同一企业级全渠道数字平台上
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
快速搭建在线教育平台
提供域名注册、分析和保护服务
云原生 Kubernetes 容器化应用运行环境
以 Kubernetes 为使用界面的容器服务产品,提供符合容器规范的算力资源
安全的镜像托管服务,支持全生命周期管理
多集群环境下微服务应用流量统一管理
提供任意基础设施上容器集群的统一管控,助您轻松管控分布式云场景
高弹性、高可靠的企业级无服务器 Kubernetes 容器产品
敏捷安全的 Serverless 容器运行服务
为虚拟机和容器提供高可靠性、高性能、低时延的块存储服务
一款海量、安全、低成本、高可靠的云存储服务
可靠、弹性、高性能、多共享的文件存储服务
全托管、可扩展的并行文件系统服务。
全托管的 NoSQL 结构化数据实时存储服务
可抵扣多种存储产品的容量包,兼具灵活性和长期成本优化
让您的应用跨不同可用区资源自动分配访问量
随时绑定和解绑 VPC ECS
云网络公网、跨域流量统一计费
高性价比,可抵扣按流量计费的流量费用
创建云上隔离的网络,在专有环境中运行资源
在 VPC 环境下构建公网流量的出入口
具备网络状态可视化、故障智能诊断能力的自助式网络运维服务。
安全便捷的云上服务专属连接
基于阿里云专有网络的私有 DNS 解析服务
保障在线业务不受大流量 DDoS 攻击影响
系统运维和安全审计管控平台
业务上云的第一个网络安全基础设施
集零信任内网访问、办公数据保护、终端管理等多功能于一体的办公安全管控平台
提供7X24小时安全运维平台
防御常见 Web 攻击,缓解 HTTP 泛洪攻击
实现全站 HTTPS,呈现可信的 WEB 访问
为云上应用提供符合行业标准和密码算法等级的数据加解密、签名验签和数据认证能力
一款发现、分类和保护敏感数据的安全服务
创建、控制和管理您的加密密钥
快速提高应用高可用能力服务
围绕应用和微服务的 PaaS 平台
兼容主流开源微服务生态的一站式平台
多集群环境下微服务应用流量统一管理
Super MySQL 和 PostgreSQL,高度兼容 Oracle 语法
全托管 MySQL、PostgreSQL、SQL Server、MariaDB
兼容 Redis® 的缓存和KV数据库
兼容Apache Cassandra、Apache HBase、Elasticsearch、OpenTSDB 等多种开源接口
文档型数据库,支持副本集和分片架构
100%兼容 Apache HBase 并深度扩展,稳定、易用、低成本的NoSQL数据库。
低成本、高可用、可弹性伸缩的在线时序数据库服务
专为搜索和分析而设计,成本效益达到开源的两倍,采用最新的企业级AI搜索和AI助手功能。
一款兼容PostgreSQL协议的实时交互式分析产品
一种快速、完全托管的 TB/PB 级数据仓库
基于 Flink 为大数据行业提供解决方案
基于Qwen和其他热门模型的一站式生成式AI平台,可构建了解您业务的智能应用程
一站式机器学习平台,满足数据挖掘分析需求
高性能向量检索服务,提供低代码API和高成本效益
帮助您的应用快速构建高质量的个性化推荐服务能力
提供定制化的高品质机器翻译服务
全面的AI计算平台,满足大模型训练等高性能AI计算的算力和性能需求
具备智能会话能力的会话机器人
基于机器学习的智能图像搜索产品
基于阿里云深度学习技术,为用户提供图像分割、视频分割、文字识别等离线SDK能力,支持Android、iOS不同的适用终端。
语音识别、语音合成服务以及自学习平台
一站式智能搜索业务开发平台
助力金融企业快速搭建超低时延、高质量、稳定的行情数据服务
帮助企业快速测算和分析企业的碳排放和产品碳足迹
企业工作流程自动化,全面提高效率
金融级云原生分布式架构的一站式高可用应用研发、运维平台
eKYC 数字远程在线解决方案
可智能检测、大数据驱动的综合性反洗钱 (AML) 解决方案
阿里云APM类监控产品
实时云监控服务,确保应用及服务器平稳运行
为系统运维人员管理云基础架构提供全方位服务的云上自动化运维平台
面向您的云资源的风险检测服务
提升分布式环境下的诊断效率
日志类数据一站式服务,无需开发就能部署
ECS 预留实例
让弹性计算产品的成本和灵活性达到最佳平衡的付费方式。云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势自带IP上云
自带公网 IP 地址上云全球网络互联
端到端的软件定义网络解决方案,可推动跨国企业的业务发展全球应用加速
提升面向互联网应用的性能和安全性全球互联网接入
将IDC网关迁移到云端云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势金融科技云数据库解决方案
利用专为金融科技而设的云原生数据库解决方案游戏行业云数据库解决方案
提供多种成熟架构,解决所有数据问题Oracle 数据库迁移
将 Oracle 数据库顺利迁移到云原生数据库数据库迁移
加速迁移您的数据到阿里云阿里云上的数据湖
实时存储、管理和分析各种规模和类型的数据数码信贷
利用大数据和 AI 降低信贷和黑灰产风险面向企业数据技术的大数据咨询服务
帮助企业实现数据现代化并规划其数字化未来人工智能对话服务
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人EasyDispatch 现场服务管理
为现场服务调度提供实时AI决策支持在线教育
快速搭建在线教育平台窄带高清 (HD) 转码
带宽成本降低高达 30%广电级大型赛事直播
为全球观众实时直播大型赛事,视频播放流畅不卡顿直播电商
快速轻松地搭建一站式直播购物平台用于供应链规划的Alibaba Dchain
构建和管理敏捷、智能且经济高效的供应链云胸牌
针对赛事运营的创新型凭证数字服务数字门店中的云 POS 解决方案
将所有操作整合到一个云 POS 系统中元宇宙
元宇宙是下一代互联网人工智能 (AI) 加速
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速DevOps
快速、安全地最大限度提高您的DevOps优势数据迁移解决方案
加速迁移您的数据到阿里云企业 IT 治理
在阿里云上构建高效可控的云环境基于日志管理的AIOps
登录到带有智能化日志管理解决方案的 AIOps 环境备份与存档
数据备份、数据存档和灾难恢复用阿里云金融服务加快创新
在云端开展业务,提升客户满意度
为全球资本市场提供安全、准确和数字化的客户体验
利用专为金融科技而设的云原生数据库解决方案
利用大数据和 AI 降低信贷和黑灰产风险
建立快速、安全的全球外汇交易平台
新零售时代下,实现传统零售业转型
利用云服务处理流量波动问题,扩展业务运营、降低成本
快速轻松地搭建一站式直播购物平台
面向大数据建设、管理及应用的全域解决方案
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
以数字化媒体旅程为当今的媒体市场准备就绪您的内容
带宽成本降低高达 30%
快速轻松地搭建一站式直播购物平台
为全球观众实时直播大型赛事,视频播放流畅不卡顿
使用阿里云弹性高性能计算 E-HPC 将本地渲染农场连接到云端
构建发现服务,帮助客户找到最合适的内容
保护您的媒体存档安全
通过统一的数据驱动平台提供一致的全生命周期客户服务
在钉钉上打造一个多功能的电信和数字生活平台
在线存储、共享和管理照片与文件
提供全渠道的无缝客户体验
面向中小型企业,为独立软件供应商提供可靠的IT服务
打造最快途径,助力您的新云业务扬帆起航
先进的SD-WAN平台,可实现WAN连接、实时优化并降低WAN成本
通过自动化和流程标准化实现快速事件响应
针对关键网络安全威胁提供集中可见性并进行智能安全分析
提供大容量、可靠且高度安全的企业文件传输
用智能技术数字化体育赛事
基于人工智能的低成本体育广播服务
专业的广播转码及信号分配管理服务
基于云的音视频内容引入、编辑和分发服务
在虚拟场馆中模拟关键运营任务
针对赛事运营的创新型凭证数字服务
智能和交互式赛事指南
轻松管理云端背包单元的绑定直播流
通过数据加强您的营销工作
元宇宙是下一代互联网
利用生成式 AI 加速创新,创造新的业务佳绩
阿里云高性能开源大模型
借助AI轻松解锁和提炼文档中的知识
通过AI驱动的语音转文本服务获取洞察
探索阿里云人工智能和数据智能的所有功能、新优惠和最新产品
该体验中心提供广泛的用例和产品帮助文档,助您开始使用阿里云 AI 产品和浏览您的业务数据。
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速
元宇宙是下一代互联网
构建发现服务,帮助客户找到最合适的内容
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
加速迁移您的数据到阿里云
在阿里云上建立一个安全且易扩容的环境,助力高效率且高成本效益的上云旅程
迁移到完全托管的云数据库
将 Oracle 数据库顺利迁移到云原生数据库
自带公网 IP 地址上云
利用阿里云强大的安全工具集,保障业务安全、应用程序安全、数据安全、基础设施安全和帐户安全
保护、备份和还原您的云端数据资产
MLPS 2.0 一站式合规解决方案
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
实现对 CloudOps、DevOps、SecOps、AIOps 和 FinOps 的高效、安全和透明的管理
构建您的原生云环境并高效管理集群
快速、安全地最大限度提高您的DevOps优势
实施细粒度安全控制
提供运维效率和总体系统安全性
实时分析您的云消耗并实现节约
实时存储、管理和分析各种规模和类型的数据
登录到带有智能化日志管理解决方案的 AIOps 环境
帮助企业实现数据现代化并规划其数字化未来
帮助零售商快速规划数字化之旅
将全球知名的 CRM 平台引入中国
在线存储、共享和管理照片与文件
构建、部署和管理高可用、高可靠、高弹性的应用程序
快速、安全地最大限度提高您的DevOps优势
将您的采购和销售置于同一企业级全渠道数字平台上
企业内大数据建设、管理和应用的一站式解决方案
帮助企业简化 IT 架构、实现商业价值、加速数字化转型的步伐
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
快速搜集、处理、分析联网设备产生的数据
0.0.201
TPC-H是评估数据库商业分析能力的基准测试标准,聚焦复杂查询及高并发决策支持性能。本文介绍了在云原生数据仓库 AnalyticDB MySQL 版中运行该测试的具体方法。
在阿里云公共云AnalyticDB for MySQL环境运行和测试TPC-H(Transaction ProcessingPerformance Council)标准benchmark测试集之前,您需要完成以下准备工作。
创建集群,请参见创建AnalyticDB for MySQL集群。
为集群设置白名单,请参见设置白名单。
在集群中创建数据库账号,请参见创建数据库账号。
如需通过外网连接集群,请申请公网地址。
您需要在AnalyticDB for MySQL中创建八张数据表和一个视图以进行性能测试。
Native计算引擎目前在邀测中。仅3.2.2.1及以上版本集群支持执行SET命令开启Native计算引擎和XUANWU_V2引擎。3.2.2.1以下内核版本,请提交工单联系技术支持升级内核版本,再直接执行SET命令开启Native计算引擎和XUANWU_V2引擎。
升级内核版本时会重启集群,集群将发生连接闪断,请在业务低峰期执行该操作,并确保应用程序具备重连机制。
如果您只需测试AnalyticDB for MySQL原生计算引擎和XUANWU引擎的性能,可跳过该步骤,直接创建测试表。如果您想测试Native计算引擎和XUANWU_V2引擎的性能,请在构建测试表之前打开Native计算引擎和和XUANWU_V2引擎,方法如下:
SET ADB_CONFIG native_engine_opt_enabled = true;
SET ADB_CONFIG rc_ddl_engine_rewrite_xuanwuv2 = true;
NATION表
CREATE TABLE nation (
n_nationkey INT NOT NULL COMMENT '',
n_name VARCHAR NOT NULL COMMENT '',
n_regionkey INT NOT NULL COMMENT '',
n_comment VARCHAR COMMENT '',
dummy VARCHAR,
PRIMARY KEY (n_nationkey)
) DISTRIBUTED BY BROADCAST INDEX_ALL = 'Y' compression='lz4hc';
REGION表
CREATE TABLE region (
r_regionkey INT NOT NULL COMMENT '',
r_name VARCHAR NOT NULL COMMENT '',
r_comment VARCHAR COMMENT '',
dummy VARCHAR,
PRIMARY KEY (r_regionkey)
) DISTRIBUTED BY BROADCAST INDEX_ALL = 'Y' compression='lz4hc';
PART表
CREATE TABLE part (
p_partkey INT NOT NULL COMMENT '',
p_name VARCHAR NOT NULL COMMENT '',
p_mfgr VARCHAR NOT NULL COMMENT '',
p_brand VARCHAR(10) NOT NULL COMMENT '',
p_type VARCHAR NOT NULL COMMENT '',
p_size INT NOT NULL COMMENT '',
p_container VARCHAR(10) NOT NULL COMMENT '',
p_retailprice DOUBLE NOT NULL COMMENT '',
p_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
PRIMARY KEY (p_partkey)
) DISTRIBUTED BY HASH (p_partkey) INDEX_ALL = 'Y' compression='lz4hc';
SUPPLIER表
CREATE TABLE supplier (
s_suppkey INT NOT NULL COMMENT '',
s_name VARCHAR NOT NULL COMMENT '',
s_address VARCHAR NOT NULL COMMENT '',
s_nationkey INT NOT NULL COMMENT '',
s_phone VARCHAR(15) NOT NULL COMMENT '',
s_acctbal DOUBLE NOT NULL COMMENT '',
s_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
PRIMARY KEY (s_suppkey)
) DISTRIBUTED BY HASH (s_suppkey) INDEX_ALL = 'Y' compression='lz4hc';
PARTSUPP表
CREATE TABLE partsupp (
ps_partkey INT NOT NULL COMMENT '',
ps_suppkey INT NOT NULL COMMENT '',
ps_availqty INT NOT NULL COMMENT '',
ps_supplycost DOUBLE NOT NULL COMMENT '',
ps_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
PRIMARY KEY (ps_partkey, ps_suppkey)
) DISTRIBUTED BY HASH (ps_partkey) INDEX_ALL = 'Y' compression='lz4hc';
CUSTOMER表
CREATE TABLE customer (
c_custkey INT NOT NULL COMMENT '',
c_name VARCHAR NOT NULL COMMENT '',
c_address VARCHAR NOT NULL COMMENT '',
c_nationkey INT NOT NULL COMMENT '',
c_phone VARCHAR(15) NOT NULL COMMENT '',
c_acctbal DOUBLE NOT NULL COMMENT '',
c_mktsegment VARCHAR(10) NOT NULL COMMENT '',
c_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
PRIMARY KEY (c_custkey)
) DISTRIBUTED BY HASH (c_custkey) INDEX_ALL = 'Y' compression='lz4hc';
ORDERS表
CREATE TABLE orders (
o_orderkey BIGINT NOT NULL COMMENT '',
o_custkey INT NOT NULL COMMENT '',
o_orderstatus VARCHAR(1) NOT NULL COMMENT '',
o_totalprice DOUBLE NOT NULL COMMENT '',
o_orderdate DATE NOT NULL COMMENT '',
o_orderpriority VARCHAR(15) NOT NULL COMMENT '',
o_clerk VARCHAR(15) NOT NULL COMMENT '',
o_shippriority INT NOT NULL COMMENT '',
o_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
KEY idx_o_custkey (o_custkey),
KEY idx_o_orderdate (o_orderdate),
KEY idx_o_orderkey (o_orderkey),
KEY idx_o_orderstatus (o_orderstatus)
) DISTRIBUTED BY HASH (o_orderkey) PARTITION BY VALUE(date_format(o_orderdate, '%Y%m')) PARTITION NUM 1000 INDEX_ALL = 'N' compression='lz4hc';
LINEITEM表
CREATE TABLE lineitem (
l_orderkey BIGINT NOT NULL COMMENT '',
l_partkey INT NOT NULL COMMENT '',
l_suppkey INT NOT NULL COMMENT '',
l_linenumber INT NOT NULL COMMENT '',
l_quantity DOUBLE NOT NULL COMMENT '',
l_extendedprice DOUBLE NOT NULL COMMENT '',
l_discount DOUBLE NOT NULL COMMENT '',
l_tax DOUBLE NOT NULL COMMENT '',
l_returnflag VARCHAR(1) NOT NULL COMMENT '',
l_linestatus VARCHAR(1) NOT NULL COMMENT '',
l_shipdate DATE NOT NULL COMMENT '',
l_commitdate DATE NOT NULL COMMENT '',
l_receiptdate DATE NOT NULL COMMENT '',
l_shipinstruct VARCHAR(25) NOT NULL COMMENT '',
l_shipmode VARCHAR(10) NOT NULL COMMENT '',
l_comment VARCHAR NOT NULL COMMENT '',
dummy VARCHAR,
KEY idx_l_orderkey (l_orderkey),
KEY idx_l_partkey (l_partkey),
KEY idx_l_receiptdate (l_receiptdate),
KEY idx_l_returnflag (l_returnflag),
KEY idx_l_shipdate (l_shipdate),
KEY idx_l_shipinstruct (l_shipinstruct),
KEY idx_l_shipmode (l_shipmode),
KEY idx_l_suppkey (l_suppkey)
) DISTRIBUTED BY HASH (l_orderkey) PARTITION BY VALUE(date_format(l_shipdate, '%Y%m')) PARTITION NUM 1000 INDEX_ALL = 'N' compression='lz4hc';
REVENUE0视图
CREATE VIEW `revenue0` AS
SELECT
`l_suppkey` supplier_no,
`sum`(
(
`l_extendedprice` * (1 - `l_discount`)
)
) total_revenue
FROM
lineitem
WHERE
(
(`l_shipdate` >= DATE '1996-01-01')
AND (
`l_shipdate` < (
DATE '1996-01-01' + INTERVAL '3' MONTH
)
)
)
GROUP BY
`l_suppkey`;
构建TPC-H测试数据,并将TPC-H 1000GB测试数据分别导入AnalyticDB for MySQL中。
本文的TPC-H的实现基于TPC-H的基准测试,并不能与已发布的TPC-H基准测试结果相比较,本文中的测试并不符合TPC-H基准测试的所有要求。
下表列出了TPC-H测试数据集中的表数据条数。
表名 | 数据条数 |
表名 | 数据条数 |
customer | 1.5亿 |
lineitem | 60亿 |
nation | 25 |
orders | 15亿 |
part | 2亿 |
partsupp | 8亿 |
region | 5 |
supplier | 1000万 |
以下流程仅适用于湖仓版集群。
创建外部数据库。
CREATE EXTERNAL DATABASE IF NOT EXISTS external_tpch;
创建八张外表。
AnalyticDB for MySQL提供了TPC-H测试数据存放的OSS路径。您需要根据集群所在地域,替换LOCATION
参数指定的OSS路径。
不同地域所对应的OSS路径
地域 | 路径 |
华东1(杭州) | oss://dataset-cn-hangzhou-external/TPC-H/1TB |
华北3(张家口) | oss://dataset-cn-zhangjiakou-external/TPC-H/1TB |
华北2(北京) | oss://dataset-cn-beijing-external/TPC-H/1TB |
华东2(上海) | oss://dataset-cn-shanghai-external/TPC-H/1TB |
华南1(深圳) | oss://dataset-cn-shenzhen-external/TPC-H/1TB |
华北1(青岛) | oss://dataset-cn-qingdao-external/TPC-H/1TB |
华南3(广州) | oss://dataset-cn-guangzhou-external/TPC-H/1TB |
中国香港 | oss://dataset-cn-hongkong-external/TPC-H/1TB |
新加坡 | oss://dataset-ap-southeast-1-external/TPC-H/1TB |
马来西亚(吉隆坡) | oss://dataset-ap-southeast-3-external/TPC-H/1TB |
日本(东京) | oss://dataset-ap-northeast-1-external/TPC-H/1TB |
印度尼西亚(雅加达) | oss://dataset-ap-southeast-5-external/TPC-H/1TB |
德国(法兰克福) | oss://dataset-eu-central-1-external/TPC-H/1TB |
美国(硅谷) | oss://dataset-us-west-1-external/TPC-H/1TB |
英国(伦敦) | oss://dataset-eu-west-1-external/TPC-H/1TB |
美国(弗吉尼亚) | oss://dataset-us-east-1-external/TPC-H/1TB |
CREATE EXTERNAl TABLE external_tpch.nation (
n_nationkey int NOT NULL COMMENT '',
n_name varchar NOT NULL COMMENT '',
n_regionkey int NOT NULL COMMENT '',
n_comment varchar COMMENT '',
`dummy` varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/nation/';
CREATE EXTERNAl TABLE external_tpch.customer (
c_custkey int NOT NULL COMMENT '',
c_name varchar NOT NULL COMMENT '',
c_address varchar NOT NULL COMMENT '',
c_nationkey int NOT NULL COMMENT '',
c_phone varchar(15) NOT NULL COMMENT '',
c_acctbal double NOT NULL COMMENT '',
c_mktsegment varchar(10) NOT NULL COMMENT '',
c_comment varchar NOT NULL COMMENT '',
`dummy` varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/customer/';
CREATE EXTERNAl TABLE external_tpch.lineitem (
l_orderkey bigint NOT NULL COMMENT '',
l_partkey int NOT NULL COMMENT '',
l_suppkey int NOT NULL COMMENT '',
l_linenumber int NOT NULL COMMENT '',
l_quantity double NOT NULL COMMENT '',
l_extendedprice double NOT NULL COMMENT '',
l_discount double NOT NULL COMMENT '',
l_tax double NOT NULL COMMENT '',
l_returnflag varchar(1) NOT NULL COMMENT '',
l_linestatus varchar(1) NOT NULL COMMENT '',
l_shipdate date NOT NULL COMMENT '',
l_commitdate date NOT NULL COMMENT '',
l_receiptdate date NOT NULL COMMENT '',
l_shipinstruct varchar(25) NOT NULL COMMENT '',
l_shipmode varchar(10) NOT NULL COMMENT '',
l_comment varchar NOT NULL COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/lineitem/';
CREATE EXTERNAl TABLE external_tpch.orders (
o_orderkey bigint NOT NULL COMMENT '',
o_custkey int NOT NULL COMMENT '',
o_orderstatus varchar(1) NOT NULL COMMENT '',
o_totalprice double NOT NULL COMMENT '',
o_orderdate date NOT NULL COMMENT '',
o_orderpriority varchar(15) NOT NULL COMMENT '',
o_clerk varchar(15) NOT NULL COMMENT '',
o_shippriority int NOT NULL COMMENT '',
o_comment varchar NOT NULL COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/orders/';
CREATE EXTERNAl TABLE external_tpch.part (
p_partkey int NOT NULL COMMENT '',
p_name varchar NOT NULL COMMENT '',
p_mfgr varchar NOT NULL COMMENT '',
p_brand varchar(10) NOT NULL COMMENT '',
p_type varchar NOT NULL COMMENT '',
p_size int NOT NULL COMMENT '',
p_container varchar(10) NOT NULL COMMENT '',
p_retailprice double NOT NULL COMMENT '',
p_comment varchar NOT NULL COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/part/';
CREATE EXTERNAl TABLE external_tpch.partsupp (
ps_partkey int NOT NULL COMMENT '',
ps_suppkey int NOT NULL COMMENT '',
ps_availqty int NOT NULL COMMENT '',
ps_supplycost double NOT NULL COMMENT '',
ps_comment varchar NOT NULL COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/partsupp/';
CREATE EXTERNAl TABLE external_tpch.region (
r_regionkey int NOT NULL COMMENT '',
r_name varchar NOT NULL COMMENT '',
r_comment varchar COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/region/';
CREATE EXTERNAl TABLE external_tpch.supplier (
s_suppkey int NOT NULL COMMENT '',
s_name varchar NOT NULL COMMENT '',
s_address varchar NOT NULL COMMENT '',
s_nationkey int NOT NULL COMMENT '',
s_phone varchar(15) NOT NULL COMMENT '',
s_acctbal double NOT NULL COMMENT '',
s_comment varchar NOT NULL COMMENT '',
dummy varchar
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE
LOCATION 'oss://dataset-cn-beijing-external/TPC-H/1TB/supplier/';
将外表中的数据导入构建测试表文档所创建的内表中。
INSERT OVERWRITE INTO customer
SELECT *
FROM external_tpch.customer;
INSERT OVERWRITE INTO lineitem
SELECT *
FROM external_tpch.lineitem;
INSERT INTO nation
SELECT *
FROM external_tpch.nation;
INSERT OVERWRITE INTO orders
SELECT *
FROM external_tpch.orders;
INSERT OVERWRITE INTO part
SELECT *
FROM external_tpch.part;
INSERT OVERWRITE INTO partsupp
SELECT *
FROM external_tpch.partsupp;
INSERT INTO region
SELECT *
FROM external_tpch.region;
INSERT OVERWRITE INTO supplier
SELECT *
FROM external_tpch.supplier;
收集统计信息。
ANALYZE TABLE customer UPDATE HISTOGRAM;
ANALYZE TABLE lineitem UPDATE HISTOGRAM;
ANALYZE TABLE nation UPDATE HISTOGRAM;
ANALYZE TABLE orders UPDATE HISTOGRAM;
ANALYZE TABLE part UPDATE HISTOGRAM;
ANALYZE TABLE partsupp UPDATE HISTOGRAM;
ANALYZE TABLE region UPDATE HISTOGRAM;
ANALYZE TABLE supplier UPDATE HISTOGRAM;
查询优化器(Query Optimizer)将查询转换为执行计划,并交给执行引擎执行。执行计划的质量会影响查询的性能。统计信息作为查询优化器的输入,可以帮助查询优化器生成高质量的执行计划。因此,在导入数据后,您需收集所有表的直方图信息,以获得最佳性能。若您想了解统计信息的更多内容,请参见统计信息。
从TPC官网下载TPC-H标准的数据生成工具DBGEN,编译后生成二进制可执行文件dbgen。
./dbgen -s $scale -C $chunks -S $i -f
-s
:指定scale值,例如100GB时scale值为100,1TB时scale值为1000。
-C
:一共分成几个chunk。
-S
::当前命令生成第几个 chunk。
一条语句只能生成一个 chunk。
更多dbgen使用方法请参见tpch-dbgen。
使用LOAD DATA将dbgen生成的文件导入至AnalyticDB for MySQL中。
本示例以Windows操作系统为例,换行符为\r\n
。
LOAD DATA LOCAL INFILE 'customer.tbl' INTO TABLE CUSTOMER
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'orders.tbl' INTO TABLE ORDERS
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'lineitem.tbl' INTO TABLE LINEITEM
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'nation.tbl' INTO TABLE NATION
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'partsupp.tbl' INTO TABLE PARTSUPP
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'part.tbl' INTO TABLE PART
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'region.tbl' INTO TABLE REGION
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
LOAD DATA LOCAL INFILE 'supplier.tbl' INTO TABLE SUPPLIER
FIELDS TERMINATED BY '|' LINES TERMINATED BY '\r\n';
收集统计信息。
ANALYZE TABLE customer UPDATE HISTOGRAM;
ANALYZE TABLE lineitem UPDATE HISTOGRAM;
ANALYZE TABLE nation UPDATE HISTOGRAM;
ANALYZE TABLE orders UPDATE HISTOGRAM;
ANALYZE TABLE part UPDATE HISTOGRAM;
ANALYZE TABLE partsupp UPDATE HISTOGRAM;
ANALYZE TABLE region UPDATE HISTOGRAM;
ANALYZE TABLE supplier UPDATE HISTOGRAM;
查询优化器(Query Optimizer)将查询转换为执行计划,并交给执行引擎执行。执行计划的质量会影响查询的性能。统计信息作为查询优化器的输入,可以帮助查询优化器生成高质量的执行计划。因此,在导入数据后,您需收集所有表的直方图信息,以获得最佳性能。若您想了解统计信息的更多内容,请参见统计信息。
性能测试中将执行以下22个查询SQL。
本文的TPC-H的实现基于TPC-H的基准测试,并不符合TPC-H基准测试的所有要求。
SQL1
SELECT l_returnflag, l_linestatus, sum(l_quantity) AS sum_qty
, sum(l_extendedprice) AS sum_base_price
, sum(l_extendedprice * (1 - l_discount)) AS sum_disc_price
, sum(l_extendedprice * (1 - l_discount) * (1 + l_tax)) AS sum_charge
, avg(l_quantity) AS avg_qty, avg(l_extendedprice) AS avg_price
, avg(l_discount) AS avg_disc, count(*) AS count_order
FROM lineitem
WHERE l_shipdate <= DATE '1998-12-01' - INTERVAL '90' DAY
GROUP BY l_returnflag, l_linestatus
ORDER BY l_returnflag, l_linestatus;
SQL2
SELECT s_acctbal, s_name, n_name, p_partkey, p_mfgr
, s_address, s_phone, s_comment
FROM part, supplier, partsupp, nation, region
WHERE p_partkey = ps_partkey
AND s_suppkey = ps_suppkey
AND p_size = 15
AND p_type LIKE '%BRASS'
AND s_nationkey = n_nationkey
AND n_regionkey = r_regionkey
AND r_name = 'EUROPE'
AND ps_supplycost = (
SELECT min(ps_supplycost)
FROM partsupp, supplier, nation, region
WHERE p_partkey = ps_partkey
AND s_suppkey = ps_suppkey
AND s_nationkey = n_nationkey
AND n_regionkey = r_regionkey
AND r_name = 'EUROPE'
)
ORDER BY s_acctbal DESC, n_name, s_name, p_partkey
LIMIT 100;
SQL3
SELECT l_orderkey, sum(l_extendedprice * (1 - l_discount)) AS revenue
, o_orderdate, o_shippriority
FROM customer, orders, lineitem
WHERE c_mktsegment = 'BUILDING'
AND c_custkey = o_custkey
AND l_orderkey = o_orderkey
AND o_orderdate < DATE '1995-03-15'
AND l_shipdate > DATE '1995-03-15'
GROUP BY l_orderkey, o_orderdate, o_shippriority
ORDER BY revenue DESC, o_orderdate
LIMIT 10;
SQL4
SELECT o_orderpriority, count(*) AS order_count
FROM orders
WHERE o_orderdate >= DATE '1993-07-01'
AND o_orderdate < DATE '1993-07-01' + INTERVAL '3' MONTH
AND EXISTS (
SELECT *
FROM lineitem
WHERE l_orderkey = o_orderkey
AND l_commitdate < l_receiptdate
)
GROUP BY o_orderpriority
ORDER BY o_orderpriority;
SQL5
SELECT n_name, sum(l_extendedprice * (1 - l_discount)) AS revenue
FROM customer, orders, lineitem, supplier, nation, region
WHERE c_custkey = o_custkey
AND l_orderkey = o_orderkey
AND l_suppkey = s_suppkey
AND c_nationkey = s_nationkey
AND s_nationkey = n_nationkey
AND n_regionkey = r_regionkey
AND r_name = 'ASIA'
AND o_orderdate >= DATE '1994-01-01'
AND o_orderdate < DATE '1994-01-01' + INTERVAL '1' YEAR
GROUP BY n_name
ORDER BY revenue DESC;
SQL6
SELECT sum(l_extendedprice * l_discount) AS revenue
FROM lineitem
WHERE l_shipdate >= DATE '1994-01-01'
AND l_shipdate < DATE '1994-01-01' + INTERVAL '1' YEAR
AND l_discount BETWEEN 0.06 - 0.01 AND 0.06 + 0.01
AND l_quantity < 24;
SQL7
SELECT supp_nation, cust_nation, l_year, sum(volume) AS revenue
FROM (
SELECT n1.n_name AS supp_nation, n2.n_name AS cust_nation, EXTRACT(YEAR FROM l_shipdate) AS l_year
, l_extendedprice * (1 - l_discount) AS volume
FROM supplier, lineitem, orders, customer, nation n1, nation n2
WHERE s_suppkey = l_suppkey
AND o_orderkey = l_orderkey
AND c_custkey = o_custkey
AND s_nationkey = n1.n_nationkey
AND c_nationkey = n2.n_nationkey
AND ((n1.n_name = 'FRANCE'
AND n2.n_name = 'GERMANY')
OR (n1.n_name = 'GERMANY'
AND n2.n_name = 'FRANCE'))
AND l_shipdate BETWEEN DATE '1995-01-01' AND DATE '1996-12-31'
) shipping
GROUP BY supp_nation, cust_nation, l_year
ORDER BY supp_nation, cust_nation, l_year;
SQL8
SELECT o_year
, sum(CASE
WHEN nation = 'PERU' THEN volume
ELSE 0
END) / sum(volume) AS mkt_share
FROM (
SELECT EXTRACT(YEAR FROM o_orderdate) AS o_year, l_extendedprice * (1 - l_discount) AS volume, n2.n_name AS nation
FROM part, supplier, lineitem, orders, customer, nation n1, nation n2, region
WHERE p_partkey = l_partkey
AND s_suppkey = l_suppkey
AND l_orderkey = o_orderkey
AND o_custkey = c_custkey
AND c_nationkey = n1.n_nationkey
AND n1.n_regionkey = r_regionkey
AND r_name = 'AMERICA'
AND s_nationkey = n2.n_nationkey
AND o_orderdate BETWEEN DATE '1995-01-01' AND DATE '1996-12-31'
AND p_type = 'PROMO BURNISHED TIN'
) all_nations
GROUP BY o_year
ORDER BY o_year;
SQL9
SELECT nation, o_year, sum(amount) AS sum_profit
FROM (
SELECT n_name AS nation, EXTRACT(YEAR FROM o_orderdate) AS o_year
, l_extendedprice * (1 - l_discount) - ps_supplycost * l_quantity AS amount
FROM part, supplier, lineitem, partsupp, orders, nation
WHERE s_suppkey = l_suppkey
AND ps_suppkey = l_suppkey
AND ps_partkey = l_partkey
AND p_partkey = l_partkey
AND o_orderkey = l_orderkey
AND s_nationkey = n_nationkey
AND p_name LIKE '%green%'
) profit
GROUP BY nation, o_year
ORDER BY nation, o_year DESC;
SQL10
SELECT c_custkey, c_name
, sum(l_extendedprice * (1 - l_discount)) AS revenue
, c_acctbal, n_name, c_address, c_phone, c_comment
FROM customer, orders, lineitem, nation
WHERE c_custkey = o_custkey
AND l_orderkey = o_orderkey
AND o_orderdate >= DATE '1993-09-01'
AND o_orderdate < DATE '1993-09-01' + INTERVAL '3' MONTH
AND l_returnflag = 'R'
AND c_nationkey = n_nationkey
GROUP BY c_custkey, c_name, c_acctbal, c_phone, n_name, c_address, c_comment
ORDER BY revenue DESC
LIMIT 20
SQL11
SELECT ps_partkey, sum(ps_supplycost * ps_availqty) AS value
FROM partsupp, supplier, nation
WHERE ps_suppkey = s_suppkey
AND s_nationkey = n_nationkey
AND n_name = 'GERMANY'
GROUP BY ps_partkey
HAVING sum(ps_supplycost * ps_availqty) > (
SELECT sum(ps_supplycost * ps_availqty) * 0.0000001000
FROM partsupp, supplier, nation
WHERE ps_suppkey = s_suppkey
AND s_nationkey = n_nationkey
AND n_name = 'GERMANY'
)
ORDER BY value DESC;
SQL12
SELECT l_shipmode
, sum(CASE
WHEN o_orderpriority = '1-URGENT'
OR o_orderpriority = '2-HIGH'
THEN 1
ELSE 0
END) AS high_line_count
, sum(CASE
WHEN o_orderpriority <> '1-URGENT'
AND o_orderpriority <> '2-HIGH'
THEN 1
ELSE 0
END) AS low_line_count
FROM orders, lineitem
WHERE o_orderkey = l_orderkey
AND l_shipmode IN ('TRUCK', 'AIR')
AND l_commitdate < l_receiptdate
AND l_shipdate < l_commitdate
AND l_receiptdate >= DATE '1994-01-01'
AND l_receiptdate < DATE '1994-01-01' + INTERVAL '1' YEAR
GROUP BY l_shipmode
ORDER BY l_shipmode;
SQL13
SELECT c_count, count(*) AS custdist
FROM (
SELECT c_custkey, count(o_orderkey) AS c_count
FROM customer
LEFT JOIN orders
ON c_custkey = o_custkey
AND o_comment NOT LIKE '%special%requests%'
GROUP BY c_custkey
) AS c_orders (c_custkey, c_count)
GROUP BY c_count
ORDER BY custdist DESC, c_count DESC;
SQL14
SELECT 100.00 * sum(CASE
WHEN p_type LIKE 'PROMO%' THEN l_extendedprice * (1 - l_discount)
ELSE 0
END) / sum(l_extendedprice * (1 - l_discount)) AS promo_revenue
FROM lineitem, part
WHERE l_partkey = p_partkey
AND l_shipdate >= DATE '1995-09-01'
AND l_shipdate < DATE '1995-09-01' + INTERVAL '1' MONTH;
SQL15
SELECT s_suppkey, s_name, s_address, s_phone, total_revenue
FROM supplier, revenue0
WHERE s_suppkey = supplier_no
AND total_revenue = (
SELECT max(total_revenue)
FROM revenue0
)
ORDER BY s_suppkey;
SQL16
SELECT p_brand, p_type, p_size, count(DISTINCT ps_suppkey) AS supplier_cnt
FROM partsupp, part
WHERE p_partkey = ps_partkey
AND p_brand <> 'Brand#45'
AND p_type NOT LIKE 'MEDIUM POLISHED%'
AND p_size IN (49, 14, 23, 45, 19, 3, 36, 9)
AND ps_suppkey NOT IN (
SELECT s_suppkey
FROM supplier
WHERE s_comment LIKE '%Customer%Complaints%'
)
GROUP BY p_brand, p_type, p_size
ORDER BY supplier_cnt DESC, p_brand, p_type, p_size;
SQL17
SELECT sum(l_extendedprice) / 7.0 AS avg_yearly
FROM lineitem, part
WHERE p_partkey = l_partkey
AND p_brand = 'Brand#23'
AND p_container = 'SM CAN'
AND l_quantity < (
SELECT 0.2 * avg(l_quantity)
FROM lineitem
WHERE l_partkey = p_partkey
);
SQL18
SELECT c_name, c_custkey, o_orderkey, o_orderdate, o_totalprice
, sum(l_quantity)
FROM customer, orders, lineitem
WHERE o_orderkey IN (
SELECT l_orderkey
FROM lineitem
GROUP BY l_orderkey
HAVING sum(l_quantity) > 300
)
AND c_custkey = o_custkey
AND o_orderkey = l_orderkey
GROUP BY c_name, c_custkey, o_orderkey, o_orderdate, o_totalprice
ORDER BY o_totalprice DESC, o_orderdate
LIMIT 100;
SQL19
SELECT sum(l_extendedprice * (1 - l_discount)) AS revenue
FROM lineitem, part
WHERE (p_partkey = l_partkey
AND p_brand = 'Brand#12'
AND p_container IN ('SM CASE', 'SM BOX', 'SM PACK', 'SM PKG')
AND l_quantity >= 1
AND l_quantity <= 1 + 10
AND p_size BETWEEN 1 AND 5
AND l_shipmode IN ('AIR', 'AIR REG')
AND l_shipinstruct = 'DELIVER IN PERSON')
OR (p_partkey = l_partkey
AND p_brand = 'Brand#42'
AND p_container IN ('MED BAG', 'MED BOX', 'MED PKG', 'MED PACK')
AND l_quantity >= 10
AND l_quantity <= 10 + 10
AND p_size BETWEEN 1 AND 10
AND l_shipmode IN ('AIR', 'AIR REG')
AND l_shipinstruct = 'DELIVER IN PERSON')
OR (p_partkey = l_partkey
AND p_brand = 'Brand#45'
AND p_container IN ('LG CASE', 'LG BOX', 'LG PACK', 'LG PKG')
AND l_quantity >= 20
AND l_quantity <= 20 + 10
AND p_size BETWEEN 1 AND 15
AND l_shipmode IN ('AIR', 'AIR REG')
AND l_shipinstruct = 'DELIVER IN PERSON');
SQL20
SELECT s_name, s_address
FROM supplier, nation
WHERE s_suppkey IN (
SELECT ps_suppkey
FROM partsupp
WHERE ps_partkey IN (
SELECT p_partkey
FROM part
WHERE p_name LIKE 'forest%'
)
AND ps_availqty > (
SELECT 0.5 * sum(l_quantity)
FROM lineitem
WHERE l_partkey = ps_partkey
AND l_suppkey = ps_suppkey
AND l_shipdate >= DATE '1994-01-01'
AND l_shipdate < DATE '1994-01-01' + INTERVAL '1' YEAR
)
)
AND s_nationkey = n_nationkey
AND n_name = 'CANADA'
ORDER BY s_name;
SQL21
SELECT s_name, count(*) AS numwait
FROM supplier, lineitem l1, orders, nation
WHERE s_suppkey = l1.l_suppkey
AND o_orderkey = l1.l_orderkey
AND o_orderstatus = 'F'
AND l1.l_receiptdate > l1.l_commitdate
AND EXISTS (
SELECT *
FROM lineitem l2
WHERE l2.l_orderkey = l1.l_orderkey
AND l2.l_suppkey <> l1.l_suppkey
)
AND NOT EXISTS (
SELECT *
FROM lineitem l3
WHERE l3.l_orderkey = l1.l_orderkey
AND l3.l_suppkey <> l1.l_suppkey
AND l3.l_receiptdate > l3.l_commitdate
)
AND s_nationkey = n_nationkey
AND n_name = 'SAUDI ARABIA'
GROUP BY s_name
ORDER BY numwait DESC, s_name
LIMIT 100;
SQL22
SELECT cntrycode, count(*) AS numcust, sum(c_acctbal) AS totacctbal
FROM (
SELECT substring(c_phone FROM 1 FOR 2) AS cntrycode, c_acctbal
FROM customer
WHERE substring(c_phone FROM 1 FOR 2) IN (
'13',
'31',
'23',
'29',
'30',
'18',
'17'
)
AND c_acctbal > (
SELECT avg(c_acctbal)
FROM customer
WHERE c_acctbal > 0.00
AND substring(c_phone FROM 1 FOR 2) IN (
'13',
'31',
'23',
'29',
'30',
'18',
'17'
)
)
AND NOT EXISTS (
SELECT *
FROM orders
WHERE o_custkey = c_custkey
)
) custsale
GROUP BY cntrycode
ORDER BY cntrycode;