全部产品
Search

搜索本产品

    云数据库 RDS：SQL洞察和审计

    文档中心

    云数据库 RDS：SQL洞察和审计

    更新时间：Nov 15, 2024

    当您在安全合规审计、性能分析、故障排除等场景下需要监控和管理RDS MySQL实例中执行的SQL语句时，可以利用SQL洞察和审计功能对SQL语句的执行情况进行记录和聚合分析。开启该功能后会自动记录来自数据库内核的SQL语句，以及SQL语句的执行账号、IP地址、执行详情等信息，对实例性能没有影响。

    前提条件

    重要

    开启SQL洞察和审计功能可以记录所有DQL、DML和DDL操作信息，这些信息是通过数据库内核输出，对系统CPU消耗极低。

    计费详情与功能概览

    实例地域

    支持的功能

    计费

    华东1（杭州）、华东2（上海）、华北1（青岛）、华北2（北京）、华北3（张家口）、华北5（呼和浩特）、华北6（乌兰察布）、华南1（深圳）、华南2（河源）、华南3（广州）、西南1（成都）、中国（香港）、新加坡、日本（东京）、马来西亚（吉隆坡）、印度尼西亚（雅加达）、美国（硅谷）、英国（伦敦）、美国（弗吉尼亚）和德国（法兰克福）

    SQL洞察和审计

    • 搜索

    • SQL洞察

    • 安全审计

    • 流量回放和压测

    • 如果全新开启SQL洞察和审计功能，费用由DAS侧收取。开启DAS企业版后，才可以使用该企业版提供的SQL洞察和审计功能。

      重要

      通过控制台，您只能开通当前地域支持的最高的DAS企业版。随着DAS企业版版本的更新，其计费方式变得更加灵活。

    • 如果数据库实例在SQL洞察升级为SQL洞察和审计之前已开启了SQL洞察功能，则费用由RDS侧收取。

      说明

      您可以在SQL洞察页签弹出的升级对话框中单击一键升级，升级为SQL洞察和审计。升级后费用由DAS侧收取。

    说明

    由RDS侧计费时，按小时扣费，不同地域的实例有不同的计费。

    • 0.0015美元/（GB*小时）：中国（香港）、美国（硅谷）、美国（弗吉尼亚）。

    • 0.0018美元/（GB*小时）：新加坡、日本（东京）、德国（法兰克福）、阿联酋（迪拜）、马来西亚（吉隆坡）、印度尼西亚（雅加达）、英国（伦敦）。

    • 0.0012美元/（GB*小时）：华东 1（杭州）、华东 2（上海）、华北 1（青岛）、华北 2（北京）、华北 3（张家口）、华北 5 （呼和浩特）、华北6（乌兰察布 ）、华南 1（深圳）、华南2（河源）、华南3（广州）和西南1（成都）。

    • 搜索（审计）：查询并导出SQL语句执行历史及其对应的各种信息，如数据库、状态、执行时间等。

    • SQL洞察：对指定时间SQL进行健康情况诊断、性能问题排查、业务流量分析等。

    • 安全审计：可自动识别高危SQL、SQL注入、新增访问来源等风险。

    • 流量回放和压测：提供流量回放和压测功能，帮助您验证您的实例规格是否需要扩容，有效应对业务流量高峰。

    • 分析：对指定时间段的SQL进行分析，找出异常SQL，定位性能问题。

    使用场景

    • 对数据安全有严格要求的行业，如金融行业、安全行业、证券行业、政务行业、保险行业等。

    • 需要详细排查数据库运行情况的场景，如极端场景的问题排查、SQL语句性能排查。

    • 极端情况保护数据的场景，可以通过SQL洞察记录的SQL语句恢复数据。

    注意事项

    • 单次在线查询时间范围最多为24小时。这是因为SQL洞察记录所有数据库行为，会记录大量SQL语句，在线查询选择时间范围过大，会导致长时间没有返回查询结果，甚至查询超时。

      说明

      • 您可以查询数据存储时长范围内，任意24小时的数据。

      • 如果需要查询更大时间范围的SQL记录，可以使用日志服务接入洞察日志。详情请参见采集RDS SQL审计日志。

    • 在线查询支持组合查询。例如在关键字搜索栏输入test1 test2可以查询包含test1或test2的SQL日志。

    • 在线查询不支持模糊查询。

    • 在线查询的关键字至少包含4个字符。

    • 审计记录支持通过线程ID和事务ID查询SQL语句记录。

      说明

      • 通过事务ID查询前需将loose_rds_audit_log_version参数值设为MYSQL_V3。详见RDS MySQL 8.0开放参数一览表。

      • MySQL 8.0支持通过事务ID查询的小版本为20210930以上，MySQL 5.7小版本为20210630以上。

    • SQL洞察和审计记录的SQL语句最大长度为8192字节，并且SQL语句最大长度受loose_rds_audit_max_sql_size或loose_rds_audit_log_event_buffer_size参数控制，参数取值范围为[0,32768]，单位为字节：

      • 当参数取值小于等于8192字节时，SQL语句最大长度为参数设定值，超过部分不再记录。由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于参数设定值。

      • 当参数取值大于8192字节时，SQL语句最大长度为8192字节，超过部分不再记录。由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于8192字节。

      说明

      • RDS MySQL 5.6、5.7版本支持loose_rds_audit_max_sql_size参数控制记录长度。

      • RDS MySQL 8.0版本支持loose_rds_audit_log_event_buffer_size参数控制记录长度。

    • 如果您开启的SQL洞察为试用版，暂不支持调用API（DescribeSQLLogRecords和DescribeSQLLogFiles）查询审计日志。

    • 洞察日志包含锁等待时间，而慢日志不包含。

    • 如果使用RDS数据库代理地址连接，且代理开启了事务级连接池，由于连接可能会被复用，所以使用show processlist命令或者SQL洞察显示的IP地址和端口可能和客户端实际的IP地址和端口不一致。

    • 当程序使用Prepare方式时，会在SQL洞察中出现2条语句，一条包含问号，一条包含具体值。

    • 挂载到PolarDB-X 1.0（DRDS）的RDS MySQL实例执行一条SQL语句时，由于水平拆分（分库分表）原因，会在RDS MySQL实例上产生多条SQL洞察和审计日志。

    开启SQL洞察和审计

    说明

    • 如果您在日志服务的CloudLens for RDS开启了RDS MySQL实例的审计日志采集功能，系统会自动开启对应RDS MySQL实例的SQL洞察和审计功能。详情请参见CloudLens for RDS。

    • 如果您未开通SQL洞察和审计功能，您可以通过Binlog日志进行查看。Binlog日志只能查询备份保留时间以内的增、删、改等SQL语句，不能查看来源IP和账号信息。详情请参见查看本地日志（Binlog）。

    1. 访问RDS实例列表，在上方选择地域，然后单击目标实例ID。

    2. 在左侧导航栏中，选择自治服务 > SQL洞察和审计。

    3. 点击开启企业版V3。

    4. 勾选需要开启的功能，点击提交。

    修改SQL洞察和审计数据存储时长

    警告

    减少SQL洞察和审计数据存储时长后，DAS会立刻将超过存储时长的SQL审计日志清空。建议您将SQL审计日志导出并保存至本地后，再减少SQL洞察和审计数据存储时长。

    1. 访问RDS实例列表，在上方选择地域，然后单击目标实例ID。

    2. 在左侧导航栏中，选择自治服务 > SQL洞察和审计。

    3. 单击服务设置。

    4. 在服务设置页，修改审计场景的日志存储时长，然后单击确定。

    关闭SQL洞察和审计

    警告

    SQL洞察和审计功能关闭后，SQL洞察和审计的日志会被清空。建议您将SQL洞察和审计的日志导出并保存至本地后，再关闭SQL洞察和审计功能。当重新开启SQL洞察和审计功能时，SQL洞察和审计的日志将从本次开启SQL洞察和审计的时间开始记录。

    1. 访问RDS实例列表，在上方选择地域，然后单击目标实例ID。

    2. 在左侧导航栏中，选择自治服务 > SQL洞察和审计。

    3. 在搜索页签的日志列表区域，单击导出。

    4. 在弹出的对话框中，选择导出字段和导出时间范围，单击确认。

    5. 导出完成后，下载已导出的文件并妥善保存。

    6. 在服务设置页，去掉SQL洞察和审计所有功能的勾选，并点击提交。

    迁移不同企业版的SQL洞察和审计数据

    企业版 V2相对于企业版 V1，变更了底层存储架构，通过冷热混合存储实现降本增效，使用成本低。而企业版 V3，在冷热混合存储的基础上，按使用的功能细分计费项，计费更加灵活。

    当您的数据库实例支持企业版 V3时，您可以将DAS企业版 V1或V2的数据迁移至企业版 V3，以获得更加优惠的费用，详情请参见DAS企业版间数据如何迁移？

    警告

    迁移操作无法终止和回退，请仔细阅读迁移说明。

    常见问题

    Q：SQL洞察的全量请求统计区域中的logout！语句是什么？

    A：logout！是指连接断开。logout！的耗时，是指上一次交互时间到logout！发生时间的差值，可以理解为连接空闲的时长。状态列的1158是指网络链接断开，其可能的原因是：

    • 客户端连接超时。

    • 服务端异常断开。

    • 服务端连接Reset（超过interactive_timeout或wait_timeout时长）。

    Q：SQL洞察的来源统计中，为什么会出现%的访问来源？

    A：该情况可能在您使用存储过程时出现。按如下示例可以复现这种情况：

    说明

    示例中数据库实例为RDS MySQL，测试账号为test_user，测试数据库为testdb。

    1. 在RDS控制台创建普通权限账号及其授权的数据库，详细操作请参见创建数据库和账号。

    2. 使用测试账号通过命令行方式连接数据库实例，详细操作请参见通过客户端、命令行连接RDS MySQL实例。

    3. 切换到测试数据库，并创建如下存储过程。

      -- 切换到测试数据库
USE testdb;

-- 创建存储过程
DELIMITER $$
DROP PROCEDURE IF EXISTS `das` $$
CREATE DEFINER=`test_user`@`%` PROCEDURE `das`()
BEGIN
SELECT * FROM information_schema.processlist WHERE Id = CONNECTION_ID();
END $$
DELIMITER;

    4. 使用高权限账号连接数据库实例，详细操作请参见通过客户端、命令行连接RDS MySQL实例。

    5. 调用存储过程。

      -- 切换到测试数据库
USE testdb;

-- 调用存储过程
CALL das();

+--------+-----------+--------+--------+---------+------+-----------+-------------------------------------------------------------------------+
| ID     | USER      | HOST   | DB     | COMMAND | TIME | STATE     | INFO                                                                    |
+--------+-----------+--------+--------+---------+------+-----------+-------------------------------------------------------------------------+
| 487818 | test_user | %:2065 | testdb | Query   |    0 | executing | SELECT * FROM information_schema.processlist WHERE Id = CONNECTION_ID() |
+--------+-----------+--------+--------+---------+------+-----------+-------------------------------------------------------------------------+

    Q：为什么RDS MySQL数据库实例搜索功能的日志列表中，有些SQL语句实际有数据返回，但扫描行数显示为0？

    A：数据库实例开启了query_cache_type。日志列表中，SQL语句的扫描行数统计的是在InnoDB引擎层扫描的行数，开启query_cache_type后，MySQL会尝试将查询结果缓存起来，如果后续有相同的查询请求到来，且查询缓存命中，则不会再到InnoDB层进行查询，直接返回缓存结果。因此，实际有数据返回，但日志列表中统计的扫描行数为0。详情请参见Fast Query Cache。

    Q：SQL洞察与Binlog日志的区别？

    RDS MySQL的增量数据可以通过SQL洞察或Binlog日志来查看，两者区别如下：

    • SQL洞察：适用于获取数据库中所有增量数据，但是在实例负载非常高时，会丢失少量记录，因此通过这种方式来统计增量数据可能会出现不准确的情况。可以记录所有DQL、DML和DDL操作信息，这些信息是通过数据库内核输出，对系统CPU消耗极低。

    • Binlog日志：适用于短期内获取准确的增量数据，但是无法获取实时日志信息。准确记录数据库所有的增、删、改操作信息以及恢复用户的增量数据。Binlog日志暂存在实例中，系统定期将实例中已经写完数据的Binlog日志转移至OSS保存7天。无法保存正在写入数据的Binlog文件，因此单击一键上传Binlog后仍有部分Binlog日志没有被上传。详情请参见云数据库RDS MySQL版远程获取Binlog日志并解析Binlog日志。

    Q：为什么实例控制台中SQL洞察入口消失了？

    A：由于SQL洞察和审计功能版本更新，最新版的入口已经变成了SQL洞察和审计。

    Q：还能开通旧版本的SQL洞察吗？

    A：当前只能开通本实例支持的最新版本的SQL洞察和审计。详情请参见产品系列及支持的功能。