详解如何校验MySQL及Oracle时间字段合规性

 更新时间:2023年06月27日 10:45:42   作者:爱可生云数据库  
这篇文章主要为大家介绍了如何校验MySQL及Oracle时间字段合规性详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪

背景信息

在数据迁移或者数据库低版本升级到高版本过程中,经常会遇到一些由于低版本数据库参数设置过于宽松,导致插入的时间数据不符合规范的情况而触发报错,每次报错再发现处理起来较为麻烦,是否有提前发现这类不规范数据的方法,以下基于 Oracle 和 MySQL 各提供一种可行性方案作为参考。

Oracle 时间数据校验方法

创建测试表并插⼊测试数据

CREATE TABLE T1(ID NUMBER,CREATE_DATE VARCHAR2(20));
INSERT INTO T1 SELECT 1, '2007-01-01' FROM DUAL;
INSERT INTO T1 SELECT 2, '2007-99-01' FROM DUAL;            -- 异常数据
INSERT INTO T1 SELECT 3, '2007-12-31' FROM DUAL;
INSERT INTO T1 SELECT 4, '2007-12-99' FROM DUAL;            -- 异常数据
INSERT INTO T1 SELECT 5, '2005-12-29 03:-1:119' FROM DUAL;  -- 异常数据
INSERT INTO T1 SELECT 6, '2015-12-29 00:-1:49' FROM DUAL;   -- 异常数据

创建对该表的错误日志记录

  • Oracle 可以调用 DBMS_ERRLOG.CREATE_ERROR_LOG 包对 SQL 的错误进行记录,用来记录下异常数据的情况,十分好用。
  • 参数含义如下

    • T1 为表名
    • T1_ERROR 为对该表操作的错误记录临时表
    • DEMO 为该表的所属用户
EXEC DBMS_ERRLOG.CREATE_ERROR_LOG('T1','T1_ERROR','DEMO');

创建并插入数据到临时表,验证时间数据有效性

-- 创建临时表做数据校验
CREATE TABLE T1_TMP(ID NUMBER,CREATE_DATE DATE);
-- 插入数据到临时表验证时间数据有效性(增加LOG ERRORS将错误信息输出到错误日志表)
INSERT INTO T1_TMP 
SELECT ID, TO_DATE(CREATE_DATE, 'YYYY-MM-DD HH24:MI:SS')
FROM T1 
LOG ERRORS INTO T1_ERROR REJECT LIMIT UNLIMITED;

校验错误记录

SELECT * FROM DEMO.T1_ERROR;

其中 ID 列为该表的主键,可用来快速定位异常数据行。

MySQL 数据库的方法

创建测试表模拟低版本不规范数据

-- 创建测试表
SQL> CREATE TABLE T_ORDER(
    ID BIGINT AUTO_INCREMENT PRIMARY KEY,
    ORDER_NAME VARCHAR(64),
    ORDER_TIME DATETIME);
-- 设置不严谨的SQL_MODE允许插入不规范的时间数据
SQL> SET SQL_MODE='STRICT_TRANS_TABLES,ALLOW_INVALID_DATES';
SQL> INSERT INTO T_ORDER(ORDER_NAME,ORDER_TIME) VALUES 
        ('MySQL','2022-01-01'),
        ('Oracle','2022-02-30'),
        ('Redis','9999-00-04'),
        ('MongoDB','0000-03-00');
-- 数据示例
SQL> SELECT * FROM T_ORDER;
+----+------------+---------------------+
| ID | ORDER_NAME | ORDER_TIME          |
+----+------------+---------------------+
|  1 | MySQL      | 2022-01-01 00:00:00 |
|  2 | Oracle     | 2022-02-30 00:00:00 |
|  3 | Redis      | 9999-00-04 00:00:00 |
|  4 | MongoDB    | 0000-03-00 00:00:00 |
+----+------------+---------------------+

创建临时表进行数据规范性验证

-- 创建临时表,只包含主键ID和需要校验的时间字段
SQL> CREATE TABLE T_ORDER_CHECK(
    ID BIGINT AUTO_INCREMENT PRIMARY KEY,
    ORDER_TIME DATETIME);
-- 设置SQL_MODE为5.7或8.0高版本默认值
SQL> SET SQL_MODE='ONLY_FULL_GROUP_BY,STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION';
-- 使用INSERT IGNORE语法插入数据到临时CHECK表,忽略插入过程中的错误
SQL> INSERT IGNORE INTO T_ORDER_CHECK(ID,ORDER_TIME) SELECT ID,ORDER_TIME FROM T_ORDER;

数据比对

将临时表与正式表做关联查询,比对出不一致的数据即可。

SQL> SELECT 
    T.ID,
    T.ORDER_TIME AS ORDER_TIME,
    TC.ORDER_TIME AS ORDER_TIME_TMP
FROM T_ORDER T INNER JOIN T_ORDER_CHECK TC 
ON T.ID=TC.ID
WHERE T.ORDER_TIME<>TC.ORDER_TIME;
+----+---------------------+---------------------+
| ID | ORDER_TIME          | ORDER_TIME_TMP      |
+----+---------------------+---------------------+
|  2 | 2022-02-30 00:00:00 | 0000-00-00 00:00:00 |
|  3 | 9999-00-04 00:00:00 | 0000-00-00 00:00:00 |
|  4 | 0000-03-00 00:00:00 | 0000-00-00 00:00:00 |
+----+---------------------+---------------------+

一个取巧的小方法

对时间字段用正则表达式匹配,对有严谨性要求的情况还是得用以上方式,正则匹配烧脑。

-- Oracle 数据库
SELECT * FROM  T1 WHERE NOT REGEXP_LIKE(CREATE_DATE,'^((?:19|20)\d\d)-(0[1-9]|1[012])-(0[1-9]|[12][0-9]|3[01])$');
    ID CREATE_DATE
---------- --------------------
     2 2007-99-01
     4 2007-12-99
     5 2005-12-29 03:-1:119
     6 2015-12-29 00:-1:49
-- MySQL 数据库
-- 略,匹配规则还在调试中

关于 SQLE

爱可生开源社区的 SQLE 是一款面向数据库使用者和管理者,支持多场景审核,支持标准化上线流程,原生支持 MySQL 审核且数据库类型可扩展的 SQL 审核工具。

SQLE 获取

类型地址
版本库https://github.com/actiontech/sqle
文档https://actiontech.github.io/sqle-docs/
发布信息https://github.com/actiontech/sqle/releases
数据审核插件开发文档https://actiontech.github.io/sqle-docs-cn/3.modules/3.7_audit...

以上就是详解如何校验MySQL及Oracle时间字段合规性的详细内容,更多关于MySQL Oracle时间字段合规性的资料请关注脚本之家其它相关文章!

相关文章

  • mysql多条数据合并成一条的3种常见方法

    mysql多条数据合并成一条的3种常见方法

    在实际的应用开发中,有时我们需要将多条数据合并成一条数据,以便更好地进行数据分析和处理,本文就来介绍一下mysql多条数据合并成一条的方法,具有一定的参考价值
    2023-10-10
  • MySQL压测神器HammerDB的部署及使用详解

    MySQL压测神器HammerDB的部署及使用详解

    HammerDB 是一个开源的数据库负载测试和基准测试工具,同时支持 Windows 和 Linux 平台,这篇文章主要介绍了MySQL压测神器HammerDB的部署及使用,需要的朋友可以参考下
    2022-08-08
  • 解析mysql 5.5字符集问题

    解析mysql 5.5字符集问题

    本篇文章是对关于mysql 5.5字符集的问题进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • 解析mysql中如何获得数据库的大小

    解析mysql中如何获得数据库的大小

    本篇文章是对mysql中如何获得数据库的大小的解决方法进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • MySQL多版本并发控制MVCC详解

    MySQL多版本并发控制MVCC详解

    这篇文章主要介绍了MySQL多版本并发控制MVCC详解,MVCC是通过数据行的多个版本管理来实现数据库的并发控制,这项技术使得在InnoDB的事务隔离级别下执行一致性读操作有了保证
    2022-07-07
  • MySQL20个高性能架构设计原则(值得收藏)

    MySQL20个高性能架构设计原则(值得收藏)

    这篇文章主要介绍了MySQL20个高性能架构设计原则,帮助大家更好的理解和使用MySQL,感兴趣的朋友可以了解下
    2020-08-08
  • MySQL正确修改最大连接数的3种方案

    MySQL正确修改最大连接数的3种方案

    这篇文章主要给大家介绍了关于MySQL正确修改最大连接数的3种方案,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-03-03
  • windows中同时安装两个不同版本的mysql数据库

    windows中同时安装两个不同版本的mysql数据库

    在项目中可能会用到多个版本的Mysql数据库,尤其是最常用的5版本的和8版本数据库,下面这篇文章主要给大家介绍了关于windows中同时安装两个不同版本的mysql数据库,需要的朋友可以参考下
    2024-03-03
  • MySQL中的数据备份与SQL语句

    MySQL中的数据备份与SQL语句

    这篇文章主要介绍了MySQL中的数据备份与SQL语句,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-05-05
  • mysql中迅速插入百万条测试数据的方法

    mysql中迅速插入百万条测试数据的方法

    最近想到创建一个大量数据的测试环境,于是找了一下怎么插入100W条数据,我用的是20个字段
    2012-04-04

最新评论