oracle中对JSON数据处理的详细指南
背景
在公司接手的项目碰到这么一个表,里面有一列数据保存的是JSON字符串。如果说这一列是一些配置数据,不需要应用到筛选和过滤,只是跟着主键去获得的数据,那你这么做并没有什么不妥。但事实是,这一列需要检索和过滤数据,这**居然是遍历全表,再把json数据转换成对象去遍历匹配。我服了,你咋这么能呢?喜欢这样玩为什么当初不用MongoDB?查了一下文档,知道Oracle 在12C之后有对JSON数据的操作方法,网上关于这部分的文章非常非常非常少(毕竟没几个人会把oracle当成MongoDB这么地**是吧),就整理一下,方便自己以后查看。
入门探究
有一说一这官方文档非常地硬,啃了好久都啃不动,而且很多理想当然的用法都不行。Oracle中关于JSON的操作函数有JSON_ARRAY
、JSON_EXISTS
、JSON_VALUES
、JSON_TABLE
、JSON_QUERY
,其中JSON_ARRAY
是用来构建JSON数组的,而不是用来查找结果的。在文中也会小篇幅简单说一下用法。
JSON_EXISTS
JSON_EXISTS是一个SQL函数,用于判断是否存在符合条件的JSON数据。它可以在WHERE子句中使用,用于筛选JSON列中符合特定条件的数据。
官方给出的语法是这样的:
JSON_EXISTS(json_column, json_path_expression, [returning_clause])
其中,json_column是指要查询的JSON列,json_path_expression是指JSON路径表达式,用于指定要查找的JSON数据的位置和条件。
JSON路径表达式中可以使用各种操作符和函数,以及通配符和其他特殊字符。例如:
$
: 表示根元素.
: 表示当前元素[*]
: 表示匹配数组中的所有元素[]
: 表示过滤数组中符合条件的元素@
: 表示当前元素的属性
在json_path_expression中,可以使用一些函数,如JSON_VALUE、JSON_QUERY、JSON_TABLE等来处理JSON数据。例如:
- JSON_VALUE(json_column, '$.name'): 返回json_column列中name字段的值
- JSON_QUERY(json_column, '$.name'): 返回json_column列中address字段的值
- JSON_TABLE(json_column, '$.hobbies[*]' COLUMNS (phone_number VARCHAR2(20) PATH '$')): 返回json_column列中phones数组中的所有元素的phone_number字段的值
返回值:
如果符合条件的JSON数据存在,则返回TRUE;否则返回FALSE。如果使用returning_clause子句,则返回符合条件的JSON数据。
例如:
SELECT * FROM my_table WHERE JSON_EXISTS(json_data, '$.name');
这个例子查询my_table表中json_data列中是否存在name字段的值。如果存在,返回TRUE,否则返回FALSE。
JSON_ARRAY
JSON_ARRAY
是一个 Oracle SQL 函数,用于创建一个 JSON 数组。下面是使用 JSON_ARRAY
的一些示例:
语法:
JSON_ARRAY(value1 [, value2] [, value3] ...);
其中,value1
, value2
, value3
等是一个或多个要添加到 JSON 数组的值。这些值可以是任何有效的 SQL 值,例如字符串、数字、日期、布尔值等。如果没有指定任何值,JSON_ARRAY
将生成一个空的 JSON 数组。
创建一个包含两个字符串值的 JSON 数组
SELECT JSON_ARRAY('apple', 'orange') FROM dual;
输出结果:
["apple", "orange"]
创建一个包含两个数字值的 JSON 数组
SELECT JSON_ARRAY(10, 20) FROM dual;
输出结果:
[10, 20]
创建一个包含多个元素的 JSON 数组
SELECT JSON_ARRAY('apple', 10, TRUE) FROM dual;
输出结果:
["apple", 10, true]
在上述示例中,JSON_ARRAY
函数接受一个或多个参数,并将它们作为一个 JSON 数组返回。你可以在 JSON_ARRAY
中使用不同类型的参数,例如字符串,数字和布尔值,它们都将被转换为相应的 JSON 类型。
JSON_VALUE
JSON_VALUE函数用于提取JSON文档中的值。它的语法如下:
JSON_VALUE(json_document, path_expression [RETURNING datatype])
其中:
json_document
是包含JSON文档的字符串或BLOB列。path_expression
是用于指定要提取的值的路径表达式。datatype
是可选的,用于指定返回值的数据类型。
以下是一些示例:
提取JSON文档中的单个值:
SELECT JSON_VALUE('{"name": "John", "age": 30}', '$.name') as name FROM dual;
输出:
NAME----John
提取JSON文档中的数组:
SELECT JSON_VALUE('{"fruits": ["apple", "banana", "orange"]}', '$.fruits') as fruits FROM dual;
输出:
FRUITS
-----------------------
["apple", "banana", "orange"]
提取JSON文档中的数组元素:
SELECT JSON_VALUE('{"fruits": ["apple", "banana", "orange"]}', '$.fruits[0]') as first_fruit FROM dual;
输出:
FIRST_FRUIT
-----------
apple
指定返回值的数据类型:
SELECT JSON_VALUE('{"price": 9.99}', '$.price' RETURNING NUMBER) as price FROM dual;
输出:
PRICE
-----
9.99
在使用JSON_VALUE函数时,需要注意以下几点:
- 如果路径表达式不匹配JSON文档中的任何内容,则返回NULL。
- 如果未指定返回值的数据类型,则返回的值将是一个字符串。
- JSON_VALUE函数还有一个类似的兄弟函数JSON_QUERY,不同的是,它返回JSON对象或数组,而不是标量值。
JSON_QUERY
JSON_QUERY函数用于从JSON文档中查询数据,返回一个JSON对象或数组。它的语法如下:
JSON_QUERY(json_document, path_expression [RETURNING datatype])
其中:
json_document
是包含JSON文档的字符串或BLOB列。path_expression
是用于指定要查询的值的路径表达式。datatype
是可选的,用于指定返回值的数据类型。
以下是一些示例:
查询JSON文档中的单个值:
SELECT JSON_QUERY('{"name": "John", "age": 30}', '$.name') as name FROM dual;
输出:
NAME
----
null
查询JSON文档中的数组:
SELECT JSON_QUERY('{"fruits": ["apple", "banana", "orange"]}', '$.fruits') as fruits FROM dual;
输出:
FRUITS
-----------------------
["apple", "banana", "orange"]
查询JSON文档中的数组元素:
SELECT JSON_QUERY('{"fruits": ["apple", "banana", "orange"]}', '$.fruits[0]') as first_fruit FROM dual;
输出:
FIRST_FRUIT
-----------
null
因为是单值,json_query无法展示
在使用JSON_QUERY函数时,需要注意以下几点:
- 如果路径表达式不匹配JSON文档中的任何内容,则返回NULL。
- 如果未指定返回值的数据类型,则返回的值将是一个字符串。
- JSON_QUERY函数还有一个类似的兄弟函数JSON_VALUE,不同的是,它返回标量值,而不是JSON对象或数组。
总之,JSON_QUERY函数在处理JSON文档时非常有用,可以轻松地查询和提取需要的数据。
JSON_TABLE
JSON_TABLE函数可以将JSON数据转换为表格形式。以下是JSON_TABLE的用法:
语法:
JSON_TABLE(json, path COLUMNS (column1 expr1 [, column2 expr2]...))
参数说明:
json
:要转换的JSON数据。path
:要提取的JSON元素的路径。COLUMNS
:指定要转换的列及其表达式。column1 expr1 [, column2 expr2]...
:指定要转换的列及其表达式。
示例:
假设我们有以下JSON数据:
{ "employees": [ { "name": "John", "age": 30, "gender": "male" }, { "name": "Jane", "age": 25, "gender": "female" }, { "name": "Bob", "age": 35, "gender": "male" } ] }
我们可以使用以下查询将其转换为表格形式:
SELECT name, age, gender FROM JSON_TABLE('{ "employees": [ { "name": "John", "age": 30, "gender": "male" }, { "name": "Jane", "age": 25, "gender": "female" }, { "name": "Bob", "age": 35, "gender": "male" } ] }', '$.employees[*]' COLUMNS ( name VARCHAR2(50) PATH '$.name', age NUMBER PATH '$.age', gender VARCHAR2(10) PATH '$.gender' ));
输出结果:
NAME AGE GENDER
------ ---- ------
John 30 male
Jane 25 female
Bob 35 male
在上面的例子中,$.employees[*]
指定要处理的JSON元素路径,name
, age
, 和 gender
列使用 PATH
关键字指定表达式的路径。
进阶实战篇
我举个实际的例子,我有一列,对应的一列的数据大概是这样的:
{ "name": "cxk", // string "sex": "female", // stirng "hobbies": ["sing", "dance", "rap", "basketball"], // 普通数组 "company": {"name": "unknow", "staffNum": "unknow"}, // 对象属性 "fans": [ // 对象数组 {"name": "ncFans1"}, {"name": "ncFans2"} ] }
1. JSON_QUERY与JSON_VALUE的区别
看了前面的介绍,可能有些同学对这个完全不能理解,有什么区别?
查询单值
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.name' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.name' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
--------------------------------
null cxk
区别1:json_query无法返回单值,json_value可以返回单值
查询对象
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.company' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.company' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
{"name": "unknow", "staffNum": "unknow"} null
区别2:json_query能返回对象,json_value不能返回对象值
查询普通数组
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
["sing", "dance", "rap", "basketball"] null
区别3:json_query能返回普通数组,json_value不能返回数组
结合1、2、3点,我们给hobbies加个下标
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies[0]' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.hobbies[0]' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
null sing
查询对象数组
select JSON_QUERY ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.fans' ) as json_query_res, JSON_VALUE ('{ "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"}, "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] }', '$.fans' ) as json_value_res from dual;
输出结果:
JSON_QUERY_RES JSON_VALUE_RES
-------------------------------- ------------------
[{"name": "ncFans1"},{"name": "ncFans2"}] null
区别4:JSON_QUERY可以匹配对象数组的值,JSON_VALUE不可以
2. JSON_EXISTS判断某个值是否等于目标值
这是比较难的一个步骤,我自己摸索了很久很久才懂,我这里举例都写到了谓动词的位置,实际上JSON_EXISTS是用在where后的。
案例1:找出存在name属性的行
SELECT case when JSON_EXISTS('{"name": "John", "age": 30, "city": "New York"}', '$.name') then 'true' else 'false' end as result FROM dual;
输出:
RESULT
---------
true
但其实,我们更多都是在匹配name值等于具体的值,这就要用匹配的机制,但愿你还记得前面介绍的用法
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.name ? (@ == "cxk")') then 'true' else 'false' end as result FROM dual;
@
表示当前name属性这一层,值一定要用双引号括起来
多值匹配
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.company ? (@.name == "unknow" && @.staffNum == "unknow")') then 'true' else 'false' end as result FROM dual;
如果是不同层级的多值匹配,建议在where后用AND连接起来,比如:
select * from mytable where JSON_EXISTS(my_cloumn, '$.name ? (@ == "cxk")') AND JSON_EXISTS(my_cloumn, '$.company ? (@.name == "unknow" && @.staffNum == "unknow")')
JSON_EXISTS可以检索普通数组中的值
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.hobbies[*] ? (@ == "sing")') then 'true' else 'false' end as result FROM dual;
执行结果为true
JSON_EXISTS无法检索对象数组
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [ {"name": "ncFans1"}, {"name": "ncFans2"} ] } ', '$.fans")') then 'true' else 'false' end as result FROM dual;
无论是$.fans
还是$.fans[*]
返回结果都是false,完全无法获取对象数组中的值。无法判断里面的值的对比情况。
JSON_EXISTS遇到空数组时,返回的是true
SELECT case when JSON_EXISTS(' { "name": "cxk", "sex": "female", "hobbies": ["sing", "dance", "rap", "basketball"], "company": {"name": "unknow", "staffNum": "unknow"} "fans": [] } ', '$.fans")') then 'true' else 'false' end as result FROM dual;
但如果是$.fans[0]
返回的是false
3. $.xx中不能用字符串拼接、不能用任何函数会报ORA-40442错误
4. 比较非对象数组的值除了JSON_EXISTS可以用JSON_VALUE与JSON_QUERY
select * from mytable where JSON_VALUE(my_cloumn, '$.name') = 'cxk' and JSON_QUERY(my_cloumn, '$.fans') = '[]' -- 判空
5. JSON_QUERY不支持通配符,查询全部就是$.fans,不需要$.fans[*];支持使用下标指定
6. JSON_VALUE与JSON_QUERY可以嵌套使用,比如
SELECT * from mytable where JSON_VALUE(JSON_QUERY(my_cloumn, '$.fans'), '$.name') = 'ncFans1'
这个语句就是查找出fans中有ncFans1的记录
7. 数组判空 使用JSON_QUERY
select * from mytable where JSON_QUERY(my_cloumn, '$.fans') = '[]'
使用JSON_EXISTS
select * from mytable where not JSON_EXISTS(my_cloumn, '$.fans[0]')
8. 使用JSON_TABLE可以解决任何复杂的问题
但是JSON_TABLE本身就很复杂,如果用来筛选数据,那这个语句太难维护了。
9. 在mybatis框架中,由于$.xx的语句要放在单引号中',切不能使用任何函数,不能字符拼接
所以用#{}
无法注入,要用${}
,这在有些公司是不被允许的。目前我是这么用了,等安全部门的渗透测试结果出来,是否有sql注入风险再来更新。
注意事项
以上提到的操作均需要在Oracle12以上版本中使用,但并不是12以上版本都能使用。这个和数据库设置的compatible
值有关。compatible
必须大于12.0才可以使用。
你可以使用拥有DBA权限的用户执行以下语句查看compatible
值
SELECT name, value FROM v$parameter WHERE name = 'compatible'
否则,你会得到这样的一个报错
ORA-00406: COMPATIBLE parameter needs to be 12.0 or greater
然后你就白忙活了,因为一般都不会为了你特地升级compatible的。没事,我就是白忙活了。
总结
到此这篇关于oracle中对JSON数据处理的文章就介绍到这了,更多相关oracle中JSON数据处理内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
Oracle 10G:PL/SQL正规表达式(正则表达式)手册
Oracle Database 10g 的一个新特性大大提高了您搜索和处理字符数据的能力。这个特性就是正规表达式,是一种用来描述文本模式的表示方法。很久以来它已在许多编程语言和大量 UNIX 实用工具中出现过了。2009-06-06
最新评论