详解Oracle中sqlldr的具体用法

 更新时间:2023年07月03日 10:31:02   作者:发条橙子_  
这篇文章主要介绍了详解Oracle中sqlldr的用法,SQLLDR可以在极短的时间内加载数量庞大的数据,这是一个非常有用的工具,可用于从多种平面文件格式向Oracle数据库中加载数据,需要的朋友可以参考下

前言

由于最近做一个项目 , 需要将 .log格式的文本文件导入到 oracle当中 。其中遇到过很多的问题 , 网上有许多的例子 ,但是对于一个没有学过 oracle 的小白来说还是有一些晦涩。

所以我特意将我找的一些相关资料进行总结一下 。

首先导入 oracle 的方法有很多 , 对于不同需求有不同的导入方式 , 我在这里就说一下 sqlldr 的方法 。 使用sqlldr 将文本文件导入 oracle中确切说只需要两步 。

第一步: 写一个 ctl 格式的控制文件

CTL 控制文件的内容 : (我会写一个模板和一个样例)

模板 :

load data -- 1. 控制文件标识

infile 'xxx.txt' -- 2. 要导入的数据文件名

insert into table test -- 3. 将文件插入到数据库的 test 表中

fields terminated by X'09' -- 4. 用于分割一行中各个属性值的符号(例如每个属性值用逗号 分割 , 那么就把 X'09' 改为 ‘ ,’)

(id , username ,passwprd ,......) -- 5. test表中对应的属性名

这五个内容是一个基本的步骤 , 注意是基本 , 基本 基本 。(重要的事情说三遍) , 导入文件的时候根据不同的需求会在不同的地方在添加一些内容 , 下面举一个我这次项目所导入的内容 。

样例:

load data

infile 'E:/user_data_one_week/zhejiang_user_data.log' -- (我的文件格式是 .log 之前上网查.log文件导入oracle的方法都没有人遇到过 , 结果我试着用文本文件的方法没想到可以导入进去)

insert into table day_data -- (我的数据库的表名为 day_data , 其中除了 insert into table 还有其他的写法 , 根据需求来 , 下面会详细写)

fields terminated by '|' --(我的数据文件每个字段也就是属性是按照 | 来分割的)

trailing nullcols (这行就是我根据需求新加入的 , 因为我的数据中某些属性可能是 null 值 , 如果不加入这行导入到数据库的时候就会自动跳过null值的列, 这样数据插入后就会属性和值对应不上)

(time, user_id, type, longitude, latitude, height, content char(10000)) (注意 : 我这里的 content 运用的类型是 clob , 但是为什么后面加了 char(10000) 下面会详细讲 , 也是一些新手会遇到的问题)

上面的样例就是我这次项目中缩写的 ctl 控制文件 。

CTL 控制文件大概已经说好了 , 但是补充几点 .

1 . 我在第三步中运用了 insert into table 还有以下几个值

  1.  insert 为缺省方式 , 插入表中时要求表为空 , 不然会报错 (我就是总忘记在插入前清空表 , 每次都是报错提醒我我才过去删除内容的 ,吼吼)
  2. append , 在表中追加新纪录 , 所以表不为空插入的时候也不会报错
  3. replace , 删除旧记录 , 替换成新装载的记录 (明明我应该用这种方法 , 但是我对 insert情有独钟 ,好吧,我是导入完才看到有这个的)
  4. reuncate 同上 (也同上没用过 )

2 . 也就是我表中属性 content 的问题 -- CLOB 类型插入问题

这个问题也困扰了我好久 , 在网上找了好久才解决的 。 下面我来分享给也受这个问题困扰的小伙伴 , 如果没有需求 ,自动略过进入下一个环节。

由于数据长度比较大 , 所以表中 content 这个属性类型我用了 clob , 但是导入数据库时总报错。(错误可以在自动生成的 log.log文件中查看,下面会讲到)说我数据长度超过了定义类型的最大长度 , 这时我就纳闷了 , 我已经把类型定义为 clob了,为什么还会超过最大长度。 

当使用sqlldr加载很长的字符串(超过4000)到表中的clob类型中时,老是报错: 数据文件的字段超出最大长度.查找相关资料后得知,sqlldr每次读入文件中数据流的数据类型默认为CHAR ,长度为 255。所以只要超过255字符的段都会报这个错。

解决方法很简单,在控制文件中字段后添加上char(1000000),例如:

LOAD DATA 
INFILE * 
INTO TABLE DEMO 
TRUNCATE 
FIELDS TERMINATED BY ',' 
(d1 ,
d2 char(1000000)
)

其中表demo的列d2是clob类型,当然1000000只是随便用的一个大数字,只要保证加载的长度不超这个数字就成

我按照这样一改问题就解决了。

第二步 : 在 cmd 命令窗口中写入导入语句

模板:

-> sqlldr userid = 用户名 / 密码 @ 数据库名 control = 之前写的ctl控制文件的地址 bad = E:/ bad.bad log = E:/log.log

实例 :

-> sqlldr userid = everyday/123456@orcl control = E:/data.ctl bad=E:/bad.bad log = E:/ log.log

实例解释 :

由于本人还是学生 , 还没有上到 oracle , 只是学过 mysql 。 所以oracle的一些基本概念没有搞清(自己就随便借了本书简单的看了一下,理清了大小关系 : 创建用户 -- 数据库 -- 表空间 -- 表 ) , 之前在想 , 我创建用户后只对表空间进行的设置 , 并没有创建数据库啊 ,之后才知道当创建用户之后会自动生成一个数据库 , 数据库名就是 orcl 。

bad = E:/bad.bad --- 当导入文件出错时就会在 E盘生成.bad 的文件 , 里面会记录你出错误没有导入的数据

log = E:/log.log -- 当导入文件 , 会记录你导入文件详细的内容 , 包括出错的信息 (我之前导入失败 , 原因就是从这里找的)

总结一下 : oracle sqlldr导入文件只需要两步

1. 写 CTL 控制文件

2 .在 cmd 命令窗口中写入导入语句

每一步上面都有讲 , 如果没有看仔细请往上翻重新看一遍。 这里只是我导入时遇到的问题进行了全面的讲解 , 可能还会有一些不足 。 毕竟这是我第一篇文章,毕竟我还是一名学生 , 所以可能会有许多的问题没有考虑到 , 如果各位亲看到我的文章有错误也可以只出 ,我进行修改 。 写这篇文章只为分享给大家并且方面我日后查阅。希望大家共同进步

到此这篇关于详解Oracle中sqlldr的具体用法的文章就介绍到这了,更多相关Oracle的sqlldr用法内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Oracle到PostgreSQL的不停机数据库迁移的流程步骤

    Oracle到PostgreSQL的不停机数据库迁移的流程步骤

    这篇文章主要介绍了Oracle到PostgreSQL的不停机数据库迁移的流程步骤,Oracle 到 PostgreSQL 的迁移并不是说迁就能迁的,有很多不得不解决的问题,文中通过代码示例讲解的非常详细,需要的朋友可以参考下
    2024-05-05
  • oracle 常见等待事件及处理方法

    oracle 常见等待事件及处理方法

    我们可以通过视图v$session_wait来查看系统当前的等待事件,以及与等待事件相对应的资源的相关信息
    2009-03-03
  • Oracle创建自增表分区之按月、按天自增表分区步骤详解

    Oracle创建自增表分区之按月、按天自增表分区步骤详解

    这篇文章主要给大家介绍了关于Oracle创建自增表分区之按月、按天自增表分区的相关资料,Oracle表对数据进行月度分区是一种将数据分组的有效方法,此方法是将数据根据它们所属时间段将其存储为不同分区,需要的朋友可以参考下
    2023-11-11
  • Oracle查看执行计划的实现

    Oracle查看执行计划的实现

    查看Oracle 的执行计划的目的是为了了解 SQL 查询或语句在数据库中的执行方式和性能表现,本文主要介绍了Oracle查看执行计划的实现,感兴趣的可以了解一下
    2024-02-02
  • Oracle SQL Developer显示的时间包含时分秒的设置方法

    Oracle SQL Developer显示的时间包含时分秒的设置方法

    Oracle SQL Developer是Oracle公司出品的一个免费的集成开发环境,本篇文章给大家介绍Oracle SQL Developer显示的时间包含时分秒的设置方法,需要的朋友参考下吧
    2015-09-09
  • Oracle通过递归查询父子兄弟节点方法示例

    Oracle通过递归查询父子兄弟节点方法示例

    这篇文章主要给大家介绍了关于Oracle如何通过递归查询父子兄弟节点的相关资料,递归查询对各位程序员来说应该都不陌生,文中通过示例代码介绍的非常详细,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧。
    2018-01-01
  • ORACLE DATAGUARD中手工处理日志v$archive_GAP的方法

    ORACLE DATAGUARD中手工处理日志v$archive_GAP的方法

    从9i以后,oracle dataguard 备库一般都不需要手工处理丢失的日志,FAL自动会帮我们处理,本文主要通过个案例来讲下手工处理丢失的日志的方法。
    2014-08-08
  • oracle的归档模式 ORACLE数据库归档日志常用命令

    oracle的归档模式 ORACLE数据库归档日志常用命令

    Oracle数据库有联机重做日志,这个日志是记录对数据库所做的修改,比如插入,删除,更新数据等,对这些操作都会记录在联机重做日志里
    2013-01-01
  • Oracle中SQL语句连接字符串的符号使用介绍

    Oracle中SQL语句连接字符串的符号使用介绍

    Oracle中SQL语句连接字符串的符号为|| ,感兴趣的朋友可以参考下下文的使用方法,感兴趣的朋友可以参考下哈
    2013-04-04
  • Oracle数据库更新大批量数据案例

    Oracle数据库更新大批量数据案例

    今天小编就为大家分享一篇关于Oracle数据库更新大批量数据案例,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2018-10-10

最新评论