Linux删除重复行的代码
发布时间：2016-11-25 23:26:11 作者：佚名 
我要评论
我要评论这篇文章主要介绍了Linux删除重复行的代码,需要的朋友可以参考下
文本处理时，经常要删除重复行，下面是三种方法
第一，用sort+uniq，注意，单纯uniq是不行的。
sort -n test.txt | uniq
第二，用sort+awk命令，注意，单纯awk同样不行，原因同上。
sort -n $file | awk '{if($0!=line)print; line=$0}'
第三，用sort+sed命令，同样需要sort命令先排序。
sort -n $file | sed '$!N; /^.∗\n\1$/!P; D'
Shell脚本
# !/bin/sh
file='test.txt'
sort -n $file | uniq
sort -n $file | awk '{if($0!=line)print; line=$0}'
sort -n $file | sed '$!N; /^\(.*\)\n\1$/!P; D'
测试文件：
yanggang@barry$ cat test.txt
aaa
bbbbb
ccccc
123
aaaaa
123
bbb
aaa
执行结果：
yanggang@barry$ ./diffRow.sh
aaa
aaaaa
bbb
bbbbb
ccccc
123
相关文章
然 Ubuntu 提供了优秀的图形化软件管理工具，我们绝大多数时间并不需要使用命令行来管理 Snap 软件包，但命令行拥有更强的功能和灵活性，学会如何使用可以帮你更好地掌控系2024-10-18
Flatpak和Snapcraft怎么选? Linux软件包管理系统优缺点对比
Linux 软件的打包和分发方式在过去几年中也取得了长足地进展，本文将探讨 Flatpak 和 Snapcraft 之间的关键差异，它们各自的优/缺点，以期望帮助用户找到更适合自己的一款2024-10-18
linux服务器重启命令哪个好用? Linux服务器重启命令汇总
在 Linux 系统中，最严谨的重启命令是 shutdown -r now，该命令直接将系统重启，而不进行任何清理或准备工作，确保系统彻底重启，但也有很多其他命令，详细如下文介绍2024-10-17
教你如何在Linux中使用apt命令? Linux APT命令实战教程
apt是一个软件包管理工具,apt命令相当强大,要是在Ubuntu和Debian系统中使用，可以用来对软件进行安装等操作，需要超级管理员（root）权限进行操作2024-09-29
apt 和 apt-get有什么区别? Linux包管理解密
为什么 Debian 系 Linux 发行版同时拥有apt和apt-get这两个雷同的命令？他们之间有什么区别？详细请看下文介绍2024-09-29
Linux圈曝出严重远程代码执行RCE漏洞，已存在10多年，几乎影响所有GNU/Linux发行版，目前尚未有修复补丁，不过可以缓解，解决方案如下2024-09-27- 在Linux系统中，分区管理是非常重要的一项工作，在使用Linux系统的过程中，有时候我们需要删除某个分区来释放存储空间或重新规划硬盘空间，那么，如何在Linux系统上删除分2024-09-14
深度操作系统deepin 25开发计划公布: 2025 年 01 月发布
deepin 25 计划发布时间为 2025 年01 月，此版本的主要目标是修复 deepin 23 中的遗留问题，提升系统稳定性2024-09-14- FDISK是一个用于硬盘分区的工具，特别是在较早的操作系统版本中，如Windows 98和早期的Linux系统中，FDISK是进行硬盘分区的主要工具，这里就为大家分享一下linux系统中使用2024-08-29
黑神话悟空怎么下载安装? 深度操作系统deepin23黑神话悟空安装教程
deepin23系统想要体验《黑神话：悟空》游戏，该怎么下载安装呢？下面我们就来看看详细的图文教程2024-08-22
最新评论