Shell脚本去重的几种方法实例
测试文件
[root@bogon ~]# cat >test
jason
jason
jason
fffff
jason
按 Ctr + D保存
1、sort -u
[root@bogon ~]# sort -u test
fffff
jason
2、uniq
[root@bogon ~]# uniq test
jason
fffff
jason
由此可见,uniq需要先排序后才能去重
3、sort、管道和uniq结合运用
去除重复并保留一份重复的数据
[root@bogon ~]# sort test|uniq
fffff
jason
去除所有重复的行(不保留重复的行),并计算行数
[root@bogon ~]# sort test|uniq -uc
1 fffff
找出所有重复的行,并计算行数
[root@bogon ~]# sort test|uniq -dc
4 jason
根据某个字段去重
将原有数据改为
[root@bogon ~]# more test
jason 1
jason 2
jason 1
fffff 2
jason 3
[root@bogon ~]# sort -k 1,1 -u test
fffff 2
jason 1
man sort查看sort的用法,-k参数是这么描述的:
-k, --key=POS1[,POS2]
start a key at POS1 (origin 1), end it at POS2 (default end of line)
也就是说-k哪几个列进行排序,pos1是开始列,pos2是结束列
相关推荐
-
Shell脚本去重的几种方法实例
测试文件 复制代码 代码如下: [root@bogon ~]# cat >test jason jason jason fffff jason 按 Ctr + D保存 1.sort -u 复制代码 代码如下: [root@bogon ~]# sort -u test fffff jason 2.uniq 复制代码 代码如下: [root@bogon ~]# uniq test jason fffff jason 由此可见,uniq需要先排序后才能去重 3.sort.管道和uniq结合运用 去除重
-
python运行脚本文件的三种方法实例
目录 python脚本执行的3种方法: 方法一:交互模式直接执行语句 方法二:通过脚本输出 方法三:脚本中指定 python 路径,修改文件为可执行文件 总结 python脚本执行的3种方法: (找到自己能够使用的方法,能用的方法就是好方法) 方法一:交互模式直接执行语句 交互模式下直接编写执行 Python语句,不用再创建脚本文件 Windows下: 打开并进入命令提示符-------->输入python并回车-------->即可进入交互模式 Linux 下: 打开终端模拟器-------
-
SQL数据去重的3种方法实例详解
目录 1.使用distinct去重 2.使用group by 3.使用ROW_NUMBER() OVER 或 GROUP BY 和 COLLECT_SET/COLLECT_LIST 3.1 ROW_NUMBER() OVER 3.2 GROUP BY 和 COLLECT_SET/COLLECT_LIST distinct与group by的去重方面的区别 使用去重distinct方法的示例详解 总结 1.使用distinct去重 distinct用来查询不重复记录的条数,用count(disti
-
CentOS下对shell脚本加密的二种方法
第一种方法(gzexe): 这种加密方式不是非常保险的方法,但是能够满足一般的加密用途,可以隐蔽脚本中的密码等信息. 它是使用系统自带的gzexe程序,它不但加密,同时压缩文件. 使用方法: 复制代码 代码如下: gzexe file.sh 它会把原来没有加密的文件备份为 file.sh~ ,同时 file.sh 即被变成加密文件: 第二种方法(shc): 使用 shc 对 Linux shell 脚本加密. shc是一个专业的加密shell脚本的工具.它的作用是把shell脚本转换为一个可执行
-
shell脚本中取消重定向的方法实例
在上一篇关于shell编程的例子中,有讲到把shell脚本进行扩展之后重定向到一个文件中,以便进行查看和调试http://www.jb51.net/article/62435.htm.但是,若是有另一种情况:只是在某些地方进行重定向,而其他地方不进行重定向.那么我们就来修改一下上一篇中的例子来进行这种需求的满足: 复制代码 代码如下: #!/bin/bash function setlogfile { if ! [ -z "$1" ]; then echo &q
-
使用shell脚本判断文件后缀的方法实例
目录 shell脚本判断文件后缀 附shell提取文件后缀名,并判断其是否为特定字符串 总结 shell脚本判断文件后缀 有时候需要判断文件名后缀来区分文件类型,进而进行不同的操作.以下是获取文件名后缀和文件名前缀的两个函数,由于shell脚本函数只能返回0-255,为了将结果返回,就直接使用echo输出,可以用$()进行捕获. #!/bin/bash # ----------------------------------------------------------------------
-
JS数组去重的6种方法完整实例
本文实例讲述了JS数组去重的6种方法.分享给大家供大家参考,具体如下: <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <title>www.jb51.net 数组去重</title> </head> <body> <script> //1.filter:(indexOf)方法创建一个新的数组,新数组中的元素是通过检查指定
-
JavaScript数组去重的五种方法
javascript数组去重是一个比较常见的需求,解决方法也有很多种,网上都可以找到答案的,下面小编给大家整理了一份关于同类型的数组去重的方法,先给大家介绍下简单实现思路. 思路: 遍历数组,一一比较,比较到相同的就删除后面的 遍历数组,一一比较,比较到相同的,跳过前面重复的,不相同的放入新数组 任取一个数组元素放入新数组,遍历剩下的数组元素任取一个,与新数组的元素一一比较,如果有不同的,放入新数组. 遍历数组,取一个元素,作为对象的属性,判断属性是否存在 1. 删除后面重复的: functio
-
使用shell脚本取出服务器图片的方法
Shell 教程 Shell 是一个用 C 语言编写的程序,它是用户使用 Linux 的桥梁.Shell 既是一种命令语言,又是一种程序设计语言. Shell 是指一种应用程序,这个应用程序提供了一个界面,用户通过这个界面访问操作系统内核的服务. Ken Thompson 的 sh 是第一种 Unix Shell,Windows Explorer 是一个典型的图形界面 Shell. 一 ,SHELL 是什么 (1)shell是一种命令行解释器. (2)是用户和Linux内核之间沟通的桥梁,属于中
-
浅谈shell脚本免交互的四大方法
在写shell脚本的过程中,我们经常碰到一些操作需要我们取实时指定一些参数,这就需要用到免交互了.免交互让我们的shell脚本更加强大. 介绍几种免交互的方式 1.管道符 不同命令间协调工作,位于 | 左侧命令的输出结果,将作为右侧命令的输入(处理对象) 例1 免交互修改账户密码 vim pswd.sh #!/bin/bash echo "Abc1357 Abc1357" | passwd --stdin yu [root@node1 ~]# sh pswd.sh 更改用户 yu 的密
随机推荐
- 封装的一个播放器wmv
- 获取Lua表结构(table)数据实例
- 对比DB2 9和DB2 V8.x中的XML功能
- DB2编程序小小技巧
- 解析jquery easyui tree异步加载子节点问题
- Java 动态代理与CGLIB详细介绍
- 详解php用curl调用接口方法,get和post两种方式
- android开发教程之textview内容超出屏幕宽度显示省略号
- C#结合数据库的数据采集器示例
- ES5 ES6中Array对象去除重复项的方法总结
- MySQL备份时排除指定数据库的方法
- 给Python入门者的一些编程建议
- jquery+ajax实现省市区三级联动 (封装和不封装两种方式)
- JS简单实现自定义右键菜单实例
- JavaScript 类似flash效果的立体图片浏览器
- Android学习之AppWidget笔记分享
- Android开发中Launcher3常见默认配置修改方法总结
- JS+HTML+CSS实现轮播效果
- Python数据分析中Groupby用法之通过字典或Series进行分组的实例
- JS中常用的消息框总结