SHELL编程三剑客之sed命令

预计阅读时间25分钟

今日目标

• 掌握sed的基本语法结构

• 熟悉sed常用的命令，如打印p，删除d，插入i等

一、文件编辑器知多少

• Windows系统

  SublimeNotepad++WordTypora

• Linux系统

  vim  vi gedit     nano  emacs

二、强悍的sed介绍

1. sed用来做啥？

sed是Stream Editor（流编辑器）的缩写，简称流编辑器；用来处理文件的。

2. sed如何处理文件？

sed是一行一行读取文件内容并按照要求进行处理，把处理后的结果输出到屏幕。

1. 首先sed读取文件中的一行内容，把其保存在一个临时缓存区中（也称为模式空间）

2. 然后根据需求处理临时缓冲区中的行，完成后把该行发送到屏幕上

总结：

1. 由于sed把每一行都存在临时缓冲区中，对这个副本进行编辑，所以不会直接修改原文件

2. sed主要用来自动编辑一个或多个文件；简化对文件的反复操作,对文件进行过滤和转换操作

三、sed使用方法介绍

sed常见的语法格式有两种，一种叫命令行模式，另一种叫脚本模式。

1. 命令行格式

（一）语法格式

sed  [options]    '处理动作'   文件名

• 常用选项

选项	说明	备注
-e	进行多项(多次)编辑
-n	取消默认输出	不自动打印模式空间
-r	使用扩展正则表达式
-i	原地编辑（修改源文件）
-f	指定sed脚本的文件名

• 常见处理动作

丑话说在前面：以下所有的动作都要在单引号里，你敢出轨，回家跪搓衣板

动作	说明	备注
'p'	打印
'i'	在指定行之前插入内容	类似vim里的大写O
'a'	在指定行之后插入内容	类似vim里的小写o
'c'	替换指定行所有内容
'd'	删除指定行

（二）举例说明

• 文件准备

# vim a.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
298374837483
172.16.0.254
10.1.1.1

① 对文件进行增、删、改、查操作

语法：sed  选项    '定位+命令'    需要处理的文件

1）打印文件内容

[root@localhost ~]# sed '' a.txt 对文件什么都不做
[root@localhost ~]# sed -n 'p' a.txt 打印每一行，并取消默认输出
[root@localhost ~]# sed -n '1p' a.txt 打印第1行
[root@localhost ~]# sed -n '2p' a.txt 打印第2行
[root@localhost ~]# sed -n '1,5p' a.txt 打印1到5行
[root@localhost ~]# sed -n '$p' a.txt 打印最后1行

2）增加文件内容

i    地址定位的上面插入

a   下面插入

[root@localhost ~]# sed '$a99999' a.txt 文件最后一行下面增加内容
[root@localhost ~]# sed 'a99999' a.txt 文件每行下面增加内容
[root@localhost ~]# sed '5a99999' a.txt 文件第5行下面增加内容
[root@localhost ~]# sed '$i99999' a.txt 文件最后一行上一行增加内容
[root@localhost ~]# sed 'i99999' a.txt 文件每行上一行增加内容
[root@localhost ~]# sed '6i99999' a.txt 文件第6行上一行增加内容
[root@localhost ~]# sed '/^bin/ihello' a.txt 以bin开头行的上一行插入内容

3）修改文件内容

c   替换指定的整行内容

[root@localhost ~]# sed '5chello world' a.txt 替换文件第5行内容
[root@localhost ~]# sed 'chello world' a.txt 替换文件所有内容
[root@localhost ~]# sed '1,5chello world' a.txt 替换文件1到5号内容为hello world
[root@localhost ~]# sed '/^bin/c13141314' a.txt 替换以bin开头的行

4）删除文件内容

[root@localhost ~]# sed '1d' a.txt 删除文件第1行
[root@localhost ~]# sed '1,5d' a.txt 删除文件1到5行
[root@localhost ~]# sed '$d' a.txt 删除文件最后一行
[root@localhost ~]# sed '/1.*/d' a.txt 删除正则匹配的所有行

② 对文件进行搜索替换操作

语法：sed   选项   's/搜索的内容/替换的内容/动作'  需要处理的文件

其中，s表示search搜索；斜杠/表示分隔符，可以自己定义;动作一般是打印p和全局替换g

[root@localhost ~]# sed -n 's/root/ROOT/p' a.txt #将每一行匹配的第一个小写root替换为ROOT
[root@localhost ~]# sed -n 's/root/ROOT/gp' a.txt #将文件中所有的小写root替换为ROOT
[root@localhost ~]# sed -n 's/^#//gp' a.txt #将所有#开头的行的#号去掉
#当要匹配的内容包含/， 则以@作为分隔符，或者自定义，但要保证一样
[root@localhost ~]# sed -n 's@/sbin/nologin@itcast@gp' a.txt
[root@localhost ~]# sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
#号为分隔符，10s表示第十行进行替换
[root@localhost ~]# sed -n '10s#/sbin/nologin#itcast#p' a.txt
uucp:x:10:14:uucp:/var/spool/uucp:itcast
[root@localhost ~]# sed -n 's@/sbin/nologin@itcastheima@p' 2.txt
注意：搜索替换中的分隔符可以自己指定

[root@localhost ~]# sed -n '1,5s/^/#/p' a.txt 注释掉文件的1-5行内容
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

③ 其他命令

命令	解释	备注
r	从另外文件中读取内容
w	内容另存为
&	保存查找串以便在替换串中引用	和\(\)相同
=	打印行号
！	对所选行以外的所有行应用命令，放到行数之后	'1,5!'
q	退出

举例说明：

[root@localhost ~]# cat /etc/passwd | head >> 2.txt
[root@localhost ~]# cat 2.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
r 从文件中读取输入行
w 将所选的行写入文件
2.txt 第3行读取文件/etc/hosts 文件内容
[root@localhost ~]# sed '3r /etc/hosts' 2.txt
[root@localhost ~]# sed '$r /etc/hosts' 2.txt
[root@localhost ~]# sed '/root/w a.txt' 2.txt
[root@localhost ~]# sed '/[0-9]{4}/w a.txt' 2.txt
[root@localhost ~]# sed -r '/([0-9]{1,3}\.){3}[0-9]{1,3}/w b.txt' 2.txt
[root@localhost tmp]# sed -n 's/^sync/#&/gp' 2.txt
#sync:x:5:0:sync:/sbin:/bin/sync
[root@localhost tmp]# sed -n 's/^sync/&#/gp' 2.txt
sync#:x:5:0:sync:/sbin:/bin/sync
[root@localhost tmp]# sed -n 's/\(^sync\)/#\1/gp' 2.txt
#sync:x:5:0:sync:/sbin:/bin/sync
! 对所选行以外的所有行应用命令，放到行数之后
[root@localhost ~]# sed -n '1!p' 1.txt
[root@localhost ~]# sed -n '4p' 1.txt
[root@localhost ~]# sed -n '4!p' 1.txt
[root@localhost ~]# cat -n 1.txt
[root@localhost ~]# sed -n '1,17p' 1.txt
[root@localhost ~]# sed -n '1,17!p' 1.txt

& 保存查找串以便在替换串中引用 \(\)

[root@localhost ~]# sed -n '/root/p' a.txt
root:x:0:0:root:/root:/bin/bash
[root@localhost ~]# sed -n 's/root/#&/p' a.txt
#root:x:0:0:root:/root:/bin/bash

# sed -n 's/^root/#&/p' passwd 注释掉以root开头的行
# sed -n -r 's/^root|^stu/#&/p' /etc/passwd 注释掉以root开头或者以stu开头的行
# sed -n '1,5s/^[a-z].*/#&/p' passwd 注释掉1~5行中以任意小写字母开头的行
# sed -n '1,5s/^/#/p' /etc/passwd 注释1~5行
或者
sed -n '1,5s/^/#/p' passwd 以空开头的加上#
sed -n '1,5s/^#//p' passwd 以#开头的替换成空

[root@localhost ~]# sed -n '/^root/p' 1.txt
[root@localhost ~]# sed -n 's/^root/#&/p' 1.txt
[root@localhost ~]# sed -n 's/\(^root\)/#\1/p' 1.txt
[root@localhost ~]# sed -nr '/^root|^stu/p' 1.txt
[root@localhost ~]# sed -nr 's/^root|^stu/#&/p' 1.txt


= 打印行号
# sed -n '/bash$/=' passwd 打印以bash结尾的行的行号
# sed -ne '/root/=' -ne '/root/p' passwd
# sed -n '/nologin$/=;/nologin$/p' 1.txt
# sed -ne '/nologin$/=' -ne '/nologin$/p' 1.txt

q 退出
# sed '5q' 1.txt
# sed '/mail/q' 1.txt
# sed -r '/^yunwei|^mail/q' 1.txt
[root@localhost ~]# sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash


综合运用：
[root@localhost ~]# sed -n '1,5s/^/#&/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

[root@localhost ~]# sed -n '1,5s/\(^\)/#\1/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

④ 其他选项

-e 多项编辑
-r 扩展正则
-i 修改原文件

[root@localhost ~]# sed -ne '/root/p' 1.txt -ne '/root/='
root:x:0:0:root:/root:/bin/bash
1
[root@localhost ~]# sed -ne '/root/=' -ne '/root/p' 1.txt
1
root:x:0:0:root:/root:/bin/bash

在1.txt文件中的第5行的前面插入“hello world”;在1.txt文件的第8行下面插入“哈哈哈哈”

[root@localhost ~]# sed -e '5ihello world' -e '8a哈哈哈哈哈' 1.txt -e '5=;8=' 

sed -n '1,5p' 1.txt
sed -ne '1p' -ne '5p' 1.txt
sed -ne '1p;5p' 1.txt

过滤vsftpd.conf文件中以#开头和空行：
[root@localhost ~]# grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf

过滤smb.conf文件中生效的行：
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
# sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf

# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf


[root@localhost ~]# grep '^[^a-z]' 1.txt

[root@localhost ~]# sed -n '/^[^a-z]/p' 1.txt

过滤出文件中的IP地址：
[root@localhost ~]# grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt
192.168.0.254
[root@localhost ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt
192.168.0.254

[root@localhost ~]# grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0

[root@localhost ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0
过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
[root@localhost tmp]# grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0
10.1.1.1
255.255.255.0
10.1.1.254
[root@localhost tmp]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
10.1.1.1
255.255.255.0
10.1.1.254
[root@localhost tmp]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
10.1.1.1
255.255.255.0
10.1.1.254

[root@localhost tmp]# ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
10.1.1.1
10.1.1.255
255.255.255.0
[root@localhost tmp]# ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed '/^$/d'

[root@localhost tmp]# ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'
10.1.1.1 
10.1.1.255 
255.255.255.0

-i 选项 直接修改原文件 使用该选项不能用n和p
# sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
# sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
# sed -i '1,5s/^/#&/' a.txt
注意：
-ni 不要一起使用
p命令 不要再使用-i时使用

⑤ sed结合正则使用

sed  选项 ’sed命令或者正则表达式或者地址定位' 文件名

1. 定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。

2. 如果没有指定地址，sed将处理输入文件的所有行。

正则	说明	备注
/key/	查询包含关键字的行	sed -n '/root/p' 1.txt
/key1/,/key2/	匹配包含两个关键字之间的行	sed -n '/\^adm/,/^mysql/p' 1.txt
/key/,x	从匹配关键字的行开始到文件第x行之间的行（包含关键字所在行）	sed -n '/^ftp/,7p'
x,/key/	从文件的第x行开始到与关键字的匹配行之间的行
x,y!	不包含x到y行
/key/!	不包括关键字的行	sed -n '/bash$/!p' 1.txt

[root@localhost tmp]# cat -n 8.txt
     1  root:x:0:0:root:/root:/bin/bash
     2  bin:x:1:1:bin:/bin:/sbin/nologin
     3  daemon:x:2:2:daemon:/sbin:/sbin/nologin
     4  adm:x:3:4:adm:/var/adm:/sbin/nologin
     5  lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
     6  sync:x:5:0:sync:/sbin:/bin/sync
     7  shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
     8  halt:x:7:0:halt:/sbin:/sbin/halt
     9  mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
    10  uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
    11  sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
    12  tcpdump:x:72:72::/:/sbin/nologin
    13  zhangjm:x:500:500:root:/home/zhangjm:/bin/bash
[root@localhost tmp]# sed -n '/^lp,^mail/p' 8.txt
[root@localhost tmp]# sed -n '/^lp/,/^mail/p' 8.txt
[root@localhost tmp]# sed -nr '/^lp|^mail/p' 8.txt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
[root@localhost tmp]# sed -nr '/sync/,8p' 8.txt
[root@localhost tmp]# sed -nr '3,/^halt/p' 8.txt

2. 脚本格式

（一）用法

# sed -f scripts.sh  file    //使用脚本处理文件
建议使用 ./sed.sh   file

脚本的第一行写上
#!/bin/sed -f
1,5d
s/root/hello/g
3i777
5i888
a999
p

（二）注意事项

１）　脚本文件是一个sed的命令行清单。'commands' 

２）　在每行的末尾不能有任何空格、制表符（tab）或其它文本。 

３）　如果在一行中有多个命令，应该用分号分隔。 

４）　不需要且不可用引号保护命令 

５）　#号开头的行为注释

（三）举例说明

# cat passwd
stu3:x:509:512::/home/user3:/bin/bash
stu4:x:510:513::/home/user4:/bin/bash
stu5:x:511:514::/home/user5:/bin/bash

# cat sed.sh
#!/bin/sed -f
2a\
******************
2,$s/stu/user/
$a\
we inster new line
s/^[a-z].*/#&/

[root@localhost ~]# cat 1.sed
#!/bin/sed -f
3a**********************
$chelloworld
1,3s/^/#&/

[root@localhost ~]# sed -f 1.sed -i 11.txt
[root@localhost ~]# cat 11.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
**********************
adm:x:3:4:adm:/var/adm:/sbin/nologin
helloworld

sed 作为三剑客之一，内容当然也相对而言多一些，这是我花了将近6个小时整理总结的，您可以将其放到悬浮窗口，每天看一点点，相信你总会有进步，熟悉sed 的相关操作对于我们进行文本处理就像鱼离不开水一样，祝您越来越优秀，早日升职加薪，成为一名shell编程的资深程序开发者。

推荐阅读