Linux下shell编程常用grep\awk\sed语法

Linux下shell编程常用grep\awk\sed语法

1. grep 常用方法与参数
grep "关键字" 文件名
grep "关键字" 文件名1 文件名2 ..... //在指定的多个文件中查找关键字
grep "关键字" * //表示在当前目录下的所有文件中查找
grep "关键字" * -R //表示在当前目录下查找，如果有子目录则进入到子目录中查找
grep "正则表达式" * //在文件中按正则表达式查找关键字
grep -n "关键字" * //显示出关键字在文件中的行号
grep -c "关键字" * //只打印匹配的行数，不显示匹配的内容。
grep -v "关键字" 文件名//选择那些不匹配搜索条件的行
grep -i "关键字" 文件名 //忽略关键字的大小写
grep -l "关键字" * //只显示查找到的文件，不显示关键字
2. sed
（1）基本知识
sed -e '编辑指令1' -e '编辑指令2' ... 文件档 //基本格式
-e 表式后边跟的是编辑命令
编辑命令由两部分组成. [address1[,address2]]function[argument] 其中, 地址参数 address1 、address2 为行数或 regular expression 字符串 , 表示所执行编辑的资料行 ; 函数参数 function[argument] 为 sed 的内定函数 , 表示执行的编辑动作。
（2）sed选项
-n 不打印；s e d不写编辑行到标准输出，缺省为打印所有行（编辑和未编辑）。p命令可以用来打印编辑行。
-f 如果正在调用s e d脚本文件，使用此选项。此选项通知s e d一个脚本文件支持所有的s e d命令，例如：sed -f myscript.sed input_file，这里m y s c r i p t . s e d即为支持s e d命令的文件。
-c 下一命令是编辑命令。使用多项编辑时加入此选项。如果只用到一条s e d命令，此选项无用，但指定它也没有关系。
-i 编辑原文件(此选项慎用,如果使用则原文件就会被修改,无法恢复)。
(3)地址
sed -e '10d' filename //删除档内第 10 行资料 , 则指令为 10d。
sed -e '/man/d filename //删除含有 "man" 字符串的资料行时 , 则指令为 /man/d。
sed -e '1,3d' //删除档内第 1 行到第 3 行资料, 则指令为 1,3d。
sed -e '1,/man/d' filename //删除档内第 1 行到含 "man" 字符串的资料行
sed -e '/man/, 3d' filename //删除档内含 "man"行到第 3 的资料行
sed -e '/man1/,/man2/d' filename //删除档内第含"man1"行到含“man2" 的资料行
（4）编辑命令
p 打印匹配行
= 显示文件行号
a\ 在定位行号后附加新文本信息
i\ 在定位行号后插入新文本信息
d 删除定位行
c\ 用新文本替换定位文本
s 使用替换模式替换相应模式
r 从另一个文件中读文本
w 写文本到一个文件
q 第一个模式匹配完成后推出或立即推出
l 显示与八进制A S C I I代码等价的控制字符
{ } 在定位行执行的命令组
n 从另一个文件中读文本下一行，并附加在下一行
g 将模式2粘贴到/pattern n/
y 传送字符
n 延续到下一输入行；允许跨行的模式匹配语句
sed -e '/machine/s/phi/beta/g' filename //在filename中搜索包含machine的行，然后用beta替换phi。
sed -e '5c\
Those must often wipe a bloody nose.
' filename
//将第5行替换为 Those must often wipe a bloody nose. ，其中c后边的"\"是连字符。
sed -e '1,100c\
How are you?\
data be deleted!
' filename
//将文件中 1 至 100 行的资料区 , 替换成输入的两行。
sed -e '/man/w filename2' filename1 //搜索man所在行，写到 filename2中
sed -e '/man/r filename2' filename1 //将filename2中的内容读到man所在行
sed -i "s/查找的关键字/替换的词/g" 文件名将文件名中所有关键字替换成指定字符串
3. awk
awk 用法：awk ‘ pattern {action} ‘
变量名含义
ARGC 命令行变元个数
ARGV 命令行变元数组
FILENAME 当前输入文件名
FNR 当前文件中的记录号
FS 输入域分隔符，默认为一个空格
RS 输入记录分隔符
NF 当前记录里域个数
NR 到目前为止记录数
OFS 输出域分隔符
ORS 输出记录分隔符
1、
awk ‘/101/’ file 显示文件file中包含101的匹配行。
awk ‘/101/,/105/’ file
awk ‘$1 == 5′ file
awk ‘$1 == “CT”‘ file 注意必须带双引号
awk ‘$1 * $2 >100 ‘ file
awk ‘$2 >5 && $2<=15' file
2、
awk '{print NR,NF,$1,$NF,}' file 显示文件file的当前记录号、域数和每一行的第一个和最后一个域。
awk '/101/ {print $1,$2 + 10}' file 显示文件file的匹配行的第一、二个域加10。
awk '/101/ {print $1$2}' file
awk '/101/ {print $1 $2}' file 显示文件file的匹配行的第一、二个域，但显示时域中间没有分隔符。
3、
df | awk '$4>1000000 ‘ 通过管道符获得输入，如：显示第4个域满足条件的行。
4、
awk -F “|” ‘{print $1}’ file 按照新的分隔符”|”进行操作。
awk ‘BEGIN { FS=“[: \t|]” } {print $1,$2,$3}’ file 通过设置输入分隔符（FS=“[: \t|]”）修改输入分隔符。
Sep=“|”
awk -F $Sep ‘{print $1}’ file 按照环境变量Sep的值做为分隔符。
awk -F ‘[ :\t|]’ ‘{print $1}’ file 按照正则表达式的值做为分隔符，这里代表空格、:、TAB、|同时做为分隔符。
awk -F ‘[][]’ ‘{print $1}’ file 按照正则表达式的值做为分隔符，这里代表[、]
5、
awk -f awkfile file 通过文件awkfile的内容依次进行控制。
cat awkfile /101/{print “\047 Hello! \047″} –遇到匹配行以后打印‘ Hello! ‘.\047代表单引号。
{print $1,$2} –因为没有模式控制，打印每一行的前两个域。
6、
awk ‘$1 ~ /101/ {print $1}’ file 显示文件中第一个域匹配101的行（记录）。
7、
awk ‘BEGIN { OFS=“%”} {print $1,$2}’ file 通过设置输出分隔符（OFS=“%”）修改输出格式。
8、
awk ‘BEGIN { max=100 ;print “max=“ max} BEGIN 表示在处理任意行之前进行的操作。{max=($1 > max ?$1:max); print $1,”Now max is “max}’ file 取得文件第一个域的最大值。
（表达式1?表达式2:表达式3 相当于：
if (表达式1)
表达式2
else
表达式3
awk ‘{print ($1>4 ? “high “$1: “low “$1)}’ file
9、
awk ‘$1 * $2 >100 {print $1}’ file 显示文件中第一个域匹配101的行（记录）。
10、
awk ‘{$1 == ‘Chi’ {$3 = ‘China’; print}’ file 找到匹配行后先将第3个域替换后再显示该行（记录）。
awk ‘{$7 %= 3; print $7}’ file 将第7域被3除，并将余数赋给第7域再打印。
11、
awk ‘/tom/ {wage=$2+$3; printf wage}’ file 找到匹配行后为变量wage赋值并打印该变量。
12、
awk ‘/tom/ {count++;}
END {print “tom was found “count” times”}’ file END表示在所有输入行处理完后进行处理。
13、
awk ‘gsub(/\$/,”");gsub(/,/,”"); cost+=$4; END {print “The total is $” cost>“filename”}’ file gsub函数用空串替换$和,再将结果输出到filename中。
1 2 3 $1,200.00
1 2 3 $2,300.00
1 2 3 $4,000.00
awk ‘{gsub(/\$/,”");gsub(/,/,”");
if ($4>1000&&$4<2000) c1+=$4;
else if ($4>2000&&$4<3000) c2+=$4;
else if ($4>3000&&$4<4000) c3+=$4;
else c4+=$4; }
END {printf "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
通过if和else if完成条件语句
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($4>3000&&$4<4000) exit;
else c4+=$4; }
END {printf "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
通过exit在某条件时退出，但是仍执行END操作。
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($4>3000) next;
else c4+=$4; }
END {printf “c4=[%d]\n”,c4}”‘ file
通过next在某条件时跳过该行，对下一行执行操作。
14、
awk ‘{ print FILENAME,$0 }’ file1 file2 file3>fileall 把file1、file2、file3的文件内容全部写到fileall中，格式为打印文件并前置文件名。
15、
awk ‘ $1!=previous { close(previous); previous=$1 }
{print substr($0,index($0,” “) +1)>$1}’ fileall 把合并后的文件重新分拆为3个文件。并与原文件一致。
16、
awk ‘BEGIN {“date”|getline d; print d}’ 通过管道把date的执行结果送给getline，并赋给变量d，然后打印。
17、
awk ‘BEGIN {system(“echo \”Input your name:\\c\”"); getline d;print “\nYour name is”,d,”\b!\n”}’
通过getline命令交互输入name，并显示出来。
awk ‘BEGIN {FS=“:”; while(getline< "/etc/passwd" >0) { if($1~”050[0-9]_”) print $1}}’
打印/etc/passwd文件中用户名包含050x_的用户名。
18、
awk '{ i=1;while(i<NF) {print NF,$i;i++}}' /etc/passwd
19、
在awk中调用系统变量必须用单引号，如果是双引号，则表示字符串
Flag=abcd
awk ‘{print ‘$Flag’}’ 结果为abcd
awk ‘{print “$Flag”}’ 结果为$Flag

Linux下Shell编程——awk编程

Linux下Shell编程——sed命令基本用法

Linux下Shell编程——grep命令的基本运用 

Linux下Shell编程——正则表达式基础与扩展