linux cut，sed与awk的使用

本文讲述了linux系统中常用的文本提取命令cut，sed与awk的命令使用方法。借用了前辈的文章，非常感谢。

cut用法：

原文链接：http://blog.csdn.net/u011003120/article/details/52190187[-]一作用二格式三参数解释四实例分析1 -b剪切单个字节剪切多个字节剪切字符2 -c3-f

一、作用

cut命令是一个选取命令，其功能是将文件中的每一行”字节” ”字符” ”字段” 进行剪切，选取我们需要的，并将这些选取好的数据输出至标准输出

二、格式

cut -b file cut -c file cut -d[分隔符] -f[域] file

三、参数解释

-b(bytes) ：以字节为单位进行分割。这些字节位置将忽略多字节字符边界，除非也指定了 -n 标志。 -c(characters) ：以字符为单位进行分割。 -d ：自定义分隔符，默认为制表符。 -f(filed) ：与-d一起使用，指定显示哪个区域。 -n ：取消分割多字节字符。仅和 -b 标志一起使用。如果字符的最后一个字节落在由 -b 标志的 List 参数指示的范围之内，该字符将被写出；否则，该字符将被排除。

四、实例分析

新建一个test1.txt,如下

557adfhg
bcd5464b
135465453456
233546576
[root@localhost shell]#

新建一个test2.txt，如下

[root@localhost shell]# cat test2.txt
星期一
星期二
星期三
星期四
星期五
星期六
星期日
[root@localhost shell]#

1) -b

1.剪切单个字节

如下，只剪切txt中的每一行的第一个字节

[root@localhost shell]# cut -b 1 test1.txt
5
b
1
2
[root@localhost shell]#

2.剪切多个字节

剪切多个字符有很多方式， 如 -b 1,3,5 //剪切每一行第 1 3 5个字符 (示例1) 如 -b 1-5 //剪切每一行第 1-5 个字符 (示例2) 如 -b -5 //剪切每一行第 1-5 个字符 (示例3) 如 -b 3- //剪切每一行第 3个字符以后的 (示例4)示例1：

[root@localhost shell]# cut -b 1,3,5 test1.txt
57d
bd4
156
234
[root@localhost shell]#

示例2：

[root@localhost shell]# cut -b 1-5 test1.txt
557ad
bcd54
13546
23354
[root@localhost shell]#

示例3：

[root@localhost shell]# cut -b -5 test1.txt
557ad
bcd54
13546
23354
[root@localhost shell]#

示例4：

[root@localhost shell]# cut -b 3- test1.txt
7adfhg
d5464b
5465453456
3546576
[root@localhost shell]#

3.剪切字符

首先按照上面的例子对test2.txt进行操作，看有什么现象

[root@localhost shell]# cut -b 2 test2.txt
�
�
�
�
�
�
�
[root@localhost shell]#

出现了乱码的现象，因为-b 只是针对字节进行裁剪，对一个汉字进行字节裁剪，得到的结果必然是乱码，若想使用 -b 命令对字节进行裁剪，那么则需要使用 -n 选项，此选项的作用是取消分割多字节字符。

[root@localhost shell]# cut -nb 3 test2.txt

星
星
星
星
星
星
[root@localhost shell]# cut -nb 3,6  test2.txt
星
星期
星期
星期
星期
星期
星期
[root@localhost shell]# cut -nb 3,6,9  test2.txt
星期
星期二
星期三
星期四
星期五
星期六
星期日
[root@localhost shell]# cut -nb 3,6,9,12  test2.txt
星期一
星期二
星期三
星期四
星期五
星期六
星期日
[root@localhost shell]#

2) -c

-c的作用就是剪切字符，和上面的 -nb 有些类似

[root@localhost shell]# cut -c 1 test2.txt

星
星
星
星
星
星
[root@localhost shell]# cut -c 2 test2.txt
星
期
期
期
期
期
期
[root@localhost shell]# cut -c 1-3 test2.txt
星期
星期二
星期三
星期四
星期五
星期六
星期日
[root@localhost shell]#

3)-f

上面的-b -c 只是针对于格式固定的数据中剪切，但是对于一些格式不固定的，就没有办法获取到我们想要的数据，因此便有了 -f 域的概念。示例1：

[root@localhost shell]# cat /etc/passwd | head -n 3
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
[root@localhost shell]#

例如将上面的第一个 ： 前面的字符给剪切出来，那么我们就可以使用 -d 命令，指定其分割符为 ： 然后再选取第一个域内的内容即可，如下

[root@localhost shell]# cat /etc/passwd | head -n 3 | cut -d : -f 1
root
bin
daemon
[root@localhost shell]#

示例2： 剪切ip地址，如下：

[root@localhost shell]# ifconfig eth0 | grep "inet addr"inet addr:192.168.1.199  Bcast:192.168.1.255  Mask:255.255.255.0[root@localhost shell]# ifconfig eth0 | grep "inet addr" | cut -d : -f 2192.168.1.199  Bcast        //以 ： 为分隔符，选取第二个域里面的内容，输出[root@localhost shell]# ifconfig eth0 | grep "inet addr" | cut -d : -f 2 | cut -d ' ' -f 1192.168.1.199             //以空格为分割符，选取第一个域内的内容，输出[root@localhost shell]# 

sed用法：

初次学习请拿这个飞机票：http://www.cnblogs.com/dong008259/archive/2011/12/07/2279897.html详细解释如下：1,sed介绍    sed可删除(delete)、改变(change)、添加(append)、插入(insert)、合、交换文件中的资料行,或读入其它档的资料到文>件中,也可替换(substuite)它们其中的字串、或转换(tranfer)其中的字母等等。例如将文件中的连续空白行删成一行、"local"字串替换成"remote"、"t"字母转换成"T"、将第10行资料与第11资料合等.    总合上述所言,当sed由标准输入读入一行资料并放入pattern space时,sed依照sed script 的编辑指令逐一对pattern space内的资料执行编辑,之後,再由pattern space内的结果送到标准输出,接着再将下一行资料读入.如此重执行上述动作,直至读>完所有资料行为止.    小结,记住:            (1)sed总是以行对输入进行处理            (2)sed处理的不是原文件而是原文件的拷贝命令行概述:    sed 编辑指令的格式如下 :              [address1[,address2]]function[argument]其中 , 位址参数 address1 、address2 为行数或 regular expression 字串 , 表示所执行编辑的资料行; 函数参数 function[argument] 为 sed 的内定函数 , 表示执行的编辑动作。有那些函数(function)参数   下页表中介绍所有 sed 的函数参数(参照[chapter 4])的功能。函数参数 功能: label  建立 script file 内指令互相参考的位置。#  建立解{ }  集合有相同位址参数的指令。!  不执行函数参数。=  印出资料行数( line number )。a/  添加使用者输入的资料。b label  将执行的指令跳至由 : 建立的参考位置。c/  以使用者输入的资料取代资料。d  删除资料。D  删除 pattern space 内第一个 newline 字母 / 前的资料。g  拷贝资料从 hold space。G  添加资料从 hold space 至 pattern space 。h  拷贝资料从 pattern space 至 hold space 。H  添加资料从 pattern space 至 hold space 。l  印出 l 资料中的 nonprinting character 用 ASCII 码。i/  插入添加使用者输入的资料行。n  读入下一笔资料。N  添加下一笔资料到 pattern space。p  印出资料。P  印出 pattern space 内第一个 newline 字母 / 前的资料。q  跳出 sed 编辑。r  读入它档内容。s  替换字串。t label  先执行一替换的编辑指令 , 如果替换成牛p>则将编辑指令跳至 : label 处执行。w  写资料到它档内。x  交换 hold space 与 pattern space 内容。y  转换(transform)字元。虽然 , sed 只有上表所述几个拥有基本编辑功能的函数 , 但由指令中位址参数和指令与指令间的配合 , 也能使sed 完成大部份的编辑任务。2,1 删除(1) sed -e '1d' inputfile (删除第一行)    那么删除第x行呢?删除第x1,x2,x3行呢？    sed -e 'xd' inputfile    sed -e 'x1d' -e 'x2d' -e 'x3d' inputfile    当然也许还有更好的办法。(2) sed -e '1,3d' file (删除第一到第三行)    思考：删除第n行到第m行?也就是    sed -e 'n,md' file    删除第一行到最后一行    sed -e '1,$d' file     #$ 最后一行和一行的最后(3) sed -e '/#/d' file  (删除含有'#'号的行)    思考：删除含有字母xx的行    sed -e '/xx/d' file    思考: 删除除含有字符串xx的所有行    sed -e '/xx/!d' file(4) sed -e '/word1/, /word2/d' file  (删除从含有单词word1到含有单词word2的行)    sed -e '10,/word1/d' file    删除文件中从第10行到含有word1的行    sed -e '/word1/,10/d' file    和上面的匹配相反，删除从含有word1的行到第10行(5) sed -e '/t.*t/d' file     (删除含有两个t的行)    思考：删除含有指定正在表达式匹配的行。2.2 替换       Sed 可替换文件中的字串、资料行、甚至资料区。其中,表示替换字串的指令中的函数参数为s;表示替换资料行、或资料区>的指令中的函数参数为c。上述情况以下面三个例子说明。*行的替换(1) sed -e '1c/#!/bin/more' file (把第一行替换成#!/bin/more)    思考: 把第n行替换成just do it    sed -e 'nc/just do it' file(2) sed -e '1,10c/I can do it' file  (把1到10行替换成一行:I can do it)    思考: 换成两行(I can do it! Let's start)    sed -e '1,10c/I can do it!/nLet'"/'"'s start' file*字符的替换(3) sed -e 's/word1/& word2/' file (将每一行的word1单词替换成s参数最多与两个位置参数相结合,函数参数s中有两个特殊的符号:    & : 代表pattern    /n : 代表 pattern 中被第 n 个 /( 、/)(参照[附录 A]) 所括起来的字串。例如    sed -e 's/w1/& w2/' file  # w1的地方输出 w1 w2    sed -e  's//(test/) /(my/) /(car/)/[/2 /3 /1]/' file   #结果: [my car test]*flag 参数举例    sed -e 's/w1/& w2/g' file    g : 代表替换所有匹配项目;这里,文件中所有字符串w1都会被替换成字串w1 w2    sed -e 's/w1/& w2/10' file    m(10) : 替换行内第m个符合的字串; 记住，是行内的第m个匹配的字串    sed -e 's/w1/& w2/p' file    p : 替换第一个和w1匹配的字符串为w1 w2，并输出到标准输出.    sed -e 's/w1/& w2/w w2file' file    w filename : 该参数会将替换过的内容写入到文件w2file并输出替换后的整个文件。注意w2file里写的只是替换过的行。    sed 'e 's/w1/& w2/' file    这里的flag 为空, 这样就只是将第一个w1匹配的字符串替换成w1 w2而后面的不进行替换。*位置参数应用举例    sed -e '/machine/s/phi/beta/g' file    将文件中含"machine"字串的资料行中的"phi"字串,替换成为"beta"字串    sed -e '1,10 s/w1/& w2/g' file    把1到10内的w1字符串替换成w1 w2字符串。    sed -e '1,/else/ s/w1/& w2/g' file    把1到字符串else内的w1字符串替换成w1 w2字符串。其它位置参数的应用与前面的相同。2.3 内容的插入i    基本格式:    [address] i/ 插入内容 filename word2)说明:函数参数 s 表示替换(substitute)文件内字串。其指令格式如下 :[address1[ ,address2]] s/pattern/replacemen/[flag]    sed -e '/#/i/words' file      #在#字符的前面插入一行words说明：    这里的函数参数是i，它只能有一个地址参数。    sed -e '1/i/words' file    在第一行前加一行words    cat "word" | sed -e '/$/.doc/g'   #输出word.doc    在word后面加上后缀名，从而输出word.doc    i 参数正好与a参数相反，它是插入到所给内容的前面.a    a参数的使用格式如下：    [address] a/ <插入内容> filename    sed -e '/unix/a/ haha' test.txt   #在含有unix的行后添加"haha"    #输出结果为:        unix        haha    另外: sed -e '1 a/ hh' test.txt  #在第一行后添加hh字符.2.4 文本的打印: p    基本格式：    [address1,[address2]] p    (1) sed -e '/then/ p' filename  #打印所有行并重复打印含有then 的行    (2) sed -n '/then/ p' filename  #只打印含有then的行    (3) sed -e '1,3 p' filename     # 打印所有行并重复1-3行    (4) sed -n '1,3 p' filename     # 打印1-3行    (5) sed -n '/if/,/fi/ p' filename #打印字符if和fi之间的内容    p函数为sed的打印函数，在这里要注意-e 和-n 参数的区别。一般使用-n参数。2.5 字元的替换: y    例如：    (1)sed -e 'y/abc../xyz../' filename    把文件中的a字母替换成x, b替换成y, c替换成z。    (2) sed  -e 'y/abc/ABC' filename    把小写的abc转换成大写的ABC2.6 反相执行命令 : !    基本格式:    [address1[ , address2]] ! 函数参数    sed -e '/1996/!d' filename    删除除了含有1996的所有行。2.7 改变文件中的资料: c    基本格式：    [address1[ ,address2]]c/ filename    函数参数 c 紧接着 "/" 字元用来表示此行结束 , 使用者所输入的资料必须从下一行输入。如果资料超过一行 , 则须在>每行的结尾加入"/"    sed -e '/zhengxh/c hhhh' filename    表示把含有字符串zhengxh的行，该成hhhh。2.8 读入下一行资料: n    基本格式：    [address1[ ,address2]] n    sed -n -e '/echo/n' -e 'p' temp    表示输出文件，但如果一行含有字符串echo，则输出包含该字符串的下一行。    sed -n -e 'n' -e 'p' filename    输出文中的偶数行3, 命令的复用    一次执行多个命令的方式有三种：    (1) sed 's/w1/& w2/g; 1/i/words' filename   (使用;号把命令隔开，注意前面不加-e参数)    (2) sed -e 'cmd1' -e 'cmd2'  filename     (使用多个-e参数)

Linux awk的用法

原文链接：http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858470.html

简介

awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。 

使用方法

awk '{pattern + action}' {filenames}

尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。 

调用awk

有三种方式调用awk

1.命令行方式awk [-F  field-separator]  'commands'  input-file(s)其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。2.shell脚本方式将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。相当于shell脚本首行的：#!/bin/sh可以换成：#!/bin/awk3.将所有的awk命令插入一个单独文件，然后调用：awk -f awk-script-file input-file(s)其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。

 本章重点介绍命令行方式。 

入门实例

假设last -n 5的输出如下

[root@www ~]# last -n 5 <==仅取出前五行root     pts/1   192.168.1.100  Tue Feb 10 11:21   still logged inroot     pts/1   192.168.1.100  Tue Feb 10 00:46 - 02:28  (01:41)root     pts/1   192.168.1.100  Mon Feb  9 11:41 - 18:30  (06:48)dmtsai   pts/1   192.168.1.100  Mon Feb  9 11:41 - 11:41  (00:00)root     tty1                   Fri Sep  5 14:09 - 14:10  (00:01)

如果只是显示最近登录的5个帐号

#last -n 5 | awk  '{print $1}'rootrootrootdmtsairoot

awk工作流程是这样的：读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户，$3表示登录用户ip,以此类推。 如果只是显示/etc/passwd的账户

#cat /etc/passwd |awk  -F ':'  '{print $1}'rootdaemonbinsys

这种是awk+action的示例，每行都会执行action{print $1}。-F指定域分隔符为':'。 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割

#cat /etc/passwd |awk  -F ':'  '{print $1"\t"$7}'root    /bin/bashdaemon  /bin/shbin     /bin/shsys     /bin/sh

 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。

cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'name,shellroot,/bin/bashdaemon,/bin/shbin,/bin/shsys,/bin/sh....blue,/bin/nosh

awk工作流程是这样的：先执行BEGING，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。 搜索/etc/passwd有root关键字的所有行

#awk -F: '/root/' /etc/passwdroot:x:0:0:root:/root:/bin/bash

这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd 搜索/etc/passwd有root关键字的所有行，并显示对应的shell

# awk -F: '/root/{print $7}' /etc/passwd/bin/bash

 这里指定了action{print $7} 

awk内置变量

awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。

ARGC               命令行参数个数ARGV               命令行参数排列ENVIRON            支持队列中系统环境变量的使用FILENAME           awk浏览的文件名FNR                浏览文件的记录数FS                 设置输入域分隔符，等价于命令行 -F选项NF                 浏览记录的域的个数NR                 已读的记录数OFS                输出域分隔符ORS                输出记录分隔符RS                 控制记录分隔符

 此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:

#awk  -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwdfilename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bashfilename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/shfilename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/shfilename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh

 使用printf替代print,可以让代码更加简洁，易读

awk  -F ':'  '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd

 

print和printf

awk中同时提供了print和printf两种打印输出的函数。其中print函数的参数可以是变量、数值或者字符串。字符串必须用双引号引用，参数用逗号分隔。如果没有逗号，参数就串联在一起而无法区分。这里，逗号的作用与输出文件的分隔符的作用是一样的，只是后者是空格而已。printf函数，其用法和c语言中printf基本相似,可以格式化字符串,输出复杂时，printf更加好用，代码更易懂。 

 awk编程

 变量和赋值除了awk的内置变量，awk还可以自定义变量。下面统计/etc/passwd的账户人数

awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwdroot:x:0:0:root:/root:/bin/bash......user count is  40

count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。 这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:

awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd[start]user count is  0root:x:0:0:root:/root:/bin/bash...[end]user count is  40

 统计某个文件夹下的文件占用的字节数

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'[end]size is  8657198

 如果以M为单位显示:

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}'[end]size is  8.25889 M

注意，统计不包括文件夹的子目录。 条件语句 awk中的条件语句是从C语言中借鉴来的，见如下声明方式：

if (expression) {statement;statement;... ...}if (expression) {statement;} else {statement2;}if (expression) {statement1;} else if (expression1) {statement2;} else {statement3;}

 统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):

ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}'[end]size is  8.22339 M

 循环语句awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。 数组  因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。 显示/etc/passwd的账户

awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd0 root1 daemon2 bin3 sys4 sync5 games......

这里使用for循环遍历数组