尚观第15周AWK学习笔记

一 编写awk 脚本
HELLO，WORLD
$echo 'this line of data is ignored' > test
$ awk'{ print "Hello, world" }' test
Hello,world
Awk读入一行，执行一次括号里面的动作

$ cattest2
Hello,world
$ awk'{ print }' test2
Hello,world
print语句没有参数，只简单输出每个输入行。

$ awk‘BEGIN {print “hello,World”}’
Hello,World
BEGIN模式不需要等待输入，它在第一个输入行读入之前执行。

awk 程序设计模型
awk 程序由所谓的主输入（main input）循环组成。一个循环称作一个例程。
awk允许你编写两个特殊的例程，他们在任何输入被读取前和所有输入都被读
取后执行。他们是与BEGIN和END规则相关的过程。BEGIN和END过程是可
选的。

模式匹配 src1.awk
#test for integer, string or empty line.
/[0-9]+/{ print "That is an integer" }
/[A-Za-z]+/{ print "This is a string" }
/^$/{ print "This is a blank line." }

一个特殊的例子：
$ awk-f awksrc
4T
Thatis an integer
Thisis a string
一行可以匹配一条或多条规则
程序脚本的注释
# 以#号开始的一行
记录和字段
awk假设它的输入是有结构的，而不是一串无规则的字符。默认它将每个输入
行作为一条记录，而将由空格或制表符分隔的单词作为字段。连续的多个空格
和/或制表符被作为一个分隔符。
JohnRobinson 666-555-1111
字段的引用和分离
awk允许使用字段操作符$来指定字段。$后面可以跟着一个数字或者一个变量。
$1表示第一个字段，$2表示第二个字段，$0表示整个输入记录。
$ awk'{ print $2, $1, $3 }' names
RobinsonJohn 666-555-1111

可以使用计算值为整数的表达式来表示一个字段
$echo a b c d | awk 'BEGIN { one = 1; two = 2 }
>{ print $(one + two) }'
c

可以使用-F来改变字段分隔符
$ awk-F"\t" '{ print $2 }' names
666-555-1111
$ awk-F"\t+" '{ print $2 }' names
$ awk-F"[‘:\t]"'{ print $2 }' names
任何3个字符之一都可以被解释为字段分隔符
也可以在脚本中指定域分隔符，通过系统变量FS来改变
BEGIN{ FS = "," } # comma-delimited fields
{print $1 "-" $2 }

使用匹配规则
/MA/{ print $1 ", " $6 }

为了避免假警报，可以使用更精确的匹配
$5 ~/MA/ { print $1 ", " $6 }
还可以使用！来反转这个规则的意义
$5 !~/MA/ { print $1 ", " $6 }

表达式:

常量
分成两种:字符串型和数字型
字符串型在表达式中必须用引号括起来
字符串中可以使用转义序列，常用的转义序列有：
\n 换行 \t 水平制表符 \r 回车

变量
x=1
x是变量的名字 =是一个赋值操作符 1是一个数字常量
注意： 变量区分大小写，所以x 和X（大写）表示不同的变量
变量名只能由数字字母下划线组成，而且不能以数字开头
变量使用不区分类型，使用前不必初始化
z ="Hello"

z ="Hello" "World"
z =$1
以上几种都是合法的

常用算数操作符
+Addition
-Subtraction
*Multiplication
/Division
%Modulo

x=1
给x赋值
y=x+1
计算x的值，使它加1，并将结果赋给变量y。
printy

打印y的值。
我们可以将这3个语句减少为两个：
x=1
printx+1
7
常用赋值操作符
++Add 1 to variable.
--Subtract 1 from variable.
+=Assign result of addition.
-=Assign result of subtraction.
*=Assign result of multiplication.
/=Assign result of division.
%=Assign result of modulo.
^=Assign result of exponentiation.(取幂)

计算文件中空行的数目
#Count blank lines.
/^$/{
printx += 1
}
x=x+1x+=1 ++x x++
这几种有什么区别?
#Count blank lines.
/^$/{
++x
}
END {
printx

}
计算学生的平均成绩
mona70 77 85 83 70 89
john85 92 78 94 88 91
andrea89 90 85 94 90 95
jasper84 88 80 92 84 82
dunce64 80 60 60 61 62
ellis90 98 89 96 96 92
$ awk-f src2.awk grades
john87.4
andrea86
jasper85.6
src2.awk
#average five grades
{total = $2 + $3 + $4 + $5 + $6
avg =total / 5
print$1, avg }

也可以使用print $1, total / 5

系统变量
FS 定义字段分隔符,默认为一个空格
OFS 输出的字段分隔符，默认为一个空格
RS 记录分隔符，默认为一个换行符
ORS 输出的记录分隔符，默认为一个换行符
NR 行数
FNR行数，多文件操作时会重新排序
NF 输出当前输入记录的编号（字段的个数）
FILENAME文件名
例如：
$ awk–F: ‘OFS=”aaa”,ORS=”bbb” {print NR,FNR,NF,FILENAME}’
/etc/passwda.txt
$print NR “.”,$1, avg
1.john 87.4
2.andrea 86
3.jasper 85.6

处理多行记录
JohnRobinson
KorenInc.
978Commonwealth Ave.
Boston
MA01760
696-0987
#block.awk - print first and last fields
# $1 =name; $NF = phone number
BEGIN{ FS = "\n"; RS = " " }
{print $1, $NF }
$ awk-f block.awk phones.block
JohnRobinson 696-0987
PhyllisChapman 879-0900
JeffreyWillis 914-636-0000
AliceGold (707) 724-0000
BillGold 1-707-724-0000

关系操作符和布尔操作符

关系操作符

<Less than
>Greater than
<=Less than or equal to
>=Greater than or equal to
==Equal to
!=Not equal to
~Matches
!~Does not match
NF ==5 NF（每个输入记录的字段数）的值和5相比较，如果结果为真，那
么就进行相应的处理，否则不进行处理。
$5 ~/MA/ {print $1 “,”$6}
注意：关系操作符==和赋值操作符=是不同的
布尔操作符
||Logical OR
&&Logical AND
!Logical NOT
NF ==6 && NR > 1
字段的数量必须等于6并且记录的编号必须大于1。
NR>1 && NF >=2 || $1 ~ /\t/
(NR>1 && NF >=2 )|| $1 ~ /\t/
!(NR> 1 && NF > 3)
获取文件的信息

$ ls-l |awk -f src3.awk
BEGIN{ print "BYTES", "\t", "FILE" }
{
sum+= $5
++filenum
print$5, "\t", $8
}
END {print "Total: ", sum, "bytes (" filenum " files)"}

格式化打印
printf( format-expression [, arguments] )
cASCII 字符
d 十进制整数
f 浮点格式
s 字符串
x 无符号十六进制

常用举例：
语法 %-width.precision format-specifier
printf("%d \t %s \n ", $5 , $8 )
printf("|%10s|\n","hello") 右对齐
printf("|%-10s|\n","hello") 左对齐
printf("%*.*f\n",5, 3, myvar) 宽度5 精度3 打印myvar

向脚本传递参数
awk'script' var=value inputfile
$var=root
$ awk–F: -v a=$var ‘$1==a {print}’ /etc/passwd

二 条件、循环
条件语句
if ( expression )
action1
[else
action2]

例如：
if (x ) print x
如果x是零，则print语句将不执行。如果x是一个非零值，将打印x的值。
if (x == y ) print x
if (x ~ /[yY](es)?/ ) print x
如果操作是由多个语句组成，要用一个大括号将操作括起来
if ( expression ) {
statement1
statement2
}
其他的例子：
if (avg >= 65 )
grade= "Pass"
else
grade= "Fail"
if(avg >= 90) grade = "A"
elseif (avg >= 80) grade = "B"
elseif (avg >= 70) grade = "C"
elseif (avg >= 60) grade = "D"

elsegrade = "F"
这种能够连续条件只有当一个条件表达式计算结果为真时才停止求值，这时将
跳过其他的条件。如果没有一个条件表达式的计算结果为真，将执行最后的
else部分。

条件操作符
expr ? action1 : action2
例如：
grade= (avg >= 60) ? "Pass" : "Fail"

循环
while循环
while循环语法：
while(condition)
action
例如：
i = 1
while( i <= 4 ) {
print$i
++i
}

do 循环
do
action
while(condition)
例如：
BEGIN{
do {
++x
printx
}while ( x <= 4 )
}
for 循环
for (set_counter ; test_counter ; increment_counter )
action
例如：
从第一个字段到最后一个字段
for (i = 1; i <= NF; i++ )
print$i
从最后一个字段到第一个字段
for (i = NF; i >= 1; i-- )

print$i
用for实现
total= 0
for(i = 2; i <= NF; ++i)
#total= $2 + $3 + $4 + $5 + $6
#avg= total / 5
total+= $i
avg =total / (NF - 1)
求阶乘
5！=5*4*3*2*1
fact= number
for(x = number - 1 ; x > 1; x--)
fact*= x
完整脚本 factorial
影响流控制的其他语句
影响控制流
break退出循环
continue终止当前的循环，并从循环的顶部开始一个新的循环
影响主输入循环
next 读入下一行，并返回脚本的顶部
exit 使主输入循环退出并将控制转移到END