awk - QLGQ/learning-python GitHub Wiki
awk
Introduction
awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说，awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
Usage
使用方法：awk '{pattern + action}' {filenames}。
尽管操作可能会很复杂，但语法总是这样，其中pattern表示awk在数据中查找的内容，而action是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。pattern就是要表示的正则表达式，用斜杠括起来。
awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。
Invocation
有三种方式调用awk。
命令行方式
语法：awk [-F field-separator] 'commands' input-file(s)。
其中，commands是真正的awk命令，[-F域分隔符]是可选的。input-file(s)是待处理的文件。
在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指明-F域分隔符的情况下，默认的域分隔符是空格或tab键。
shell脚本方式
将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。相当于shell脚本首行的：#!/bin/sh可以换成：#!/bin/awk。
将所有的awk命令插入一个单独文件，然后调用
语法：awk -f awk-script-file input-file(s)。
其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。
Examples
假设last -n 5的输出如下：
ubuntu@et-wuqiang:~/enoc-web/bbs/script$ last -n 5
ubuntu pts/3 192.168.4.134 Thu Mar 23 02:06 still logged in
ubuntu pts/3 192.168.4.134 Wed Mar 22 02:47 - 02:56 (00:08)
ubuntu pts/2 192.168.4.134 Wed Mar 22 02:25 still logged in
ubuntu pts/0 192.168.4.134 Wed Mar 22 01:23 still logged in
reboot system boot 3.13.0-49-generi Tue Mar 21 22:22 - 02:49 (2+04:26)
如果只是显示最近登录的5个账号：
ubuntu@et-wuqiang:~/enoc-web/bbs/script$ last -n 5 |awk '{print $1}'
ubuntu
ubuntu
ubuntu
ubuntu
reboot
awk工作流程是这样的：读入有'\n'换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域。$0表示所有域，$1表示第一个域，$n表示第n个域；默认的域分隔符是空格键或tab键。
如果只是显示/etc/passwd的账户和账户对应的shell，而账户与shell之间以逗号分割，而且在所有行添加列名name，shell，在最后一行添加“blue, /bin/nosh”。
ubuntu@et-wuqiang:~/enoc-web/bbs/script$ cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/usr/sbin/nologin
bin,/usr/sbin/nologin
sys,/usr/sbin/nologin
sync,/bin/sync
games,/usr/sbin/nologin
man,/usr/sbin/nologin
lp,/usr/sbin/nologin
mail,/usr/sbin/nologin
news,/usr/sbin/nologin
uucp,/usr/sbin/nologin
proxy,/usr/sbin/nologin
www-data,/usr/sbin/nologin
backup,/usr/sbin/nologin
list,/usr/sbin/nologin
irc,/usr/sbin/nologin
gnats,/usr/sbin/nologin
nobody,/usr/sbin/nologin
libuuid,
syslog,/bin/false
messagebus,/bin/false
landscape,/bin/false
sshd,/usr/sbin/nologin
pollinate,/bin/false
ubuntu,/bin/bash
mysql,/bin/false
xrdp,/bin/false
blue,/bin/nosh
awk工作流程是这样的：先执行BEGIN，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。
搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd。
搜索/etc/passwd有root关键字的所有行，并显示对应的shell
ubuntu@et-wuqiang:~/enoc-web/bbs/script$ awk -F: '/root/{print $7}' /etc/passwd
/bin/bash
这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。这里指定了action{print $7}。
AWK Programming
awk内置变量
awk有许多内置变量来设置环境信息，这些变量可以被改变。
自定义变量和赋值
除了awk的内置变量，awk还可以自定义变量。
下面统计/etc/passwd的账户人数
awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
......
user count is 40
count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。
这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:
awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd
[start]user count is 0
root:x:0:0:root:/root:/bin/bash
...
[end]user count is 40
除此之外，awk中还可以使用条件语句，循环语句以及数组。