如何使用Linux中的awk命令

這篇文章主要介紹了如何使用Linux中的awk命令，具有一定借鑒價值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

awk 是一種編程語言，用于在linux/unix下對文本和數據進行處理。數據可以來自標準輸入(stdin)、一個或多個文件，或其它命令的輸出。

awk

文本和數據進行處理的編程語言

補充說明

awk支持用戶自定義函數和動態正則表達式等先進功能，是linux/unix下的一個強大編程工具。它在命令行中使用，但更多是作為腳本來使用。awk有很多內建的功能，比如數組、函數等，這是它和C語言的相同之處，靈活性是awk最大的優勢。

awk命令格式和選項

語法形式

 awk [options] 'script' var=value file(s)
 awk [options] -f scriptfile var=value file(s)

常用命令選項

• -F fs fs指定輸入分隔符，fs可以是字符串或正則表達式，如-F:

• -v var=value 賦值一個用戶定義變量，將外部變量傳遞給awk

• -f scripfile 從腳本文件中讀取awk命令

• -m[fr] val 對val值設置內在限制，-mf選項限制分配給val的最大塊數目；-mr選項限制記錄的最大數目。這兩個功能是Bell實驗室版awk的擴展功能，在標準awk中不適用。

awk模式和操作

awk腳本是由模式和操作組成的。

模式

模式可以是以下任意一個：

• /正則表達式/：使用通配符的擴展集。

• 關系表達式：使用運算符進行操作，可以是字符串或數字的比較測試。

• 模式匹配表達式：用運算符~（匹配）和!~（不匹配）。

• BEGIN語句塊、pattern語句塊、END語句塊：參見awk的工作原理

操作

操作由一個或多個命令、函數、表達式組成，之間由換行符或分號隔開，并位于大括號內，主要部分是：

• 變量或數組賦值

• 輸出命令

• 內置函數

• 控制流語句

awk腳本基本結構

 awk 'BEGIN{ print "start" } pattern{ commands } END{ print "end" }' file

一個awk腳本通常由：BEGIN語句塊、能夠使用模式匹配的通用語句塊、END語句塊3部分組成，這三個部分是可選的。任意一個部分都可以不出現在腳本中，腳本通常是被 單引號 或 雙引號 中，例如：

 awk 'BEGIN{ i=0 } { i++ } END{ print i }' filename
 awk "BEGIN{ i=0 } { i++ } END{ print i }" filename

awk的工作原理

 awk 'BEGIN{ commands } pattern{ commands } END{ commands }'

• 第一步：執行BEGIN{ commands }語句塊中的語句；

• 第二步：從文件或標準輸入(stdin)讀取一行，然后執行pattern{ commands }語句塊，它逐行掃描文件，從第一行到最后一行重復這個過程，直到文件全部被讀取完畢。

• 第三步：當讀至輸入流末尾時，執行END{ commands }語句塊。

BEGIN語句塊 在awk開始從輸入流中讀取行 之前 被執行，這是一個可選的語句塊，比如變量初始化、打印輸出表格的表頭等語句通?？梢詫懺贐EGIN語句塊中。

END語句塊 在awk從輸入流中讀取完所有的行 之后 即被執行，比如打印所有行的分析結果這類信息匯總都是在END語句塊中完成，它也是一個可選語句塊。

pattern語句塊 中的通用命令是最重要的部分，它也是可選的。如果沒有提供pattern語句塊，則默認執行{ print }，即打印每一個讀取到的行，awk讀取的每一行都會執行該語句塊。

示例

 echo -e "A line 1\nA line 2" | awk 'BEGIN{ print "Start" } { print } END{ print "End" }'
 Start
 A line 1
 A line 2
 End

當使用不帶參數的print時，它就打印當前行，當print的參數是以逗號進行分隔時，打印時則以空格作為定界符。在awk的print語句塊中雙引號是被當作拼接符使用，例如：

 echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1,var2,var3; }'
 v1 v2 v3

雙引號拼接使用：

 echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1"="var2"="var3; }'
 v1=v2=v3

{ }類似一個循環體，會對文件中的每一行進行迭代，通常變量初始化語句（如：i=0）以及打印文件頭部的語句放入BEGIN語句塊中，將打印的結果等語句放在END語句塊中。

awk內置變量（預定義變量）

說明：AP表示第一個支持變量的工具，[A]=awk、[N]=nawk、[P]=POSIXawk、[G]=gawk

  **$n**  當前記錄的第n個字段，比如n為1表示第一個字段，n為2表示第二個字段。
  **$0**  這個變量包含執行過程中當前行的文本內容。
 [N]  **ARGC**  命令行參數的數目。
 [G]  **ARGIND**  命令行中當前文件的位置（從0開始算）。
 [N]  **ARGV**  包含命令行參數的數組。
 [G]  **CONVFMT**  數字轉換格式（默認值為%.6g）。
 [P]  **ENVIRON**  環境變量關聯數組。
 [N]  **ERRNO**  最后一個系統錯誤的描述。
 [G]  **FIELDWIDTHS**  字段寬度列表（用空格鍵分隔）。
 [A]  **FILENAME**  當前輸入文件的名。
 [P]  **FNR**  同NR，但相對于當前文件。
 [A]  **FS**  字段分隔符（默認是任何空格）。
 [G]  **IGNORECASE**  如果為真，則進行忽略大小寫的匹配。
 [A]  **NF**  表示字段數，在執行過程中對應于當前的字段數。
 [A]  **NR**  表示記錄數，在執行過程中對應于當前的行號。
 [A]  **OFMT**  數字的輸出格式（默認值是%.6g）。
 [A]  **OFS**  輸出字段分隔符（默認值是一個空格）。
 [A]  **ORS**  輸出記錄分隔符（默認值是一個換行符）。
 [A]  **RS**  記錄分隔符（默認是一個換行符）。
 [N]  **RSTART**  由match函數所匹配的字符串的第一個位置。
 [N]  **RLENGTH**  由match函數所匹配的字符串的長度。
 [N]  **SUBSEP**  數組下標分隔符（默認值是34）。

示例

 echo -e "line1 f2 f3\nline2 f4 f5\nline3 f6 f7" | awk '{print "Line No:"NR", No of fields:"NF, "$0="$0, "$1="$1, "$2="$2, "$3="$3}'
 Line No:1, No of fields:3 $0=line1 f2 f3 $1=line1 $2=f2 $3=f3
 Line No:2, No of fields:3 $0=line2 f4 f5 $1=line2 $2=f4 $3=f5
 Line No:3, No of fields:3 $0=line3 f6 f7 $1=line3 $2=f6 $3=f7

使用print $NF可以打印出一行中的最后一個字段，使用$(NF-1)則是打印倒數第二個字段，其他以此類推：

 echo -e "line1 f2 f3\n line2 f4 f5" | awk '{print $NF}'
 f3
 f5

 echo -e "line1 f2 f3\n line2 f4 f5" | awk '{print $(NF-1)}'
 f2
 f4

打印每一行的第二和第三個字段：

 awk '{ print $2,$3 }' filename

統計文件中的行數：

 awk 'END{ print NR }' filename

以上命令只使用了END語句塊，在讀入每一行的時，awk會將NR更新為對應的行號，當到達最后一行NR的值就是最后一行的行號，所以END語句塊中的NR就是文件的行數。

一個每一行中第一個字段值累加的例子：

 seq 5 | awk 'BEGIN{ sum=0; print "總和：" } { print $1"+"; sum+=$1 } END{ print "等于"; print sum }'
 總和：
 1+
 2+
 3+
 4+
 5+
 等于
 15

將外部變量值傳遞給awk

借助 -v選項 ，可以將外部值（并非來自stdin）傳遞給awk：

 VAR=10000
 echo | awk -v VARIABLE=$VAR '{ print VARIABLE }'

另一種傳遞外部變量方法：

 var1="aaa"
 var2="bbb"
 echo | awk '{ print v1,v2 }' v1=$var1 v2=$var2

當輸入來自于文件時使用：

 awk '{ print v1,v2 }' v1=$var1 v2=$var2 filename

以上方法中，變量之間用空格分隔作為awk的命令行參數跟隨在BEGIN、{}和END語句塊之后。

查找進程pid

 netstat -antup | grep 7770 | awk '{ print $NF NR}' | awk '{ print $1}'

awk運算與判斷

作為一種程序設計語言所應具有的特點之一，awk支持多種運算，這些運算與C語言提供的基本相同。awk還提供了一系列內置的運算函數（如log、sqr、cos、sin等）和一些用于對字符串進行操作（運算）的函數（如length、substr等等）。這些函數的引用大大的提高了awk的運算功能。作為對條件轉移指令的一部分，關系判斷是每種程序設計語言都具備的功能，awk也不例外，awk中允許進行多種測試，作為樣式匹配，還提供了模式匹配表達式（匹配）和!（不匹配）。作為對測試的一種擴充，awk也支持用邏輯運算符。

算術運算符

例：

 awk 'BEGIN{a="b";print a++,++a;}'
 0 2

注意：所有用作算術運算符進行操作，操作數自動轉為數值，所有非數值都變為0

賦值運算符

例：

 a+=5; 等價于：a=a+5; 其它同類

邏輯運算符

例：

 awk 'BEGIN{a=1;b=2;print (a>5 && b5 || b正則運算符

例：

 awk 'BEGIN{a="100testa";if(a ~ /^100*/){print "ok";}}'
 ok

關系運算符

例：

 awk 'BEGIN{a=11;if(a >= 9){print "ok";}}'
 ok

注意：>

其它運算符

例：

 awk 'BEGIN{a="b";print a=="b"?"ok":"err";}'
 ok

 awk 'BEGIN{a="b";arr[0]="b";arr[1]="c";print (a in arr);}'
 0

 awk 'BEGIN{a="b";arr[0]="b";arr["b"]="c";print (a in arr);}'
 1

運算級優先級表

!級別越高越優先   級別越高越優先

awk高級輸入輸出

讀取下一條記錄

awk中next語句使用：在循環逐行匹配，如果遇到next，就會跳過當前行，直接忽略下面語句。而進行下一行匹配。next語句一般用于多行合并：

 cat text.txt
 a
 b
 c
 d
 e
 
 awk 'NR%2==1{next}{print NR,$0;}' text.txt
 2 b
 4 d

當記錄行號除以2余1，就跳過當前行。下面的print NR,$0也不會執行。下一行開始，程序有開始判斷NR%2值。這個時候記錄行號是：2 ，就會執行下面語句塊：'print NR,$0'

分析發現需要將包含有“web”行進行跳過，然后需要將內容與下面行合并為一行：

 cat text.txt
 web01[192.168.2.100]
 httpd            ok
 tomcat               ok
 sendmail               ok
 web02[192.168.2.101]
 httpd            ok
 postfix               ok
 web03[192.168.2.102]
 mysqld            ok
 httpd               ok
 0
 awk '/^web/{T=$0;next;}{print T":"t,$0;}' text.txt
 web01[192.168.2.100]:   httpd            ok
 web01[192.168.2.100]:   tomcat               ok
 web01[192.168.2.100]:   sendmail               ok
 web02[192.168.2.101]:   httpd            ok
 web02[192.168.2.101]:   postfix               ok
 web03[192.168.2.102]:   mysqld            ok
 web03[192.168.2.102]:   httpd               ok

簡單地讀取一條記錄

awk getline用法：輸出重定向需用到getline函數。getline從標準輸入、管道或者當前正在處理的文件之外的其他輸入文件獲得輸入。它負責從輸入獲得下一行的內容，并給NF,NR和FNR等內建變量賦值。如果得到一條記錄，getline函數返回1，如果到達文件的末尾就返回0，如果出現錯誤，例如打開文件失敗，就返回-1。

getline語法：getline var，變量var包含了特定行的內容。

awk getline從整體上來說，用法說明：

• 當其左右無重定向符|或時： getline作用于當前文件，讀入當前文件的第一行給其后跟的變量var或$0（無變量），應該注意到，由于awk在處理getline之前已經讀入了一行，所以getline得到的返回結果是隔行的。

• 當其左右有重定向符|或時： getline則作用于定向輸入文件，由于該文件是剛打開，并沒有被awk讀入一行，只是getline讀入，那么getline返回的是該文件的第一行，而不是隔行。

示例：

執行linux的date命令，并通過管道輸出給getline，然后再把輸出賦值給自定義變量out，并打印它：

 awk 'BEGIN{ "date" | getline out; print out }' test

執行shell的date命令，并通過管道輸出給getline，然后getline從管道中讀取并將輸入賦值給out，split函數把變量out轉化成數組mon，然后打印數組mon的第二個元素：

 awk 'BEGIN{ "date" | getline out; split(out,mon); print mon[2] }' test

命令ls的輸出傳遞給geline作為輸入，循環使getline從ls的輸出中讀取一行，并把它打印到屏幕。這里沒有輸入文件，因為BEGIN塊在打開輸入文件前執行，所以可以忽略輸入文件。

 awk 'BEGIN{ while( "ls" | getline) print }'

關閉文件

awk中允許在程序中關閉一個輸入或輸出文件，方法是使用awk的close語句。

 close("filename")

filename可以是getline打開的文件，也可以是stdin，包含文件名的變量或者getline使用的確切命令?；蛞粋€輸出文件，可以是stdout，包含文件名的變量或使用管道的確切命令。

輸出到一個文件

awk中允許用如下方式將結果輸出到一個文件：

 echo | awk '{printf("hello word!n") > "datafile"}'
 # 或
 echo | awk '{printf("hello word!n") >> "datafile"}'

設置字段定界符

默認的字段定界符是空格，可以使用-F "定界符"  明確指定一個定界符：

 awk -F: '{ print $NF }' /etc/passwd
 # 或
 awk 'BEGIN{ FS=":" } { print $NF }' /etc/passwd

在BEGIN語句塊中則可以用OFS=“定界符”設置輸出字段的定界符。

流程控制語句

在linux awk的while、do-while和for語句中允許使用break,continue語句來控制流程走向，也允許使用exit這樣的語句來退出。break中斷當前正在執行的循環并跳到循環外執行下一條語句。if 是流程選擇用法。awk中，流程控制語句，語法結構，與c語言類型。有了這些語句，其實很多shell程序都可以交給awk，而且性能是非?？斓?。下面是各個語句用法。

條件判斷語句

 if(表達式)
   語句1
 else
   語句2

格式中語句1可以是多個語句，為了方便判斷和閱讀，最好將多個語句用{}括起來。awk分枝結構允許嵌套，其格式為：

 if(表達式)
   {語句1}
 else if(表達式)
   {語句2}
 else
   {語句3}

示例：

 awk 'BEGIN{
 test=100;
 if(test>90){
   print "very good";
   }
   else if(test>60){
     print "good";
   }
   else{
     print "no pass";
   }
 }'
 
 very good

每條命令語句后面可以用; 分號 結尾。

循環語句

# while語句

while(表達式)
  {語句}

示例：

awk 'BEGIN{
test=100;
total=0;
while(i# for循環for循環有兩種格式：格式1：for(變量 in 數組)
  {語句}示例： awk 'BEGIN{
 for(k in ENVIRON){
   print k"="ENVIRON[k];
 }
 
 }'
 TERM=linux
 G_BROKEN_FILENAMES=1
 SHLVL=1
 pwd=/root/text
 ...
 logname=root
 HOME=/root
 SSH_CLIENT=192.168.1.21 53087 22注：ENVIRON是awk常量，是子典型數組。格式2： for(變量;條件;表達式)
   {語句}示例： awk 'BEGIN{
 total=0;
 for(i=0;i# do循環 do
 {語句} while(條件)例子： awk 'BEGIN{
 total=0;
 i=0;
 do {total+=i;i++;} while(i其他語句

• break  當 break 語句用于 while 或 for 語句時，導致退出程序循環。

• continue  當 continue 語句用于 while 或 for 語句時，使程序循環移動到下一個迭代。

• next  能能夠導致讀入下一個輸入行，并返回到腳本的頂部。這可以避免對當前輸入行執行其他的操作過程。

• exit  語句使主輸入循環退出并將控制轉移到END,如果END存在的話。如果沒有定義END規則，或在END中應用exit語句，則終止腳本的執行。

數組應用

數組是awk的靈魂，處理文本中最不能少的就是它的數組處理。因為數組索引（下標）可以是數字和字符串在awk中數組叫做關聯數組(associative arrays)。awk 中的數組不必提前聲明，也不必聲明大小。數組元素用0或空字符串來初始化，這根據上下文而定。

數組的定義

數字做數組索引（下標）：

 Array[1]="sun"
 Array[2]="kai"

字符串做數組索引（下標）：

 Array["first"]="www"
 Array"[last"]="name"
 Array["birth"]="1987"

使用中print Array[1]會打印出sun；使用print Array[2]會打印出kai；使用print["birth"]會得到1987。

讀取數組的值

 { for(item in array) {print array[item]}; }       #輸出的順序是隨機的
 { for(i=1;i數組相關函數得到數組長度： awk 'BEGIN{info="it is a test";lens=split(info,tA," ");print length(tA),lens;}'
 4 4length返回字符串以及數組長度，split進行分割字符串為數組，也會返回分割得到數組長度。 awk 'BEGIN{info="it is a test";split(info,tA," ");print asort(tA);}'
 4asort對數組進行排序，返回數組長度。輸出數組內容（無序，有序輸出）： awk 'BEGIN{info="it is a test";split(info,tA," ");for(k in tA){print k,tA[k];}}'
 4 test
 1 it
 2 is
 3 afor…in輸出，因為數組是關聯數組，默認是無序的。所以通過for…in得到是無序的數組。如果需要得到有序數組，需要通過下標獲得。 awk 'BEGIN{info="it is a test";tlen=split(info,tA," ");for(k=1;k注意：數組下標是從1開始，與C數組不一樣。判斷鍵值存在以及刪除鍵值： # 錯誤的判斷方法：
 awk 'BEGIN{tB["a"]="a1";tB["b"]="b1";if(tB["c"]!="1"){print "no found";};for(k in tB){print k,tB[k];}}'
 no found
 a a1
 b b1
 c以上出現奇怪問題，tB[“c”]沒有定義，但是循環時候，發現已經存在該鍵值，它的值為空，這里需要注意，awk數組是關聯數組，只要通過數組引用它的key，就會自動創建改序列。 # 正確判斷方法：
 awk 'BEGIN{tB["a"]="a1";tB["b"]="b1";if( "c" in tB){print "ok";};for(k in tB){print k,tB[k];}}'  
 a a1
 b b1if(key in array)通過這種方法判斷數組中是否包含key鍵值。 #刪除鍵值：
 awk 'BEGIN{tB["a"]="a1";tB["b"]="b1";delete tB["a"];for(k in tB){print k,tB[k];}}'                    
 b b1delete array[key]可以刪除，對應數組key的，序列值。二維、多維數組使用awk的多維數組在本質上是一維數組，更確切一點，awk在存儲上并不支持多維數組。awk提供了邏輯上模擬二維數組的訪問方式。例如，array[2,4]=1這樣的訪問是允許的。awk使用一個特殊的字符串SUBSEP(?34)作為分割字段，在上面的例子中，關聯數組array存儲的鍵值實際上是2?344。類似一維數組的成員測試，多維數組可以使用if ( (i,j) in array)這樣的語法，但是下標必須放置在圓括號中。類似一維數組的循環訪問，多維數組使用for ( item in array )這樣的語法遍歷數組。與一維數組不同的是，多維數組必須使用split()函數來訪問單獨的下標分量。 awk 'BEGIN{
 for(i=1;i可以通過array[k,k2]引用獲得數組內容。另一種方法： awk 'BEGIN{
 for(i=1;i內置函數awk內置函數，主要分以下3種類似：算數函數、字符串函數、其它一般函數、時間函數。算術函數

舉例說明：

 awk 'BEGIN{OFMT="%.3f";fs=sin(1);fe=exp(10);fl=log(10);fi=int(3.1415);print fs,fe,fl,fi;}'
 0.841 22026.466 2.303 3

OFMT 設置輸出數據格式是保留3位小數。

獲得隨機數：

 awk 'BEGIN{srand();fr=int(100*rand());print fr;}'
 78
 awk 'BEGIN{srand();fr=int(100*rand());print fr;}'
 31
 awk 'BEGIN{srand();fr=int(100*rand());print fr;}'
 41

字符串函數

注：Ere都可以是正則表達式。

gsub,sub使用

 awk 'BEGIN{info="this is a test2010test!";gsub(/[0-9]+/,"!",info);print info}'
 this is a test!test!

在 info中查找滿足正則表達式，/[0-9]+/ 用””替換，并且替換后的值，賦值給info 未給info值，默認是$0

查找字符串（index使用）

 awk 'BEGIN{info="this is a test2010test!";print index(info,"test")?"ok":"no found";}'
 ok

未找到，返回0

正則表達式匹配查找(match使用）

 awk 'BEGIN{info="this is a test2010test!";print match(info,/[0-9]+/)?"ok":"no found";}'
 ok

截取字符串(substr使用）

 [wangsl@centos5 ~]$ awk 'BEGIN{info="this is a test2010test!";print substr(info,4,10);}'
 s is a tes

從第 4個 字符開始，截取10個長度字符串

字符串分割（split使用）

 awk 'BEGIN{info="this is a test";split(info,tA," ");print length(tA);for(k in tA){print k,tA[k];}}'
 4
 4 test
 1 this
 2 is
 3 a

分割info，動態創建數組tA，這里比較有意思，awk for …in循環，是一個無序的循環。 并不是從數組下標1…n ，因此使用時候需要注意。

格式化字符串輸出（sprintf使用）

格式化字符串格式：

其中格式化字符串包括兩部分內容：一部分是正常字符，這些字符將按原樣輸出; 另一部分是格式化規定字符，以"%"開始，后跟一個或幾個規定字符,用來確定輸出內容格式。

 awk 'BEGIN{n1=124.113;n2=-1.224;n3=1.2345; printf("%.2f,%.2u,%.2g,%X,%on",n1,n2,n3,n1,n1);}'
 124.11,18446744073709551615,1.2,7C,174

一般函數

打開外部文件（close用法）

 awk 'BEGIN{while("cat /etc/passwd"|getline){print $0;};close("/etc/passwd");}'
 root:x:0:0:root:/root:/bin/bash
 bin:x:1:1:bin:/bin:/sbin/nologin
 daemon:x:2:2:daemon:/sbin:/sbin/nologin

逐行讀取外部文件(getline使用方法）

 awk 'BEGIN{while(getline 
 awk 'BEGIN{print "Enter your name:";getline name;print name;}'
 Enter your name:
 chengmo
 chengmo調用外部應用程序(system使用方法） awk 'BEGIN{b=system("ls -al");print b;}'
 total 42092
 drwxr-xr-x 14 chengmo chengmo     4096 09-30 17:47 .
 drwxr-xr-x 95 root   root       4096 10-08 14:01 ..b返回值，是執行結果。時間函數

建指定時間(mktime使用）

 awk 'BEGIN{tstamp=mktime("2001 01 01 12 12 12");print strftime("%c",tstamp);}'
 2001年01月01日 星期一 12時12分12秒

 awk 'BEGIN{tstamp1=mktime("2001 01 01 12 12 12");tstamp2=mktime("2001 02 01 0 0 0");print tstamp2-tstamp1;}'
 2634468

求2個時間段中間時間差，介紹了strftime使用方法

 awk 'BEGIN{tstamp1=mktime("2001 01 01 12 12 12");tstamp2=systime();print tstamp2-tstamp1;}'
 308201392

strftime日期和時間格式說明符

感謝你能夠認真閱讀完這篇文章，希望小編分享的“如何使用Linux中的awk命令”這篇文章對大家有幫助，同時也希望大家多多支持億速云，關注億速云行業資訊頻道，更多相關知識等著你來學習!