Shell常用工具
Linux中有很多非常實用的工具或命令,靈活運用這些工具,可以幫助我們在Shell編程中化繁為簡,如虎添翼。可能一個工具或命令就能讓原本負責的問題快速解決,本章節我們來一起豐富我們的工具庫,日??梢远喾e累總結,幫助我們更好的編寫Shell。
1. sort
簡介:顧名思義,就是用來排序的工具,在我們日常工作中對于重復列的多行輸出,如果想要對內容按照特定規則排序,此時就用到了sort工具。
原理:sort 將文件的每一行作為一個單位,相互比較,比較原則默認情況是從首字符向后,依次按 ASCII 碼值進行比較, 后將他們按升序輸出。
語法:sort [OPTION]... [FILE]…
選項說明:
- -t:指定以什么作為列分割
- -k:用來制定利用那列進行排序,通常
-t
于-k
配合使用 - -r:將文本文件降序輸出
- -n:以數組來進行生序排序
- -f:忽略大小寫字母
- -u:取消重復的行
在此我們不全部展開起所有選項,只根據日常經驗結合實際案例列舉最常用的選項進行說明。
實例:
- 對/etc/passwd中以uid從大到小排序
[root@10-234-1-235 ~]# sort -t: -k3 -n -r /etc/passwd
saslauth:x:499:76:Saslauthd user:/var/empty/saslauth:/sbin/nologin
gitlab-www:x:498:497::/var/opt/gitlab/nginx:/bin/false
git:x:497:496::/var/opt/gitlab:/bin/sh
gitlab-redis:x:496:495::/var/opt/gitlab/redis:/bin/false
gitlab-psql:x:495:494::/var/opt/gitlab/postgresql:/bin/sh
gitlab-prometheus:x:494:493::/var/opt/gitlab/prometheus:/bin/sh
mongod:x:493:492:mongod:/var/lib/mongo:/bin/false
nobody:x:99:99:Nobody:/:/sbin/nologin
postfix:x:89:89::/var/spool/postfix:/sbin/nologin
dbus:x:81:81:System message bus:/:/sbin/nologin
sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
vcsa:x:69:69:virtual console memory owner:/dev:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
gopher:x:13:30:gopher:/var/gopher:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
halt:x:7:0:halt:/sbin:/sbin/halt
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
sync:x:5:0:sync:/sbin:/bin/sync
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
root:x:0:0:root:/root:/bin/bash
通過上例可以看到,利用-t
選項指定/etc/passwd文件中,以:
作為列進行分割,指定uid的列為k3
,-n以數字進行排序,-r
為倒序排序輸出。
2. uniq
簡介:對于一些重復輸出的行進行去重。
語法:uniq [OPTION]... [INPUT [OUTPUT]]
選項說明:
- -c: 打印出現的次數,只能統計相鄰的;
- -d: 只打印重復行;
- -u: 只打印不重復行;
- -D: 只打印重復行,并且把所有重復行打印出來。
實例:
- 對/etc/passwd中以
:
,對最后一列求出現的次數
[root@master ~]# awk -F":" '{print $NF}' /etc/passwd
/bin/bash
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/bin/sync
/sbin/shutdown
/sbin/halt
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/bin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
[root@master ~]# awk -F":" '{print $NF}' /etc/passwd |sort |uniq -c |sort -nr
22 /sbin/nologin
1 /sbin/shutdown
1 /sbin/halt
1 /bin/sync
1 /bin/nologin
1 /bin/bash
先利用awk打印出最后一列內容,之后利用sort 來進行排序,將相同的字符規在一起輸出,最后對相同的行進行去重,得出每種不同類型shell出現的次數,最后對數學從大到小排序。
3. find
簡介:顧名思義,就是用來在系統中查找文件的工具,可以指定一個基礎起始目錄,根據不同的選項查找不同的文件。
語法:find path -option [ -print ] [ -exec -ok command ] {} \;
原理:find 根據option在指定的系統路徑中查找文件,如果查找到與對應的exec命令,則執行對應的command。
- print: find 命令將匹配的文件輸出到標準輸出;
- exec: find 命令對匹配的文件執行該參數所給出的 shell 命令。相應命令的形式為 ‘command’ {} ;,注意 {} 和 \;之間的空格;
- ok: 和 - exec 的作用相同,只不過以一種更為安全的模式來執行該參數所給出的 shell 命令,在執行每一個命令之前,都會給出提示,讓用戶來確定是否執行;
選項說明:
- -name filename #查找名為 filename 的文件
- -perm #按執行權限來查找
- -user username #按文件屬主來查找
- -group groupname #按組來查找
- -mtime -n +n #按文件更改時間來查找文件,-n 指 n 天以內,+n 指 n 天以前
- -atime -n +n #按文件訪問時間來查 GIN: 0px">
- -ctime -n +n #按文件創建時間來查找文件,-n 指 n 天以內,+n 指 n 天以前
- -type b/d/c/p/l/f #查是塊設備、目錄、字符設備、管道、符號鏈接、普通文件
- -size n [c] #查長度為 n 塊 [或 n 字節] 的文件
- -depth #使查找在進入子目錄前先行查找完本目錄
- -prune #通常和 -path 一起使用,用于將特定目錄排除在搜索條件之外。過濾條件寫在其他條件前面。
在此我們對命令支持的選項全部展開詳解,根據日常經驗結合實際案例列舉最常用的選項進行說明:
實例:
- 在當前目錄尋找文件名稱以
.txt
結尾的文件并打印出來
[root@master ~]# find ~ -name "*.txt" -print
/root/kubesphere-all-advanced-2.0.2/scripts/os/requirements.txt
/root/kubesphere-all-advanced-2.0.2/kubesphere/roles/storages/NFS-Server/files/nfs-server-provisioner/templates/NOTES.txt
/root/kubesphere-all-advanced-2.0.2/kubesphere/roles/ks-devops/jenkins/files/jenkins/jenkins-update-center/templates/NOTES.txt
/root/kubesphere-all-advanced-2.0.2/kubesphere/roles/ks-devops/harbor/files/harbor/harbor/templates/NOTES.txt
/root/kubesphere-all-advanced-2.0.2/kubesphere/roles/metrics-server/files/metrics-server/templates/NOTES.txt
/root/kubesphere-all-advanced-2.0.2/kubesphere/roles/openpitrix/files/openpitrix/kubernetes/password.txt
- 查找 /usr/bin 目錄下大于 10M 的文件
[root@master ~]# find /usr/bin -size +10000k -exec ls -ld {} \;
-rwxr-xr-x. 1 root root 13606800 Jul 10 2018 /usr/bin/ceph-dencoder
-rwxr-xr-x. 1 root root 15863688 Jul 10 2018 /usr/bin/ceph-objectstore-tool
-rwxr-xr-x. 1 root root 15589080 Jul 10 2018 /usr/bin/ceph-osd
-rwxr-xr-x. 1 root root 33073928 Feb 10 2019 /usr/bin/docker
-rwxr-xr-x. 1 root root 38088856 Feb 10 2019 /usr/bin/docker-containerd
-rwxr-xr-x. 1 root root 68608416 Feb 10 2019 /usr/bin/dockerd
-rwxr-xr-x. 1 root root 20895160 Feb 10 2019 /usr/bin/docker-containerd-ctr
-rwxr-xr-x. 1 root root 10785264 Jul 10 2018 /usr/bin/ceph-mon
- 查找當前目錄下權限為 777 的文件
[root@master ~]# find . -perm 777 -print
./.helm/repository/cache/local-index.yaml
./kubesphere-all-v2.1.0/k8s/extra_playbooks/inventory
./kubesphere-all-v2.1.0/k8s/extra_playbooks/roles
./kubesphere-all-v2.1.0/k8s/contrib/terraform/openstack/hosts
4. date
在我們編寫 Shell 的時候經常遇到需要記錄日志的情況,在記錄日志的時候需要打上時間戳,以便后期查看那個時間節點運行執行的操作,此時就需要用到 date 命令
簡介:date 可以用來顯示或設定系統的日期與時間。
選項:
-d<字符串>:顯示字符串所指的日期與時間。字符串前后必須加上雙引號;
-s<字符串>:根據字符串來設置日期與時間。字符串前后必須加上雙引號;
-u:顯示GMT;
時間格式:
%Y -- 年份
%m -- 月份
%d -- 當月第幾天
%t -- Tab 跳格
%H -- 小時,24 小時格式 (0~23)
%I -- 小時,12 小時格式 (0~12)
%M -- 分鐘 (00~59)
%S -- 秒 (00~59)
%j -- 今年中的第幾天
%Z -- 以字符串形式輸出當前時區
%z -- 以數字形式輸出當前時區
%F -- 文件時間格式 same as % Y-% m-% d
%T -- 24 小時制時間表示 (hh:mm:ss)
- 實例
計算一個命令執行所需要的耗時
#!/bin/bash
start=$(date +%s)
echo "$(date +%F" "%T) 開始執行命令"
sleep 5
echo "$(date +%F" "%T) 執行命令完成"
end=$(date +%s)
difference=$(( end - start ))
echo "執行命令總耗時:$difference seconds."
[root@master ~]# bash time.sh
2020-04-19 10:19:58 開始執行命令
2020-04-19 10:20:03 執行命令完成
執行命令總耗時:5 seconds.
5. xargs
簡介:xargs 全稱是 transform arguments,意為轉換參數,它將標準輸入轉換為命令行參數。因為 linux 命令行中經常要使用到管道符連接不同的命令,但是有些命令不支持標準輸入,此時就需要使用 xargs 將標準輸入轉換為參數,
語法:stdin_input | xargs [option] cmd
原理:xargs 一般是通過管道符接受標準輸入并將其轉換為命令行參數傳遞給 cmd。
實例:
- 將標準輸入轉換成命令行參數
[root@master ~]# seq 1 6
1
2
3
4
5
6
[root@master ~]# seq 1 6 |xargs -n 2
1 2
3 4
5 6
- 刪除日志文件
ls *.log |xargs rm -r f {}
- 查找 /home/data 下權限為 644 的文件修改權限為 600
find /home/data -perm 644 | xargs chmod 600
- 查找 jpg 文件并打包
find / -name *.jpg -type f -print | xargs tar -cvzf images.tar.gz
6. 實例
6.1 需求
我們經常在 Linux 系統操作操作文件,俗話說常在河邊走,哪有不濕鞋,一不小心刪除重要文件是非常危險的。我們可以利用 Shell 腳本來制作一個類似于 Windows 下的回收站,配合定時任務,定期清理這個回收站中的內容,從而達到緩沖及規避危險操作。
6.2 思路
- 通過 alias rm 來將刪除的文件,移動文件到一個回收站目錄;
- 定期的在系統磁盤允許可控的使用率情況下,對回收站目錄下的文件進行刪除。
6.3 實現
#!/bin/bash
# function:自定義rm命令,每天晚上定時清理
# 指定變量
CMD_SCRIPTS=$HOME/.rm_scripts.sh
TRASH_DIR=$HOME/.TRASH_DIR
CRON_FILE=/var/spool/cron/root
BASHRC=$HOME/.bashrc
[ ! -d ${TRASH_DIR} ] && mkdir -p ${TRASH_DIR}
cat > $CMD_SCRIPTS <<EOF
PARA_CNT=\$#
TRASH_DIR=$TRASH_DIR
for i in \$*; do
DATE=\$(date +%F%T)
fileName=\$(basename \$i)
mv \$i \$TRASH_DIR/\$fileName.\$DATE
done
EOF
sed -i "s@$(grep 'alias rm=' $BASHRC)@alias rm='bash ${CMD_SCRIPTS}'@g" $BASHRC
source $HOME/.bashrc
# 制作定時清理任務
echo "0 0 * * * rm -rf $TRASH_DIR/*" >> $CRON_FILE
echo "刪除目錄:$TRASH_DIR"
echo "刪除腳本:$CMD_SCRIPTS"
echo "請執行:source $BASHRC 來加載文件或退出當前shell重新登錄"
對防治誤刪除腳本進行系統測試。
[root@10-234-1-235 ~]# bash custom_rm.sh
刪除目錄:/root/.TRASH_DIR
刪除腳本:/root/.rm_scripts.sh
請執行:source /root/.bashrc 來加載文件或退出當前shell重新登錄
[root@10-234-1-235 ~]# rm testdir/
[root@10-234-1-235 ~]# rm wget-log
[root@10-234-1-235 ~]# ls -la .TRASH_DIR/
total 16
drwxr-xr-x. 3 root root 4096 Apr 18 20:11 .
dr-xr-x---. 13 root root 4096 Apr 18 20:11 ..
drwxr-xr-x. 2 root root 4096 Apr 18 20:10 testdir.2020-04-1820:11:37
-rw-r--r--. 1 root root 0 Jan 9 21:59 wget-log.2020-04-1820:11:40
# 查看定時任務
[root@10-234-1-235 ~]# crontab -l
0 0 * * * rm -rf /root/.TRASH_DIR/*
7. 小結
Shell 編程就是利用工具加數據結構流程控制實現一組操作,所以掌握更多常用的工具或命令非常利于我們編寫 Shell 腳本,平時可以多嘗試利用各種命令或工具,并在 Shell 中熟練運用它們,勤練并反思總結,歸納整理,日積月累就會形成自己強大的工具庫。