简洁的 Bash 编程技巧

4 Nov
2012
# 作者: 团子 / / 本文采用CC BY-NC-SA 2.5协议授权,转载请注明本文链接

原文连接:http://kodango.com/simple-bash-programming-skills 作者:kodango

下面这几条是我自己在写shell代码的时候,比较喜欢的几种写法,抛砖引玉。

  1. 检查命令执行是否成功

第一种写法,比较常见:

echo abcdee | grep -q abcd

if [ $? -eq 0 ]; then
    echo "Found"
else
    echo "Not found"
fi
简洁的写法:

if echo abcdee | grep -q abc; then
    echo "Found"
else
    echo "Not found"
fi

当然你也可以不要if/else,不过这样可读性比较差:

[Sun Nov 04 05:58 AM] [kodango@devops] ~/workspace
$ echo abcdee | grep -q abc && echo "Found" || echo "Not found"
Found
  1. 将标准输出与标准错误输出重定向到/dev/null

第一种写法,比较常见:

grep "abc" test.txt 1>/dev/null 2>&1

常见的错误写法:

grep "abc" test.txt 2>&1 1>/dev/null

简洁的写法:

grep "abc" test.txt &> /dev/null
  1. awk的使用

举一个实际的例子,获取Xen DomU的id。

常见的写法:

sudo xm li | grep vm_name | awk '{print $2}'

简洁的写法:

sudo xm li | awk '/vm_name/{print $2}'
  1. 将一个文本的所有行用逗号连接起来

假设文件内容如下所示:

[Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace
$ cat /tmp/test.txt
1
2
3

使用Sed命令:

[Sat Nov 03 10:14 PM] [kodango@devops] ~/workspace
$ sed ':a;$!N;s/\n/,/;ta' /tmp/test.txt
1,2,3

简洁的写法:

[Sat Nov 03 10:04 PM] [kodango@devops] ~/workspace
$ paste -sd, /tmp/test.txt
1,2,3
  1. 过滤重复行

假设文件内容如下所示:

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
$ sort /tmp/test.txt
1
1
2
3

常用的方法:

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
$ sort /tmp/test.txt | uniq
1
2
3

简单的写法:

[Sat Nov 03 10:16 PM] [kodango@devops] ~/workspace
$ sort /tmp/test.txt -u
1
2
3
  1. grep查找单词

假设一个文本的每一行是一个ip地址,例如

[Sat Nov 03 10:20 PM] [kodango@devops] ~/workspace
$ cat /tmp/ip.list
10.0.0.1
10.0.0.12
10.0.0.123

使用grep查找是否包括10.0.0.1这个ip地址。常见的写法:

[Sat Nov 03 10:22 PM] [kodango@devops] ~/workspace
$ grep '10.0.0.1\>' /tmp/ip.list
10.0.0.1

简单的方法(其实这方法不见得简单,只是为了说明-w这个参数还是很有用的)

[Sat Nov 03 10:23 PM] [kodango@devops] ~/workspace
$ grep -w '10.0.0.1' /tmp/ip.list
10.0.0.1

顺便grep的-n/-H/-v/-f/-c这几参数都很有用。

  1. 临时设置环境变量

常见的写法:

[Sat Nov 03 10:26 PM] [kodango@devops] ~/workspace
$ export LC_ALL=zh_CN.UTF-8 

[六 11月 03 10:26 下午] [kodango@devops] ~/workspace
$ date
2012年 11月 03日 星期六 22:26:55 CST

简洁的写法:

[六 11月 03 10:26 下午] [kodango@devops] ~/workspace
$ unset LC_ALL

[Sat Nov 03 10:27 PM] [kodango@devops] ~/workspace
$ LC_ALL=zh_CN.UTF-8 date
2012年 11月 03日 星期六 22:27:43 CST

在命令之前加上环境变更的设置,只是临时改变当前执行命令的环境。

  1. $1,$2...等位置参数的使用

假设只想使用$2,$3..这几个参数,常见的做法是:

shift
echo "$@"

为什么不这样写呢?

echo "${@:2}"
  1. 退而求其次的写法

相信大家会有这种需求,当一个参数值没有提供时,可以使用默认值。常见的写法是:

arg=$1

if [ -z "$arg" ]; then
   arg=0
fi

简洁的写法是这样的:

arg=${1:-0}
  1. bash特殊参数--的用法

假设要用grep查找字符串中是否包含-i,我们会这样尝试:

[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
$ echo 'abc-i' | grep "-i"
Usage: grep [OPTION]... PATTERN [FILE]...
Try 'grep --help' for more information.

[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
$ echo 'abc-i' | grep "\-i"
abc-i

简洁的方法是:

[Sat Nov 03 10:45 PM] [kodango@devops] ~/workspace
$ echo 'abc-i' | grep -- -i
abc-i

bash中--后面的参数不会被当作选项解析。

  1. 函数的返回值默认是最后一行语句的返回值

    # Check whether an item is a function

    # $1: the function name

    # Return: 0(yes) or 1(no)

    function is_function() { local func_name=$1 test "type -t $1 2>/dev/null" = "function" }

不要画蛇添足再在后面加一行return $?了。

  1. 将printf格式化的结果赋值给变量

例如将数字转换成其十六进制形式,常见的写法是:

[Sat Nov 03 10:55 PM] [kodango@devops] ~/workspace
$ var=$(printf '%%%02x' 111)

简单的写法是:

[Sat Nov 03 10:54 PM] [kodango@devops] ~/workspace
$ printf -v var '%%%02x' 111

看看printf的help

[Sat Nov 03 10:53 PM] [kodango@devops] ~/workspace
$ help printf | grep -A 1 -B 1 -- -v
printf: printf [-v var] format [arguments]
    Formats and prints ARGUMENTS under control of the FORMAT.
--
    Options:
      -v var    assign the output to shell variable VAR rather than
            display it on the standard output
  1. 打印文件行

打印文件的第一行:

head -1 test.txt

打印文件的第2行:

sed -n '2p' test.txt

打印文件的第2到5行:

sed -n '2,5p' test.txt

打印文件的第2行始(包括第2行在内)5行的内容:

sed -n '2,+4p' test.txt

打印倒数第二行:

$ tail -2 test.txt | head -1
$ tac test.txt | sed -n '2p'

14.善用let或者(())命令做算术运算

如何对一个数字做++运算,可能你会这样用:

a=1
a=`expr a + 1`

为何不用你熟悉的:

a=1
let a++
let a+=2
  1. 获取软连接指定的真实文件名

如果你不知道,你可能会这样获取:

[Sat Nov 03 11:12 PM] [kodango@devops] ~/workspace
$ ls -l /usr/bin/python | awk -F'->' '{print $2}' | tr -d ' '
/usr/bin/python2

如果你知道有一个叫readlink的命令,那么:

[Sat Nov 03 11:13 PM] [kodango@devops] ~/workspace
$ readlink /usr/bin/python
/usr/bin/python2
  1. 获取一个字符的ASCII码

    [Sat Nov 03 11:14 PM] [kodango@devops] ~/workspace $ printf '%02x' "'+" 2b [Sat Nov 03 11:30 PM] [kodango@devops] ~/workspace $ echo -n '+' | od -tx1 -An | tr -d ' ' 2b

  2. 清空一个文件

常见的用法:

echo "" > test.txt

简单的写法:

> test.txt

18 不要忘记有here document

下面一段代码:

grep -v 1 /tmp/test.txt | while read line; do
    let a++
    echo --$line--
done

echo a:$a

执行后有什么问题吗?

[Sun Nov 04 05:35 AM] [kodango@devops] ~/workspace
$ sh test.sh
--2--
--3--
a:

发现a这个变量没有被赋值,为什么呢?因为管道后面的代码是在在一个子shell中执行的,所做的任何更改都不会对当前shell有影响,自然a这个变量就不会有赋值了。

换一种思路,可以这样做:

grep -v 1 /tmp/test.txt > /tmp/test.tmp

while read line; do
    let a++
    echo --$line--
done < /tmp/test.tmp

echo a:$a
rm -f /tmp/test.tmp

不过多了一个临时文件,最后还要删除。这里其实可以用到here document:

while read line2; do
    let b++
    echo ??$line2??
done << EOF
`grep -v 1 /tmp/test.txt`
EOF

echo b: $b

here document往往用于需要输出一大段文本的地方,例如脚本的help函数。

19.删除字符串中的第一个或者最后一个字符

假设字符串为:

[Sun Nov 04 10:21 AM] [kodango@devops] ~/workspace
$ str="aremoveb"

可能你第一个想法是通过sed或者其它命令来完成这个功能,但是其实有很简单的方法:

[Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace
$ echo "${str#?}"
removeb

[Sun Nov 04 10:24 AM] [kodango@devops] ~/workspace
$ echo "${str%?}"
aremove

类似地,你也可以删除2个、3个、4个……

有没有一次性删除第一个和最后一个字符的方法呢?答案当然是肯定的:

[Sun Nov 04 10:26 AM] [kodango@devops] ~/workspace
$ echo "${str:1:-1}"
remove

关于这些变量替换的内容在bash的man手册中都有说明。

  1. 使用逗号join数组元素

假设数组元素没有空格,可以用这种方法:

[Sun Nov 04 10:14 AM] [kodango@devops] ~/workspace
$ a=(1 2 3)
$ b="${a[*]}"

[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
$ echo ${b// /,}
1,2,3

注意:当该数组的长度非常长时,使用这种替换的时间开销很高,性能很差,推荐用sed。

假设数组元素包含有空格,可以借用printf命令来达到:

[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
$ a=(1 "2 3" 4)

[Sun Nov 04 10:15 AM] [kodango@devops] ~/workspace
$ printf ",%s" "${a[@]}" | cut -c2-
1,2 3,4
  1. Shell中的多进程

在命令行下,我们会在命令行后面加上&符号来让该命令在后台执行,在shell脚本中,使用"(cmd)"可以让fork一个子shell来执行该命令。利用这两点,可以实现shell的多线程:

job_num=10

function do_work()
{
    echo "Do work.."
}

for ((i=0; i < job_num ;i++)); do
    echo "Fork job $i"
    (do_work) &
done

wait   # wait for all job done
echo "All job have been done!"

注意最后的wait命令,作用是等待所有子进程结束。

更多内容请看下一篇文章:简洁的Bash编程技巧续篇。

(最近花了一星期多的时间写了一系列关于sed的文章笔记——Sed&awk笔记之sed篇。)

附几则小技巧:

1)sudo iptables -L -n | vim -
2)grep -v xxx | vim -
3)echo $'\''
4)set -- 1 2 3; echo "$@"
5)搜索stackoverflow/superuser等站点
6)VIM编辑远程文件 vim scp://xxx//etc/vimrc
7)远程执行脚本 ssh xxx bash > xxx.sh
加入我们 / 来 Wow!Ubuntu 问答社区参与更多讨论

21 Responses to 简洁的 Bash 编程技巧

Avatar

团子

Firefox 16.0 Firefox 16.0 Windows 7 Windows 7

November 4th, 2012 at 6:42 pm

感谢!

不过我没在文章中家!--more--,可否添加下,要不然首页看起来太丑了。

好像审核后我没法编辑文章的,代码是不是可以用pre更合适?blockquote多行代码有点凌乱。

Google Chrome 24.0.1312.2 Google Chrome 24.0.1312.2 Windows 7 Windows 7

riku Reply:

@团子, 嗯,我修改了一下,现在用 pre 了,应该好看多了。

谢谢你的好文, :)

Avatar

michael

Google Chrome 24.0.1312.2 Google Chrome 24.0.1312.2 Windows 7 Windows 7

November 4th, 2012 at 10:05 pm

第十七个,清空一个文件,作者的意思是不是说

test.txt
看样子是少了一个">“?

Firefox 16.0 Firefox 16.0 Windows 7 Windows 7

kodango Reply:

@michael, 对的,被吃了。

Avatar

sky

Google Chrome 22.0.1229.92 Google Chrome 22.0.1229.92 Windows Windows

November 5th, 2012 at 9:35 am

seq 10 | tr '\n' ','

Firefox 16.0 Firefox 16.0 Windows 7 Windows 7

kodango Reply:

@sky, 你这是有前提的,每个元素之前用\n分隔。

Avatar

SANDBRO

Internet Explorer 6.0 Internet Explorer 6.0 Windows XP Windows XP

November 5th, 2012 at 7:15 pm

不錯哦

Avatar

SANDBRO

Internet Explorer 6.0 Internet Explorer 6.0 Windows XP Windows XP

November 5th, 2012 at 7:16 pm

哇,我怎麼變成了IE6,還是XP.....

Avatar

spartan

Google Chrome 22.0.1229.94 Google Chrome 22.0.1229.94 GNU/Linux x64 GNU/Linux x64

November 6th, 2012 at 6:37 am

只想看看我显示的是什么!呵呵

Firefox 16.0 Firefox 16.0 Windows XP Windows XP

第三眼 Reply:

@spartan, ...

Avatar

shylockshao

Firefox 16.0 Firefox 16.0 Ubuntu Ubuntu

November 6th, 2012 at 3:15 pm

mark大神专贴

Avatar

Free

Mozilla Compatible Mozilla Compatible iPad iOS 5.1.1 iPad iOS 5.1.1

November 17th, 2012 at 4:27 pm

请教一下grep "abc" test.txt 1>/dev/null 2>&1 这个的2>&1是什么意思

Firefox 16.0 Firefox 16.0 Windows 7 Windows 7

kodango Reply:

@Free, 将标准错误重定向到标准输出

Google Chrome 21.0.1180.89 Google Chrome 21.0.1180.89 Windows 7 Windows 7

冄影 Reply:

@kodango,
&后台运行,是不放在哪里都可以?
比如: 2>1&或者 grep "abc" test.txt >& /dev/null

Firefox 17.0 Firefox 17.0 Windows 7 Windows 7

kodango Reply:

@冄影, 这个不是后台执行的意思,后台执行的&是放在命令最后的;而这里的&是和后面的文件描述符合在一起的,你可以把它想像成类似C语言里面的&a取址符。

Avatar

OWVPN

Firefox 16.0 Firefox 16.0 Windows XP Windows XP

December 25th, 2012 at 2:36 pm

好文章学习了,值得收藏!

Avatar

团子

Google Chrome 23.0.1271.97 Google Chrome 23.0.1271.97 Windows 7 Windows 7

January 3rd, 2013 at 11:12 am

由于博客原域名已经快过期,重新申请了一个新的域名kodango.com,请博主帮忙修改下原文链接,谢谢~

Google Chrome 25.0.1364.5 Google Chrome 25.0.1364.5 Windows 7 Windows 7

riku Reply:

@团子, 我看到你已经做了跳转,不改也没问题吧?

Google Chrome 23.0.1271.97 Google Chrome 23.0.1271.97 Windows 7 Windows 7

团子 Reply:

@riku, 嗯现在没问题,不过2月中旬这个域名就过期了。

Google Chrome 25.0.1364.5 Google Chrome 25.0.1364.5 Windows 7 Windows 7

riku Reply:

@团子, 好的,已修改。

Avatar

leohu

Google Chrome 24.0.1312.52 Google Chrome 24.0.1312.52 Windows 7 Windows 7

January 22nd, 2013 at 12:08 pm

内容不错,对我这种外行来说,挺实用的!!

top