2016年11月24日星期四

check process memory usage on Linux

check process memory usage on Linux

1. Use this tool:

  http://www.pixelbeat.org/scripts/ps_mem.py 

 [root@web2 ~]# python ./ps_mem.py
 Private  +   Shared  =  RAM used       Program

   4.0 KiB +  10.5 KiB =  14.5 KiB       klogd
   4.0 KiB +  16.5 KiB =  20.5 KiB       udevd
   4.0 KiB +  23.0 KiB =  27.0 KiB       glusterd
 76.0 KiB +  17.0 KiB =  93.0 KiB       init
 84.0 KiB +  11.0 KiB =  95.0 KiB       syslogd
100.0 KiB +  22.0 KiB = 122.0 KiB       agetty
436.0 KiB +  13.0 KiB = 449.0 KiB       klogd1
392.0 KiB + 265.0 KiB = 657.0 KiB       sendmail.sendmail (2)
   1.0 MiB +  66.5 KiB =   1.1 MiB       bash
   1.5 MiB + 268.0 KiB =   1.8 MiB       sshd (2)
  3.0 MiB + 847.0 KiB =   3.8 MiB       crond (13)
137.2 MiB +  11.0 MiB = 148.2 MiB       httpd (34)
253.0 MiB +   5.4 MiB = 258.4 MiB       php (18)
---------------------------------
                        414.7 MiB
=================================


2.

htop

Similar to the top command, the htop command also shows memory usage along with various other details.
The header on top shows cpu usage along with RAM and swap usage with the corresponding figures.


A few ways to execute commands remotely using SSH

In this article I describe a few ways to execute commands on a remote host using SSH. If you want to follow along, first set HOST variable to your testing server, optimaly configured with publickey authentication.

Single-line command

Executing a single command:
ssh $HOST ls
Executing several commands, inlined, separated with ;
ssh $HOST ls; pwd; cat /path/to/remote/file
Executing a command with sudo
ssh $HOST sudo ls /root
sudo: no tty present and no askpass program specified
sudo requires interactive shell, it can be enabled with -t parameter.
ssh -t $HOST sudo ls /root
[sudo] password for zaiste:

Simple multi-line command

VAR1="Variable 1"
ssh $HOST '
ls
pwd
if true; then
    echo "True"
    echo $VAR1      # <-- it won't work
else
    echo "False"
fi
'
Shell variables won't be expanded with this method.

Multi-line command with variables expansion

In order to make variables expansion work, use bash -c.
VAR1="Variable 1"
ssh $HOST bash -c "'
ls
pwd
if true; then
    echo $VAR1
else
    echo "False"
fi
'"

Multi-line command from local script

A local script can be executed against remote machine with a simple stdin redirection.
cat script.sh
ls
pwd
hostname
ssh $HOST < script.sh

Multi-line command using Heredoc

Using heredoc is probably the most convenient way to execute multi-line commands on a remote machine. Also, variables expansion works out-of-the-box.
VAR1="boo"
ssh -T $HOST << EOSSH
ls
pwd
if true; then
  echo $VAR1
else
  echo "False"
fi
EOSSH
If you need to assign variables within the heredoc block, put the opening heredoc in single quotes.
ssh -T $HOST <<'EOSSH'
VAR1=`pwd`
echo $VAR1

VAR2=$(uname -a)
echo $VAR2

EOSSH
The following warning message
Pseudo-terminal will not be allocated because stdin is not a terminal.
can be disabled by adding -T parameter to ssh execution.

2016年11月23日星期三

lftp 限速

在/etc/lftp.conf中加入:
    set net:limit-rate 819200,40960
下载800kB,上传40kB

2016年11月22日星期二

sed常用命令


使用sed删除匹配行及上下几行


删除包含DATA Partition的行,同时删除这行的后面2行和上面3行
sed -i ‘/DATA Partition/,+2d;:go;1,3!{P;N;D};N;bgo’ report.cfg
参考文档:
sed ‘/5/,+3d;:go;1,2!{P;N;D};N;bgo’ file
/5/,+3d 对匹配到5的那一行以及该行的后三行都执行d操作(d 清空模式空间)
:go 设一个标签go
1,2!{P;N;D} 除了第一行和第二行,其他行都执行P;N;D操作(P 打印当前模式空间的第一行;N 将下一行添加到当前模式空间中;D 删除模式空间的第一行并开始一个新的循环)
N 这个命令只对第一行和第二行有效了,因为其他行在上一个命令中都执行了D,直接开始新的循环了,所以这个命令不会被执行。
bgo 返回go标签

http://bbs.chinaunix.net/thread-3775201-1-1.html
=================================================

** 在一文件中指定的字符后插入内容
   sed -i s/指定的字符/&要插入的字符/ 文件

** 在一文件中指定的字符前和后插入内容

   sed -i s/指定的字符/前面要插入的字符&后面要插入的字符/ 文件


** 在匹配行前插入
   sed -i ’/pattern/ i “插入字符串”’ datafile

** 在匹配行后插入
   sed -i ’/pattern/ a “插入字符串”’ datafile

**   在文件的每行末尾添加一个回车
     sed '/$/a\\n' test.txt

**  在文件的末尾添加'eof'
     sed '$a\eof' test.txt
** sed 中引用环境变量,注意文件结尾也用 $ 时,要把这个$转义才行,且sed 命令只能放在双引号内。
   sed "\$a30 2 * * * /usr/local/bin/backup.sh $test"  cron/root

** 替换空格之前的所有字符(包括空格)
     sed  's/.* /字符串/g' datafile  #注意那个红点

**在匹配行的行尾增加字符
    sed '/pattern/s/$/插入字符串/g' datafile

**在匹配行的行首增加字符

    sed '/pattern/s/^/插入字符串/g' datafile
===============================================


文本处理工具之二 sed命令详解

      sed:Stream Editor文本流编辑,sed是一个“非交互式的”面向字符流的编辑器。能同时处理多个文件多行的内容,可以不对原文件改动,把整个文件输入到屏幕,可以把只匹配到模式的内容输入到屏幕上。还可以对原文件改动,但是不会再屏幕上返回结果。
sed命令的语法格式:
       sed的命令格式: sed [option]  'sed command'filename
sed的脚本格式:sed [option] -f  'sed  script'filename
sed命令的选项(option)
                -n :只打印模式匹配的行
-e :直接在命令行模式上进行sed动作编辑,此为默认选项
-f :将sed的动作写在一个文件内,用f  filename 执行filename内的sed动作
-r :支持扩展表达式
-i 直接修改文件内容
sed在文件中查询文本的方式:
1)使用行号,可以是一个简单数字,或是一个行号范围
 x                                  
x为行号
x,y
表示行号从x到y
/pattern
查询包含模式的行
/pattern   /pattern
查询包含两个模式的行
pattern/,x  
在给定行号上查询包含模式的行
x,/pattern/  
通过行号和模式查询匹配的行
x,y!  
查询不包含指定行号x和y的行

2)使用正则表达式、扩展正则表达式(必须结合-r选项)  
^
锚点行首的符合条件的内容,用法格式"^pattern"
$
锚点行尾的符合条件的内容,用法格式"pattern$"
^$
空白行
.
匹配任意单个字符
*
匹配紧挨在前面的字符任意次(0,1,多次)
.*
匹配任意长度的任意字符
\?
匹配紧挨在前面的字符0次或1次
\{m,n\}
匹配其前面的字符至少m次,至多n次
\{m,\}
匹配其前面的字符至少m次
\{m\}
精确匹配前面的m次\{0,n\}:0到n次          
\<
锚点词首----相当于  \b,用法格式:\<pattern
\>
锚点词尾,用法格式:\>pattern
\<pattern\>
单词锚点
\(\)
分组,用法格式:\(pattern\),引用\1,\2
[]
匹配指定范围内的任意单个字符
[^]
匹配指定范围外的任意单个字符
[:digit:]
所有数字,  相当于0-9, [0-9]--->  [[:digit:]]
[:lower:]
所有的小写字母
[:upper:]
所有的大写字母
[:alpha:]
所有的字母
[:alnum:]
相当于0-9a-zA-Z
[:space:]
空白字符
[:punct:]
所有标点符号
1
2
3
4
5
6
7
#######sed的匹配模式支持正则表达式#####################
sed'5 q'/etc/passwd#打印前5行
sed-n '/r*t/p'/etc/passwd#打印匹配r有0个或者多个,后接一个t字符的行
sed-n '/.r.*/p'/etc/passwd#打印匹配有r的行并且r后面跟任意字符
sed-n '/o*/p'/etc/passwd#打印o字符重复任意次
sed-n '/o\{1,\}/p'/etc/passwd#打印o字重复出现一次以上
sed-n '/o\{1,3\}/p'/etc/passwd#打印o字重复出现一次到三次之间以上
   sed的编辑命令(sed  command)
p
打印匹配行(和-n选项一起合用)
=
显示文件行号
a\  
在定位行号后附加新文本信息
i\
在定位行号后插入新文本信息
d    
删除定位行
c\  
用新文本替换定位文本
filename
写文本到一个文件,类似输出重定向 >
r    filename
从另一个文件中读文本,类似输入重定向  <
s
使用替换模式替换相应模式
q
第一个模式匹配完成后退出或立即退出
l
显示与八进制ACSII代码等价的控制符
{}
在定位行执行的命令组,用分号隔开
n  
从另一个文件中读文本下一行,并从下一条命令而不是第一条命令开始对其的处理
N
在数据流中添加下一行以创建用于处理的多行组
g
将模式2粘贴到/pattern n/
y    
传送字符,替换单个字符

对文件的操作无非就是”增删改查“,怎样用sed命令实现对文件的”增删改查“,玩转sed是写自动化脚本必须的基础之一。
sed命令打印文件信息(查询):
1
2
3
4
5
6
7
8
9
####用sed打印文件的信息的例子的命令######
sed -n '/^#/!p'  /etc/vsftpd/vsftpd.conf      
sed -n '/^#/!{/^$/!p}'  /etc/vsftpd/vsftpd.conf
sed -e '/^#/d' -e '/^$/d'  /etc/vsftpd/vsftpd.conf
sed -n '1,/adm/p' /etc/passwd
sed -n '/adm/,6p' /etc/passwd
sed -n '/adm/,4p' /etc/passwd
sed -n '/adm/,2p' /etc/passwd
###以下图片是对这些sed命令例子的解释和显示结果
sed命令实现对文件内容的添加:(对源文件添加的话就用-i参数):
1
2
3
4
5
6
7
8
9
10
####sed命令可以实现的添加######
#1)匹配行的行首添加,添加在同行
#2)匹配行的行中的某个字符后添加
#3)匹配行的行尾添加字符
#4)匹配行的行前面行添加
#5)匹配行的行后面行添加
#6)文件的行首添加一行
  [root@jie1 ~]# sed -i '1 i\sed command start' myfile
#7)文件的行尾追加一行
  [root@jie1 ~]# sed -i '$a \sed command end' myfile


sed命令实现对文件内容的删除:(对源文件直接删除用-i参数):
sed的删除操作是针对文件的行,如果想删除行中的某个字符,那就用替换(别急,替换稍后就讲,而且替换是sed最常用的)

重点sed命令实现对文件内容的替换(替换是在shell自动化脚本中用到最多的操作)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
#================源文件里面的内容===============================
[root@jie1 ~]# cat test
anonymous_enable=YES
write_enable=YES
local_umask=022
xferlog_enable=YES
connect_from_port_20=YES
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
DEVICE="eth0"
BOOTPROTO="static"
HWADDR="00:0C:29:90:79:78"
ONBOOT="yes"
IPADDR=172.16.22.1
NETMASK=255.255.0.0
#======================================================================
[root@jie1 ~]# sed -i '/DEVICE/c\Ethernet' test
        #匹配DEVICE的行,替换成Ethernet这行
[root@jie1 ~]# sed -i 's/static/dhcp/' test    
        #把static替换成dhcp(/,@,#都是前面所说的地址定界符)
[root@jie1 ~]# sed -i '/IPADDR/s@22\.1@10.12@' test
        #匹配IPADDR的行,把22.1替换成10.12由于.号有特殊意义所有需要转义
[root@jie1 ~]# sed -i '/connect/s#YES#NO#' test
        #匹配connect的行,把YES替换成NO
[root@jie1 ~]# sed -i 's/bin/tom/2g' test      
        #把所有匹配到bin的行中第二次及第二次之后出现bin替换成tom
[root@jie1 ~]# sed -i 's/daemon/jerry/2p' test 
        #把所有匹配到bin的行中第二次出现的daemon替换成jerry,并在生产与匹配行同样的行
[root@jie1 ~]# sed -i 's/adm/boss/2' test      
        #把所有匹配到adm的行中仅仅只是第二次出现的adm替换成boss
[root@jie1 ~]# sed -i '/root/{s/bash/nologin/;s/0/1/g}' test
        #匹配root的行,把bash替换成nologin,且把0替换成1
[root@jie1 ~]# sed -i 's/root/(&)/g' test                
        #把root用括号括起来,&表示引用前面匹配的字符
[root@jie1 ~]# sed -i 's/BOOTPROTO/#BOOTPROTO/' test     
        #匹配BOOTPROTO替换成#BOOTPROTO,在配置文件中一般用于注释某行
[root@jie1 ~]# sed -i 's/ONBOOT/#&/' test                
        #匹配ONBOOT的行的前面添加#号,在配置文件中也表示注释某行
[root@jie1 ~]# sed -i '/ONBOOT/s/#//' test               
        #匹配ONBOOT的行,把#替换成空,即去掉#号,也一般用作去掉#注释
#================执行以上sed命令之后文件显示的内容====================
[root@jie1 ~]# cat test
anonymous_enable=YES
write_enable=YES
local_umask=022
xferlog_enable=YES
connect_from_port_20=NO
(root):x:1:1:(root):/(root):/bin/nologin
bin:x:1:1:tom:/tom:/stom/nologin
daemon:x:2:2:jerry:/sbin:/stom/nologin
daemon:x:2:2:jerry:/sbin:/stom/nologin
adm:x:3:4:boss:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
Ethernet
#BOOTPROTO="dhcp"
HWADDR="00:0C:29:90:79:78"
ONBOOT="yes"
IPADDR=172.16.10.12
NETMASK=255.255.0.0

sed引用变量:(在自动化shell脚本 中也经常会使用到变量
     第一种当sed命令里面没有默认的变量时可以把单引号改成双引号;  
     第二种当sed命令里面有默认的变量时,那自己定义的变量需要加单引号,且sed里面的语句必须用单引
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
[root@jie1 ~]# cat >> myfile << EOF
> hello world
> i am jie
> how are you
> EOF   #先生成一个文件
[root@jie1 ~]# cat myfile
hello world
i am jie
how are you
[root@jie1 ~]# name=li
         #定义一个变量,且给变量赋值
[root@jie1 ~]# sed -i "s/jie/$name/" myfile
         #把匹配jie的字符替换成变量的值
[root@jie1 ~]# cat myfile
hello world
i am li
how are you
[root@jie1 ~]# sed -i "$a $name" myfile
          #当sed命令也有默认变量时,在去引用自己定义的变量会出现语法错误
sed: -e expression #1, char 3: extra characters after command
[root@jie1 ~]# sed -i '$a '$name'' myfile
          #在引用自定义的变量时,sed语句必须用单引引住,然后把自定义的变量也用单引号引住
[root@jie1 ~]# cat myfile
hello world
i am li
how are you
li
[root@jie1 ~]#

sed的其它高级使用:
1)把正在用sed操作的文件的内容写到例外一个文件中
1
2
3
4
5
6
7
8
9
10
11
12
[root@jie1 ~]# cat test   #sed操作的文件中的内容
Ethernet
#BOOTPROTO="dhcp"
HWADDR="00:0C:29:90:79:78"
ONBOOT="yes"
IPADDR=172.16.10.12
NETMASK=255.255.0.0
[root@jie1 ~]# sed -i 's/IPADDR/ip/w ip.txt' test
       #把sed操作的文件内容保存到另外一个文件中,w表示保存,ip.txt文件名
[root@jie1 ~]# cat ip.txt  #查看新文件的内容
ip=172.16.10.12
[root@jie1 ~]#
2)读取一个文件到正在用sed操作的文件中
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
[root@jie1 ~]# cat myfile   #文件内容
hello world
i am li
how are you
li
[root@jie1 ~]# cat test  #将用sed操作的文件的内容
Ethernet
#BOOTPROTO="dhcp"
HWADDR="00:0C:29:90:79:78"
ONBOOT="yes"
IPADDR=172.16.10.12
NETMASK=255.255.0.0
[root@jie1 ~]# sed  -i '/Ethernet/r myfile' test
      #在匹配Ethernet的行,读进来另一个文件的内容,读进来的文件的内容会插入到匹配Ethernet的行后
[root@jie1 ~]# cat test  #再次查看用sed命令操作的行
Ethernet
hello world
i am li
how are you
li
#BOOTPROTO="dhcp"
HWADDR="00:0C:29:90:79:78"
ONBOOT="yes"
IPADDR=172.16.10.12
NETMASK=255.255.0.0
[root@jie1 ~]#

sed的经典例子:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
##1)、处理以下文件内容,将域名取出并进行计数排序,如处理:
http://www.baidu.com/index.html
http://www.baidu.com/1.html
http://post.baidu.com/index.html
http://mp3.baidu.com/index.html
http://www.baidu.com/3.html
http://post.baidu.com/2.html
得到如下结果:
域名的出现的次数 域名
3 www.baidu.com
2 post.baidu.com
1 mp3.baidu.com
[root@localhost shell]# cat file | sed -e ' s/http:\/\///' -e ' s/\/.*//' | sort | uniq -c | sort -rn
3 www.baidu.com
2 post.baidu.com
1 mp3.baidu.com
[root@codfei4 shell]# awk -F/ '{print $3}' file |sort -r|uniq -c|awk '{print $1"\t",$2}'
3 www.baidu.com
2 post.baidu.com
1 mp3.baidu.com
##2)、用grep结合sed取出网卡的ip地址
[root@jie1 ~]# ifconfig | grep -B1 "inet addr" |grep -v "\-\-" |sed -n -e 'N;s/\(eth[0-9]\).*\n.*addr:\([0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}\.[0-9]\{1,3\}\).*/\1 \2/p'


 学会sed的使用是写自动化shell脚本的基础,sed也是一个非常有用且重要的命令,是文本处理工具之一,以上是我自己学习总结的sed命令简单的用法,sed还有更高级的用法,也还在学习中。

===============================================

1、删除行首空格
sed ‘s/^[ ]*//g’ filename
sed ‘s/^ *//g’ filename
sed ‘s/^[[:space:]]*//g’ filename

2、行后和行前添加新行
行后:sed ‘s/ceagle/&\n/g’ filename
行前:sed ‘s/ceagle/\n&/g’ filename
&代表ceagle

3、使用变量替换(使用双引号)
sed -e “s/$varable1/$varable2/g” filename

4、在第一行前插入文本
sed -i ‘1 i\插入字符串’ datafile

5、在最后一行插入
sed -i ‘$ a\插入字符串’ datafile

6、在匹配行前插入
sed -i ‘/pattern/ i “插入字符串”‘ datafile

7、在匹配行后插入
sed -i ‘/pattern/ a “插入字符串”‘ datafile

8、删除文本中空行和空格组成的行以及#号注释的行
grep -v ^# filename | sed /^[[:space:]]*$/d | sed /^$/d

9、sed -e ‘1!G;h;$!d’ file倒过来显示

sed 附加/替换:

sed “/xmdh/a\daoyou” file 把含有xmdh的行的结尾附加daoyou(有换行)

sed ‘s/$/ daoyou/’ file把每行的结尾附加daoyou(在同一行)

sed ‘/test/s/$/ daoyou/’ file把包含test行的结尾附加daoyou(在同一行)

sed ’10s/$/ daoyou/’ file把第10行的结尾附加daoyou(在同一行)

sed “s/xmdh/daoyou/g” file把xmdh替换成daoyou

sed “s/xmdh/daoyou/;G” file把xmdh替换成daoyou并增加一个换行

cat userlog |sed -n ‘/xmdh/ w test.txt’查看含有xmdh并写入test.txt中

Amazing Windows OS resources Share!!!

Almost all Windows OS List: https://www.heidoc.net/php/myvsdump_details.php?id=P1521F62172Ax64Lcn Latest keys:   https://bbs.kafan.cn/th...