个人笔记记录(常用)

个人笔记


sed编辑器

<h4><a href="http://www.linuxdown.net/command/2016/0617/5902.html">参考</a></h4> <p>sed是一种流编辑器,它是文本处理中非常中的工具,能够完美的配合正则表达式使用,功能不同凡响。 sed是一种流编辑器,它是文本处理中非常中的工具,能够完美的配合正则表达式使用,功能不同凡响。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。</p> <h3>常用案例</h3> <pre><code class="language-shell">#强力删除空行 sed '/^\s*$/d' data.txt #SVN配置文件过滤及替换 sed "/#/d;/ = r/d;/*/d;/\[\//d;/\[aliases\]/d;/\[groups\]/d;s/^M//g;/^\s*$/d;s/^/&amp;$reponame\_/g" $authz &gt;&gt; /tmp/groups ^M符号替换只能通过按住ctrl+v,再按ctrl+M输出才有效 #SVN配置文件目录权限合并 sed "/#/d;/\[groups\]/d;/\[aliases\]/d;/,/d;/^\s*$/d;s/^M//g;s/\[\//\[$reponame:\//;s/@/@$reponame\_/g;s/\[/\n\[/g" $authz &gt;&gt; /tmp/authz #将123替换成456并排除包含abc的行 sed '/abc/!s/123/456/g' urfile #替换包含指定字符的整行 sed 's/^.*authz-db.*$/authz-db = none/'</code></pre> <h4>sed的选项、命令、替换标记</h4> <p>命令格式</p> <p>sed [options] 'command' file(s) sed [options] -f scriptfile file(s) <code>选项</code> -e<script>或--expression=<script>:以选项中的指定的script来处理输入的文本文件; -f&lt;script文件&gt;或--file=&lt;script文件&gt;:以选项中指定的script文件来处理输入的文本文件; -h或--help:显示帮助; -n或--quiet或——silent:仅显示script处理后的结果; -V或--version:显示版本信息。 <code>参数</code> 文件:指定待处理的文本文件列表。</p> <p><code>sed命令</code></p> <pre><code class="language-bash">a\ 在当前行下面插入文本。 i\ 在当前行上面插入文本。 c\ 把选定的行改为新的文本。 d 删除,删除选择的行。 D 删除模板块的第一行。 s 替换指定字符 h 拷贝模板块的内容到内存中的缓冲区。 H 追加模板块的内容到内存中的缓冲区。 g 获得内存缓冲区的内容,并替代当前模板块中的文本。 G 获得内存缓冲区的内容,并追加到当前模板块文本的后面。 l 列表不能打印字符的清单。 n 读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。 N 追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。 p 打印模板块的行。 P(大写) 打印模板块的第一行。 q 退出Sed。 b lable 分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。 r file 从file中读行。 t label if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。 T label 错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。 w file 写并追加模板块到file末尾。 W file 写并追加模板块的第一行到file末尾。 ! 表示后面的命令对所有没有被选定的行发生作用。 = 打印当前行号码。 \# 把注释扩展到下一个换行符以前。</code></pre> <p><code>sed替换标记</code></p> <pre><code class="language-bash">g 表示行内全面替换。 p 表示打印行。 w 表示把行写入一个文件。 x 表示互换模板块中的文本和缓冲区中的文本。 y 表示把一个字符翻译为另外的字符(但是不用于正则表达式) \1 子串匹配标记 &amp; 已匹配字符串标记</code></pre> <p><code>sed元字符集</code></p> <pre><code class="language-bash">^ 匹配行开始,如:/^sed/匹配所有以sed开头的行。 $ 匹配行结束,如:/sed$/匹配所有以sed结尾的行。 . 匹配一个非换行符的任意字符,如:/s.d/匹配s后接一个任意字符,最后是d。 * 匹配0个或多个字符,如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 [] 匹配一个指定范围内的字符,如/[ss]ed/匹配sed和Sed。 [^] 匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。 \(..\) 匹配子串,保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers。 &amp; 保存搜索字符用来替换其他字符,如s/love/**&amp;**/,love这成**love**。 \&lt; 匹配单词的开始,如:/\&lt;love/匹配包含以love开头的单词的行。 \&gt; 匹配单词的结束,如/love\&gt;/匹配包含以love结尾的单词的行。 x\{m\} 重复字符x,m次,如:/0\{5\}/匹配包含5个0的行。 x\{m,\} 重复字符x,至少m次,如:/0\{5,\}/匹配至少有5个0的行。 x\{m,n\} 重复字符x,至少m次,不多于n次,如:/0\{5,10\}/匹配5~10个0的行。</code></pre> <h3>sed用法实例</h3> <p><code>替换操作:s命令</code></p> <p>替换文本中的字符串:</p> <pre><code>sed 's/book/books/' file</code></pre> <p>-n选项和p命令一起使用表示只打印那些发生替换的行:</p> <pre><code>sed -n 's/test/TEST/p' file</code></pre> <p>直接编辑文件选项-i,会匹配file文件中每一行的第一个book替换为books:</p> <pre><code>sed -i 's/book/books/g' file</code></pre> <p><code>全面替换标记g</code></p> <p>使用后缀 /g 标记会替换每一行中的所有匹配:</p> <pre><code>sed 's/book/books/g' file</code></pre> <p>当需要从第N处匹配开始替换时,可以使用 /Ng:</p> <pre><code class="language-bash">echo sksksksksksk | sed 's/sk/SK/2g' skSKSKSKSKSK echo sksksksksksk | sed 's/sk/SK/3g' skskSKSKSKSK echo sksksksksksk | sed 's/sk/SK/4g' skskskSKSKSK</code></pre> <p><code>定界符</code> 以上命令中字符 / 在sed中作为定界符使用,也可以使用任意的定界符:</p> <pre><code>sed 's:test:TEXT:g' sed 's|test|TEXT|g'</code></pre> <p>定界符出现在样式内部时,需要进行转义:</p> <pre><code>sed 's/\/bin/\/usr\/local\/bin/g'</code></pre> <p><code>删除操作:d命令</code></p> <p>删除空白行:</p> <pre><code>sed '/^$/d' file</code></pre> <p>删除文件的第2行:</p> <pre><code>sed '2d' file</code></pre> <p>删除文件的第2行到末尾所有行:</p> <pre><code>sed '2,$d' file</code></pre> <p>删除文件最后一行:</p> <pre><code>sed '$d' file</code></pre> <p>删除文件中所有开头是test的行:</p> <pre><code>sed '/^test/'d file</code></pre> <p><code>已匹配字符串标记&amp;</code></p> <p>正则表达式 \w+ 匹配每一个单词,使用 [&amp;] 替换它,&amp; 对应于之前所匹配到的单词:</p> <pre><code>echo this is a test line | sed 's/\w\+/[&amp;]/g' [this] [is] [a] [test] [line]</code></pre> <p>所有以192.168.0.1开头的行都会被替换成它自已加localhost:</p> <pre><code>sed 's/^192.168.0.1/&amp;localhost/' file 192.168.0.1localhost</code></pre> <p><code>子串匹配标记\1</code></p> <p>匹配给定样式的其中一部分:</p> <pre><code>echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/' this is 7 in a number</code></pre> <p>命令中 digit 7,被替换成了 7。样式匹配到的子串是 7,(..) 用于匹配子串,对于匹配到的第一个子串就标记为 \1,依此类推匹配到的第二个结果就是 \2,例如:</p> <pre><code>echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/' BBB aaa</code></pre> <p>love被标记为1,所有loveable会被替换成lovers,并打印出来:</p> <pre><code>sed -n 's/\(love\)able/\1rs/p' file</code></pre> <p><code>组合多个表达式</code></p> <pre><code>sed '表达式' | sed '表达式'</code></pre> <p>等价于:</p> <pre><code>sed '表达式; 表达式'</code></pre> <p><code>引用</code> sed表达式可以使用单引号来引用,但是如果表达式内部包含变量字符串,就需要使用双引号。</p> <pre><code>test=hello echo hello WORLD | sed "s/$test/HELLO" HELLO WORLD</code></pre> <p><code>选定行的范围:,(逗号)</code> 所有在模板test和check所确定的范围内的行都被打印:</p> <pre><code>sed -n '/test/,/check/p' file</code></pre> <p>打印从第5行开始到第一个包含以test开始的行之间的所有行:</p> <pre><code>sed -n '5,/^test/p' file</code></pre> <p>对于模板test和west之间的行,每行的末尾用字符串aaa bbb替换:</p> <pre><code>sed '/test/,/west/s/$/aaa bbb/' file</code></pre> <p><code>多点编辑:e命令</code></p> <p>-e选项允许在同一行里执行多条命令:</p> <pre><code>sed -e '1,5d' -e 's/test/check/' file</code></pre> <p>上面sed表达式的第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。</p> <p>和 -e 等价的命令是 --expression:</p> <pre><code>sed --expression='s/test/check/' --expression='/love/d' file</code></pre> <p><code>从文件读入:r命令</code> file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面:</p> <pre><code>sed '/test/r file' filename</code></pre> <p><code>写入文件:w命令</code></p> <p>在example中所有包含test的行都被写入file里:</p> <pre><code>sed -n '/test/w file' example</code></pre> <p><code>追加(行下):a\命令</code></p> <p>将 this is a test line 追加到 以test 开头的行后面:</p> <pre><code>sed '/^test/a\this is a test line' file</code></pre> <p>在 test.conf 文件第2行之后插入 this is a test line:</p> <pre><code>sed -i '2a\this is a test line' test.conf</code></pre> <p><code>插入(行上):i\命令</code></p> <p>将 this is a test line 追加到以test开头的行前面:</p> <pre><code>sed '/^test/i\this is a test line' file</code></pre> <p>在test.conf文件第5行之前插入this is a test line:</p> <pre><code>sed -i '5i\this is a test line' test.conf</code></pre> <p><code>下一个:n命令</code></p> <p>如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续:</p> <pre><code>sed '/test/{ n; s/aa/bb/; }' file</code></pre> <p><code>变形:y命令</code></p> <p>把1~10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令:</p> <pre><code>sed '1,10y/abcde/ABCDE/' file</code></pre> <p><code>退出:q命令</code></p> <p>打印完第10行后,退出sed</p> <pre><code>sed '10q' file</code></pre> <p><code>保持和获取:h命令和G命令</code></p> <p>在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。</p> <pre><code>sed -e '/test/h' -e '$G' file</code></pre> <p>在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。</p> <p><code>保持和互换:h命令和x命令</code></p> <p>互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换:</p> <pre><code>sed -e '/test/h' -e '/check/x' file</code></pre> <p><code>脚本scriptfile</code></p> <p>sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。</p> <pre><code>sed [options] -f scriptfile file(s)</code></pre> <p><code>打印奇数行或偶数行</code></p> <p>方法1:</p> <pre><code>sed -n 'p;n' test.txt #奇数行 sed -n 'n;p' test.txt #偶数行</code></pre> <p>方法2:</p> <pre><code>sed -n '1~2p' test.txt #奇数行 sed -n '2~2p' test.txt #偶数行</code></pre> <p><code>打印匹配字符串的下一行</code></p> <pre><code>grep -A 1 SCC URFILE sed -n '/SCC/{n;p}' URFILE awk '/SCC/{getline; print}' URFILE</code></pre> <h4>大文件处理,从文末开始匹配一次输出结果</h4> <pre><code>tac TEST_SW_Test.dump | grep -a -m 1 "Revision-number:"</code></pre> <h4>文件添加bom头,支持Windows下显示中文</h4> <pre><code>sed "0,/^/{s/^/\xEF\xBB\xBF/}" crond.txt -i</code></pre>

页面列表

ITEM_HTML