python又一力作，感觉python的强大。用70行代码实现日志阐明措施
成果先容：可直接对文今日至举办分组和排序成果，完了输出功效粘贴到excel里就可以直接生成图表，对付排查一些出产情况问题有很大的浸染。
代码：
#encoding=utf-8
from optparse import OptionParser
import re
def get_args():
def get_parser():
usage = u"""%prog -f filename -r rule [-d] [-c]
用途：对文本文件凭据指定模式举办分组并排序,主要阐明文今日志用
留意：假如正则表达式里有分组，则提取第一分组，
假如不但愿这样，请利用正则的无捕捉分组(?:)
示例：统计日志里每分钟的日志量，默认定时间正序分列
python group.py -f log.txt -r "\d\d\d\d\-\d\d\-\d\d \d\d:\d\d"
统计日志里每个ip呈现的次数，并按呈现次数倒序分列
python group.py -f input.txt -r "\d+\.\d+.\d+.\d+" -c -d"""
return OptionParser(usage)
def add_option(parser):
parser.add_option("-f", "--file", dest="filename",
help=u"需要分组的文本文件", metavar="FILE")
parser.add_option("-r", "--rule", dest="rule",
help=u"分组的正则表达式", metavar="REGEX")
parser.add_option("-d", action="store_true",
dest="reverse", default=False, help=u"反序分列")
parser.add_option("-c", action="store_true",
dest="orderbycount", default=False,
help=u"按数量排序,默认按匹配字符串排序")
def get_options(parser):
options, args = parser.parse_args()
if not options.filename:
parser.error('没有指定文件名')
if not options.rule:
parser.error('没有指定分组法则')
return options
parser = get_parser()
add_option(parser)
return get_options(parser)
options = get_args()
filename = options.filename
rule = options.rule
reverse = options.reverse
orderbycount = options.orderbycount
regex = re.compile(rule, re.IGNORECASE)
keys = {}
def counter_key(key):
keys.setdefault(key, 0)
keys[key] += 1
def print_keys():
sort_key = (lambda d:d[1]) if orderbycount else (lambda d:d[0])
temp_items = sorted(keys.items(), key=sort_key, reverse=reverse)
for item in temp_items:
key = item[0]
print key, keys[key]
def get_key(line):
m = regex.search(line)
if m:
return m.group() if regex.groups == 0 else m.group(1)
return '!NotMatch!'
with open(filename) as f:
for line in f:
key = get_key(line)
counter_key(key)
print_keys()
