python实现tail -f 功能
tailf与tail-f类似:当文件不增长时并不访问文件
tail-f:只跟踪文件内容
tail-F:文件内容与文件名都跟踪
这篇文章最初是因为reboot的群里,有人去面试,笔试题有这个题,不知道怎么做,什么思路,就发群里大家讨论
我想了一下,简单说一下我的想法吧,当然,也有很好用的pyinotify模块专门监听文件变化,不过我更想介绍的,是解决的思路,毕竟作为面试官,还是想看到一下解决问题的思路,而且我觉得这一题的难点不在于监控文件增量,而在于怎么打印最后面10行
希望大家读这篇文章前,对python基础、处理文件和常用模块有一个简单的了解,知道下面几个名词是啥
open('a.txt') file.seek file.tell time.sleep()
下面思路限于我个人知识,免不了有错误和考虑不周的,希望大家有更好的方法提出来,我随时优化代码,题目的感觉没啥太多的坑,下面让天真烂漫的蜗牛教大家用python的思路
怎么用python实现
其实思路也不难啦
- 打开这个文件,指针移到最后
- 每隔一秒就尝试readline一下,有内容就打印出来,没内容就sleep
- 大概就是这么个意思
监听文件
思路如下:
- 用open打开文件
- 用seek文件指针,给大爷把跳到文件最后面
- whileTrue进行循环
持续不停的readline,如果能读到内容,打印出来即可
代码呼之欲出
withopen('test.txt')asf: f.seek(0,2) whileTrue: last_pos=f.tell() line=f.readline() ifline: printline
代码说明
- seek第二个参数2,意思就是从文件结尾处开始seek,更标准的写法使用os模块下面的SEEK_END,可读性更好
- 只写出了简单的逻辑,代码简单粗暴,如果这个题目是10分的话,最多也就拿4分吧,不能再多了
优化点
- print有缺陷,每次都是新的一行,换成sys.stdout.write(line)更和谐
- 文件名传参,不能写死
- 直接打印可以当成默认行为,具体要做什么,可以写成函数处理,这样我们就可以把新行做其他处理,比如展示在浏览器里
- 加上容错处理,比如文件不存在会报错
- whileTrue一直都文件,比较耗性能,每读一次,间隔一秒比较靠谱
- 调用time.sleep(1)
- 用类来组织代码
实例代码如下
#!/usr/bin/envpython #-*-coding:utf-8-*- importsys importtime classTail(): def__init__(self,file_name,callback=sys.stdout.write): self.file_name=file_name self.callback=callback deffollow(self): try: withopen(self.file_name)asf: f.seek(0,2) whileTrue: line=f.readline() ifline: self.callback(line) time.sleep(1) exceptException,e: print'打开文件失败,囧,看看文件是不是不存在,或者权限有问题' printe
使用方法:
#使用默认的sys.stdout.write打印到屏幕 py_tail=Tail('test.txt') py_tail.follow() #自己定义处理函数 deftest_tail(line): print'xx'+line+'xx' py_tail1=Tail('test.txt',test_tail) py_tail1.follow()
咦等等,tail-f默认还会打印最后10行,这个好像才是这个题目的难点所在,众所周知,python里读文件指针,只能移动到固定位置,不能判断是哪一行,囧,先实现简单的,逐渐加强吧
默认打印最后10行
现在这个代码,大概能拿6分啦,我们还有一个功能没做,那就是打印最后n行,默认是10行,现在把这个功能加上,加一个函数就行啦
文件小的时候
我们知道,readlines可以获取所有内容,并且分行,代码呼之欲出,获取list最后10行很简单有么有,切片妥妥的
#演示代码,说明核心逻辑,完整代码在下面 last_lines=f.readlines()[-10:] forlineinlast_lines: self.callback(line)
此时代码变成这样了
importsys importtime classTail(): def__init__(self,file_name,callback=sys.stdout.write): self.file_name=file_name self.callback=callback deffollow(self,n=10): try: withopen(self.file_name)asf: self._file=f self.showLastLine(n) self._file.seek(0,2) whileTrue: line=self._file.readline() ifline: self.callback(line) exceptException,e: print'打开文件失败,囧,看看文件是不是不存在,或者权限有问题' printe defshowLastLine(self,n): last_lines=self._file.readlines()[-10:] forlineinlast_lines: self.callback(line)
更进一步:大的日志怎么办
此时代码有7分时很随意啦,但是如果文件特别大呢,特别是日志文件,很容易几个G,我们只需要最后几行,全部读出来内存受不了,所以我们要继续优化showLastLine函数,我觉得这才是这题的难点所在
大概的思路如下
我先估计日志一行大概是100个字符,注意,我只是估计一个大概,多了也没关系,我们只是需要一个初始值,后面会修正
我要读十行,所以一开始就seek到离结尾1000的位置seek(-1000,2),把最后1000个字符读出来,然后有一个判断
如果这1000个字符长度大于文件长度,不用管了属于级别1的情况,直接read然后split
如果1000个字符里面的换行符大于10,说明1000个字符里,大于10行,那也好办,处理思路类似级别1,直接split取后面十个
问题就在于如果小于10怎么处理
比如1000个里,只有四个换行符,说明一行大概是1000/4=250个字符,我们还缺6行,所以我们再读250*5=1500,一共有2500的大概比较靠谱,然后在对2500个字符进行相同的逻辑判断,直到读出的字符里,换行符大于10,读取结束
逻辑清晰以后,代码就呼之欲出啦
加上注释的版本
#!/usr/bin/envpython #-*-coding:utf-8-*- importsys importtime classTail(): def__init__(self,file_name,callback=sys.stdout.write): self.file_name=file_name self.callback=callback deffollow(self,n=10): try: #打开文件 withopen(self.file_name)asf: self._file=f self._file.seek(0,2) #存储文件的字符长度 self.file_length=self._file.tell() #打印最后10行 self.showLastLine(n) #持续读文件打印增量 whileTrue: line=self._file.readline() ifline: self.callback(line) time.sleep(1) exceptException,e: print'打开文件失败,囧,看看文件是不是不存在,或者权限有问题' printe defshowLastLine(self,n): #一行大概100个吧这个数改成1或者1000都行 len_line=100 #n默认是10,也可以follow的参数传进来 read_len=len_line*n #用last_lines存储最后要处理的内容 whileTrue: #如果要读取的1000个字符,大于之前存储的文件长度 #读完文件,直接break ifread_len>self.file_length: self._file.seek(0) last_lines=self._file.read().split('\n')[-n:] break #先读1000个然后判断1000个字符里换行符的数量 self._file.seek(-read_len,2) last_words=self._file.read(read_len) #count是换行符的数量 count=last_words.count('\n') ifcount>=n: #换行符数量大于10很好处理,直接读取 last_lines=last_words.split('\n')[-n:] break #换行符不够10个 else: #break #不够十行 #如果一个换行符也没有,那么我们就认为一行大概是100个 ifcount==0: len_perline=read_len #如果有4个换行符,我们认为每行大概有250个字符 else: len_perline=read_len/count #要读取的长度变为2500,继续重新判断 read_len=len_perline*n forlineinlast_lines: self.callback(line+'\n') if__name__=='__main__': py_tail=Tail('test.txt') py_tail.follow(20)
效果如下,终于可以打印最后几行了,大家可以试一下,无论日志每行只有1个,还是每行有300个字符,都是可以打印最后10行的
能做到这个地步,一般的面试官就直接被你搞定了,这个代码大概8分吧,如果还想再进一步,还有一些可以优化的地方,代码放github上了,有兴趣的可以拿去研究
待优化:留给大家作为扩展
- 如果你tail-f的过程中,日志被备份清空或者切割了,怎么处理
- 其实很简单,你维护一个指针位置,如果下次循环发现文件指针位置变了,从最新的指针位置开始读就行
- 具体每种错误的类型
我这里只是简单的try可以写个函数,把文件不存在,文件没权限这些报错信息分开
性能小优化,比如我第一次读了1000,只有4行,我大概估计每行250个字符,总体需要2500行,下次没必要直接读2500个,而是读1500行和之前1000行拼起来即可
最后大杀器如果写出来这个,基本面试官会直接
打死你
importos deftail(file_name): os.system('tail-f'+file_name) tail('log.log')
总结
以上所述是小编给大家介绍的python实现tail-f功能,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对毛票票网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。