Python实现提取文章摘要的方法
本文实例讲述了Python实现提取文章摘要的方法。分享给大家供大家参考。具体如下:
一、概述
在博客系统的文章列表中,为了更有效地呈现文章内容,从而让读者更有针对性地选择阅读,通常会同时提供文章的标题和摘要。
一篇文章的内容可以是纯文本格式的,但在网络盛行的当今,更多是HTML格式的。无论是哪种格式,摘要一般都是文章开头部分的内容,可以按照指定的字数来提取。
二、纯文本摘要
纯文本文档就是一个长字符串,很容易实现对它的摘要提取:
#!/usr/bin/envpython #-*-coding:utf-8-*- """GetasummaryoftheTEXT-formatdocument""" defget_summary(text,count): u"""Getthefirst`count`charactersfrom`text` >>>text=u'Welcome这是一篇关于Python的文章' >>>get_summary(text,12)==u'Welcome这是一篇' True """ assert(isinstance(text,unicode)) returntext[0:count] if__name__=='__main__': importdoctest doctest.testmod()
三、HTML摘要
HTML文档中包含大量标记符(如<h1>、<p>、<a>等等),这些字符都是标记指令,并且通常是成对出现的,简单的文本截取会破坏HTML的文档结构,进而导致摘要在浏览器中显示不当。
在遵循HTML文档结构的同时,又要对内容进行截取,就需要解析HTML文档。在Python中,可以借助标准库HTMLParser来完成。
一个最简单的摘要提取功能,是忽略HTML标记符而只提取标记内部的原生文本。以下就是类似该功能的Python实现:
#!/usr/bin/envpython
#-*-coding:utf-8-*-
"""GetarawsummaryoftheHTML-formatdocument"""
fromHTMLParserimportHTMLParser
classSummaryHTMLParser(HTMLParser):
"""ParseHTMLtexttogetasummary
>>>text=u'<p>Higuys:</p><p>ThisisaexampleusingSummaryHTMLParser.</p>'
>>>parser=SummaryHTMLParser(10)
>>>parser.feed(text)
>>>parser.get_summary(u'...')
u'<p>Higuys:Thi...</p>'
"""
def__init__(self,count):
HTMLParser.__init__(self)
self.count=count
self.summary=u''
deffeed(self,data):
"""Onlyacceptunicode`data`"""
assert(isinstance(data,unicode))
HTMLParser.feed(self,data)
defhandle_data(self,data):
more=self.count-len(self.summary)
ifmore>0:
#Removepossiblewhitespacesin`data`
data_without_whitespace=u''.join(data.split())
self.summary+=data_without_whitespace[0:more]
defget_summary(self,suffix=u'',wrapper=u'p'):
returnu'<{0}>{1}{2}</{0}>'.format(wrapper,self.summary,suffix)
if__name__=='__main__':
importdoctest
doctest.testmod()
HTMLParser(或者BeautifulSoup等等)更适合完成复杂的HTML摘要提取功能,对于上述简单的HTML摘要提取功能,其实有更简洁的实现方案(相比SummaryHTMLParser而言):
#!/usr/bin/envpython
#-*-coding:utf-8-*-
"""GetarawsummaryoftheHTML-formatdocument"""
importre
defget_summary(text,count,suffix=u'',wrapper=u'p'):
"""Asimplerimplementation(vs`SummaryHTMLParser`).
>>>text=u'<p>Higuys:</p><p>ThisisaexampleusingSummaryHTMLParser.</p>'
>>>get_summary(text,10,u'...')
u'<p>Higuys:Thi...</p>'
"""
assert(isinstance(text,unicode))
summary=re.sub(r'<.*?>',u'',text)#keydifference:useregex
summary=u''.join(summary.split())[0:count]
returnu'<{0}>{1}{2}</{0}>'.format(wrapper,summary,suffix)
if__name__=='__main__':
importdoctest
doctest.testmod()
希望本文所述对大家的Python程序设计有所帮助。