htmlcleaner使用方法及xpath语法初探
在编程的时候或者写网络爬虫的时候，经常需要对html进行解析，抽取其中有用的数据。一款好的工具是特别有用的，能提供很多的帮助，网上有很多这样的工具，比如：htmlcleaner、htmlparser
经使用比较：感觉htmlcleaner比htmlparser好用，尤其是htmlcleaner的xpath特好用。
下面针对htmlcleaner进行举例说明，需求为：取出title，name=”my_href”的链接，div的class=”d_1″下的所有li内容。
一、HtmlCleaner使用：
1、HtmlCleaner
HtmlCleaner是一个开源的Java语言的Html文档解析器。HtmlCleaner能够重新整理HTML文档的每个元素并生成结构良好(Well-Formed)的HTML文档。默认它遵循的规则是类似于大部份web浏览器为创文档对象模型所使用的规则。然而，用户可以提供自定义tag和规则组来进行过滤和匹配。
主页地址：http://htmlcleaner.sourceforge.net/
下载地址：https://www.nhooo.com/softs/364983.html
2、基本示例，在wikipedia中抓取机场信息
html-clean-demo.html
html-clean-demo.html <!DOCTYPEhtmlPUBLIC"-//W3C//DTDXHTML1.0Transitional""http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <htmlxmlns="http://www.w3.org/1999/xhtml"xml:lang="zh-CN"dir="ltr"> <head> <metahttp-equiv="Content-Type"content="text/html;charset=GBK"/> <metahttp-equiv="Content-Language"content="zh-CN"/> <title>htmlcleandemo</title> </head> <body> <divclass="d_1"> <ul> <li>bar</li> <li>foo</li> <li>gzz</li> </ul> </div> <div> <ul> <li><aname="my_href"href="1.html">text-1</a></li> <li><aname="my_href"href="2.html">text-2</a></li> <li><aname="my_href"href="3.html">text-3</a></li> <li><aname="my_href"href="4.html">text-4</a></li> </ul> </div> </body> </html>
HtmlCleanerDemo.java
packagecom.chenlb;
importjava.io.File;
importorg.htmlcleaner.HtmlCleaner;
importorg.htmlcleaner.TagNode;
/**
*htmlcleaner使用示例.
*
*/
publicclassHtmlCleanerDemo{
publicstaticvoidmain(String[]args)throwsException{
HtmlCleanercleaner=newHtmlCleaner();
TagNodenode=cleaner.clean(newFile("html/html-clean-demo.html"),"GBK");
//按tag取.
Object[]ns=node.getElementsByName("title",true); //标题
if(ns.length>0){
System.out.println("title="+((TagNode)ns[0]).getText());
}
System.out.println("ul/li:");
//按xpath取
ns=node.evaluateXPath("//div[@class='d_1']//li");
for(Objecton:ns){
TagNoden=(TagNode)on;
System.out.println("\ttext="+n.getText());
}
System.out.println("a:");
//按属性值取
ns=node.getElementsByAttValue("name","my_href",true,true);
for(Objecton:ns){
TagNoden=(TagNode)on;
System.out.println("\thref="+n.getAttributeByName("href")+",text="+n.getText());
}
}
}
cleaner.clean()中的参数，可以是文件，可以是url，可以是字符串内容。比较常用的应该是evaluateXPath、getElementsByAttValue、getElementsByName方法了。另外说明下，htmlcleaner对不规范的html兼容性比较好。
在wikipedia中抓取机场信息
importjava.io.UnsupportedEncodingException;
importorg.htmlcleaner.HtmlCleaner;
importorg.htmlcleaner.TagNode;
importorg.htmlcleaner.XPatherException;
importorg.slf4j.Logger;
importorg.slf4j.LoggerFactory;
//importcom.moore.index.BabyStory;
importcom.moore.util.HttpClientUtil;
/**
*用途：TODO
*
*@authorbbdtek
*/
publicclassParserAirport{
privatestaticLoggerlog=LoggerFactory.getLogger(ParserAirport.class);
/**
*@paramargs
*@throwsUnsupportedEncodingException
*@throwsXPatherException
*/
publicstaticvoidmain(String[]args)throwsUnsupportedEncodingException,
XPatherException{
Stringurl="http://zh.wikipedia.org/wiki/%E4%B8%AD%E5%8D%8E%E4%BA%BA%E6%B0%91%E5%85%B1%E5%92%8C%E5%9B%BD%E6%9C%BA%E5%9C%BA%E5%88%97%E8%A1%A8";
Stringcontents=HttpClientUtil.getUtil().getCon(url);
HtmlCleanerhc=newHtmlCleaner();
TagNodetn=hc.clean(contents);
Stringxpath="//div[@class='mw-content-ltr']//table[@class='wikitable+sortable']//tbody//tr[@align='right']";
Object[]objarr=null;
objarr=tn.evaluateXPath(xpath);
if(objarr!=null&&objarr.length>0){
for(Objectobj:objarr){
TagNodetntr=(TagNode)obj;
Stringxptr="//td[@align='left']//a";
Object[]objarrtr=null;
objarrtr=tntr.evaluateXPath(xptr);
if(objarrtr!=null&&objarrtr.length>0){
for(Objectobja:objarrtr){
TagNodetna=(TagNode)obja;
Stringstr=tna.getText().toString();
log.info(str);
}
}
}
}
}
}
二、XPath初探
1、XPath简介：
XPath是一门在XML文档中查找信息的语言。XPath可用来在XML文档中对元素和属性进行遍历。
2、XPath节点选取
XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径或者step来选取的。
下面列出了最有用的路径表达式：
表达式
描述
nodename
选取此节点的所有子节点。
/
从根节点选取。
//
从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
.
选取当前节点。
..
选取当前节点的父节点。
@
选取属性。
一些常用表达式
路径表达式
结果
/bookstore/book[1]
选取属于bookstore子元素的第一个book元素。
/bookstore/book[last()]
选取属于bookstore子元素的最后一个book元素。
/bookstore/book[last()-1]
选取属于bookstore子元素的倒数第二个book元素。
/bookstore/book[position()<3]
选取最前面的两个属于bookstore元素的子元素的book元素。
//title[@lang]
选取所有拥有名为lang的属性的title元素。
//title[@lang='eng']
选取所有title元素，且这些元素拥有值为eng的lang属性。
/bookstore/book[price>35.00]
选取bookstore元素的所有book元素，且其中的price元素的值须大于35.00。
/bookstore/book[price>35.00]/title
选取bookstore元素中的book元素的所有title元素，且其中的price元素的值须大于35.00。