java 爬虫详解及简单实例
Java爬虫
一、代码
爬虫的实质就是打开网页源代码进行匹配查找，然后获取查找到的结果。
打开网页：
URLurl=newURL(http://www.cnblogs.com/Renyi-Fan/p/6896901.html);
读取网页内容：
BufferedReaderbufr=newBufferedReader(newInputStreamReader(url.openStream()));
正则表达式进行匹配：
tringmail_regex="\\w+@\\w+(\\.\\w+)+";
储存结果：
Listlist=newArrayList ();
/*
*获取
*将正则规则进行对象的封装。
*Patternp=Pattern.compile("a*b");
*//通过正则对象的matcher方法字符串相关联。获取要对字符串操作的匹配器对象Matcher.
*Matcherm=p.matcher("aaaaab");
*//通过Matcher匹配器对象的方法对字符串进行操作。
*booleanb=m.matches();
*/
importjava.io.BufferedReader;
importjava.io.FileNotFoundException;
importjava.io.FileReader;
importjava.io.IOException;
importjava.io.InputStreamReader;
importjava.net.URL;
importjava.util.ArrayList;
importjava.util.List;
importjava.util.regex.Matcher;
importjava.util.regex.Pattern;
publicclassSpider{
publicstaticvoidmain(String[]args)throwsIOException{
//Listlist=getMails();
//for(Stringmail:list){
//System.out.println(mail);
//}
Listlist=getMailsByWeb();
for(Stringmail:list){
System.out.println(mail);
}
}
publicstaticListgetMailsByWeb()throwsIOException{
//1,读取源文件。
//URLurl=newURL("http://192.168.1.100:8080/myweb/mail.html");
//URLurl=newURL("http://localhost:8080/SecondWeb/index.jsp");
URLurl=newURL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");
BufferedReaderbufr=newBufferedReader(newInputStreamReader(url.openStream()));
//2,对读取的数据进行规则的匹配。从中获取符合规则的数据.
Stringmail_regex="\\w+@\\w+(\\.\\w+)+";
Listlist=newArrayList();
Patternp=Pattern.compile(mail_regex);
Stringline=null;
while((line=bufr.readLine())!=null){
Matcherm=p.matcher(line);
while(m.find()){
//3,将符合规则的数据存储到集合中。
list.add(m.group());
}
}
returnlist;
}
publicstaticListgetMails()throwsIOException{
//1,读取源文件。
BufferedReaderbufr=newBufferedReader(newFileReader("c:\\mail.html"));
//2,对读取的数据进行规则的匹配。从中获取符合规则的数据.
Stringmail_regex="\\w+@\\w+(\\.\\w+)+";
Listlist=newArrayList();
Patternp=Pattern.compile(mail_regex);
Stringline=null;
while((line=bufr.readLine())!=null){
Matcherm=p.matcher(line);
while(m.find()){
//3,将符合规则的数据存储到集合中。
list.add(m.group());
}
}
returnlist;
}
}
二、运行结果
abc1@sina.com.cn 1@1.1
感谢阅读，希望能帮助到大家，谢谢大家对本站的支持！