基python实现多线程网页爬虫
一般来说，使用线程有两种模式,一种是创建线程要执行的函数,把这个函数传递进Thread对象里，让它来执行.另一种是直接从Thread继承，创建一个新的class，把线程执行的代码放到这个新的class里。
实现多线程网页爬虫，采用了多线程和锁机制，实现了广度优先算法的网页爬虫。
先给大家简单介绍下我的实现思路：
对于一个网络爬虫，如果要按广度遍历的方式下载，它是这样的：
1.从给定的入口网址把第一个网页下载下来
2.从第一个网页中提取出所有新的网页地址，放入下载列表中
3.按下载列表中的地址，下载所有新的网页
4.从所有新的网页中找出没有下载过的网页地址，更新下载列表
5.重复3、4两步，直到更新后的下载列表为空表时停止
python代码如下：
#!/usr/bin/envpython
#coding=utf-8
importthreading
importurllib
importre
importtime
g_mutex=threading.Condition()
g_pages=[]#从中解析所有url链接
g_queueURL=[]#等待爬取的url链接列表
g_existURL=[]#已经爬取过的url链接列表
g_failedURL=[]#下载失败的url链接列表
g_totalcount=0#下载过的页面数
classCrawler:
def__init__(self,crawlername,url,threadnum):
self.crawlername=crawlername
self.url=url
self.threadnum=threadnum
self.threadpool=[]
self.logfile=file("log.txt",'w')
defcraw(self):
globalg_queueURL
g_queueURL.append(url)
depth=0
printself.crawlername+"启动..."
while(len(g_queueURL)!=0):
depth+=1
print'Searchingdepth',depth,'...\n\n'
self.logfile.write("URL:"+g_queueURL[0]+"........")
self.downloadAll()
self.updateQueueURL()
content='\n>>>Depth'+str(depth)+':\n'
self.logfile.write(content)
i=0
whilei<len(g_queueURL):
content=str(g_totalcount+i)+'->'+g_queueURL[i]+'\n'
self.logfile.write(content)
i+=1
defdownloadAll(self):
globalg_queueURL
globalg_totalcount
i=0
whilei<len(g_queueURL):
j=0
whilej<self.threadnumandi+j<len(g_queueURL):
g_totalcount+=1
threadresult=self.download(g_queueURL[i+j],str(g_totalcount)+'.html',j)
ifthreadresult!=None:
print'Threadstarted:',i+j,'--Filenumber=',g_totalcount
j+=1
i+=j
forthreadinself.threadpool:
thread.join(30)
threadpool=[]
g_queueURL=[]
defdownload(self,url,filename,tid):
crawthread=CrawlerThread(url,filename,tid)
self.threadpool.append(crawthread)
crawthread.start()
defupdateQueueURL(self):
globalg_queueURL
globalg_existURL
newUrlList=[]
forcontenting_pages:
newUrlList+=self.getUrl(content)
g_queueURL=list(set(newUrlList)-set(g_existURL))
defgetUrl(self,content):
reg=r'"(http://.+?)"'
regob=re.compile(reg,re.DOTALL)
urllist=regob.findall(content)
returnurllist
classCrawlerThread(threading.Thread):
def__init__(self,url,filename,tid):
threading.Thread.__init__(self)
self.url=url
self.filename=filename
self.tid=tid
defrun(self):
globalg_mutex
globalg_failedURL
globalg_queueURL
try:
page=urllib.urlopen(self.url)
html=page.read()
fout=file(self.filename,'w')
fout.write(html)
fout.close()
exceptException,e:
g_mutex.acquire()
g_existURL.append(self.url)
g_failedURL.append(self.url)
g_mutex.release()
print'Faileddownloadingandsaving',self.url
printe
returnNone
g_mutex.acquire()
g_pages.append(html)
g_existURL.append(self.url)
g_mutex.release()
if__name__=="__main__":
url=raw_input("请输入url入口:\n")
threadnum=int(raw_input("设置线程数:"))
crawlername="小小爬虫"
crawler=Crawler(crawlername,url,threadnum)
crawler.craw()
以上代码就是给大家分享的基python实现多线程网页爬虫，希望大家喜欢。