Python使用urlretrieve实现直接远程下载图片的示例代码
在实现爬虫任务时,经常需要将一些图片下载到本地当中。那么在python中除了通过open()函数,以二进制写入方式来下载图片以外,还有什么其他方式吗?本文将使用urlretrieve实现直接远程下载图片。
下面我们再来看看urllib模块提供的urlretrieve()函数。urlretrieve()方法直接将远程数据下载到本地。
>>>help(urllib.urlretrieve) Helponfunctionurlretrieveinmoduleurllib: urlretrieve(url,filename=None,reporthook=None,data=None)
参数finename指定了保存本地路径(如果参数未指定,urllib会生成一个临时文件保存数据。)
参数reporthook是一个回调函数,当连接上服务器、以及相应的数据块传输完毕时会触发该回调,我们可以利用这个回调函数来显示当前的下载进度。
参数data指post到服务器的数据,该方法返回一个包含两个元素的(filename,headers)元组,filename表示保存到本地的路径,header表示服务器的响应头。
下面通过例子来演示一下这个方法的使用,这个例子将google的html抓取到本地,保存在D:/google.html文件中,同时显示下载的进度。
importurllib defcbk(a,b,c): '''回调函数 @a:已经下载的数据块 @b:数据块的大小 @c:远程文件的大小 ''' per=100.0*a*b/c ifper>100: per=100 print'%.2f%%'%per url='http://www.google.com' local='d://google.html' urllib.urlretrieve(url,local,cbk)
代码实现
在python中除了使用open()函数实现图片的下载,还可以通过urllib.request模块中的urlretrieve实现直接远程下载图片的操作。以远程下载某网页外设产品图片为例,代码如下:
importrequests importurllib.request importos#系统模块 importshutil#文件夹控制 defdownload_pictures(url): headers={ "user-agent":"Mozilla/5.0(Macintosh;IntelMacOSX10_14_6)" "AppleWebKit/537.36(KHTML,likeGecko)Chrome/81.0.4044.129Safari/537.36"} response=requests.get(url,headers=headers)#发送网络请求获取响应 ifresponse.status_code==200:#判断请求是否成功 #print(response.json()) #每次获取数据之前,先将保存图片的文件夹清空在创建目录 ifos.path.exists("img_download"):#判断文件夹是否存在 shutil.rmtree("img_download")#存在则删除 os.makedirs("img_download")#重新创建 else: os.makedirs("img_download")#不存在直接创建 content=response.json()["products"]#获取响应内容 print(content) forindex,iteminenumerate(content): #图片地址 img_path="http://img13.360buyimg.com/n1/s320x320_"+item["imgPath"] #print(item["imgPath"]) #根据下标命名图片名称 urllib.request.urlretrieve(img_path,"img_download/"+"img"+str(index)+".jpg") else: print("请求失败") if__name__=='__main__': download_pictures("https://ch.jd.com/hotsale2?cateid=686")
运行结果如下图所示:
到此这篇关于Python使用urlretrieve实现直接远程下载图片的示例代码的文章就介绍到这了,更多相关Pythonurlretrieve远程下载内容请搜索毛票票以前的文章或继续浏览下面的相关文章希望大家以后多多支持毛票票!
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。