python爬虫基础教程：requests库（二）代码实例
get请求
简单使用
importrequests
'''
想要学习Python？Python学习交流群：973783996满足你的需求，资料都已经上传群文件，可以自行下载！
'''
response=requests.get("https://www.baidu.com/")
#text返回的是unicode的字符串，可能会出现乱码情况
#print(response.text)
#content返回的是字节，需要解码
print(response.content.decode('utf-8'))
#print(response.url)#https://www.baidu.com/
#print(response.status_code)#200
#print(response.encoding)#ISO-8859-1
添加headers和params
importrequests
params={
'wd':'python'
}
headers={
'User-Agent':'Mozilla/5.0(WindowsNT6.1;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/64.0.3282.140Safari/537.36'
}
response=requests.get("https://www.baidu.com/s",params=params,headers=headers)
#content返回的是字节，需要解码
withopen('baidu.html','w',encoding='utf-8')asf:
f.write(response.content.decode('utf-8'))
POST请求
爬去拉钩网职位信息
importrequests
url="https://www.lagou.com/jobs/positionAjax.json?city=%E5%8C%97%E4%BA%AC&needAddtionalResult=false"
data={
'first':'true',
'pn':1,
'kd':'python'
}
headers={
"User-Agent":"Mozilla/5.0(WindowsNT6.1;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/64.0.3282.140Safari/537.36",
"Referer":"https://www.lagou.com/jobs/list_python?city=%E5%8C%97%E4%BA%AC&cl=false&fromSearch=true&labelWords=&suginput="
}
response=requests.post(url,data=data,headers=headers)
#print(response.text)
print(type(response.text))#
print(type(response.json()))#
print(response.json())#获取为字典的形式
使用代理
importrequests
proxy={'http':'115.210.31.236.55:9000'}
response=requests.get("https://www.baidu.com/",proxies=proxy)
print(response.content.decode('utf-8'))
session登录
#_*_coding:utf-8_*_
importrequests
#1.创建session对象，可以保存Cookie值
ssion=requests.session()
#2.处理headers
headers={'User-Agent':'Mozilla/5.0(WindowsNT6.1;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/60.0.3112.101Safari/537.36'}
#3.需要登录的用户名和密码
data={"email":"158xxxxxxxx","password":"pythonxxxxxxx"}
#4.发送附带用户名和密码的请求，并获取登录后的Cookie值，保存在ssion里
ssion.post("http://www.renren.com/PLogin.do",data=data)
#5.ssion包含用户登录后的Cookie值，可以直接访问那些登录后才可以访问的页面
response=ssion.get("http://zhibo.renren.com/news/108")
#6.打印响应内容
print(response.text)
以上所述是小编给大家介绍的python爬虫基础教程：requests库（二）详解整合，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对毛票票网站的支持！