python 中BeautifulSoup入门
本文内容纲要：
在前面的例子用，我用了BeautifulSoup来从58同城抓取了手机维修的店铺信息，这个库使用起来的确是很方便的。本文是BeautifulSoup的一个详细的介绍，算是入门把。文档地址：http://www.crummy.com/software/BeautifulSoup/bs4/doc/
什么是BeautifulSoup？
BeautifulSoup是用Python写的一个HTML/XML的解析器，它可以很好的处理不规范标记并生成剖析树(parsetree)。它提供简单又常用的导航（navigating），搜索以及修改剖析树的操作。它可以大大节省你的编程时间。
直接看例子：
#!/usr/bin/python
#-*-coding:utf-8-*-
frombs4importBeautifulSoup
html_doc="""
"""
soup=BeautifulSoup(html_doc)
printsoup.title
printsoup.title.name
printsoup.title.string
printsoup.p
printsoup.a
printsoup.find_all('a')
printsoup.find(id='link3')
printsoup.get_text()
结果为：
TheDormouse'sstory
TheDormouse'sstory
Onceuponatimetherewerethreelittlesisters;andtheirnameswere
Elsie,
Lacieand
Tillie;
andtheylivedatthebottomofawell.
...
可以看出：soup就是BeautifulSoup处理格式化后的字符串，soup.title得到的是title标签，soup.p得到的是文档中的第一个p标签，要想得到所有标签，得用find_all
函数。find_all函数返回的是一个序列，可以对它进行循环，依次得到想到的东西.
get_text()是返回文本,这个对每一个BeautifulSoup处理后的对象得到的标签都是生效的。你可以试试printsoup.p.get_text()
其实是可以获得标签的其他属性的，比如我要获得a标签的href属性的值，可以使用printsoup.a['href'],类似的其他属性，比如class也是可以这么得到的（soup.a['class']）。
特别的，一些特殊的标签，比如head标签，是可以通过soup.head得到，其实前面也已经说了。
如何获得标签的内容数组？使用contents属性就可以比如使用printsoup.head.contents，就获得了head下的所有子孩子，以列表的形式返回结果，
可以使用[num]的形式获得,获得标签，使用.name就可以。
获取标签的孩子，也可以使用children，但是不能printsoup.head.children没有返回列表，返回的是<listiteratorobjectat0x108e6d150>,
不过使用list可以将其转化为列表。当然可以使用for语句遍历里面的孩子。
关于string属性，如果超过一个标签的话，那么就会返回None，否则就返回具体的字符串printsoup.title.string就返回了TheDormouse'sstory
超过一个标签的话，可以试用strings
向上查找可以用parent函数，如果查找所有的，那么可以使用parents函数
查找下一个兄弟使用next_sibling,查找上一个兄弟节点使用previous_sibling,如果是查找所有的，那么在对应的函数后面加s就可以
如何遍历树？
使用find_all函数
find_all(name,attrs,recursive,text,limit,**kwargs)
举例说明：
printsoup.find_all('title')
printsoup.find_all('p','title')
printsoup.find_all('a')
printsoup.find_all(id="link2")
printsoup.find_all(id=True)
返回值为：
[
[
[Elsie,Lacie,Tillie]
[Lacie]
[Elsie,Lacie,Tillie]
通过css查找,直接上例子把：
printsoup.find_all("a",class_="sister")
printsoup.select("p.title")
通过属性进行查找
printsoup.find_all("a",attrs={"class":"sister"})
通过文本进行查找
printsoup.find_all(text="Elsie")
printsoup.find_all(text=["Tillie","Elsie","Lacie"])
限制结果个数
printsoup.find_all("a",limit=2)
结果为：
[Elsie,Lacie,Tillie]
[
[Elsie,Lacie,Tillie]
[u'Elsie']
[u'Elsie',u'Lacie',u'Tillie']
[Elsie,Lacie]
总之，通过这些函数可以查找到想要的东西。
---end---
本文内容总结：
原文链接：https://www.cnblogs.com/yupeng/p/3362031.html