简述python Scrapy框架
一、Scrapy框架简介
Scrapy是用纯Python实现一个为了爬取网站数据，提取结构性数据而编写的应用框架，用途非常广泛。利用框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常的方便。它使用Twisted这个异步网络库来处理网络通讯，架构清晰，并且包含了各种中间件接口，可以灵活的完成各种需求。Scrapy是Python世界里面最强大的爬虫框架，它比BeautifulSoup更加完善，BeautifulSoup可以说是轮子，而Scrapy则是车子，不需要关注太多的细节。
二、Scrapy原理
1.ScrapyEngine(引擎):负责Spider、ItemPipeline、Downloader、Scheduler中间的通讯，信号数据传递等。
2.Scheduler(调度器):它负责接受引擎发送过来的request请求，并按照定的方式进行整理排列，入队，当引擎需要时，交还给引擎。
3.Downloader(下载器):负责下载ScrapyEngine发送的所有requests请求，并将其获取到的responses交还给ScrapyEngine，由引擎交给Spider来处理。
4.Spider(爬虫):它负责处理所有Responses，从中分析提取数据，获取ltem字段需要的数据，并将需要跟进的URL提交给引擎，再次进入Scheduler。
5.ItemPipeline(管道):它负责处理Spider中获取到的ltem，并进行进行后期处理，详细分析，过滤，存储等的地方。
6.DownloaderMiddlewares(下载中间件):它是一个可以自定义扩展下载功能的组件。
7.SpiderMiddlewares(Spider中间件):它是一个可以自定扩展和操作引擎和Spider中间通信的功能组件比如进入Spider的Responses，和从Spider出去的Requests。
三、创建Scrapy项目
新建项目命令：
scrapystartprojectxxx
在开始爬取之前,必须创建一个新的Scrapy项目。进入自定义的项目目录中，运行下列命令:
scrapystartprojectxxx
其中，xxx为项目名称,可以看到将会创建一个xxx文件夹，目录结构大致如下:
四、创建爬虫
创建爬虫的命令：
scrapygenspider爬虫名字网站域名
应当注意的是爬虫名字不要和项目名字一-样，网站域名是允许爬虫采集的域名如，baidu.com，zhihu.com。创建后python文件如下:
五、总结
Scrapy框架相当于一辆造好的车子，只要我们会开，我们就可以利用这辆车子去到任意想去的地方。通常我们使用的request的方法就相当于在出发前再去造一辆车子，这是相当麻烦的。学好Scrapy，对于网上80%的网站我们都可以进行爬取。
以上就是简述pythonScrapy框架的详细内容，更多关于pythonScrapy框架的资料请关注毛票票其它相关文章！
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。