2024年07月05日 Scrapy 爬虫框架 Python51
日前，小编受大多小伙伴要求，给大家讲述了关于爬虫里最常见模块的使用，小伙伴们反映在实际操作上非常好用，但是只是生搬硬套，因为没有对这个架框本身进行详细的了解，小编想了下，如果对于架框本身了解清晰透彻，那么对之后的架框使用也肯定是活灵活现，因此，再给大家整理篇，希望对大家受用。
1、Scrapy爬虫框架
Scrapy是一个使用Python编程语言编写的爬虫框架，任何人都可以根据自己的需求进行修改，并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面。
Scrapy使用了Twisted异步网络库来处理网络通讯。整体架构大致如下图所示。
2、由上图可知Scrapy爬虫框架主要由5个部分组成。
Scrapy Engine（Scrapy引擎），Scheduler（调度器），Downloader（下载器），Spiders（蜘蛛），Item Pipeline（项目管道）。
3、这五大组件及其中间件的功能如下：
1) Scrapy引擎
2) Scheduler（调度器）
3) Downloader（下载器）
4) Spiders（蜘蛛）
5) Item Pipeline（项目管道）
6) 中间件（Middlewares）
好啦，以上就是基础的架框内容，大家一定要仔细了解好这个流程原理，这样我们才可以更好的学习使用这个架框，灵活的实现应用哦~
本文链接：http://so.lmcjl.com/news/7861/