什么是爬虫？爬虫的作用是什么？

　　网络爬虫，即Web Spider，是一个很形象的名字。

　　把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。

　　网络蜘蛛是通过网页的链接地址来寻找网页的。

　　从网站某一个页面(通常是首页)开始，读取网页的内容，找到在网页中的其它链接地址，

　　然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。网络爬虫就是一个爬行程序，一个抓取网页的程序。

　　网络爬虫的基本操作是抓取网页。

　　那么如何才能随心所欲地获得自己想要的页面?

　　1、收集数据

　　Python爬虫程序可用于收集数据，这是最直接和最常用的方法。由于爬虫程序是一个程序，程序运行得非常快，不会因为重复的事情而感到疲倦，因此使用爬虫程序获取大量数据变得非常简单、快速。

　　2、数据储存

　　Python爬虫可以将从各个网站收集的数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。注意：搜索引擎蜘蛛在抓取页面时，也做一定的重复内容检测，一旦遇到访问权限很低的网站上有大量抄袭、采集或者复制的内容，很可能就不再爬行。

　　3、网页预处理

　　Python爬虫可以将爬虫抓取回来的页面，进行各种步骤的预处理。比如提取文字、中文分词、消除噪音、索引处理、特殊文字处理等。

　　4、提供检索服务、网站排名

　　Python爬虫在对信息进行组织和处理之后，为用户提供关键字检索服务，将用户检索相关的信息展示给用户。同时可以根据页面的PageRank 值来进行网站排名，这样Rank值高的网站在搜索结果中会排名较前，当然也可以直接使用Money购买搜索引擎网站排名。

　　5、科学研究

　　在线人类行为、在线社群演化、人类动力学研究、计量社会学、复杂网络、数据挖掘等领域的实证研究都需要大量数据，Python爬虫是收集相关数据的利器。