“入门”是良好的动机，但是可能作用缓慢。如果你手里或者脑子里有一个项目，那么实践
起来你会被目标驱动，而不会像学习模块一样慢慢学习。
另外如果说知识体系里的每一个知识点是图里的点，依赖关系是边的话，那么这个图一定不
是一个有向无环图。因为学习 A 的经验可以帮助你学习 B。因此，你不需要学习怎么样“入
门”，因为这样的“入门”点根本不存在！你需要学习的是怎么样做一个比较大的东西，在
这个过程中，你会很快地学会需要学会的东西的。当然，你可以争论说需要先懂 python，
不然怎么学会 python 做爬虫呢？但是事实上，你完全可以在做这个爬虫的过程中学习
python :D
看到前面很多答案都讲的“术”——用什么软件怎么爬，那我就讲讲“道”和“术”吧——
爬虫怎么工作以及怎么在 python 实现。
先长话短说 summarize 一下：
你需要学习
基本的爬虫工作原理
基本的 http 抓取工具，scrapy
Bloom Filter: Bloom Filters by Example
如果需要大规模网页抓取，你需要学习分布式爬虫的概念。其实没那么玄乎，你只要学会怎
样维护一个所有集群机器能够有效分享的分布式队列就好。最简单的实现是 python-rq:
https://github.com/nvie/rq
rq 和 Scrapy 的结合：darkrho/scrapy-redis · GitHub
后续处理，网页析取(grangier/python-goose · GitHub)，存储(Mongodb)
以下是短话长说：
说说当初写的一个集群爬下整个豆瓣的经验吧。
1）首先你要明白爬虫怎样工作。
想象你是一只蜘蛛，现在你被放到了互联“网”上。那么，你需要把所有的网页都看一遍。
怎么办呢？没问题呀，你就随便从某个地方开始，比如说人民日报的首页，这个叫initial pages，
用$表示吧。
在人民日报的首页，你看到那个页面引向的各种链接。于是你很开心地从爬到了“国内新闻”
那个页面。太好了，这样你就已经爬完了俩页面（首页和国内新闻）！暂且不用管爬下来的
页面怎么处理的，你就想象你把这个页面完完整整抄成了个 html 放到了你身上。
突然你发现， 在国内新闻这个页面上，有一个链接链回“首页”。作为一只聪明的蜘蛛，你
肯定知道你不用爬回去的吧，因为你已经看过了啊。所以，你需要用你的脑子，存下你已经
看过的页面地址。这样，每次看到一个可能需要爬的新链接，你就先查查你脑子里是不是已
经去过这个页面地址。如果去过，那就别去了。
好的，理论上如果所有的页面可以从 initial page 达到的话，那么可以证明你一定可以爬完所
有的网页。
资源评论
