《Python爬虫开发 从入门到实战》配套源代码。.zip

# 《Python爬虫开发 从入门到实战》配套源代码 ## 购书地址： * 京东：[https://item.jd.com/12436581.html](https://item.jd.com/12436581.html) * 当当：[http://product.m.dangdang.com/25349717.html](http://product.m.dangdang.com/25349717.html) * 亚马逊：[https://www.amazon.cn/dp/B07HGBRXFW](https://www.amazon.cn/dp/B07HGBRXFW) ## 我的公众号  # 如果你不知道做什么，那就学一门杂学吧 ## 序言 这篇文章没有代码，请放心阅读。 多年以后，面对人工智能研究员那混乱不堪的代码，我会想起第一次和S君相见的那个遥远的下午。那时的B公司，还是一个仅有6个人的小团队，Mac和显示器在桌上依次排开，大家坐在一起，不需要称呼姓名，转过脸去，对方就知道你在和他说话。一切看起来都那么美好，我们所有人，都希望自己和这个公司能够一起成长。 彼时S君刚从加拿大回来，老板把他介绍给我们，于是S君作为数据产品经理跟我有了项目上的接触。 创业公司里面，每一个人都需要会很多的技艺，于是S君开始自学Python。 有一天，S君问我：“你玩MineCraft吗？“ “玩，但我更喜欢在B站上看别人的世界。”我答道。 “我觉得我现在写程序，像是在玩我的世界。”S君笑着说道。 “是不是觉得你已经掌握了Python的基本语法，看着别人把Python用的溜溜转，而你自己却不知道用它来做什么？” “是这样的，你懂我。” “那你学一门杂学吧。” 于是S君被我诱拐过来跟我一起写爬虫。 后来，S君离开了B公司。 三个月后，我也离开了。 从此，我们再也没有见过。 ## 编程最重要的能力是变通 S君是一个老实孩子。 在开发一个爬虫的过程中，网站接口返回给他的数据看起来是JSON格式，于是他就用Python自带的JSON库去解析。结果解析失败了。因为这些所谓的看起来像JSON的东西，竟然没有双引号。 难道是JSON的超集？S君一通搜索，发现用YMAL库也许可以解析这种数据。于是安装YMAL库，一解析又报错。 难道这些数据直接就是Python的字典？于是S君用上了邪恶的eval。又报错，因为里面有null和小写的true。 “你为什么不试一试直接用正则表达式呢？”我对S君说。 “靠！”S君一拍桌子，旁边的老板吓得把搪瓷杯子里面的快乐水洒在了白衬衣上。 然后S君用正则表达式花了10秒钟结束了战斗。 ## 写爬虫与三峡大坝 有一天，S君兴冲冲地跑来跟我说：“我体会到三峡大坝的伟大功能了！” “你是爬虫工程师还是水利工程师？” “你知道吗，不管上游的水势多么凶猛，从大坝出来以后总是安全而稳定。”S君并没有回答我的问题，而是自顾自地说道。 “原来你开始用Kafka。不错，孺子可教。” S君吐了一下舌头：“还是师傅教导有方。” 前不久，S君的爬虫刚刚达到了日产数据千万条的目标。然而他只高兴了一天。因为他发现，数据写到数据库以后，读起来很麻烦。 S君有多个数据分析的系统需要从数据库里面读取爬虫爬好的数据，但是从每天千万量级的数据中寻找特定的数据是一个很慢的过程。如果程序遇到异常导致崩溃，又得从头开始读。 S君问我：“现在我每一个数据分析的脚本都要从数据库里面读一次数据，做了太多重复的工作，单机单节点的数据库快要撑不住了。我是不是要去学习分库分表搭建集群啊？” 我告诉S君：“这个后面你自然是需要去做的。但现在，你可以先试一试Kafka，我已经搭建好了一个Kafka的集群了，你这样使用……”。 后来，S君让所有爬虫把爬到的数据到直接送进了Kafka，然后再从Kafka里面读数据出来，一个Group用来备份原始数据，一份Group用来生成中间表，一份Group用来监控报警，一份Group用来绘制DashBoard。无论爬虫塞给Kafka的数据有多少，有多快，从Kafka读数据的地方都能按照自己的节奏来消费和使用。 ## 既然收集了数据就要让它发光发热 S君在加拿大留学时学的专业是金融数学和统计。所以他对数据分析也很有兴趣。在他爬虫收集的数据够用以后，我跟他讲了如何使用Pandas来分析数据。 S君把他分析的酒店价格变化数据给分享给了我们。不愧是金融+数学+统计学背景的高级知识分子 + 超级强大的Pandas + 超级好用的Jupyter。这份数据不仅完美再现了过去一年的价格走势，还预测了未来的任何变化，多达四十六张图表似乎穷尽了所有的组合。 ## 草木竹石皆可破敌 S君曾经遇到过一个特别简单的电商网站。页面几乎像素级抄袭淘宝，但是完全没有任何反爬虫的机制。以S君的水平，从审查元素，到开发完成，仅仅用了半个小时。爬虫安全平稳又顺利地运行了三个星期。 然后，有一天早上，爬虫死掉了。 S君用尽毕生所学，无法再从这个网站上爬到任何有价值的信息。这个网站似乎请来了一个机器行为对抗的大神级人物。人用浏览器一点问题都没有，但S君的任何隐藏爬虫的手段都被轻易识破。 S君找到我：“师傅，这个网站我搞不定。” “你能搞定。动动脑子。” “我会的所有技术都用上了，完全看不出破解他反爬虫机制的方法。”S君已经失去了信心。 “那就，不要用技术去对抗。用你的脑子。” S君抱着显示器用头一遍一遍的撞。 我问S君：“你有没有思考一个问题，这个网站模仿了淘宝的皮，却又毫无反爬虫机制。你觉得他的老板是一个什么样的人？你听过那个段子吗？” S君突然一跃而起：“我给你一万元，你帮我做一个网站吧。你想要什么样的网站？很简单，就淘宝那样的。你是说这个段子吗？” “对。” S君突然之间荣光焕发：“有办法了！” 只见S君重新在浏览器打开了这个网站，找到了客户服务热线。电话一拨通他就开始一通污言秽语骂起来：“……你们网站到底在搞什么？为什么今天一会能登录一会不能登录？找你们老板来！我来教他怎么做网站！……” 半小时以后，网站反爬虫机制全部解除。 此刻，S君面向西面双手合十，自言自语：“兄弟，对不起了，只有让你来背这个锅了。” ## 你小学上课传过纸条吗 “我现在能体会那些半路拦截纸条的人是什么心态了。”这是S君第一次使用Charles时对我说的话。 从此以后，我很少看到S君分析网页了。因为他学会了在爬虫开发的过程中，首先通过中间人攻击技术分析微信小程序和手机App。这种方式往往能够直接获得数据，拿到数据以后就能直接储存，再也不用写烦人的XPath或者长的跟表情符号一样的正则表达式了。 有一天，我在玩一个网页版的黑客解密游戏，在网页上寻找某个地方隐藏起来的密码，然后输入每一关的回答框中，答对才能进入下一关。 游戏有12关，而我卡在了第6关。只见S君拿着电脑走到我面前，指着第12关的通关页面跟我炫耀。 “你是不是用MITMProxy替换了这个网站的Js文件？” “果然还是瞒不过师傅你啊。” “你拦截了别人的纸条，做了修改，然后又叠好继续传下去，你有考虑过发纸条的人和收纸条的人的感受吗？” “我小学时候不传纸条，都是妹子直接约我的。” ## 加密？不存在的 “前端没有秘密”。S君在成功逆向了一个网站的Js�