大神爬了这些网站的数据，发现价值巨大！

▲点击图片领取excel模板

公众号后台回复：“可视化”，获取EXCEL模板

公众号后台回复：“社群”，进入知识分享社群

热文推荐：

一个网站背后的数据是一座巨大的宝库，对于如何爬取数据，如何利用好这些数据，很多人还是一头雾水。在知乎的提问“有哪些网站用爬虫爬取能得到很有价值的数据？”中，@何明科为读者分享了自己的爬虫经验：

0、IT桔子和36Kr

在专栏文章中（http://zhuanlan.zhihu.com/p/20714713），抓取IT橘子和36Kr的各公司的投融资数据，试图分析中国各家基金之间的互动关系。

1、知乎
沧海横流，看行业起伏（2015年） - 数据冰山 - 知乎专栏，抓取并汇总所有的答案，方便大家阅读，找出2015年最热门和最衰落的行业

有空的时候，准备写爬虫分析知乎的关系链。

2、汽车之家
大数据画像：宝马车主究竟有多任性？- 数据冰山 - 知乎专栏，利用论坛发言的抓取以及NLP，对各种车型的车主做画像。

3、天猫、京东、淘宝等电商网站
超越咨询顾问的算力，在用户理解和维护：大数据改变管理咨询（三） - 数据冰山 - 知乎专栏，抓取各大电商的评论及销量数据，对各种商品（颗粒度可到款式）沿时间序列的销量以及用户的消费场景进行分析。

甚至还可以根据用户评价做情感分析，实时监控产品在消费者心目中的形象，对新发布的产品及时监控，以便调整策略。

4、58同城的房产、安居客、Q房网、搜房等房产网站
下半年深圳房价将如何发展 - 数据冰山 - 知乎专栏，抓取房产买卖及租售信息，对热热闹闹的房价问题进行分析。

5、大众点评、美团网等餐饮及消费类网站
黄焖鸡米饭是怎么火起来的？- 何明科的回答，抓取各种店面的开业情况以及用户消费和评价，了解周边变化的口味，所谓是“舌尖上的爬虫”。

以及各种变化的口味，比如：啤酒在衰退，重庆小面在崛起。

6、58同城等分类信息网站
花10万买贡茶配方，贵不贵？- 何明科的回答，抓取招商加盟的数据，对定价进行分析，帮助网友解惑。

7、拉勾网、中华英才网等招聘网站
互联网行业哪个职位比较有前途？- 数据冰山 - 知乎专栏，抓取各类职位信息，分析最热门的职位以及薪水。

8、挂号网等医疗信息网站
如何评价挂号网？- 何明科的回答，抓取医生信息并于宏观情况进行交叉对比。

9、应用宝等App市场
你用 Python 做过什么有趣的数据挖掘/分析项目？- 何明科的回答，对各个App的发展情况进行跟踪及预测。（顺便吹一下牛，我们这个榜单很早就发现小红书App的快速增长趋势以及在年轻人中的极佳口碑）

10、携程、去哪儿及12306等交通出行类网站
你用 Python 做过什么有趣的数据挖掘/分析项目？- 何明科的回答，对航班及高铁等信息进行抓取，能从一个侧面反映经济是否正在走入下行通道。

11、雪球等财经类网站
抓取雪球KOL或者高回报用户的行为，找出推荐股票

12、58同城二手车、易车等汽车类网站
一年当中买车的最佳时间为何时？- 何明科的回答和什么品牌或者型号的二手车残值高？更保值？反之，什么类型的贬值较快？- 二手车，找出最佳的买车时间以及最保值的汽车。

13、神州租车、一嗨租车等租车类网站
抓取它们列举出来的租车信息，长期跟踪租车价格及数量等信息

14、各类信托网站
通过抓取信托的数据，了解信托项目的类型及规模

其实还有很多数据，不一一列举了。只要有爱数据的心和能爬的虫子，一切且有可能。顺利安利一下，抓取数据只是很小一部分，我们更擅长的是数据分析挖掘、可视化以及个性化的推荐。

链接：https://www.zhihu.com/question/36132174/answer/89145038
来源：知乎

推荐阅读

公众号后台回复关键词“可视化”

获取资料

进入知识星球——智识梦工厂

  公众号所有内容都会同步更新到这啦  

科技丨互联网丨职场丨商业

优质内容，每日更新

海量知识，一键领取

1000+份大数据热门报告  500+人工智能热门书籍 

500+互联网优质软件+PPT  100+区块链高分书籍

2000本kindle高分书籍，45G小程序资料……

麦肯锡、高盛、波士顿等机构研究报告

经济学人杂志、职场简历模板

为读者找知识，为知识找读者 

原价50，优惠后只要20

名额仅限100位，限时领取

▼

干货▶

科技▶

互联网▶

职场▶

其他▶

5G

区块链▶

扫码进入知识分享社群

分享优质内容，让阅读有价值

  愿行者智，并智者行  

公众号后台回复“社群”, 加入社群