【建议收藏】教你一个最最最最最最简单的爬虫方法
今日目标：
了解数据爬虫的过程
程序员最难学的，不是java或者c++，而是社交，俗称：撩妹。
在社交这方面，我算是程序员里，比较出类拔萃的了。
比如之前，做了《一个海报生成表格，让我从大爷变成了小哥哥》，我撩到了社群运营的小姐姐。
这已经是上个月的事情了，这个月我又一头扎进了爬虫的技术研究里了。
技术满足的反面，就是孤独空虚。
于是，我决定用爬虫再撩一次妹。。。
结果。。。
我成功了！！！
我把微博营销案例，全部爬虫到一个了Excel表格里。
700多个运营分析报告，一键下载。
网站中的案例，要一个个下载 ↑
表格中的案例，哪个点赞多下载哪个↑
社群运营的妹子们，都快疯掉了！
秋叶Excel抖音女主：小美↑
微博手绘大V博主，有姜姜 ↑
社群运营老司机：颜敏姐 ↑
我跟你讲，如果我早两年会爬虫，现在的同床室友，还指不定是谁呢？！
1- 什么是爬虫
爬虫，即网络爬虫。是指按照一定的规则，自动抓取网络上的数据。
比如前面，自动抓取「社会化营销案例库」的案例。
想象一下，如果是人工浏览页面，来下载这些案例的话，流程是这样的：
1- 打开案例库页面
2- 点击案例，进入详情页
3- 点击下载案例pdf
4- 回到案例库页面，点击下一个案例，重复前面的3个步骤。
如果想要下载所有的pdf案例的话，需要安排一个专人，反复的、机械式的下载，显然这个人的价值含量是很低的。
爬虫就是替代这种机械重复、低价值的获取数据动作，用程序或代码自动、批量完成数据抓取。
爬虫的好处
简单的总结一下，爬虫的好处主要有两个方面：
1- 自动抓取，解放人力提升效率
机械的、低价值的工作，用机器来完成是最优的方案。
2- 数据分析，插队获取优质内容
和人工浏览数据不同，爬虫可以把数据汇总整合成一个数据表，方便我们后续做数据统计、数据分析。
比如「社会营销案例库」中，每个案例都有浏览数、下载数，想要按照浏览数排序，优先看浏览最多的案例，数据爬取到Excel表格中，使用排序功能，轻松的浏览。
爬虫的案例
凡是数据，皆可爬。
掌握到了爬虫的技能，可以做的事情有很多。
Excelhome的帖子爬取
我是教Excel的，Excelhome论坛是个大宝藏。
一个一个看太费劲，爬取1.4万帖，挑浏览数最多的看。
幕布精选文章爬取
幕布是一个梳理大纲的好工具，很多大咖用幕布写读书笔记，不用整本通读也能学习到要点。
没时间挨个浏览幕布的精选文章，爬取所有篇精选，做梳理自己的知识大纲。
曹将的公众号文章爬取
我很喜欢曹将，拥有我这个年龄欠缺的逻辑、归纳、表达能力，文章篇篇精华。
公众号太多，用手机阅读容易分心？爬取到Excel里，先挑阅读最高的开始看。
另外还有，抖音播放数据、公众号阅读、评论数据，B站弹幕数据、网易云评论数据。
爬虫+数据分析，给网络带来了更多的乐趣。
2- 爬虫易，利其器
提到爬虫，大部分会想到编程技术，python、数据库、beautiful、html结构等等，让人望而生畏。
其实，基础的爬虫非常的简单，借助一些采集软件，点点按钮就可以轻松的完成。
常用爬虫软件
下面几个软件，是我爬取数据时用过的，推荐给大家：
1- 爬山虎采集器
简单易学，通过可视化界面、鼠标点击即可采集数据、向导模式，用户无需任何技术基础，输入网址，一键提取数据。
http://www.51pashanhu.com/
这是我接触的第1个爬虫软件，
优点：
1- 使用流程简单，上手入门特别好。
缺点：
1- 导入数量限制。采集下来的数据，非会员只能导出时限制1000条。
2- 导出格式限制。非会员只能导出txt文本格式。
2- 八爪鱼
无需再学爬虫编程技术，简单三步就可以轻松抓取网页数据，支持多种格式一键导出，快速导入数据库
https://www.bazhuayu.com/
爬山虎无法满足我的需求之后，开始尝试更专业的采集软件，找到了八爪鱼。
优点：
1- 采集功能更强大，可以自定义采集流程。
2- 导出格式、数据量没有限制。
缺点：
1- 流程有些复杂，新手入门学起来有些困难。
3- 后羿采集器（推荐）
智能识别数据，小白神器
基于人工智能算法，只需输入网址就能智能识别列表数据、表格数据和分页按钮，不需要配置任何采集规则，一键采集。自动识别列表、表格、链接、图片、价格、邮箱等
http://www.houyicaiji.com/
这是我现在用的采集软件，可以说是中和了前两个采集器的优缺点，使用体验更好。
优点：
1- 自动识别页面信息，入门上手简单
2- 导出格式、数据量都没有限制
目前没有发现缺点。
3- 爬虫操作过程
注意啦，注意啦，接下来是动手的环节了。
我们以「幕布精选文章」为例，用「后羿采集器」体验一下爬虫的快乐。
采集后的效果如下：
1- 复制采集的链接
打开幕布官网，点击「精选」，进入到精选文章页面。
复制精选页面的网址：https://mubu.com/explore
2- 后羿采集数据
1- 登录「后羿采集器」官网，下载并安装采集器。
2- 打开采集器后，点击「智能模式」中的「开始采集」，新建一个智能采集。
3- 贴入幕布精选的网址，点击立即创建
这个过程中，采集器会自动识别页面中的列表、数据内容，整个过程是AI算法自动完成的，等着识别完成。
页面分析识别中 ↑
页面识别完成 ↑
4- 点击「开始采集」->「启动」，开启爬虫的旅程。
3- 采集数据导出
在数据爬取过程中，你可以点击「停止」结束数据爬取。
或者等待数据爬取完成后，在弹出的对话框里，点击「导出数据」。
导出格式，选择Excel，然后导出即可。
4- 使用HYPERLINK函数，添加超链接
打开导出的表格，在I列添加HYPERLINK公式，添加超链接，一点打开对应的文章。
公式如下：
=HYPERLINK(B2,"点击查看")
到这里，你的第1次爬虫之旅就圆满的完成了！
4- 总结
爬虫就像VBA里的录制宏，把重复的动作录制下来，替代人工重复操作。
今天看到的，只是简单的数据采集，爬虫的话题还有很多，很深入的内容。比如：
1- 身份验证。爬取页面需要登录。
2- 浏览器检验。比如公众号文章，只能在微信里获取阅读数量。
3- 参数校验（验证码）。页面需要输入验证码。
4- 请求频率。比如页面访问时间不能低于10秒
5- 数据处理。爬取的数据，需要提取其中的数字、英文等内容。
了解了爬虫的过程之后，你现在最想爬取的数据是什么呢？
我猜大部分人，想到的都是：
- 公众号文章爬取
- 抖音数据爬取
关于抖音数据爬取，我在「拉小登Excel」知识星球里，有分享一篇文章，扫码下面二维码，了解更多。
我是拉小登，一个会设计表格的Excel老师