查看原文
其他

这都是你最关心的一些SEO问题(续)!

2014-12-27 木木老贼


接着上次的《这都是你最关心的一些SEO问题》,我们继续!

1、对百度爬虫误封禁(非robots.txt声明,直接在网络上禁止)一般多久会被降权?若被降权后,除了解封爬虫,还有没有其他措施可以使之尽快恢复?

王勇

有一天我们有一个网站发现来了非常多的爬虫,给服务器造成了极大的压力。于是我们紧急屏蔽了所有爬虫IP和UA。可是等一段时间后,我们解除解禁后,却发现恢复起来非常缓慢,基本上两个月后才回到了当时的水平。网站越做越大,肯定会遇到庞大的访问压力、抓虫抓取方面的问题,所以想借此机会咨询一下,看在这方面有没有一个好的解决办法。


百度官方

理论上讲,站点屏蔽了Baiduspider后的恢复周期的确比较长,但是有没有措施就请孙权讲一下了。通过封禁UA或IP的方式来拒绝百度蜘蛛,一天以上后果都是非常严重的。就这个问题来说目前没有快速的方法可以让你在短时间内恢复。这是站点自身运行的一个故障,并不是百度策略上面有什么问题。还有就是,网站在无法访问期间,很多因子都会受到影响,百度在给网站进行综合打分时会综合计算多个因子,所以说,即使是网站访问恢复了,但其它因子的负面影响还在,网站恢复起来也还是非常困难的。

对于网络爬虫的抓取,很多人觉得抓取越多越好,其实不是,那只是你的网站还没有做到抓取过载,爬虫爬太多会造成服务器过载,加载慢等问题,具体可看《搜索引擎蜘蛛爬行太多未必好

王勇

用闭站保护能解决这个问题吗?

百度官方

不能。闭站保护前提是把网站死掉,指的是爬虫不能抓取,同时用户也访问不了。其实我建议不管对什么样的IP或者UA都不要直接封禁,设置502会好一点。

王勇

当时我们也有想过设置502,但考虑到这个问题不是短期内能够解决的,担心使用502被搜索引擎视为欺骗,毕竟是服务器的问题嘛,应该是403。我们非常害怕因为使用取巧的做法而带来更严重的后果。

百度官方

这个还好,如果你网页明确不想让搜索引擎访问就403就好了,而如果走屏蔽其实502也无所谓,仅仅是百度蜘蛛浪费流量重新抓几次,这是比较谨慎的情况。我们抓不到你们的内容对我们来说也是损失。可能很多站长会问,为什么我的站持续一段时间访问不了后排名会掉得那么厉害,就是因为百度认为网站可访问性有问题,目前百度对可访问性有问题的网站打压是非常厉害的。所以,面对网站爬虫访问量突增的情况,我不建议站长立刻去封我们的爬虫,你可以通过百度站长平台抓取频次工具,把这个爬虫压力调低,但是不可以封掉。比如本来一天来抓50万,你调低到2万,我们后台的Spider策略都是认这个值的。

关于闭站保护以及百度站长平台的抓取频次工具,不用多说,出现问题按百度的指导来最好,建《百度站长平台新增闭站保护功能 》。而一下子说这么多状态码,很多人可能一下子消化不了,只知道404、301、200,502是干啥的?503又是干啥的?在《网站首页返回大量304状态码》中都有列出!

2、301跳转后新旧页面的排名会交替波动,是什么原因?这种情况是否有导致权重分散的可能?

王勇

301跳转常见问题汇总》文章中提到站点设置301后,百度不会删除旧网页,新旧网页同时存在,百度在搜索结果中会优先展现新网页,但实际情况是,会发生新旧页面交替获得排名的现象,这是什么原因?


百度官方

这个问题主要是由我们的系统造成的。我们系统有非常多的模块,每个模块都要去单独处理301更替,偶尔有一些模块的处理逻辑可能有出现问题,可能出现一些波动。我们在6月份左右时做过一次大规模的改进,基本上把所有的模块都理了一遍,把所有归一化都做了统一,现在这样的问题比较少了。


关于这个问题,正好我昨天在《SEO分析:权重8,你看到的未必是真实的!》中提到,百度的系统、数据库、算法不是100%完善的,也不是全能的,更不是立马就能及时达到理论效果,这个是一直需要不断改善和反馈的,全世界的搜索引擎还没有说到完美的程度,还很远!!

3、百度快照时间与页面质量、抓取更新频率是否有什么关系?

王勇

百度快照时间与页面质量、抓取更新频率是否有什么关系?


百度官方

快照时间没有任何参考价值,在排序时我们使用单独的抓取时间统计系统,外部不可见,站点完全不用关注百度的快照时间。


关于这个木木就多说一点薄见,首先,网站快照的更新频率与权重并不存在任何直接的关系。百度快照也不直接不影响排名,所谓的百度快照更新,其实就是网页缓存的更新。每个新抓取的网页,百度都会根据其重要程度和时效性以不同的频率去建立索引,一些经常有重要内容更新的网页,蜘蛛会以更快的速度创建索引并放出这个索引缓存。如果一个网站只是一般的文字变更或者内容没有时效性价值的内容,并不一定会被搜索引擎认为是有更新的页面而去建立新的索引。

  

很多时候,百度快照会倒退,为什么?一个重要的网页,往往会在搜索引擎中保留有多份网页快照,而且这些快照的索引时间也不尽相同,有时搜索引擎可能会选择一个他觉得比较重要的快照来进行展示,所以就有可能出现网页快照倒退的情况出现。甚至有时候由于缓存问题,还可能出现搜索同一个词有多个快照的情况。

4、在终端页,边栏、底部部署大量链接,可能和当前文章主题不直接相关(但间接相关),算相关链接还是噪声?是否影响页面本身内容识别和收录?

王勇

文章页的边栏、底部部署大量与当前文章间接相关的链接,是否会认被为噪声?是否影响页面本身内容识别和收录?


百度官方

网页在建库时会判断页面的主体内容,而边框这部分的内容基本不算在内,所以基本不会有影响,只是会有一些链接发现的作用。


消噪是搜索引擎预处理过程中的一个基本步骤,消噪是在搜索引擎抓取完网页在预处理过程中经过提取文字、分词、去停止词后进行的,搜索引擎需要处理的网页数量非常庞大,而这部分无意义的内容也是非常大的,为了节省计算资源,更快的计算,搜索引擎在预处理时会将这些内容识别后剔除出去,这个过程就叫做消噪,而这些剔除的内容就叫噪音。具体关于消噪和加噪可以查看《SEOer如何利用搜索引擎消噪原理

5、Canonical标签使用的的要求是高度相似,有没有什么标准?

王勇

Canonical 的使用范围(可见《百度再谈Canonical标签》,百度提到“高度相似”,这个“高度相似”到底是什么标准?例如以下这两个页面是否可以当成“高度相似”处理?






百度官方

高度相似是指网站的标题、主体内容以及网站的结构都相似,从这个案例来看网站结构不同,对Baiduspider来说完全是两个不同页面,canonical标签不会生效。


可以看到百度对于canonical标签的判断是非常严格的,上面2个网页其实内容基本上是完全一样的,事不过排列的结构不同。不说你可能都不知道,以为只要内容类似就可以进行Canonical 标签了,其实不止内容相似,还要结构、标题、标签等网页上的元素都相似。

6、关于原创采集问题。

王勇

请问百度如何看待一个采集了优质内容,但浏览体验和访问性都好的网站?


百度官方

对于百度来说,能够提供满足用户需求的内容、有良好用户体验的网站就是好网站。有些站点从从外站转载来内容,经过加工提供了内容增益,更好的满足了用户需求,同样可以得到好的展现。

这一点是真不用多说了,原创内容从来都只是影响排名中的一个因素,并且现在是越来越少被官方提起了,内容增益,满足需求,用户基数大,体验好才是经常被说到的。不多说,之前我《百度是如何保护原创的?谈百度原创那点事》一文已经很详细的分析了“原创”与网站的恩怨情仇!!

木木博客,关注互联网营销,注重网络推广策略、营销引流技巧及思路!如果你有不同的看法也可以和我交流,公众号:mumuseo!


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存