证据表明百度蜘蛛可以爬行纯文本网址

王朝互联网·作者佚名  2012-07-13
窄屏简体版  字體: 小  |  中  |  大  |  超大  

很久之前我写过文本格式的网址对网站的权重有好处,今天我终于发现了纯文本网址可以吸引百度蜘蛛的证据。

大家知道百度站长平台已经对站长开放了,其中有很多有用的功能,包括提交网站地图、提交死链接、查看robots等等。其中有一项功能大家可能没有太注意,那就是站点抓取异常查询。

有时候我们的网站收录或者其他方面出现异常了,这时候还得分析网站日志等,查找原因。而这个工具可以直接查到,百度在抓取你的网站的时候出现了哪些错误,方便找到原因。

我今天检查的时候发现了有一个404抓取错误,本来抓取的是http://***.com/1227.html 但是后面多了个“>”,理论上不会出现这种链接错误啊。

经过搜索发现,有网站在转载文章的时候,出现了如上图的网址,而且是纯文本的网址:

百度因为抓取到了上面的网址,并把>也当做网址的一部分,并进行抓取,自然就出现了404错误。

从这个例子就可以知道,百度是可以抓取纯文本的网址的,这对广大SEO工作者和互联网从业人员是个好消息。

本文来自逍遥博客,本文地址:http://liboseo.com/1230.html,转载请注明出处和链接!

 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
© 2005- 王朝網路 版權所有 導航