浅析搜索引擎蜘蛛的抓取陷阱

王朝网站推广·作者佚名  2011-12-05
窄屏简体版  字體: |||超大  

这张图很形象的说明了搜索引擎的Spider在抓取网页时,一些不友好的元素会对其形成较坏的影响(说明:本人离开英文环境已半年,如有解释错误,勿怪。

Orphan Pages;Spider是根据链接抓取网页,没有链接的网页,自然使spider抓取困难。

Unfriendly SEO-CMS System;CMS对SEO不友好的话,会对spider形成一定的干扰,比如js、ajax、链接分布、frame结构等等。

Bad server Configuration;如阻止搜索引擎spider访问、302重定向、访问权限等等,以及服务器的稳定性,都有可能对spider造成致命的打击。

Cloaking;比如隐藏文字、没有任何内外链的网页,都会使spider出现问题。

Session Based Coding;URL根据访问者的cookie随机变换、html代码中大量的字符,这些session闯下的祸,对于一个不依赖SEO的网站来说可能没什么,但是对于一个基于SEO的网页来说可是致命的。

没有处理错误页面;如404跳转等。

本文由http://www.126.gov.cn原创,转载请注名出处。

 
 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
 
© 2005- 王朝網路 版權所有 導航