网站robots.txt文件配置错误,让我的站点丧失抓起良机!

王朝互联网·作者佚名  2011-12-16
窄屏简体版  字體: 小  |  中  |  大  |  超大  

国外的检查robots.txt文件合法性的在线验证工具地址是:http://tool.motoricerca.info/robots-checker.phtml。不过要注意,使用这个工具,请把robots.txt里的汉字注释清除(我的广州空调维修站点就是吃这个亏了!!!),它识别不了汉字;如果有汉字在里面的话,它就不认为这是一个robots.txt文件了。

如果robots文件验证通过的话,一般会显示以下结果:

Analyzing file http://www.piaoyi.org/robots.txt

No errors found in this robots.txt file

Hide empty and comments lines:

The following block of code DISALLOWS the crawling of the following files and directories: /inc/ to all spiders/robots.

Line 1 # robots.txt for www.gz-kongtiao.cn

Line 2 User-agent: *

Line 3 Disallow: /inc/

另外,Google网站管理员工具也可以在线验证robots文件,google是支持中文注释的。要分析网站的 robots.txt 文件,请按以下步骤操作:

(1)使用 Google 帐户登录 Google 网站管理员工具。

(2)在"控制台"中,点击所需网站的网址。

(3)点击工具,然后点击分析 robots.txt。

最后我要说的是:如果有什么问题,请您给我留言,留言地址是http://www.gz-kongtiao.cn/guest/。谢谢合作!

 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
© 2005- 王朝網路 版權所有 導航