谷歌在GET中适当加入POST请求抓取网页内容

王朝学院·作者佚名  2016-04-29
窄屏简体版  字體: 小  |  中  |  大  |  超大  

近日,谷歌黑板报上发布了一篇名为《GET,POST以及安全获取更多网络信息》的博文。文章对谷歌近期对抓取网页内容方式的改善进行了详细介绍。文章中提到,谷歌将在今后读取网页内容的时候不单单只采用GET抓取,而是时情况而定适当的加入POST请求方式抓取网页内容,进一步提高谷歌搜索引擎对网页内容的判断。

随着互联网的高速发展,javaScript和Ajax日渐普,越来越多的网页需要POST请求——因为网页的全部内容或因为有些网页信息缺失以及/或者POST无法返回资源而使网页无法显示。而谷歌方面认为单一的采用GET来抓取网页所需资源将无法呈现最全面、准确的结果。

因此,谷歌改善了Flash索引,在GET抓取之中引入POST请求,以此对网页内容作出更完整、准确的抓取及索引。

谷歌抓取网页内容步骤如下:

1.通过GET抓取网页内容。

2.索引网页内容,并尝试渲染页面。

3.在渲染过程中使用POST请求读取页面内容,产生一个新的POST内容页面。

4.将POST请求所得内容网页与其他数据负载添加到Googlebot的抓取队列。

5.Googlebot执行一个POST请求抓取网页。

6.谷歌将最终POST结果呈现,也有可能将GET与POST请求结果融合。

7.完成索引。

搜索引擎新闻内容来源于网络,由笔者组织文字并排版,并不完全代表本博客实际观点,仅供读者参考交流。

若有涉及作者版权等问题请及时与笔者取得联系,以便更正、删除或按规定办理。

本文链接地址:http://www.yushenblog.com/news/450.html

 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
© 2005- 王朝網路 版權所有 導航