nodejs爬虫数据抓取 -- 问题总结

王朝学院·作者佚名  2016-05-22
窄屏简体版  字體: 小  |  中  |  大  |  超大  

nodejs爬虫数据抓取 -- 问题总结一 返回的信息提示 Something went wrong

request模块请求出现未知错误

其中,所用代码如下(无User-Agent部分)

问题多次派查无果,包括:

1:postman请求正常

2. curl 请求正常

解决办法:

为请求添加user-agent头,如取消上注释部分。(我发现,只要有了user-agent这个key,无论其value是否为空,都可以正常返回了)

所以对于模拟请求,有时候相应的http头部信息还是必须的。

 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
© 2005- 王朝網路 版權所有 導航