python下读取一个页面的数据可以通过urllib2轻松实现请求
importurllib2PRinturllib2.urlopen('http://www.baidu.com').read()
涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。
其中的post数据需要urllib.encode()一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。
importurllibimporturllib2
HEADER={'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101Firefox/31.0','Referer':'http://202.206.1.163/logout.do'}
POSTDATA={'data1':'value1','data2':'value2'}
HOSTURL='http://xxx.com'enpostdata=urllib.urlencode(POSTDATA)
urlrequest=urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse=urllib2.urlopen(urlrequest)printurlresponse.read()
请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。
在python下面需要设置一下cookie的保持
#cookie set#用来保持会话cj =cookielib.LWPCookieJar()
cookie_support=urllib2.HTTPCookieProcessor(cj)
opener=urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)
下面是将以上知识点汇总写的一个库文件,方便使用:
# filename: analogop.py
#!/usr/bin/python#-*-coding:UTF-8 -*-#author: 初行#QQ: 121866673#mail: zxbd1016@163.com#message: I need a python job#time: 2014/10/5importurllibimporturllib2importcookielib#cookie set#用来保持会话cj =cookielib.LWPCookieJar()
cookie_support=urllib2.HTTPCookieProcessor(cj)
opener=urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)#default headerHEADER = {
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0','Referer':'http://202.206.1.163/logout.do'}#Operate methoddefgeturlopen(hosturl, postdata = {}, headers =HEADER):#encode postdataenpostdata =urllib.urlencode(postdata)#request urlurlrequest =urllib2.Request(hosturl, enpostdata, headers)#open urlurlresponse =urllib2.urlopen(urlrequest)#return urlreturnurlresponse
这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:
#filename: test.py
fromanalogopimportgeturlopen
postd={'usernum':'2011411111','upw':'124569','userip':'192.168.10.1','token':'xxx'}
urlread= geturlopen('http://127.0.0.1:8000/login/', postd)printurlread.read().decode('utf-8')
urlread= geturlopen('http://127.0.0.1:8000/chafen/', {})printurlread.read().decode('utf-8')