程序模擬瀏覽器請求及會話保持-python實現
python下讀取一個頁面的數據可以通過urllib2輕松實現請求
import urllib2 print urllib2.urlopen('http://www.baiduhome.net').read()
涉及到頁面的POST請求操作的話需要提供頭信息,提交的post數據和請求頁面。
其中的post數據需要urllib.encode()一下,其實就是將字典轉換成“data1=value1&data2=value2”的格式。
import urllib import urllib2 HEADER = { 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0', 'Referer' : 'http://202.206.1.163/logout.do' } POSTDATA = { 'data1': 'value1', 'data2': 'value2' } HOSTURL = 'http://xxx.com' enpostdata = urllib.urlencode(POSTDATA) urlrequest = urllib2.Request(hosturl,enpostdata,HEADER) urlresponse = urllib2.urlopen(urlrequest) print urlresponse.read()
請求之后瀏覽器會有一個會話保持的過程,會話都是保存在一個cookie里面的,下一次頁面的請求會把cookie放到請求頭,如果cookie丟失會話也就斷開了。
在python下面需要設置一下cookie的保持
# cookie set用來保持會話
cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener)</pre>
下面是將以上知識點匯總寫的一個庫文件,方便使用:
# filename: analogop.py!/usr/bin/python
--coding:UTF-8 --
author: 初行
qq: 121866673
mail: [email protected] # message: I need a python job
time: 2014/10/8
import urllib import urllib2 import cookielib
cookie set
用來保持會話
cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener)
default header
HEADER = { 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0', 'Referer' : '
operate method
def geturlopen(hosturl, postdata = {}, headers = HEADER): # encode postdata enpostdata = urllib.urlencode(postdata) # request url urlrequest = urllib2.Request(hosturl, enpostdata, headers) # open url urlresponse = urllib2.urlopen(urlrequest) # return url return urlresponse</pre>
這個是測試文件,因為讀者沒有測試環境,需要自己搭建或者找個網站測試:
#filename: test.py from analogop import geturlopen postd = { 'usernum': '2011411111', 'upw': '124569', 'userip': '192.168.10.1', 'token': 'xxx' } urlread = geturlopen('http://127.0.0.1:8000/login/', postd) print urlread.read().decode('utf-8') urlread = geturlopen('http://127.0.0.1:8000/chafen/', {}) print urlread.read().decode('utf-8')</div>