程序模擬瀏覽器請求及會話保持-python實現

ybw8 9年前發布 | 17K 次閱讀 Python開發 Python

python下讀取一個頁面的數據可以通過urllib2輕松實現請求

import urllib2
print urllib2.urlopen('http://www.baiduhome.net').read()

涉及到頁面的POST請求操作的話需要提供頭信息,提交的post數據和請求頁面。

其中的post數據需要urllib.encode()一下,其實就是將字典轉換成“data1=value1&data2=value2”的格式。

import urllib
import urllib2
 
HEADER = {
    'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
    'Referer' : 'http://202.206.1.163/logout.do'
}
 
POSTDATA = {
    'data1': 'value1',
    'data2': 'value2'
}
 
HOSTURL = 'http://xxx.com'
 
enpostdata = urllib.urlencode(POSTDATA)
urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse = urllib2.urlopen(urlrequest)
 
print urlresponse.read()

請求之后瀏覽器會有一個會話保持的過程,會話都是保存在一個cookie里面的,下一次頁面的請求會把cookie放到請求頭,如果cookie丟失會話也就斷開了。

在python下面需要設置一下cookie的保持

# cookie set

 用來保持會話

cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener)</pre>

下面是將以上知識點匯總寫的一個庫文件,方便使用:

# filename: analogop.py
 

!/usr/bin/python

 --coding:UTF-8 --

 

 author: 初行

 qq: 121866673

 mail: [email protected] # message: I need a python job

 time: 2014/10/8

  import urllib import urllib2 import cookielib  

 cookie set

 用來保持會話

cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener)  

 default header

HEADER = {     'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',     'Referer' : '

 operate method

def geturlopen(hosturl, postdata = {}, headers = HEADER):     # encode postdata     enpostdata = urllib.urlencode(postdata)     # request url     urlrequest = urllib2.Request(hosturl, enpostdata, headers)     # open url     urlresponse = urllib2.urlopen(urlrequest)     # return url     return urlresponse</pre>

這個是測試文件,因為讀者沒有測試環境,需要自己搭建或者找個網站測試:

#filename: test.py
from analogop import geturlopen
 
postd = {
    'usernum': '2011411111',
    'upw': '124569',
    'userip': '192.168.10.1',
    'token': 'xxx'
}
 
urlread = geturlopen('http://127.0.0.1:8000/login/', postd)
print urlread.read().decode('utf-8')
urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})
print urlread.read().decode('utf-8')


</div>

 本文由用戶 ybw8 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!