Python爬蟲:Request Payload和Form Data的簡單區(qū)別說明
Request Payload 和 Form Data 請求頭上的參數(shù)差別在于:
Content-TypeForm Data
Post表單請求
代碼示例
headers = { 'Content-Type': 'application/x-www-form-urlencoded'}requests.post(url, data=data, headers=headers)Request Payload
傳遞json數(shù)據(jù)
headers = { 'Content-Type': 'application/json'}requests.post(url, data=json.dumps(data), headers=headers)
Scrapy 的FormRequest只支持 Form Data 表單提交,源碼固定為前者
補充知識:如何傳遞Request PayLoad(請求負載)中的數(shù)據(jù)?
在做爬蟲的時候,在分析請求的過程,遇到參數(shù)長這樣的:
原理不太清楚,等搞明白再來補充。這里只記錄如何應用這些數(shù)據(jù)。
用法:
根據(jù)上面的圖片,由于是post請求,參數(shù)一般是以key-value的json字符串傳遞,或者將參數(shù)放入map傳遞。我們可以看到很多name,這個name就是key,下面的數(shù)據(jù)就是value,我們可以提取所有的key及value,組成一個json字符串或者map傳遞即可。
比如上面的數(shù)據(jù)可以提取如下:
{'view:id1:txtSearch':'','$$viewid':'!f9fpyhcv2t!','$$xspsubmitid':'view:_id1:_id2:pager1_Group_lnk_2','$$xspexecid':'view:_id1:_id2:parent','$$xspsubmitvalue':'','$$xspsubmitscroll':'0|0','view:_id1':'view:_id1'}
或者:
Map<String,String> m = new HashMap<String,String>(); m.put('view:id1:txtSearch', ''); m.put('$$viewid', '!f9fpyhcv2t!'); m.put('$$xspsubmitid', 'view:_id1:_id2:pager1_Group_lnk_2'); m.put('$$xspexecid', 'view:_id1:_id2:parent'); m.put('$$xspsubmitvalue', ''); m.put('$$xspsubmitscroll', '0|0'); m.put('view:_id1', 'view:_id1');
由于我是用Jsoup來發(fā)請求的,所以我這樣傳參數(shù)即可:
Jsoup.connect('').data(m).cookies(null).method(Method.POST);
或者:
Connection conn = Jsoup.connect('');String requestJson = '{'view:id1:txtSearch':'','$$viewid':'!f9fpyhcv2t!','$$xspsubmitid':'view:_id1:_id2:pager1_Group_lnk_2','$$xspexecid':'view:_id1:_id2:parent','$$xspsubmitvalue':'','$$xspsubmitscroll':'0|0','view:_id1':'view:_id1'}';conn.requestBody(requestJson);conn.cookies(null).method(Method.POST);conn.execute();
具體參數(shù)具體情況填啦。
是不是超簡單。
注意一點,請求負載中的value值不一定是固定值,若每次請求都會發(fā)生變化,那么就需要分析這個變化的值從哪里來,動態(tài)獲取這個值,然后發(fā)送請求才能正確。
以上這篇Python爬蟲:Request Payload和Form Data的簡單區(qū)別說明就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。
相關文章:
1. 用css截取字符的幾種方法詳解(css排版隱藏溢出文本)2. ASP.NET MVC遍歷驗證ModelState的錯誤信息3. jsp網(wǎng)頁實現(xiàn)貪吃蛇小游戲4. ASP 信息提示函數(shù)并作返回或者轉向5. CSS hack用法案例詳解6. asp中response.write("中文")或者js中文亂碼問題7. 將properties文件的配置設置為整個Web應用的全局變量實現(xiàn)方法8. PHP設計模式中工廠模式深入詳解9. asp(vbs)Rs.Open和Conn.Execute的詳解和區(qū)別及&H0001的說明10. ASP實現(xiàn)加法驗證碼
