色综合图-色综合图片-色综合图片二区150p-色综合图区-玖玖国产精品视频-玖玖香蕉视频

您的位置:首頁技術文章
文章詳情頁

Python常見反爬蟲機制解決方案

瀏覽:11日期:2022-07-23 16:18:55

1、使用代理

適用情況:限制IP地址情況,也可解決由于“頻繁點擊”而需要輸入驗證碼登陸的情況。

這種情況最好的辦法就是維護一個代理IP池,網上有很多免費的代理IP,良莠不齊,可以通過篩選找到能用的。對于“頻繁點擊”的情況,我們還可以通過限制爬蟲訪問網站的頻率來避免被網站禁掉。

proxies = {’http’:’http://XX.XX.XX.XX:XXXX’}Requests: import requests response = requests.get(url=url, proxies=proxies)Urllib2: import urllib2 proxy_support = urllib2.ProxyHandler(proxies) opener = urllib2.build_opener(proxy_support, urllib2.HTTPHandler) urllib2.install_opener(opener) # 安裝opener,此后調用urlopen()時都會使用安裝過的opener對象 response = urllib2.urlopen(url)

2、時間設置

適用情況:限制頻率情況。

Requests,Urllib2都可以使用time庫的sleep()函數:

import timetime.sleep(1)

3、偽裝成瀏覽器,或者反“反盜鏈”

有些網站會檢查你是不是真的瀏覽器訪問,還是機器自動訪問的。這種情況,加上User-Agent,表明你是瀏覽器訪問即可。有時還

會檢查是否帶Referer信息還會檢查你的Referer是否合法,一般再加上Referer。

headers = {’User-Agent’:’XXXXX’} # 偽裝成瀏覽器訪問,適用于拒絕爬蟲的網站headers = {’Referer’:’XXXXX’}headers = {’User-Agent’:’XXXXX’, ’Referer’:’XXXXX’}Requests: response = requests.get(url=url, headers=headers)Urllib2: import urllib, urllib2 req = urllib2.Request(url=url, headers=headers) response = urllib2.urlopen(req)

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 久久久久久亚洲精品不卡 | 久久亚洲精品23p | 在线亚洲精品中文字幕美乳 | 国产一区亚洲二区 | 午夜三级理论在线观看视频 | 欧美jizzhd精品欧美 | 日本特级黄毛片毛片视频 | 久久久久久久久中文字幕 | 99精品久久99久久久久久 | 暖暖免费高清日本一区二区三区 | 国产亚洲欧美在线人成aaaa | 欧美日韩一区二区三区四区在线观看 | 亚洲精品免费观看 | 久久精品国产精品亚洲 | 国产 高清 在线 | 国产精品成aⅴ人片在线观看 | 一本色道久久99一综合 | 黑人边吃奶边扎下面激情视频 | 亚洲国产精品国产自在在线 | 国产精品久久国产三级国电话系列 | 亚洲在线免费观看视频 | 国产精品1页 | 一区二区三区在线观看免费 | 男女乱淫免费视频 | 99视频在线观看视频 | 一级中国毛片 | 男女午夜性爽快免费视频不卡 | 亚洲精品第五页中文字幕 | 手机看片免费基地 | 久久精品中文字幕第一页 | 色综久久| 亚洲日本欧美在线 | 日本美女视频韩国视频网站免费 | 天堂亚洲网 | 一级a毛片| 又黄又刺激下面流水的视频 | 欧美成人日韩 | 成人免费视频国产 | 亚洲综合一区二区三区 | 天干天干天啪啪夜爽爽色 | 久久精品视频在线观看 |