亚洲免费在线视频-亚洲啊v-久久免费精品视频-国产精品va-看片地址-成人在线视频网

您的位置:首頁技術(shù)文章
文章詳情頁

Python爬蟲抓取指定網(wǎng)頁圖片代碼實(shí)例

瀏覽:10日期:2022-07-16 14:16:38

想要爬取指定網(wǎng)頁中的圖片主要需要以下三個(gè)步驟:

(1)指定網(wǎng)站鏈接,抓取該網(wǎng)站的源代碼(如果使用google瀏覽器就是按下鼠標(biāo)右鍵 -> Inspect-> Elements 中的 html 內(nèi)容)

(2)根據(jù)你要抓取的內(nèi)容設(shè)置正則表達(dá)式以匹配要抓取的內(nèi)容

(3)設(shè)置循環(huán)列表,重復(fù)抓取和保存內(nèi)容

以下介紹了兩種方法實(shí)現(xiàn)抓取指定網(wǎng)頁中圖片

(1)方法一:使用正則表達(dá)式過濾抓到的 html 內(nèi)容字符串

# 第一個(gè)簡(jiǎn)單的爬取圖片的程序import urllib.request # python自帶的爬操作url的庫import re # 正則表達(dá)式# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉(zhuǎn)碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)def getImage(page): # [^s]*? 表示最小匹配, 兩個(gè)括號(hào)表示列表中有兩個(gè)元組 # imageList = re.findall(r’(https:[^s]*?(png))'’, page) imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) x = 0 # 循環(huán)列表 for imageUrl in imageList: try: print(’正在下載: %s’ % imageUrl[0]) # 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(imageUrl[0], image_save_path) x = x + 1 except: continue passif __name__ == ’__main__’: # 指定要爬取的網(wǎng)站 url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html' # 得到該網(wǎng)站的源代碼 page = getHtmlCode(url) # 爬取該網(wǎng)站的圖片并且保存 getImage(page) # print(page)

注意,代碼中需要修改的就是imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) 這一塊內(nèi)容,如何設(shè)計(jì)正則表達(dá)式需要根據(jù)你想要抓取的內(nèi)容設(shè)置。我的設(shè)計(jì)來源如下:

Python爬蟲抓取指定網(wǎng)頁圖片代碼實(shí)例

可以看到,因?yàn)檫@個(gè)網(wǎng)頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r’(https:[^s]*?(png))'’, page)也是可以的。

(2)方法二:使用 BeautifulSoup 庫解析 html 網(wǎng)頁

from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數(shù)庫,是Python內(nèi)置的網(wǎng)頁分析工具import urllib # python自帶的爬操作url的庫# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉(zhuǎn)碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)def getImage(page): # 按照html格式解析頁面 soup = BeautifulSoup(page, ’html.parser’) # 格式化輸出DOM樹的內(nèi)容 print(soup.prettify()) # 返回所有包含img標(biāo)簽的列表,因?yàn)樵贖tml文件中圖片的插入呈現(xiàn)形式是<img src='http://www.lshqa.cn/bcjs/...' alt='..' /> imgList = soup.find_all(’img’) x = 0 # 循環(huán)找到的圖片列表,注意,這里手動(dòng)設(shè)置從第2張圖片開始,是因?yàn)槲襠ebug看到了第一張圖片不是我想要的圖片 for imgUrl in imgList[1:]: print(’正在下載: %s ’ % imgUrl.get(’src’)) # 得到scr的內(nèi)容,這里返回的就是Url字符串鏈接,如’https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png’ image_url = imgUrl.get(’src’) # 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(image_url, image_save_path) x = x + 1if __name__ == ’__main__’: # 指定要爬取的網(wǎng)站 url = ’https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html’ # 得到該網(wǎng)站的源代碼 page = getHtmlCode(url) # 爬取該網(wǎng)站的圖片并且保存 getImage(page)

這兩種方法各有利弊,我覺得可以靈活結(jié)合使用這兩種方法,比如先使用方法2中指定標(biāo)簽的方法縮小要尋找的內(nèi)容范圍,然后再使用正則表達(dá)式匹配想要的內(nèi)容,這樣做起來更加簡(jiǎn)潔明了。

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持好吧啦網(wǎng)。

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 成人18免费观看的软件 | 欧美骚视频 | 国产日本三级欧美三级妇三级四 | 亚洲 欧美 视频 | 免费成人一级片 | 亚洲国产欧美目韩成人综合 | 在线视频一区二区三区在线播放 | 国产步兵社区视频在线观看 | 香蕉久久夜色精品国产尤物 | 亚洲成av人在线视 | 手机看片日韩日韩国产在线看 | 50岁老女人毛片一级亚洲 | 国产视频自拍一区 | 成年女人免费看 | 亚洲成a人v在线观看 | 18视频免费网址在线观看 | 国产性夜夜春夜夜爽30 | 欧美日本一区二区 | 成年人黄视频在线观看 | 中文国产成人精品久久96 | 香港经典毛片a免费观看 | 国产在线精品一区免费香蕉 | 亚洲国产亚洲片在线观看播放 | 日本乱理伦中文三区 | 免费观看久久 | 成人爱做日本视频免费 | 国产性色 | 69成人 | 国产jk福利视频在线观看 | 特黄aa级毛片免费视频播放 | 国产一区二区三区视频 | 俄罗斯一级成人毛片 | 精品日韩二区三区精品视频 | 国产精品欧美韩国日本久久 | 亚洲精品成人一区二区aⅴ 亚洲精品成人一区二区www | 三级视频在线播放线观看 | 99久国产 | 国产真实搭讪系列 | 国内精品一区二区在线观看 | aa大片成人免费网站 | 久久欧美成人精品丝袜 |