python-xpath獲取html文檔的部分內容
有些時候我在們需要的用正則提取出html中某一個部分的文字內容,如圖:
獲取dd部分的html文檔,我們要通過它的一個屬性去確定他的位置才可以拿到他這個部分我們可以看到他的這個屬性class=’row clearfix ’,然后用xpath去獲取到這部分:
name = tree.xpath('//dd[@class=’row clearfix ’]')from lxml import htmlimport requestsurl = ’http://navi.cnki.net/knavi/JournalDetail/GetArticleList?year=2018&issue=04&pykm=DZXU&pageIdx=0&pcode=CJFD’res = requests.get(url)tree = html.fromstring(res.text)name = tree.xpath('//dd[@class=’row clearfix ’]')print(name)
如果直接打印他是不能夠出來的,
我們需要對Element進行處理,用到name1 = html.tostring(name[0]),代碼如下:
from lxml import htmlimport requestsurl = ’http://navi.cnki.net/knavi/JournalDetail/GetArticleList?year=2018&issue=04&pykm=DZXU&pageIdx=0&pcode=CJFD’res = requests.get(url)tree = html.fromstring(res.text)name = tree.xpath('//dd[@class=’row clearfix ’]')name1 = html.tostring(name[0])print(name1)
打印截圖:
但是大家可以看到里面的等內容并不是中文,原因是我們使用tostring方法輸出的是修正后的HTML代碼,但是結果是bytes類型,在python中bytes類型是不可以進行編碼的,需要轉換成字符串,使用代碼name1.decode(),此時我們將bytes類型轉換為str(字符串)類型。
那么此時我們關鍵是如何將$#26080;此類的符號轉換成漢字!!!那么首先要搞清楚這是什么編碼?這類符號是HTML、XML 等 SGML 類語言的轉義序列。它們不是”編碼“,也就是說我們不能使用utf-8、gbk等編碼進行處理,需要使用HTMLParse進行處理,完整代碼如下:
from lxml import htmlimport requestsfrom html.parser import HTMLParser #導入html解析庫url = ’http://navi.cnki.net/knavi/JournalDetail/GetArticleList?year=2018&issue=04&pykm=DZXU&pageIdx=0&pcode=CJFD’res = requests.get(url)tree = html.fromstring(res.text)name = tree.xpath('//dd[@class=’row clearfix ’]')name1 = html.tostring(name[0])name2 = HTMLParser().unescape(name1.decode())print(name2)
此時運行結果如下:
那么此時就已經(jīng)大功告成了!!!
以上這篇python-xpath獲取html文檔的部分內容就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。
相關文章:
1. python實現(xiàn)讀取類別頻數(shù)數(shù)據(jù)畫水平條形圖案例2. python中PyQuery庫用法分享3. python操作數(shù)據(jù)庫獲取結果之fetchone和fetchall的區(qū)別說明4. PHP獲取時間戳等相關函數(shù)匯總5. AJAX實現(xiàn)數(shù)據(jù)的增刪改查操作詳解【java后臺】6. Ajax實現(xiàn)頁面無刷新留言效果7. CSS3實現(xiàn)動態(tài)翻牌效果 仿百度貼吧3D翻牌一次動畫特效8. JSP+Servlet實現(xiàn)文件上傳到服務器功能9. Python編寫nmap掃描工具10. php使用正則驗證密碼字段的復雜強度原理詳細講解 原創(chuàng)
