文章詳情頁
python - 請教如何爬取簡書某一時間段發帖。
瀏覽:114日期:2022-07-11 10:45:01
問題描述
我想爬取簡書在某一時間段的帖子,比如 2013 年 4 月 13 — 2013 年 5 月 13
想嘗試的思路如下:
百度
利用百度的 site 語法
限定日期
觀察大約有 70 個帖子
google 的 site 語法
限定日期
觀察大約有 120 個帖子
實現:用 Python 直接請求搜索的結果,然后把得到的網址重定向一下得到真正的簡書網址,然后對真正的網址進行請求
問題
用這種方法得到的結果是否靠譜?請問有更靠譜的方法嗎?
用 Google 還是用百度呢?
問題解答
回答1:為了全面,你可以把主流的搜索引擎接口都拿來用,不一定要限制在某個搜索引擎接口上。我們有隊友搜索某些話題就是這么干的,因為有的網站站內沒提供滿足需求的搜索方式,這個時候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面,robots協議規定了不能搜索的,搜索引擎不會收錄
相關文章:
1. javascript - h5 video層級太高導致浮在div上面,如何解決?2. javascript - 如何獲取未來元素的父元素在頁面中所有相同元素中是第幾個?3. angular.js - angular 2 應用如何進行打包?如何使用gulp打包?4. javascript - 圖片無法正常加載5. python中怎么對列表以區間進行統計?6. cordova - myeclipse2014 導入android項目報錯7. javascript - Ajax加載Json時,移動端頁面向左上角縮小一截兒,加載完成后才正常顯示,這該如何解決?8. mysql ER_BAD_DB_ERROR: Unknown database ’test’9. mysql - 記得以前在哪里看過一個估算時間的網站10. html5 - 在微信上掃二維碼看到有趣的h5頁面,怎樣才可以看到它的代碼呢?
排行榜
