文章詳情頁
如何提高python查詢速度?
瀏覽:135日期:2022-06-29 18:39:57
問題描述
最近在爬股票的相關新聞,一開始設想的是,當有新的新聞動態發布,程序通過郵件發送最新內容到郵箱。
所以我想把新聞標題,內容存到數據庫里,當內容更新時,把新的內容和數據庫的標題列表對比,看是不是已存在的,如果已存在,那就不發送,如果沒有,那發送到郵箱。
但數量大了以后,列表查詢速度就會變慢,請問各位還有什么方法可以傳授下嗎?
問題解答
回答1:爬蟲任務去重
抓過的鏈接存到一個set中,檢查新鏈接是否在集合中即可。
回答2:去重有很多方法,比如樓上的set或者布隆過濾器都可以有效的使用內存,提升效率
相關文章:
1. javascript - node.js promise沒用2. golang - 用IDE看docker源碼時的小問題3. yii2中restful配置好后在nginx下報404錯誤4. 算法 - python 給定一個正整數a和一個包含任意個正整數的 列表 b,求所有<=a 的加法組合5. android 如何實現如圖中的鍵盤上的公式及edittext的內容展示呢6. java - 我在用Struts2上傳文件時,報以下錯誤怎么回事?7. c++ - 如何正確的使用QWebEngineView?8. PHP注冊功能9. mysql - 求SQL語句10. MySQL如何實現表中再嵌套一個表?
排行榜
