文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽：71日期：2022-06-27 11:03:29
問題描述
我有很多spider，不能每次調試都手動創建一個debugger吧（scrapy crawl spider_name）
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1：參考文章：Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中，加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2：
新建一個py文件，用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章：
1. mysql - 如何減少使用或者不用LEFT JOIN查詢？2. 視頻文件不能播放，怎么辦？3. mysql - jdbc的問題4. python - 編碼問題求助5. html5 - H5做的手機分享頁微信更新后，分享出去不再默認顯示第一個圖 作為縮略圖6. Python爬蟲如何爬取span和span中間的內容并分別存入字典里？7. 網頁爬蟲 - python 爬取網站 并解析非json內容8. mysql - 分庫分表、分區、讀寫分離 這些都是用在什么場景下 ，會帶來哪些效率或者其他方面的好處9. node.js - nodejs開發中常用的連接mysql的庫10. python - 我在使用pip install -r requirements.txt下載時，為什么部分能下載，部分不能下載
排行榜
網公網安備