文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:104日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. docker 下面創建的IMAGE 他們的 ID 一樣?這個是怎么回事????2. 在應用配置文件 app.php 中找不到’route_check_cache’配置項3. html按鍵開關如何提交我想需要的值到數據庫4. mysql取模分表與分表5. gvim - 誰有vim里CSS的Indent文件, 能縮進@media里面的6. HTML 5輸入框只能輸入漢字、字母、數字、標點符號?正則如何寫?7. 跟著課件一模一樣的操作使用tp6,出現了錯誤8. PHP類屬性聲明?9. objective-c - ios 怎么實現微信聯系列表 最好是swift10. java - 安卓接入微信登錄,onCreate不會執行
排行榜
