文章詳情頁
python - pyspider 定時爬取問題
瀏覽:156日期:2022-07-14 10:37:31
問題描述
在寫爬蟲的時候,發現 在代碼中設置了 every 之后,21號爬取了一次之后,今天看 result 沒有更新,那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設置的不正確?
問題解答
回答1:你貼的這個 task 的圖,是什么任務的?
貼的是 detail_page 的任務的
題主給 index_page 設置了小于 cronjob 間隔的時間。然而沒有給 detail_page 設置。這樣 detail_page 是不會被重新調度的
project 隊列狀態,最近活動任務是怎樣的?
回答2:有可能是 every 和 age 不匹配。如果 age 沒問題的話,說實話這屬于疑難雜癥了,我也經常遇到,我都是去 taskdb 把相應的表清空,然后重啟 pyspider 重新運行項目
相關文章:
1. 在應用配置文件 app.php 中找不到’route_check_cache’配置項2. html按鍵開關如何提交我想需要的值到數據庫3. gvim - 誰有vim里CSS的Indent文件, 能縮進@media里面的4. Android中能不能判斷一個數據庫是create來的,還是open來的?5. HTML 5輸入框只能輸入漢字、字母、數字、標點符號?正則如何寫?6. javascript - 請教如何獲取百度貼吧新增的兩個加密參數7. 跟著課件一模一樣的操作使用tp6,出現了錯誤8. PHP類屬性聲明?9. javascript - 求助canvas繪制馬賽克的問題,老是取色不準10. html - 微信瀏覽器h5<video>標簽問題
排行榜
