python - pyspider使用redis分布式
問題描述
在部署pyspider分布式時,嘗試連接redis集群配置項為: 'message_queue':'redis://127.0.0.1:6380/db'在啟動時:報如下錯誤[E 170221 09:40:39 tornado_fetcher:529] MOVED 12068 127.0.0.1:6380
Traceback (most recent call last): File '/usr/lib/python2.6/site-packages/pyspider/fetcher/tornado_fetcher.py', line 515, in queue_loop if self.outqueue.full(): File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 50, in full if self.maxsize and self.qsize() >= self.maxsize: File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 40, in qsize self.last_qsize = self.redis.llen(self.name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 1219, in llen return self.execute_command(’LLEN’, name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 573, in execute_command return self.parse_response(connection, command_name, **options) File '/usr/lib/python2.6/site-packages/redis/client.py', line 585, in parse_response response = connection.read_response() File '/usr/lib/python2.6/site-packages/redis/connection.py', line 582, in read_response raise responseResponseError: MOVED 12068 127.0.0.1:6380
經查找,得到:因為redis由單節點變為集群,而python的redis連接包暫時還不支持redis集群連接方式,需要更換連接包(redis-py-cluster)。
在安裝完redis-py-cluster之后,依舊報上面的錯誤。
問題解答
回答1:鏈接 redis 使用的庫是寫在代碼里面的,不是你安裝了就會切換的。就算你要改代碼,也要確認 API 是兼容的。
相關文章:
1. 如何解決docker宿主機無法訪問容器中的服務?2. docker 下面創建的IMAGE 他們的 ID 一樣?這個是怎么回事????3. mongodb - Mongo java驅動中,有沒有封裝好的函數,可以直接取到文檔中的某個具體的值,而不是一個文檔?或者有沒有方法實現??4. 需要一個Java映射/表,其中多個鍵指向一個值。價值通常會改變5. javascript - JS事件委托問題6. javascript - 關于jquery的remove()方法7. JavaScript中怎么理解=、==和===8. java - Spring事務回滾問題9. javascript - vue.js如何遞歸渲染組件.10. 如何修改vim插件vimwiki中Vimwiki2HTML的一些細節
