python - pyspider使用redis分布式
問題描述
在部署pyspider分布式時,嘗試連接redis集群配置項為: 'message_queue':'redis://127.0.0.1:6380/db'在啟動時:報如下錯誤[E 170221 09:40:39 tornado_fetcher:529] MOVED 12068 127.0.0.1:6380
Traceback (most recent call last): File '/usr/lib/python2.6/site-packages/pyspider/fetcher/tornado_fetcher.py', line 515, in queue_loop if self.outqueue.full(): File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 50, in full if self.maxsize and self.qsize() >= self.maxsize: File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 40, in qsize self.last_qsize = self.redis.llen(self.name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 1219, in llen return self.execute_command(’LLEN’, name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 573, in execute_command return self.parse_response(connection, command_name, **options) File '/usr/lib/python2.6/site-packages/redis/client.py', line 585, in parse_response response = connection.read_response() File '/usr/lib/python2.6/site-packages/redis/connection.py', line 582, in read_response raise responseResponseError: MOVED 12068 127.0.0.1:6380
經查找,得到:因為redis由單節點變為集群,而python的redis連接包暫時還不支持redis集群連接方式,需要更換連接包(redis-py-cluster)。
在安裝完redis-py-cluster之后,依舊報上面的錯誤。
問題解答
回答1:鏈接 redis 使用的庫是寫在代碼里面的,不是你安裝了就會切換的。就算你要改代碼,也要確認 API 是兼容的。
相關文章:
1. html5 - 有可以一次性把所有 css外部樣式轉為html標簽內style=" "的方法嗎?2. javascript - 求解答:實例對象調用constructor,此時constructor內的this的指向?3. javascript - 如何將一個div始終固定在某個位置;無論屏幕和分辨率怎么變化;div位置始終不變4. python - 如何判斷爬蟲已經成功登陸?5. javascript - 原生canvas中如何獲取到觸摸事件的canvas內坐標?6. javascript - 這不是對象字面量函數嗎?為什么要new初始化?7. javascript - vscode alt+shift+f 格式化js代碼,通不過eslint的代碼風格檢查怎么辦。。。8. javascript - 有什么比較好的網頁版shell前端組件?9. javascript - [js]為什么畫布里不出現圖片呢?在線等10. html - vue項目中用到了elementUI問題
