python redis 列表插入 速度太慢
問題描述
pool = redis.ConnectionPool(host=host, port=port)client = redis.StrictRedis(connection_pool=pool)for i in range(10000): for j in range(30):client.lpush(IDLE_TASKS, json.dumps(args))
這種執(zhí)行效率低的可怕。需要等幾十秒,才能插入完成。請問有沒更高效率的處理手法?
args 只是以一個元組內(nèi)容隨意(1,2,'3')之類
問題解答
回答1:因?yàn)槲覀€人沒用過redis這個庫, 所以只能嘗試從你給出的代碼去給些建議, 不喜勿噴:
1.不知道你的這個args是哪來的, 但是在這個循環(huán)體中, 似乎沒看到改變, 所以能否將這個json.dumps(args)放到循環(huán)體外面執(zhí)行:
args_dump = json.dumps(args)for i in range(10000): for j in range(30):client.lpush(IDLE_TASKS, args_dump)
2.看到你大概要生成30萬的同樣的數(shù)據(jù), 能否將這個數(shù)據(jù)先生成, 再一次性client.lpush? 因?yàn)楫吘箃cp也有自身的延遲因素
3.可以通過cProfile庫去找出耗時長的地方, 也可以嘗試換別的庫去實(shí)現(xiàn)(這個具體得自己去google了)
相關(guān)文章:
1. docker - 各位電腦上有多少個容器啊?容器一多,自己都搞混了,咋辦呢?2. html5 - H5中播放的視頻如何有效的進(jìn)行知識產(chǎn)權(quán)保護(hù)-防下載防盜鏈3. mysql里的大表用mycat做水平拆分,是不是要先手動分好,再配置mycat4. 為什么我ping不通我的docker容器呢???5. 在windows下安裝docker Toolbox 啟動Docker Quickstart Terminal 失敗!6. boot2docker無法啟動7. docker不顯示端口映射呢?8. docker images顯示的鏡像過多,狗眼被亮瞎了,怎么辦?9. debian - docker依賴的aufs-tools源碼哪里可以找到啊?10. docker內(nèi)創(chuàng)建jenkins訪問另一個容器下的服務(wù)器問題
