国产成人精品亚洲777人妖,欧美日韩精品一区视频,最新亚洲国产,国产乱码精品一区二区亚洲

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

python - pyspider爬取了接近1G的數(shù)據(jù),無(wú)法導(dǎo)出csv?

瀏覽:97日期:2022-08-09 10:42:46

問(wèn)題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無(wú)法導(dǎo)出。

問(wèn)題解答

回答1:

一般是分文件導(dǎo)出的,如果一個(gè)單位的數(shù)據(jù)大約是1M的話,就分成1024個(gè)文件。

另外,合成1G的csv也是不合實(shí)際的,因?yàn)?G的csv幾乎是打不開的。如果實(shí)在是要合成1G的話,把導(dǎo)出的一千多個(gè)文件再合成為一份CSV即可,文件合成python很容易實(shí)現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫(kù)作為存儲(chǔ)方案,1G規(guī)模的CSV是沒有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個(gè)g.感覺就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 丽水市| 五大连池市| 马边| 车致| 云浮市| 汽车| 即墨市| 南岸区| 顺义区| 和田市| 石泉县| 本溪| 泗阳县| 建宁县| 五台县| 冷水江市| 思茅市| 屏东市| 甘肃省| 屯留县| 板桥市| 敖汉旗| 朔州市| 白玉县| 石柱| 芒康县| 平南县| 抚松县| 乐陵市| 偃师市| 海丰县| 宝应县| 柳林县| 汕尾市| 澜沧| 苏尼特右旗| 宜黄县| 泽库县| 搜索| 焉耆| 报价|