問題描述

我手頭有許多個上百M的csv存儲一些數(shù)據(jù)，需要經(jīng)常使用pandas和matplotlib對這些數(shù)據(jù)讀取并進行繪圖。在繪圖之前，通常要進行預處理，切片等等清洗操作，因為要經(jīng)常對figure進行交互操作和作報告，所以我在jupyter notebook中使用%matplotlib notebook進行操作和交互，我是將這些由原始數(shù)據(jù)產(chǎn)生的中間數(shù)據(jù)由csv保存,以便下次展示時直接讀取csv獲得中間數(shù)據(jù)，還是使用pickle保存，后續(xù)使用時讀取pickle更快？

問題解答

肯定是csv安全啊，pickle似乎換一個python版本都可能導致讀取失敗的，這個不是通用格式。幾百兆的話，csv其實讀取速度不慢。更何況還有hdf5，這些才是正經(jīng)的數(shù)據(jù)交換格式。

csv夠用了，如果你覺得還不夠快可以試試hdf5文件