我有一个非常大的数据框,有超过一百万条记录和5列.
我想将此数据帧保存到csv并将其拆分为多个部分,以便每个文件在压缩后最大不超过500MB.
是否可以在不将数据帧保存到我的机器并在那里检查的情况下执行此操作？
最佳答案
如果不保存,您将无法知道CSV文件的大小.可以保存大数据框的一部分,并使用其文件大小来估算每行的大小.
import pandas as pd
big_df = pd.DataFrame(data=pd.np.random.randn(int(2e6),5))
big_df.iloc[:100000].to_csv('temp.csv')
# look at temp.csv file size - 100 000 rows is 10 MB for me
# if I want about 50 MB per file I store to CSV a half million rows
# set it manually or you can compute it with os.path.getsize('temp.csv')
rows_max = int(5e5)
row_from = 0
row_to = rows_max
file_n = 1
while True:
fn_i = 'big_%s.csv' % str(file_n).zfill(3)
big_df.iloc[row_from:row_to].to_csv(fn_i)
if row_to > big_df.index.size:
break
row_from = row_to
row_to = row_from + rows_max
file_n += 1