我在处理XLS文件时遇到了
PHPExcel的内存问题.
我必须使用相当大的文件(50k到200k行和9-10列),所以我不得不使用ReadFilters来解决内存问题. @H_301_2@但是,尽管它在XLSX文件中运行得很好,但是使用混合的后台进程和一些简单的块大小计算,我无法使其与XLS文件一起使用. @H_301_2@这是一切爆炸的代码:
当我第一次上传原始XLS文件时,excel-info.txt的大小为13M.
然后我打开XLS文件并将其保存为XLSX,并重复该过程,之后,excel-info.txt只有285k. @H_301_2@有什么办法可以修改这些过滤器来使用XLS文件吗? @H_301_2@哦,并且将PHP内存限制设置为更高的值不是一个选项,但执行时间并不重要. @H_301_2@添加 @H_301_2@当我使用不同的内存缓存选项时,我能够减少内存使用量以使其工作,并在大多数情况下将其保持在可接受的大小. @H_301_2@现在,我正在使用PHPExcel_CachedObjectStorageFactory :: cache_to_sqlite,它似乎足以让它工作. @H_301_2@我想说的是,我对文件中的序列化信息进行的计算是不正确的.
Excel5文件生成一个数组,其行数与行数一样多,excel文件的所有值都不符合过滤条件设置为NULL的值.当然,当我将它保存到文本文件时,有类似……
1-用法:4.3859634399414
2-用法:34.292671203613
3-用法:34.68034362793 @H_301_2@第二次迭代
1-用法:34.68034362793
2-用法:34.68293762207
3-用法:34.684982299805 @H_301_2@和XLSX一样保存后的同一个文件: @H_301_2@第一次迭代
1-用法:4.2780990600586
2-用法:6.9042129516602
3-使用方法:7.2916641235352 @H_301_2@第二次迭代
1-用法:7.2916641235352
2-用法:7.5115432739258
3-用法:7.2813568115234 @H_301_2@但是,我必须说,在保存为XLSX后,大小减少了大约一半,因此我不能说这是一个错误还是它的预期行为.
我必须使用相当大的文件(50k到200k行和9-10列),所以我不得不使用ReadFilters来解决内存问题. @H_301_2@但是,尽管它在XLSX文件中运行得很好,但是使用混合的后台进程和一些简单的块大小计算,我无法使其与XLS文件一起使用. @H_301_2@这是一切爆炸的代码:
Class ExcelReadFilter implements PHPExcel_Reader_IReadFilter { private $startRow = 0; private $endRow = 0; public function setRows($startRow,$chunkSize) { $this->startRow = $startRow; $this->endRow = $startRow + $chunkSize; } public function readCell($column,$row,$worksheetName = '') { if ( ($row >= $this->startRow && $row < $this->endRow) ) { return true; } return false; } } PHPExcel_Settings::setCacheStorageMethod( PHPExcel_CachedObjectStorageFactory::cache_in_memory_serialized ); .... $filter = new ExcelReadFilter(); $filter->setRows($desde,$cuantas); $reader = PHPExcel_IOFactory::createReader($this->file_type); $reader->setLoadSheetsOnly($sheet_name); $reader->setReadDataOnly(false); $reader->setReadFilter($filter); $chunk = $reader->load($this->file); $chunk->setActiveSheetIndexByName($sheet_name); $active_sheet = $chunk->getActiveSheet(); $rowIterator = $active_sheet->getRowIterator($desde); $this->num_filas = $active_sheet->getHighestRow();@H_301_2@在此之后,我立即包含以下几行,以便更好地了解发生的情况:
ob_start(); var_dump($rowIterator); $f = fopen("excel-info.txt","w"); fwrite($f,ob_get_clean()); fclose($f); ob_end_clean(); die;@H_301_2@而且我认为它指出了内存问题所在.
当我第一次上传原始XLS文件时,excel-info.txt的大小为13M.
然后我打开XLS文件并将其保存为XLSX,并重复该过程,之后,excel-info.txt只有285k. @H_301_2@有什么办法可以修改这些过滤器来使用XLS文件吗? @H_301_2@哦,并且将PHP内存限制设置为更高的值不是一个选项,但执行时间并不重要. @H_301_2@添加 @H_301_2@当我使用不同的内存缓存选项时,我能够减少内存使用量以使其工作,并在大多数情况下将其保持在可接受的大小. @H_301_2@现在,我正在使用PHPExcel_CachedObjectStorageFactory :: cache_to_sqlite,它似乎足以让它工作. @H_301_2@我想说的是,我对文件中的序列化信息进行的计算是不正确的.
Excel5文件生成一个数组,其行数与行数一样多,excel文件的所有值都不符合过滤条件设置为NULL的值.当然,当我将它保存到文本文件时,有类似……
array(10) { ["A"]=> NULL ["B"]=> NULL ["C"]=> NULL ["D"]=> NULL ["E"]=> NULL ["F"]=> NULL ["G"]=> NULL ["H"]=> NULL ["I"]=> NULL ["J"]=> NULL }@H_301_2@…在文件中占用了大量空间,但不应该在PHP_memory中,所以这是我的错. @H_301_2@现在,我正在使用此代码来跟踪内存使用情况:
for ( $i=1; $i < 20000; $i+=5000 ){ $filter->setRows($i,5000); echo "\n1- Usage: ".(memory_get_usage ()/1024)/1024; $objPHPExcel = $reader->load($this->file); echo "\n2- Usage: ".(memory_get_usage ()/1024)/1024; $sheetData = $objPHPExcel->getActiveSheet()->toArray(null,true,true); unset($sheetData); unset($objPHPExcel); echo "\n3- Usage: ".(memory_get_usage ()/1024)/1024; }@H_301_2@使用某个XLS文件,它显示: @H_301_2@第一次迭代
1-用法:4.3859634399414
2-用法:34.292671203613
3-用法:34.68034362793 @H_301_2@第二次迭代
1-用法:34.68034362793
2-用法:34.68293762207
3-用法:34.684982299805 @H_301_2@和XLSX一样保存后的同一个文件: @H_301_2@第一次迭代
1-用法:4.2780990600586
2-用法:6.9042129516602
3-使用方法:7.2916641235352 @H_301_2@第二次迭代
1-用法:7.2916641235352
2-用法:7.5115432739258
3-用法:7.2813568115234 @H_301_2@但是,我必须说,在保存为XLSX后,大小减少了大约一半,因此我不能说这是一个错误还是它的预期行为.