php – Codeigniter处理大文件时允许的内存大小耗尽

前端之家收集整理的这篇文章主要介绍了php – Codeigniter处理大文件时允许的内存大小耗尽前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。
我发布这个以防其他人正在寻找相同的解决方案,因为我在这个废话中浪费了两天.

我有一个cron作业,使用以下代码每天使用一个非常大的文件更新数据库

if (($handle = fopen(dirname(__FILE__) . '/uncompressed',"r")) !== FALSE) 
{
    while (($data = fgets($handle)) !== FALSE) 
    {
        $thisline = json_decode($data,true);
        $this->regen($thisline);
    }
    fclose($handle);
}

这是一个仅用于cron作业的Codeigniter控制器. $this-> regen函数运行一系列不同的检查,并存储数据库中该行的正确信息.该文件本身是由换行符分隔的超过300MB的JSON.

问题是:在整个内存耗尽之前,它只会处理大约20,000行.

我花了几个小时来解决这个问我正在使用fgets,我在正确的位置有$query-> free_result().它没有帮助.然后我开始检查大约100行的循环,并观察memory_get_usage()的输出.我最终将它缩小到Codeigniter Active Record类 – 每次调用类都会导致内存使用量增加很少.

然后我在Ellislabs找到了这个帖子,我得到了答案. CI Active Record保存查询,以便您可以在多个函数中构建查询. (我甚至不打算在默认情况下打开它是多么愚蠢.)

转到/config/database.PHP添加

$db [‘default’] [‘save_queries’] = FALSE;

文件的末尾.然后确保在单个函数中使用Active Record构建和执行查询.如果您只需要将其关闭一个案例,请使用

$this-> db-> save_queries = FALSE;

在构造函数中或您需要放置的任何位置.

猜你在找的PHP相关文章