我有两个文件：
regions.txt：第一列是染色体名称,第二列是开始和结束位置.
1 100 200 1 400 600 2 600 700
coverage.txt：第一列是染色体的名字,再第二和第三的开始和结束位置,而最后一列是得分.
1 100 101 5 1 101 102 7 1 103 105 8 2 600 601 10 2 601 602 15
这个文件非常庞大,大约15GB,大约有3亿行.
我基本上想得到coverage.txt中所有得分的均值,这些得分位于regions.txt中的每个区域.
换句话说,开始在regions.txt第一行中,如果在一个coverage.txt线,其具有在相同的染色体上,启动覆盖是> =启动区,和最终的覆盖为< =最终区域,然后将其得分保存到新阵列.经过所有coverages.txt完成搜索打印区域染色体,开始,结束,并已发现所有得分的平均值. 预期产量：
1 100 200 14.6 which is (5+7+8)/3 1 400 600 0 no match at coverages.txt 2 600 700 12.5 which is (10+15)/2
我内置了以下MATLAB脚本,因为我不得不遍历coverage.txt很多时间,这需要很长的时间.我不知道如何制作一个快速awk类似的脚本.
我的matlab脚本
fc = fopen('coverage.txt','r');
ft = fopen('regions.txt','r');
fw = fopen('out.txt','w');
while feof(ft) == 0
linet = fgetl(ft);
scant = textscan(linet,'%d%d%d');
tchr = scant{1};
tx = scant{2};
ty = scant{3};
coverages = [];
frewind(fc);
while feof(fc) == 0
linec = fgetl(fc);
scanc = textscan(linec,'%d%d%d%d');
cchr = scanc{1};
cx = scanc{2};
cy = scanc{3};
cov = scanc{4};
if (cchr == tchr) && (cx >= tx) && (cy <= ty)
coverages = cat(2,coverages,cov);
end
end
covmed = median(coverages);
fprintf(fw,'%d\t%d\t%d\t%d\n',tchr,tx,ty,covmed);
end
任何建议使用AWK,Perl中,使替代或…等我将ASLO很高兴,如果有人可以教我如何摆脱所有循环的在我的MATLAB程序.
谢谢
解决方法
这是一个Perl解决方案.我使用哈希(aka dictionaries)通过染色体访问各种范围,从而减少循环迭代次数.
这可能是有效的,因为我没有对每个输入行上的regions.txt进行完整循环.使用多线程时,效率可能会进一步提高.
#!/usr/bin/perl
my ($rangefile) = @ARGV;
open my $rFH,'<',$rangefile or die "Can't open $rangefile";
# construct the ranges. The chromosome is used as range key.
my %ranges;
while (<$rFH>) {
chomp;
my @field = split /\s+/;
push @{$ranges{$field[0]}},[@field[1,2],0];
}
close $rFH;
# iterate over all the input
while (my $line = <STDIN>) {
chomp $line;
my ($chrom,$lower,$upper,$value) = split /\s+/,$line;
# only loop over ranges with matching chromosome
foreach my $range (@{$ranges{$chrom}}) {
if ($$range[0] <= $lower and $upper <= $$range[1]) {
$$range[2]++;
$$range[3] += $value;
last; # break out of foreach early because ranges don't overlap
}
}
}
# create the report
foreach my $chrom (sort {$a <=> $b} keys %ranges) {
foreach my $range (@{$ranges{$chrom}}) {
my $value = $$range[2] ? $$range[3]/$$range[2] : 0;
printf "%d %d %d %.1f\n",$chrom,@$range[0,1],$value;
}
}
示例调用：
$perl script.pl regions.txt <coverage.txt >output.txt
示例输入的输出：
1 100 200 6.7 1 400 600 0.0 2 600 700 12.5
(因为(5 7 8)/ 3 = 6.66 …)