我有大的txt文件与10万行.
我需要启动n个计数的线程,并给每个线程uniq行从这个文件.
这样做最好的方法是什么?我想我需要逐行读取文件,迭代器必须是全局的才能锁定它.将txt文件加载到列表将是耗时的,我可以收到OutofMemory异常.有任何想法吗?帮助plz与一些代码.
我需要启动n个计数的线程,并给每个线程uniq行从这个文件.
这样做最好的方法是什么?我想我需要逐行读取文件,迭代器必须是全局的才能锁定它.将txt文件加载到列表将是耗时的,我可以收到OutofMemory异常.有任何想法吗?帮助plz与一些代码.
解决方法
您可以使用
File.ReadLines Method逐行读取文件,而不是将整个文件一次性加载到内存中,而
Parallel.ForEach Method则可以并行处理多个线程中的行:
Parallel.ForEach(File.ReadLines("file.txt"),(line,_,lineNumber) => { // your code here });