如何快速求和文件中的所有数字？

问题描述：

我有一个包含几千个数字的文件，每个数字占一行：

34
42
11
6
2
99
...

我想编写一个脚本来打印文件中所有数字的总和。我有一个解决方案，但效率不高。（运行需要几分钟。）我正在寻找一个更有效的解决方案。有什么建议吗？

解决方案 1：

您可以使用 awk：

awk '{ sum += $1 } END { print sum }' file

解决方案 2：

到目前为止，还没有解决方案使用paste。这是一个：

paste -sd+ filename | bc

如果文件末尾有换行符，则末尾+将导致语法错误。通过删除末尾的 来修复错误+：

paste -sd+ fiilename | sed 's/+$//g' | bc

例如，计算 Σn，其中 1<=n<=100000：

$ seq 100000 | paste -sd+ | bc -l
5000050000

（对于好奇的人来说，给定一个正数，将打印从到seq n的数字序列。）1`n`n

解决方案 3：

对于 Perl 单行代码来说，它基本上与Ayman Hourieh 的答案awk中的解决方案相同：

 % perl -nle '$sum += $_ } END { print $sum'

如果你对 Perl 单行命令的作用感到好奇，你可以解析它们：

 %  perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

结果是该程序的版本更加冗长，其形式是没有人会自己编写的：

BEGIN { $/ = "
"; $ = "
"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

只是为了好玩，我尝试用一​​个包含 1,000,000 个数字（范围在 0 - 9,999 之间）的文件执行此操作。在我的 Mac Pro 上，它几乎立即返回。这太糟糕了，因为我希望使用mmap会非常快，但时间却一样：

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(d+)/g;

say $sum;

解决方案 4：

只是为了好玩，我们来对它进行基准测试：

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "
" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/
/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

5 分钟后我中止了 sed 运行

我一直在潜水鲁阿，而且速度很快：

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0

real    0m0.362s
user    0m0.313s
sys     0m0.063s

当我更新这个时，ruby：

$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582

real    0m0.378s
user    0m0.297s
sys     0m0.078s

听从 Ed Morton 的建议：使用$1

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582

real    0m0.421s
user    0m0.359s
sys     0m0.063s

与使用$0

$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582

real    0m0.302s
user    0m0.234s
sys     0m0.063s

解决方案 5：

另一个选择是使用jq：

$ seq 10|jq -s add
55

-s( --slurp) 将输入行读入数组。

解决方案 6：

这是直接的 Bash：

sum=0
while read -r line
do
    (( sum += line ))
done < file
echo $sum

解决方案 7：

我更喜欢使用GNU datamash来完成此类任务，因为它比 perl 或 awk 更简洁易读。例如

datamash sum 1 < myfile

其中 1 表示第一列数据。

解决方案 8：

拉库

say sum lines

~$ raku -e '.say for 0..1000000' > test.in

~$ raku -e 'say sum lines' < test.in
500000500000

它的工作原理是lines生成一个字符串序列，这些字符串是输入行。

sum获取该序列，将每行转换为数字并将它们相加。

剩下的就是say打印出该值，然后跟上换行符。（它本来可以是print或put，但say更具头韵性。）

解决方案 9：

我更喜欢使用 R 来实现这一点：

$ R -e 'sum(scan("filename"))'

解决方案 10：

这是另一句台词

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

假设数字是整数。如果需要小数，请尝试

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

将 2 调整为所需的小数位数。

解决方案 11：

$ perl -MList::Util=sum -le 'print sum <>' nums.txt

解决方案 12：

更简洁：

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'

解决方案 13：

我不能就这样过去……这是我的 Haskell 单行代码。它实际上非常易读：

sum <$> (read <$>) <$> lines <$> getContents

不幸的是，没有ghci -e办法直接运行它，所以它需要主要功能、打印和编译。

main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print

为了澄清起见，我们读取整个输入（getContents），将其分成lines数字read和sum。<$>是fmap运算符——我们使用它而不是通常的函数应用程序，因为确保这一切都发生在 IO 中。read需要额外的fmap，因为它也在列表中。

$ ghc sum.hs
[1 of 1] Compiling Main             ( sum.hs, sum.o )
Linking sum ...
$ ./sum 
1
2
4
^D
7

这是一个奇怪的升级，使其能够与浮点数一起工作：

main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print

$ ./sum 
1.3
2.1
4.2
^D
7.6000000000000005

解决方案 14：

C 总是以速度取胜：

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f
", sum);
    return 0;
}

100 万个数字的计时（与我的 Python 答案相同的机器/输入）：

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s

解决方案 15：

cat nums | perl -ne '$sum += $_ } { print $sum'

（与 brian d foy 的答案相同，但没有“END”）

解决方案 16：

只是为了好玩，让我们用Perl 的数组数学引擎PDL来做吧！

perl -MPDL -E 'say rcols(shift)->sum' datafile

rcols将列读入矩阵（在本例中为 1D）并sum（惊讶地）对矩阵的所有元素求和。

解决方案 17：

这是一个使用 Python 和生成器表达式的解决方案。在我破旧的笔记本电脑上用一百万个数字进行了测试。

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s

解决方案 18：

C++“一行”代码：

#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;

int main() {
    cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
}

解决方案 19：

sed ':a;N;s/
/+/;ta' file|bc

解决方案 20：

运行 R 脚本

我编写了一个 R 脚本，以文件名作为参数并计算各行总数。

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))

可以使用“data.table”或“vroom”包来加速，如下所示：

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))

基准测试

与@glenn jackman相同的基准数据。

for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

与上面的 R 调用相比，运行 R 3.5.0 作为脚本与其他方法相当（在同一个 Linux Debian 服务器上）。

$ time R -e 'sum(scan("random_numbers"))'  
 0.37s user
 0.04s system
 86% cpu
 0.478 total

带有 readLines 的 R 脚本

$ time Rscript sum.R random_numbers
  0.53s user
  0.04s system
  84% cpu
  0.679 total

带有 data.table 的 R 脚本

$ time Rscript sum.R random_numbers     
 0.30s user
 0.05s system
 77% cpu
 0.453 total

带有 vroom 的 R 脚本

$ time Rscript sum.R random_numbers     
  0.54s user 
  0.11s system
  93% cpu
  0.696 total

与其他语言的比较

供参考，在同一硬件上建议一些其他方法

Python 2（2.7.13）

$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers 
 0.27s user 0.00s system 89% cpu 0.298 total

Python 3（3.6.8）

$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total

Ruby（2.3.3）

$  time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
 0.42s user
 0.03s system
 72% cpu
 0.625 total

Perl（5.24.1）

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
 0.24s user
 0.01s system
 99% cpu
 0.249 total

awk（4.1.4）

$ time awk '{ sum += $0 } END { print sum }' random_numbers
 0.26s user
 0.01s system
 99% cpu
 0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
 0.34s user
 0.01s system
 99% cpu
 0.354 total

C（clang 版本 3.3；gcc（Debian 6.3.0-18）6.3.0）

 $ gcc sum.c -o sum && time ./sum < random_numbers   
 0.10s user
 0.00s system
 96% cpu
 0.108 total

更新更多语言

Lua（5.3.5）

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers 
 0.30s user 
 0.01s system
 98% cpu
 0.312 total

tr (8.26)必须在 bash 中计时，与 zsh 不兼容

$time { { tr "
" + < random_numbers ; echo 0; } | bc; }
real    0m0.494s
user    0m0.488s
sys 0m0.044s

sed (4.4)必须在 bash 中计时，与 zsh 不兼容

$  time { head -n 10000 random_numbers | sed ':a;N;s/
/+/;ta' |bc; }
real    0m0.631s
user    0m0.628s
sys     0m0.008s
$  time { head -n 100000 random_numbers | sed ':a;N;s/
/+/;ta' |bc; }
real    1m2.593s
user    1m2.588s
sys     0m0.012s

注意：sed 调用似乎在具有更多可用内存的系统上运行得更快（请注意用于对 sed 进行基准测试的数据集较小）

朱莉娅（0.5.0）

$ time julia -e 'print(sum(readdlm("random_numbers")))'
 3.00s user 
 1.39s system 
 136% cpu 
 3.204 total
$  time julia -e 'print(sum(readtable("random_numbers")))'
 0.63s user 
 0.96s system 
 248% cpu 
 0.638 total

请注意，与 R 一样，文件 I/O 方法具有不同的性能。

解决方案 21：

Bash 变体

raw=$(cat file)
echo $(( ${raw//$'
'/+} ))

$ wc -l file
10000 file

$ time ./test
323390

real    0m3,096s
user    0m3,095s
sys     0m0,000s

这里发生了什么？将文件内容读入 $raw var。然后通过将所有新行更改为“+”从此 var 创建数学语句

解决方案 22：

只要只有整数，我基本上就会将文件转换为 bash 数学表达式并执行它。它类似于上面使用“bc”的解决方案，但速度更快。观察内部表达式末尾的零是最后一行参数所必需的。我已经用 475.000 行对其进行了测试，用时不到一秒。

echo $(($(cat filename | tr '
' '+')0))

解决方案 23：

又一个好玩的

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

或者另一个仅限 bash

s=0;while read l; do s=$((s+$l));done<file;echo $s

但 awk 解决方案可能是最好的，因为它最紧凑。

解决方案 24：

使用 Ruby：

ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"

解决方案 25：

在 Go 中：

package main

import (
    "bufio"
    "fmt"
    "os"
    "strconv"
)

func main() {
    scanner := bufio.NewScanner(os.Stdin)
    sum := int64(0)
    for scanner.Scan() {
        v, err := strconv.ParseInt(scanner.Text(), 10, 64)
        if err != nil {
            fmt.Fprintf(os.Stderr, "Not an integer: '%s'
", scanner.Text())
            os.Exit(1)
        }
        sum += v
    }
    fmt.Println(sum)
}

解决方案 26：

考虑到您需要通读整个文件，我不知道您是否可以得到比这更好的结果。

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;

解决方案 27：

我还没有测试过但是它应该可以工作：

cat f | tr "
" "+" | sed 's/+$/
/' | bc

如果 bc 不处理 EOF 和 EOL，您可能必须在 bc 之前的字符串中添加“n”（例如通过 echo）...

解决方案 28：

这是另一个：

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum
";

解决方案 29：

您可以使用 Alacon（ Alasql数据库的命令行实用程序）来完成此操作。

它与 Node.js 一起工作，因此您需要安装Node.js然后安装Alasql包：

要计算 TXT 文件的总和，可以使用以下命令：

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"

解决方案 30：

+用 替换所有新行，添加0并将其发送给解释器不是更容易吗Ruby？

(sed -e "s/$/+/" file; echo 0)|irb

如果你没有irb，你可以将其发送到bc，但你必须删除除最后一个换行符（的echo）之外的所有换行符。最好使用tr，除非你有 博士学位sed。

(sed -e "s/$/+/" file|tr -d "
"; echo 0)|bc