如何使用 AWK 合并两个文件?[重复]

2024-10-10 08:38:00
admin
原创
198
摘要:问题描述:文件 1 有 5 个字段 ABCDE,其中字段 A 是整数值 文件 2 有 3 个字段 AFG文件 1 中的行数比文件 2 中的行数大得多(20^6 到 5000)文件 1 中 A 的所有条目都出现在文件 2 的字段 A 中 我喜欢按字段 A 合并两个文件并携带 F 和 G期望输出是 ABCDEFG...

问题描述:

文件 1 有 5 个字段 ABCDE,其中字段 A 是整数值

文件 2 有 3 个字段 AFG

文件 1 中的行数比文件 2 中的行数大得多(20^6 到 5000)

文件 1 中 A 的所有条目都出现在文件 2 的字段 A 中

我喜欢按字段 A 合并两个文件并携带 F 和 G

期望输出是 ABCDEFG

例子

文件 1

 A     B     C    D    E
4050 S00001 31228 3286 0
4050 S00012 31227 4251 0
4049 S00001 28342 3021 1
4048 S00001 46578 4210 0
4048 S00113 31221 4250 0
4047 S00122 31225 4249 0
4046 S00344 31322 4000 1

文件 2

A     F    G   
4050 12.1 23.6
4049 14.4 47.8   
4048 23.2 43.9
4047 45.5 21.6

期望输出

A    B      C      D   E F    G
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6

解决方案 1:

$ awk 'FNR==NR{a[$1]=$2 FS $3;next}{ print $0, a[$1]}' file2 file1
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6
4046 S00344 31322 4000 1

解释:(部分基于另一个问题。不过有点晚了。)

FNR表示当前文件中的记录数(通常是行号),NR表示总记录数。运算符 == 是比较运算符,当两个周围的操作数相等时返回 true。所以FNR==NR{commands}意味着括号内的命令仅在处理第一个文件(file2现在)时执行。

FS指字段分隔符,而$1$2分别是一行中的第 1 个、第 2 个等字段。a[$1]=$2 FS $3表示一个字典(/数组)(名为a)填充了$1键和$2 FS $3值。

;分隔命令

next表示忽略当前行的任何其他命令。(处理继续在下一行进行。)

$0是整条线

{print $0, a[$1]}只是打印出整行和的值a[$1](如果$1在字典中,否则只$0打印)。现在它只对第二个文件(file1现在)执行,因为FNR==NR{...;next}

解决方案 2:

值得庆幸的是,你根本不需要写这个。Unix 有一个 join 命令可以为你完成这个。

join -1 1 -2 1 File1 File2

以下是其“实际运行”情况:

will-hartungs-computer:tmp will$ cat f1
4050 S00001 31228 3286 0
4050 S00012 31227 4251 0
4049 S00001 28342 3021 1
4048 S00001 46578 4210 0
4048 S00113 31221 4250 0
4047 S00122 31225 4249 0
4046 S00344 31322 4000 1
will-hartungs-computer:tmp will$ cat f2
4050 12.1 23.6
4049 14.4 47.8   
4048 23.2 43.9
4047 45.5 21.6
will-hartungs-computer:tmp will$ join -1 1 -2 1 f1 f2
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6
will-hartungs-computer:tmp will$ 

解决方案 3:

您需要将文件 2 中的条目读入 BEGIN 块中的一对关联数组中。假设 GNU Awk:

BEGIN { while (getline < "File 2") { f[$1] = $2; g[$1] = $3 } }

在主处理块中,您从文件 1 中读取该行,并使用 BEGIN 块中创建的数组中的正确数据打印它:

{ print $0, f[$1], g[$1] }

将文件 1 作为文件名参数提供给程序。

awk 'BEGIN { while (getline < "File 2") { f[$1] = $2; g[$1] = $3 } }
     print $0, f[$1], g[$1] }' "File 1"

由于文件名中有空格,因此需要在文件名参数周围加上引号。getline即使文件名不包含空格,也需要用引号括住文件名,否则它将是变量名。

解决方案 4:

awk 'BEGIN{OFS=","}  FNR==NR {F[$1]=$2;G[$1]=$3;next} {print $1,$2,$3,$4,$5,F[$1],G[$1]}' file2.txt file1.txt
相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   1565  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1354  
  信创国产芯片作为信息技术创新的核心领域,对于推动国家自主可控生态建设具有至关重要的意义。在全球科技竞争日益激烈的背景下,实现信息技术的自主可控,摆脱对国外技术的依赖,已成为保障国家信息安全和产业可持续发展的关键。国产芯片作为信创产业的基石,其发展水平直接影响着整个信创生态的构建与完善。通过不断提升国产芯片的技术实力、产...
国产信创系统   21  
  信创生态建设旨在实现信息技术领域的自主创新和安全可控,涵盖了从硬件到软件的全产业链。随着数字化转型的加速,信创生态建设的重要性日益凸显,它不仅关乎国家的信息安全,更是推动产业升级和经济高质量发展的关键力量。然而,在推进信创生态建设的过程中,面临着诸多复杂且严峻的挑战,需要深入剖析并寻找切实可行的解决方案。技术创新难题技...
信创操作系统   27  
  信创产业作为国家信息技术创新发展的重要领域,对于保障国家信息安全、推动产业升级具有关键意义。而国产芯片作为信创产业的核心基石,其研发进展备受关注。在信创国产芯片的研发征程中,面临着诸多复杂且艰巨的难点,这些难点犹如一道道关卡,阻碍着国产芯片的快速发展。然而,科研人员和相关企业并未退缩,积极探索并提出了一系列切实可行的解...
国产化替代产品目录   28  
热门文章
项目管理软件有哪些?
云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用