如何使用 AWK 合并两个文件?[重复]

2024-10-10 08:38:00
admin
原创
70
摘要:问题描述:文件 1 有 5 个字段 ABCDE,其中字段 A 是整数值 文件 2 有 3 个字段 AFG文件 1 中的行数比文件 2 中的行数大得多(20^6 到 5000)文件 1 中 A 的所有条目都出现在文件 2 的字段 A 中 我喜欢按字段 A 合并两个文件并携带 F 和 G期望输出是 ABCDEFG...

问题描述:

文件 1 有 5 个字段 ABCDE,其中字段 A 是整数值

文件 2 有 3 个字段 AFG

文件 1 中的行数比文件 2 中的行数大得多(20^6 到 5000)

文件 1 中 A 的所有条目都出现在文件 2 的字段 A 中

我喜欢按字段 A 合并两个文件并携带 F 和 G

期望输出是 ABCDEFG

例子

文件 1

 A     B     C    D    E
4050 S00001 31228 3286 0
4050 S00012 31227 4251 0
4049 S00001 28342 3021 1
4048 S00001 46578 4210 0
4048 S00113 31221 4250 0
4047 S00122 31225 4249 0
4046 S00344 31322 4000 1

文件 2

A     F    G   
4050 12.1 23.6
4049 14.4 47.8   
4048 23.2 43.9
4047 45.5 21.6

期望输出

A    B      C      D   E F    G
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6

解决方案 1:

$ awk 'FNR==NR{a[$1]=$2 FS $3;next}{ print $0, a[$1]}' file2 file1
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6
4046 S00344 31322 4000 1

解释:(部分基于另一个问题。不过有点晚了。)

FNR表示当前文件中的记录数(通常是行号),NR表示总记录数。运算符 == 是比较运算符,当两个周围的操作数相等时返回 true。所以FNR==NR{commands}意味着括号内的命令仅在处理第一个文件(file2现在)时执行。

FS指字段分隔符,而$1$2分别是一行中的第 1 个、第 2 个等字段。a[$1]=$2 FS $3表示一个字典(/数组)(名为a)填充了$1键和$2 FS $3值。

;分隔命令

next表示忽略当前行的任何其他命令。(处理继续在下一行进行。)

$0是整条线

{print $0, a[$1]}只是打印出整行和的值a[$1](如果$1在字典中,否则只$0打印)。现在它只对第二个文件(file1现在)执行,因为FNR==NR{...;next}

解决方案 2:

值得庆幸的是,你根本不需要写这个。Unix 有一个 join 命令可以为你完成这个。

join -1 1 -2 1 File1 File2

以下是其“实际运行”情况:

will-hartungs-computer:tmp will$ cat f1
4050 S00001 31228 3286 0
4050 S00012 31227 4251 0
4049 S00001 28342 3021 1
4048 S00001 46578 4210 0
4048 S00113 31221 4250 0
4047 S00122 31225 4249 0
4046 S00344 31322 4000 1
will-hartungs-computer:tmp will$ cat f2
4050 12.1 23.6
4049 14.4 47.8   
4048 23.2 43.9
4047 45.5 21.6
will-hartungs-computer:tmp will$ join -1 1 -2 1 f1 f2
4050 S00001 31228 3286 0 12.1 23.6
4050 S00012 31227 4251 0 12.1 23.6
4049 S00001 28342 3021 1 14.4 47.8
4048 S00001 46578 4210 0 23.2 43.9
4048 S00113 31221 4250 0 23.2 43.9
4047 S00122 31225 4249 0 45.5 21.6
will-hartungs-computer:tmp will$ 

解决方案 3:

您需要将文件 2 中的条目读入 BEGIN 块中的一对关联数组中。假设 GNU Awk:

BEGIN { while (getline < "File 2") { f[$1] = $2; g[$1] = $3 } }

在主处理块中,您从文件 1 中读取该行,并使用 BEGIN 块中创建的数组中的正确数据打印它:

{ print $0, f[$1], g[$1] }

将文件 1 作为文件名参数提供给程序。

awk 'BEGIN { while (getline < "File 2") { f[$1] = $2; g[$1] = $3 } }
     print $0, f[$1], g[$1] }' "File 1"

由于文件名中有空格,因此需要在文件名参数周围加上引号。getline即使文件名不包含空格,也需要用引号括住文件名,否则它将是变量名。

解决方案 4:

awk 'BEGIN{OFS=","}  FNR==NR {F[$1]=$2;G[$1]=$3;next} {print $1,$2,$3,$4,$5,F[$1],G[$1]}' file2.txt file1.txt
相关推荐
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   601  
  华为IPD与传统研发模式的8大差异在快速变化的商业环境中,产品研发模式的选择直接决定了企业的市场响应速度和竞争力。华为作为全球领先的通信技术解决方案供应商,其成功在很大程度上得益于对产品研发模式的持续创新。华为引入并深度定制的集成产品开发(IPD)体系,相较于传统的研发模式,展现出了显著的差异和优势。本文将详细探讨华为...
IPD流程是谁发明的   7  
  如何通过IPD流程缩短产品上市时间?在快速变化的市场环境中,产品上市时间成为企业竞争力的关键因素之一。集成产品开发(IPD, Integrated Product Development)作为一种先进的产品研发管理方法,通过其结构化的流程设计和跨部门协作机制,显著缩短了产品上市时间,提高了市场响应速度。本文将深入探讨如...
华为IPD流程   9  
  在项目管理领域,IPD(Integrated Product Development,集成产品开发)流程图是连接创意、设计与市场成功的桥梁。它不仅是一个视觉工具,更是一种战略思维方式的体现,帮助团队高效协同,确保产品按时、按质、按量推向市场。尽管IPD流程图可能初看之下显得错综复杂,但只需掌握几个关键点,你便能轻松驾驭...
IPD开发流程管理   8  
  在项目管理领域,集成产品开发(IPD)流程被视为提升产品上市速度、增强团队协作与创新能力的重要工具。然而,尽管IPD流程拥有诸多优势,其实施过程中仍可能遭遇多种挑战,导致项目失败。本文旨在深入探讨八个常见的IPD流程失败原因,并提出相应的解决方法,以帮助项目管理者规避风险,确保项目成功。缺乏明确的项目目标与战略对齐IP...
IPD流程图   8  
热门文章
项目管理软件有哪些?
云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用