如何监视 Linux 中完整目录树的变化?

2024-11-05 08:37:00
admin
原创
166
摘要:问题描述:如何监视Linux( ext3文件系统)中整个目录树的变化?目前,该目录包含大约3,000 个子目录中的约50 万个文件,分为三个目录级别。这些文件大多是小文件(< 1kb,少数可达 100 kb)。这是一种队列,我需要在文件创建、删除或修改内容后 5-10 秒内知道这些情况发生的时间。我知道...

问题描述:

如何监视Linux( ext3文件系统)中整个目录树的变化?

目前,该目录包含大约3,000 个子目录中的约50 万个文件,分为三个目录级别。

这些文件大多是小文件(< 1kb,少数可达 100 kb)。这是一种队列,我需要在文件创建、删除或修改内容后 5-10 秒内知道这些情况发生的时间。

我知道有inotify和 sorts,但据我所知,它们只监控单个目录,这意味着在我的情况下我需要 3,000 个 inotify 句柄 - 比单个进程通常允许的 1024 个句柄还要多。还是我错了?

如果 Linux 系统不能告诉我我需要什么:也许有一个FUSE项目可以模拟文件系统(复制真实文件系统上的所有文件访问)并单独记录所有修改(无法找到)?


解决方案 1:

我使用该inotifywait工具做过类似的事情:

#!/bin/bash
while true; do

inotifywait -e modify,create,delete -r /path/to/your/dir &amp;&amp; \n&lt;some command to execute when a file event is recorded>

done

这将设置整个目录树的递归目录监视,并允许您在发生更改时执行命令。如果您只想查看更改,可以添加标志-m以将其置于监视模式。

解决方案 2:

$ inotifywait -m -r /path/to/your/directory

此命令足以递归监视目录中的所有事件,例如访问、打开、创建、删除......

解决方案 3:

inotify据我所知,除了递归地对每个目录设置监视之外,没有其他方法。

也就是说,您不会用尽文件描述符,因为inotify不必保留 fd 来监视文件或目录(其前身dnotify确实受到此限制)。inotify而是使用“监视描述符”。

根据inotifywatch的文档,默认限制是 8192 个监视描述符,您可以通过将新值写入来增加它/proc/sys/fs/inotify/max_user_watches

解决方案 4:

当您有许多子目录时,inotify 是最佳选择,但如果没有,我习惯使用下面的命令:

watch -d find &lt;&lt;path>>

解决方案 5:

使用 inotify-tools 中的 inotifywait:

sudo apt install inotify-tools

myscript.sh现在创建一个包含隐藏文件和文件夹的脚本:

#!/bin/bash
while true; do

inotifywait -e modify,create,delete,move -r $1

done

使用以下命令使脚本可执行chmod +x myscript.sh

运行它./myscript.sh /folder/to/monitor

如果您不提供参数,它将默认使用工作目录。

另外,您可以运行多个命令,并&amp;&amp; 在上一个命令末尾添加下一个命令:

#!/bin/bash
while true; do

inotifywait -e modify,create,delete,move -r $1 &amp;&amp; \necho &quot;event&quot; &amp;&amp; \necho &quot;event 2&quot;

done

如果不想对事件执行任何命令,只需直接使用-m修饰符运行命令即可,这样就不会关闭:

inotifywait -e modify,create,delete,move -m -r /path/to/your/dir

解决方案 6:

我有一个不同的建议,仅针对文件的变化,并记录历史变化

使用 git

cd /folder_to_monitor
git init
git add *
git commit -m &quot;first snapshot&quot;

所以在你做出改变之后

git diff

解决方案 7:

fanotify 不是应该最终提供这种功能吗?引用LWN 的话:

fanotify 有两种基本‘模式’:定向和全局。 [...] fanotify global 则表示它想要系统上的所有内容,然后单独标记它不关心的 inode。

但我记不清它的最新状态是什么了。

解决方案 8:

尤其是对于大型或复杂的监控任务,您希望根据所看到的内容触发事件,请查看Watchman 文件监视服务。这是一个简单示例,每当 CSS 文件发生更改时,都会运行名为 minify-css 的工具:

$ watchman watch ~/src
$ watchman -- trigger ~/src buildme &#039;*.css&#039; -- minify-css

它具有全面的日志记录功能,可以高效处理目录结构中重叠的多个监视,可以通过命令行或 json 进行管理,等等。另请参阅

  • Watchman – 文件和目录变化监视工具

它可通过 Debian Sid 和 Ubuntu 20.04 获得,并且据我所知,它几乎两次进入 Fedora(1450590和1564720)。

解决方案 9:

我遇到了同样的问题,有一个程序正在创建一些文件(以点开头),我想手动检查其内容,但它在创建后不久又自动删除了它们。

在没有监视选项的循环中使用 inotify 对我来说不起作用,因为它太慢并且错过事件,所以我想出了这个脚本:

target=&quot;$1&quot;

cd &quot;$target&quot;
mkdir backup/

inotifywait -e modify,create,delete --monitor -r --include &quot;..*&quot; &quot;$target&quot; | \nwhile read line
do
  echo &quot;$line&quot;
  if [[ &quot;$line&quot; == &quot;$target CREATE &quot;* ]] || [[ &quot;$line&quot; == &quot;$target MODIFY &quot;* ]]
  then
    filename=${line#&quot;$target CREATE &quot;}
    filename=${filename#&quot;$target MODIFY &quot;}
    cp --verbose &quot;$filename&quot; backup/
  fi
done

解决方案 10:

使用 watch 命令,它使用起来很简单,而且是一个原生的 Linux 命令(几乎安装在每个 Linux 发行版上)

watch -n &lt;interval> &lt;command> &lt;path>

例如

这将显示每 200 毫秒的 /tmp/test 目录变化

watch -n 0.2 ls -la /tmp/test

对于递归使用,你可以使用如下所示的watch

 watch -n 0.2 find &lt;path>

解决方案 11:

inotifywait --format &quot;[%T] %w%f %e&quot; --timefmt &quot;%Y/%m/%d, %H:%M:%S&quot; -m -e modify,create,delete,move -r &quot;/monitored/directory&quot; --outfile /path/to/logdir/file-changes.log

示例输出:

...
[2024/05/22, 19:28:14] /monitored/directory/somepath/file1.txt MODIFY
[2024/05/22, 19:28:15] /monitored/directory/otherpath/file2.txt CREATE
[2024/05/22, 19:28:17] /monitored/directory/somepath/file1.txt DELETE
...

此外,您还可以使用:

  • -d在后台运行

  • --no-dereference知道文件是从哪个符号链接被更改的。

  • --exclude &#039;.sw.$&#039;排除 vim 创建的临时文件(例如 .swp、.swx 等)

解决方案 12:

我使用它来快速概览当前目录:

watch &#039;find . -printf &quot;%T@ %Tc %p
&quot; | sort -nr | head &#039;
相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   1565  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1354  
  信创国产芯片作为信息技术创新的核心领域,对于推动国家自主可控生态建设具有至关重要的意义。在全球科技竞争日益激烈的背景下,实现信息技术的自主可控,摆脱对国外技术的依赖,已成为保障国家信息安全和产业可持续发展的关键。国产芯片作为信创产业的基石,其发展水平直接影响着整个信创生态的构建与完善。通过不断提升国产芯片的技术实力、产...
国产信创系统   21  
  信创生态建设旨在实现信息技术领域的自主创新和安全可控,涵盖了从硬件到软件的全产业链。随着数字化转型的加速,信创生态建设的重要性日益凸显,它不仅关乎国家的信息安全,更是推动产业升级和经济高质量发展的关键力量。然而,在推进信创生态建设的过程中,面临着诸多复杂且严峻的挑战,需要深入剖析并寻找切实可行的解决方案。技术创新难题技...
信创操作系统   27  
  信创产业作为国家信息技术创新发展的重要领域,对于保障国家信息安全、推动产业升级具有关键意义。而国产芯片作为信创产业的核心基石,其研发进展备受关注。在信创国产芯片的研发征程中,面临着诸多复杂且艰巨的难点,这些难点犹如一道道关卡,阻碍着国产芯片的快速发展。然而,科研人员和相关企业并未退缩,积极探索并提出了一系列切实可行的解...
国产化替代产品目录   28  
热门文章
项目管理软件有哪些?
云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用