没有 fsync() 的 rename() 是否安全?

2024-11-08 08:43:00
admin
原创
171
摘要:问题描述:rename(tmppath, path)如果不先打电话就直接拨打电话是否安全fsync(tmppath_fd)?我希望路径始终指向一个完整的文件。我主要关心Ext4。rename() 是否保证在所有未来的 Linux 内核版本中都是安全的?Python 中的使用示例:def store_atomi...

问题描述:

rename(tmppath, path)如果不先打电话就直接拨打电话是否安全fsync(tmppath_fd)

我希望路径始终指向一个完整的文件。我主要关心Ext4。rename() 是否保证在所有未来的 Linux 内核版本中都是安全的?

Python 中的使用示例:

def store_atomically(path, data):
    tmppath = path + ".tmp"
    output = open(tmppath, "wb")
    output.write(data)

    output.flush()
    os.fsync(output.fileno())  # The needed fsync().
    output.close()
    os.rename(tmppath, path)

解决方案 1:

不。

查看 libeatmydata 和此演示文稿:

吃掉我的数据:每个人都犯了文件 IO 错误

http://www.oscon.com/oscon2008/public/schedule/detail/3172

由 MySql 的 Stewart Smith 撰写。

如果它处于离线状态/不再可用,我会保留它的副本:

  • 视频在这里

  • 演示幻灯片(在线版幻灯片)

解决方案 2:

来自ext4 文档:

When mounting an ext4 filesystem, the following option are accepted:
(*) == default

auto_da_alloc(*)    Many broken applications don't use fsync() when 
noauto_da_alloc     replacing existing files via patterns such as
                    fd = open("foo.new")/write(fd,..)/close(fd)/
                    rename("foo.new", "foo"), or worse yet,
                    fd = open("foo", O_TRUNC)/write(fd,..)/close(fd).
                    If auto_da_alloc is enabled, ext4 will detect
                    the replace-via-rename and replace-via-truncate
                    patterns and force that any delayed allocation
                    blocks are allocated such that at the next
                    journal commit, in the default data=ordered
                    mode, the data blocks of the new file are forced
                    to disk before the rename() operation is
                    committed.  This provides roughly the same level
                    of guarantees as ext3, and avoids the
                    "zero-length" problem that can happen when a
                    system crashes before the delayed allocation
                    blocks are forced to disk.

从“损坏的应用程序”这一措辞来看,ext4 开发人员肯定认为这是不好的做法,但实际上,这种方法被广泛使用,因此在 ext4 本身中就对其进行了修补。

因此,如果您的使用符合模式,那么您应该是安全的。

如果没有,我建议你进一步调查,而不是fsync为了安全起见到处插入。这可能不是一个好主意,因为fsync会对 ext3 造成重大性能影响(阅读)。

另一方面,在非日志文件系统上,重命名前刷新是执行替换的正确方法。也许这就是为什么 ext4 最初期望程序有这种行为,auto_da_alloc后来添加了该选项作为修复。此外,这个针对写回(非日志)模式的 ext3 补丁试图通过在重命名时异步刷新来帮助粗心的程序,以降低数据丢失的可能性。

您可以在此处阅读有关 ext4 问题的更多信息。

解决方案 3:

如果您只关心 ext4 而不关心 ext3,那么我建议在重命名之前对新文件使用 fsync。ext4 上的 fsync 性能似乎比 ext3 上的好得多,而且没有很长的延迟。或者可能是因为 writeback 是默认模式(至少在我的 Linux 系统上)。

如果您只关心文件是否完整,而不关心目录中哪个文件的名称,则只需 fsync 新文件即可。无需 fsync 目录,因为它将指向包含完整数据的新文件或旧文件。

相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   1565  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1354  
  信创国产芯片作为信息技术创新的核心领域,对于推动国家自主可控生态建设具有至关重要的意义。在全球科技竞争日益激烈的背景下,实现信息技术的自主可控,摆脱对国外技术的依赖,已成为保障国家信息安全和产业可持续发展的关键。国产芯片作为信创产业的基石,其发展水平直接影响着整个信创生态的构建与完善。通过不断提升国产芯片的技术实力、产...
国产信创系统   21  
  信创生态建设旨在实现信息技术领域的自主创新和安全可控,涵盖了从硬件到软件的全产业链。随着数字化转型的加速,信创生态建设的重要性日益凸显,它不仅关乎国家的信息安全,更是推动产业升级和经济高质量发展的关键力量。然而,在推进信创生态建设的过程中,面临着诸多复杂且严峻的挑战,需要深入剖析并寻找切实可行的解决方案。技术创新难题技...
信创操作系统   27  
  信创产业作为国家信息技术创新发展的重要领域,对于保障国家信息安全、推动产业升级具有关键意义。而国产芯片作为信创产业的核心基石,其研发进展备受关注。在信创国产芯片的研发征程中,面临着诸多复杂且艰巨的难点,这些难点犹如一道道关卡,阻碍着国产芯片的快速发展。然而,科研人员和相关企业并未退缩,积极探索并提出了一系列切实可行的解...
国产化替代产品目录   28  
热门文章
项目管理软件有哪些?
云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用