推荐使用哪个 Python 内存分析器?[关闭]

2024-12-02 08:41:00
admin
原创
136
摘要:问题描述:我想知道我的 Python 应用程序的内存使用情况,特别是想知道哪些代码块/部分或对象消耗的内存最多。Google 搜索显示一个商业产品是Python Memory Validator(仅限 Windows)。其中开源的有PySizer和Heapy。我还没有尝试过任何人,所以我想知道哪一个是最好的:...

问题描述:

我想知道我的 Python 应用程序的内存使用情况,特别是想知道哪些代码块/部分或对象消耗的内存最多。Google 搜索显示一个商业产品是Python Memory Validator(仅限 Windows)。

其中开源的有PySizer和Heapy。

我还没有尝试过任何人,所以我想知道哪一个是最好的:

  1. 提供大部分细节。

  2. 我只需对我的代码做最少的更改或者不做任何更改。


解决方案 1:

我的模块memory_profiler能够打印逐行内存使用情况报告,适用于 Unix 和 Windows(最后一个需要 psutil)。输出不是很详细,但目的是让您了解代码消耗更多内存的位置,而不是对分配的对象进行详尽分析。

用标志修饰你的函数@profile并运行你的代码后-m memory_profiler,它将逐行打印如下报告:

Line #    Mem usage  Increment   Line Contents
==============================================
     3                           @profile
     4      5.97 MB    0.00 MB   def my_func():
     5     13.61 MB    7.64 MB       a = [1] * (10 ** 6)
     6    166.20 MB  152.59 MB       b = [2] * (2 * 10 ** 7)
     7     13.61 MB -152.59 MB       del b
     8     13.61 MB    0.00 MB       return a

解决方案 2:

guppy3使用起来非常简单。在代码的某个时刻,你必须编写以下内容:

from guppy import hpy
h = hpy()
print(h.heap())

这将为您提供如下输出:

Partition of a set of 132527 objects. Total size = 8301532 bytes.
Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
0  35144  27  2140412  26   2140412  26 str
1  38397  29  1309020  16   3449432  42 tuple
2    530   0   739856   9   4189288  50 dict (no owner)

您还可以找出对象的引用位置并获取有关该对象的统计信息,但不知何故,有关该对象的文档有点稀疏。

还有一个用 Tk 编写的图形浏览器。

对于 Python 2.x,使用Heapy。

解决方案 3:

我推荐Dowser。它的设置非常简单,而且你不需要对代码进行任何更改。你可以查看每种类型的对象随时间的变化情况、查看活动对象的列表、查看对活动对象的引用,所有这些都可以通过简单的 Web 界面完成。

# memdebug.py

import cherrypy
import dowser

def start(port):
    cherrypy.tree.mount(dowser.Root())
    cherrypy.config.update({
        'environment': 'embedded',
        'server.socket_port': port
    })
    cherrypy.server.quickstart()
    cherrypy.engine.start(blocking=False)

你导入 memdebug,然后调用 memdebug.start。就这样。

我还没有尝试过 PySizer 或 Heapy。我很希望听到其他人的评论。

更新

上面的代码适用于CherryPy 2.XCherryPy 3.Xserver.quickstart方法已被删除并且engine.start不接受blocking标志。因此,如果您正在使用CherryPy 3.X

# memdebug.py

import cherrypy
import dowser

def start(port):
    cherrypy.tree.mount(dowser.Root())
    cherrypy.config.update({
        'environment': 'embedded',
        'server.socket_port': port
    })
    cherrypy.engine.start()

解决方案 4:

考虑objgraph库(请参阅此博客文章了解示例用例)。

解决方案 5:

Muppy是(又一个)Python 内存使用情况分析器。该工具集的重点是识别内存泄漏。

Muppy 试图帮助开发人员识别 Python 应用程序的内存泄漏。它能够跟踪运行时的内存使用情况并识别泄漏的对象。此外,它还提供了允许定位未释放对象来源的工具。

解决方案 6:

我正在开发一个名为 memprof 的 Python 内存分析器:

http://jmdana.github.io/memprof/

它允许您在执行修饰方法期间记录和绘制变量的内存使用情况。您只需使用以下命令导入库:

from memprof import memprof

并使用以下方法装饰你的方法:

@memprof

这是图表的示例:

在此处输入图片描述

该项目托管在 GitHub 上:

https://github.com/jmdana/memprof

解决方案 7:

我发现meliae比 Heapy 或 PySizer 功能强大得多。如果你碰巧运行的是 wsgi webapp,那么Dozer是一个不错的 Dowser 中间件包装器

解决方案 8:

还可以尝试pytracemalloc 项目,它提供每个 Python 行号的内存使用情况。

编辑(2014/04):它现在有一个 Qt GUI 来分析快照。

相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   1565  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1354  
  信创国产芯片作为信息技术创新的核心领域,对于推动国家自主可控生态建设具有至关重要的意义。在全球科技竞争日益激烈的背景下,实现信息技术的自主可控,摆脱对国外技术的依赖,已成为保障国家信息安全和产业可持续发展的关键。国产芯片作为信创产业的基石,其发展水平直接影响着整个信创生态的构建与完善。通过不断提升国产芯片的技术实力、产...
国产信创系统   21  
  信创生态建设旨在实现信息技术领域的自主创新和安全可控,涵盖了从硬件到软件的全产业链。随着数字化转型的加速,信创生态建设的重要性日益凸显,它不仅关乎国家的信息安全,更是推动产业升级和经济高质量发展的关键力量。然而,在推进信创生态建设的过程中,面临着诸多复杂且严峻的挑战,需要深入剖析并寻找切实可行的解决方案。技术创新难题技...
信创操作系统   27  
  信创产业作为国家信息技术创新发展的重要领域,对于保障国家信息安全、推动产业升级具有关键意义。而国产芯片作为信创产业的核心基石,其研发进展备受关注。在信创国产芯片的研发征程中,面临着诸多复杂且艰巨的难点,这些难点犹如一道道关卡,阻碍着国产芯片的快速发展。然而,科研人员和相关企业并未退缩,积极探索并提出了一系列切实可行的解...
国产化替代产品目录   28  
热门文章
项目管理软件有哪些?
云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用