停止读取 Python 中的进程输出而不挂起?
- 2025-01-14 08:50:00
- admin 原创
- 97
问题描述:
我有一个用于 Linux 的 Python 程序,几乎看起来像这样:
import os
import time
process = os.popen("top").readlines()
time.sleep(1)
os.popen("killall top")
print process
程序在这一行挂起:
process = os.popen("top").readlines()
这种情况发生在不断更新输出的工具中,例如“Top”
我最好的尝试:
import os
import time
import subprocess
process = subprocess.Popen('top')
time.sleep(2)
os.popen("killall top")
print process
它比第一个效果更好(它很强大),但它返回:
<subprocess.Popen object at 0x97a50cc>
第二次审判:
import os
import time
import subprocess
process = subprocess.Popen('top').readlines()
time.sleep(2)
os.popen("killall top")
print process
与第一个相同。它因“readlines()”而挂起
它的返回应该是这样的:
top - 05:31:15 up 12:12, 5 users, load average: 0.25, 0.14, 0.11
Tasks: 174 total, 2 running, 172 sleeping, 0 stopped, 0 zombie
Cpu(s): 9.3%us, 3.8%sy, 0.1%ni, 85.9%id, 0.9%wa, 0.0%hi, 0.0%si, 0.0%st
Mem: 1992828k total, 1849456k used, 143372k free, 233048k buffers
Swap: 4602876k total, 0k used, 4602876k free, 1122780k cached
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
31735 Barakat 20 0 246m 52m 20m S 19.4 2.7 13:54.91 totem
1907 root 20 0 91264 45m 15m S 1.9 2.3 38:54.14 Xorg
2138 Barakat 20 0 17356 5368 4284 S 1.9 0.3 3:00.15 at-spi-registry
2164 Barakat 9 -11 164m 7372 6252 S 1.9 0.4 2:54.58 pulseaudio
2394 Barakat 20 0 27212 9792 8256 S 1.9 0.5 6:01.48 multiload-apple
6498 Barakat 20 0 56364 30m 18m S 1.9 1.6 0:03.38 pyshell
1 root 20 0 2880 1416 1208 S 0.0 0.1 0:02.02 init
2 root 20 0 0 0 0 S 0.0 0.0 0:00.02 kthreadd
3 root RT 0 0 0 0 S 0.0 0.0 0:00.12 migration/0
4 root 20 0 0 0 0 S 0.0 0.0 0:02.07 ksoftirqd/0
5 root RT 0 0 0 0 S 0.0 0.0 0:00.00 watchdog/0
9 root 20 0 0 0 0 S 0.0 0.0 0:01.43 events/0
11 root 20 0 0 0 0 S 0.0 0.0 0:00.00 cpuset
12 root 20 0 0 0 0 S 0.0 0.0 0:00.02 khelper
13 root 20 0 0 0 0 S 0.0 0.0 0:00.00 netns
14 root 20 0 0 0 0 S 0.0 0.0 0:00.00 async/mgr
15 root 20 0 0 0 0 S 0.0 0.0 0:00.00 pm
并保存在变量“process”中。大家有什么想法吗,我现在真的卡住了?
解决方案 1:
#!/usr/bin/env python
"""Start process; wait 2 seconds; kill the process; print all process output."""
import subprocess
import tempfile
import time
def main():
# open temporary file (it automatically deleted when it is closed)
# `Popen` requires `f.fileno()` so `SpooledTemporaryFile` adds nothing here
f = tempfile.TemporaryFile()
# start process, redirect stdout
p = subprocess.Popen(["top"], stdout=f)
# wait 2 seconds
time.sleep(2)
# kill process
#NOTE: if it doesn't kill the process then `p.wait()` blocks forever
p.terminate()
p.wait() # wait for the process to terminate otherwise the output is garbled
# print saved output
f.seek(0) # rewind to the beginning of the file
print f.read(),
f.close()
if __name__=="__main__":
main()
仅打印部分输出的尾部解决方案
您可以在另一个线程中读取进程输出,并将所需数量的最后几行保存在队列中:
import collections
import subprocess
import time
import threading
def read_output(process, append):
for line in iter(process.stdout.readline, ""):
append(line)
def main():
# start process, redirect stdout
process = subprocess.Popen(["top"], stdout=subprocess.PIPE, close_fds=True)
try:
# save last `number_of_lines` lines of the process output
number_of_lines = 200
q = collections.deque(maxlen=number_of_lines) # atomic .append()
t = threading.Thread(target=read_output, args=(process, q.append))
t.daemon = True
t.start()
#
time.sleep(2)
finally:
process.terminate() #NOTE: it doesn't ensure the process termination
# print saved lines
print ''.join(q)
if __name__=="__main__":
main()
此变体要求q.append()
是原子操作。否则输出可能会被破坏。
signal.alarm()
解决方案
您可以使用 在指定超时后signal.alarm()
调用,process.terminate()
而不是在另一个线程中读取。尽管它可能无法与模块很好地交互subprocess
。根据@Alex Martelli 的回答:
import collections
import signal
import subprocess
class Alarm(Exception):
pass
def alarm_handler(signum, frame):
raise Alarm
def main():
# start process, redirect stdout
process = subprocess.Popen(["top"], stdout=subprocess.PIPE, close_fds=True)
# set signal handler
signal.signal(signal.SIGALRM, alarm_handler)
signal.alarm(2) # produce SIGALRM in 2 seconds
try:
# save last `number_of_lines` lines of the process output
number_of_lines = 200
q = collections.deque(maxlen=number_of_lines)
for line in iter(process.stdout.readline, ""):
q.append(line)
signal.alarm(0) # cancel alarm
except Alarm:
process.terminate()
finally:
# print saved lines
print ''.join(q)
if __name__=="__main__":
main()
此方法仅适用于 *nix 系统。如果process.stdout.readline()
没有返回,则可能会阻塞。
threading.Timer
解决方案
import collections
import subprocess
import threading
def main():
# start process, redirect stdout
process = subprocess.Popen(["top"], stdout=subprocess.PIPE, close_fds=True)
# terminate process in timeout seconds
timeout = 2 # seconds
timer = threading.Timer(timeout, process.terminate)
timer.start()
# save last `number_of_lines` lines of the process output
number_of_lines = 200
q = collections.deque(process.stdout, maxlen=number_of_lines)
timer.cancel()
# print saved lines
print ''.join(q),
if __name__=="__main__":
main()
这种方法也适用于 Windows。这里我将其用作process.stdout
可迭代对象;它可能会引入额外的输出缓冲,iter(process.stdout.readline, "")
如果不希望如此,您可以切换到该方法。如果进程没有终止,process.terminate()
则脚本会挂起。
无线程,无信号解决方案
import collections
import subprocess
import sys
import time
def main():
args = sys.argv[1:]
if not args:
args = ['top']
# start process, redirect stdout
process = subprocess.Popen(args, stdout=subprocess.PIPE, close_fds=True)
# save last `number_of_lines` lines of the process output
number_of_lines = 200
q = collections.deque(maxlen=number_of_lines)
timeout = 2 # seconds
now = start = time.time()
while (now - start) < timeout:
line = process.stdout.readline()
if not line:
break
q.append(line)
now = time.time()
else: # on timeout
process.terminate()
# print saved lines
print ''.join(q),
if __name__=="__main__":
main()
此变体不使用线程,不使用信号,但它会在终端中产生乱码输出。如果process.stdout.readline()
发生阻塞,它将被阻塞。
解决方案 2:
我建议不要使用“top”,而是使用“ps”,它会给你同样的信息,但只显示一次,而不是永远每秒显示一次。
您还需要使用一些带有 ps 的标志,我倾向于使用“ps aux”
解决方案 3:
与此方法不同的是,我会检查您尝试从中获取信息的程序,并确定该信息的最终来源。它可能是 API 调用或设备节点。然后,编写一些从同一来源获取它的 Python。这消除了“抓取” “加工”数据的问题和开销。
解决方案 4:
( JF Sebastian 你的代码运行得很好,我认为它比我的解决方案更好 =) )
我已经用另一种方法解决了。
我没有直接在终端上输出,而是将其放入文件“tmp_file”中:
top >> tmp_file
然后我使用工具“cut”将其输出“哪个是顶部输出”作为流程的值
cat tmp_file
它做了我想要它做的事情。这是最终的代码:
import os
import subprocess
import time
subprocess.Popen("top >> tmp_file",shell = True)
time.sleep(1)
os.popen("killall top")
process = os.popen("cat tmp_file").read()
os.popen("rm tmp_file")
print process
# Thing better than nothing =)
非常感谢你们的帮助
解决方案 5:
事实上,如果你填满输出缓冲区,你最终会得到一些答案。因此,一个解决方案是用大量垃圾输出(~6000 个字符,bufsize=1)填充缓冲区。
假设您有一个在 sys.stdout 上写入的 Python 脚本,而不是 Top:
GARBAGE='.
'
sys.stdout.write(valuable_output)
sys.stdout.write(GARBAGE*3000)
在启动器端,而不是简单的process.readline():
GARBAGE='.
'
line=process.readline()
while line==GARBAGE:
line=process.readline()
相当确定它有点肮脏,因为 2000 依赖于子进程的实现,但它工作正常并且非常简单。设置 bufsize=1 以外的任何值都会使问题变得更糟。