V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Yourdaye
V2EX  ›  Python

open 了一个 2G 的 file,忘了 close

  •  
  •   Yourdaye · 2016-01-22 11:32:35 +08:00 · 4469 次点击
    这是一个创建于 3261 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在网上找了一段 python 代码,分析服务器将近 2G 的 log 文件,代码执行过程中突然发现狗日的只有 open 没有 close ! Ctrl+C 终止程序的执行后查看内存,发现 Swap 几乎都被消耗殆尽,现在我要怎样才能安全地回收内存?

    23 条回复    2016-01-24 22:14:38 +08:00
    xingso
        1
    xingso  
       2016-01-22 11:38:23 +08:00
    重启电脑可治百病
    Yourdaye
        2
    Yourdaye  
    OP
       2016-01-22 11:38:54 +08:00
    @xingso 服务器不能随便重启啊
    28ms
        3
    28ms  
       2016-01-22 11:39:30 +08:00
    with open('logfile', 'r') as filehandler:
    # do your work
    # end
    yuankui
        4
    yuankui  
       2016-01-22 11:41:13 +08:00
    程序退出了内存不就好了吗?
    Tinet
        5
    Tinet  
       2016-01-22 11:47:16 +08:00
    楼上说得对, python 有垃圾回收机制,程序退出后,占用的内存也会释放。你看到 swap 并没有释放应该是 linux 系统的内存使用策略问题,不会影响服务器的正常使用。
    xingso
        6
    xingso  
       2016-01-22 11:47:31 +08:00
    @Yourdaye 6666 。。。我以为你把日志文件传回来分析的。。没想到直接用服务器分析
    Yourdaye
        7
    Yourdaye  
    OP
       2016-01-22 11:47:32 +08:00
    @yuankui 对 linux 不是很了解,#echo 3 > /proc/sys/vm/drop_caches ,用了这个命令,貌似作用不大
    dndx
        8
    dndx  
       2016-01-22 11:50:12 +08:00   ❤️ 1
    Python 就算 open 再大的文件也不会直接把所有内容读到内存。要是你直接 read() 了当我没说。
    Yourdaye
        9
    Yourdaye  
    OP
       2016-01-22 11:52:28 +08:00
    @Tinet 多谢
    neoblackcap
        10
    neoblackcap  
       2016-01-22 12:03:21 +08:00
    @Tinet +1
    harry890829
        11
    harry890829  
       2016-01-22 12:09:15 +08:00
    这个就算是 c/c++这种没有回收机制的,在 Linux 上和楼主做了同样的事情后, kill 掉也能把占用内存释放啊
    eliteYang
        12
    eliteYang  
       2016-01-22 12:12:39 +08:00
    可以设置 log 滚动,再加上一些内存管理,例如 tcmalloc ,可以定时回收内存
    Garantion
        13
    Garantion  
       2016-01-22 12:19:26 +08:00
    pkill python
    Andiry
        14
    Andiry  
       2016-01-22 12:24:10 +08:00
    杀掉进程就行。其实 close 不 close 无所谓,只是多占用一个 file descriptor
    upwell
        15
    upwell  
       2016-01-22 12:24:56 +08:00
    shyling
        16
    shyling  
       2016-01-22 12:29:04 +08:00 via iPad
    open 无所谓的啊,不要一次 read 。。另外进程结束时系统会关闭 fd 的
    salmon5
        17
    salmon5  
       2016-01-22 13:08:46 +08:00
    这就是 java 中的所谓内存泄漏?
    yonka
        18
    yonka  
       2016-01-22 13:19:52 +08:00
    你不 close 也只是句柄没被释放啊,怎么会把内存是吗?
    f = open(fpath)
    data = f.read()
    这样吗? = =
    realpg
        19
    realpg  
       2016-01-22 13:32:34 +08:00
    @Tinet
    这个不是 python gc 的问题吧……

    程序都退出了还占个啥内存……
    Tinet
        20
    Tinet  
       2016-01-22 13:38:00 +08:00
    @realpg 确实不是 gc 的问题,是 linux 的内存利用策略的问题,占用的交换空间并不因为程序退出而主动释放。
    Kirscheis
        21
    Kirscheis  
       2016-01-22 13:42:53 +08:00 via Android
    让你不用 with 。。
    只是 swap 看上去被占了,应该问题不大吧
    mrytsr
        22
    mrytsr  
       2016-01-23 13:05:13 +08:00 via Android
    Sb
    heshaobo
        23
    heshaobo  
       2016-01-24 22:14:38 +08:00
    文件操作请使用 with 语句
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5223 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 03:46 · PVG 11:46 · LAX 19:46 · JFK 22:46
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.