V 友们有用过这个类的吗? python 2.7 新加的
使用过程中发现貌似存在内存泄漏问题,用 pympler 监控对象的内存, 发现 OrderedDict 对象 和 list 随着时间不断的缓慢增长(OrderedDict 对象的数量没有增加,内存占用却不断缓慢的增长)
这里有一个关于 OrderedDict 内存泄漏的介绍: https://stackoverflow.com/a/46935255/2379891
不过我没有像文中作者那样去 clear,而是不断的 del orderedDict[key], dump 内存中的对象后,也发现了不少和文中作者所说的那种 self-referencing list
使用 OrderedDict 主要是为了实现一个 LRU 缓存(基于缓存失效时间 timeout),不知道 python 官方有没有高性能的 LRU cache 的实现
1
cgsv 2018-11-14 10:02:10 +08:00 via iPhone
在 gc 开启的情况下,self-referencing list 并不代表内存泄露,只是代表这部分内存只有在 gc 的时候才释放。另外,如果 gc 需要释放的对象定义了__del__方法,那么在 python2 中它就永远不会被回收
|
2
Buffer2Disk OP @cgsv 因为对性能问题比较敏感,所以没有开启 gc,想通过去除循环引用来解决。,。。。。
|
3
cgsv 2018-11-14 13:02:23 +08:00
@Buffer2Disk 据我所知,Python2 的 OrderedDict 链表中使用的是强引用,所以有循环引用的问题。在 Python3 中 OrderedDict 链表使用的是 weakref,所以没有这个问题。可以考虑看一下 Python3 的实现
|
4
Buffer2Disk OP @cgsv 循环引用在什么样的情况下会内存泄漏(不开启 GC 的情况下)
我测试了下, 如果我直接 del OrderedDict 的对象,好像是会产生一个空的 self-refering list 如果只是 del 其中某一个键值对,好像没有任何泄漏 那么可以认为删除键值对的情况下,没有内存泄漏,可以这么理解嘛? |
5
cgsv 2018-11-14 14:39:22 +08:00 via iPhone
@Buffer2Disk 对的,单个元素的增删不会有内存泄露
|