色综合图-色综合图片-色综合图片二区150p-色综合图区-玖玖国产精品视频-玖玖香蕉视频

您的位置:首頁技術(shù)文章
文章詳情頁

Python內(nèi)存泄漏和內(nèi)存溢出的解決方案

瀏覽:5日期:2022-07-10 08:38:30

一、內(nèi)存泄漏

像Java程序一樣,雖然Python本身也有垃圾回收的功能,但是同樣也會產(chǎn)生內(nèi)存泄漏的問題。對于一個用 python 實現(xiàn)的,長期運行的后臺服務(wù)進程來說,如果內(nèi)存持續(xù)增長,那么很可能是有了“內(nèi)存泄露”。

1、內(nèi)存泄露的原因

對于 python 這種支持垃圾回收的語言來說,怎么還會有內(nèi)存泄露? 概括來說,有以下三種原因:

所用到的用 C 語言開發(fā)的底層模塊中出現(xiàn)了內(nèi)存泄露。 代碼中用到了全局的 list、 dict 或其它容器,不停的往這些容器中插入對象,而忘記了在使用完之后進行刪除回收 代碼中有“引用循環(huán)”,并且被循環(huán)引用的對象定義了__del__方法,就會發(fā)生內(nèi)存泄露。

為什么循環(huán)引用的對象定義了__del__方法后collect就不起作用了呢?

gc模塊最常使用的方法就是gc.collect()方法,使用collect方法對循環(huán)引用的對象進行垃圾回收。如果我們在類中重載了__del__方法。__del__方法定義了在用del語句刪除對象時除了釋放內(nèi)存空間以外的操作。一般而言,在使用了del語句的時候解釋器首先會看要刪除對象的引用計數(shù),如果為0,那么就釋放內(nèi)存并執(zhí)行del方法。在這里,首先del語句出現(xiàn)時本身引用計數(shù)就不為0(因為有循環(huán)引用的存在),所以解釋器不釋放內(nèi)存;再者,執(zhí)行collect方法時應(yīng)該會清除循環(huán)引用所產(chǎn)生的無效引用計數(shù)從而達到del的目的,對于這兩個循環(huán)引用對象而言,python無法判斷調(diào)用它們的del方法時會不會要用到對方那個對象,比如在進行b.del()時可能會用到b._a也就是a,如果在那之前a已經(jīng)被釋放,那么就徹底GG了。為了避免這種情況,collect方法默認不對重載了del方法的循環(huán)引用對象進行回收,而它們倆的狀態(tài)也會從unreachable轉(zhuǎn)變?yōu)閡ncollectable。由于是uncollectable的,自然就不會被collect處理,所以就進入了garbage列表。

2、內(nèi)存泄露的診斷思路

無論是哪種方式的內(nèi)存泄露,最終表現(xiàn)的形式都是某些 python 對象在不停的增長;因此,首先是要找到這些異常的對象。

3、診斷步驟

用到的工具: gc 模塊和 objgraph 模塊

gc模塊 是Python的垃圾收集器模塊,gc使用標(biāo)記清除算法回收垃圾

objgraph 是一個用于診斷內(nèi)存問題的工具

1、 在服務(wù)程序的循環(huán)邏輯中,選擇出一個診斷點 2、 在診斷點,插入如下診斷語句  

import gcimport objgraph### 強制進行垃圾回收 gc.collect() ### 打印出對象數(shù)目最多的 50 個類型信息 objgraph.show_most_common_types(limit=50)

4、檢查統(tǒng)計信息,找到異常對象

運行加入診斷語句的服務(wù)程序,并將打印到屏幕上的統(tǒng)計信息重定向到日志中。運行一段時間后,就可以來分析日志,看看哪些對象在不停的增長。

比如,排查結(jié)果可能是:一個多線程程序,多個線程作為生產(chǎn)者,一個線程作為消費者,通過將一個 tuple 對象送入異步隊列進行通信。由于消費者的處理速度跟不上生產(chǎn)者的速度,又沒有進行同步, 導(dǎo)致異步隊列中的對象越來越多。

二、內(nèi)存溢出

1、內(nèi)存溢出原因

內(nèi)存中加載的數(shù)據(jù)量過于龐大,如一次從數(shù)據(jù)庫取出過多數(shù)據(jù) 集合類中有對對象的引用,使用完后未清空,產(chǎn)生了堆積,使得JVM不能回收 代碼中存在死循環(huán)或循環(huán)產(chǎn)生過多重復(fù)的對象實體 使用的第三方軟件中的BUG 啟動參數(shù)內(nèi)存值設(shè)定的過小

2、內(nèi)存溢出的解決方案

第一步,修改JVM啟動參數(shù),直接增加內(nèi)存(-Xms,-Xmx參數(shù)一定不要忘記加)

第二步,檢查錯誤日志,查看“OutOfMemory”錯誤前是否有其 它異常或錯誤

第三步,對代碼進行走查和分析,找出可能發(fā)生內(nèi)存溢出的位置

重點排查以下幾點:

檢查對數(shù)據(jù)庫查詢中,是否有一次獲得全部數(shù)據(jù)的查詢。一般來說,如果一次取十萬條記錄到內(nèi)存,就可能引起內(nèi)存溢出。這個問題比較隱蔽,在上線前,數(shù)據(jù)庫中數(shù)據(jù)較少,不容易出問題,上線后,數(shù)據(jù)庫中數(shù)據(jù)多了,一次查詢就有可能引起內(nèi)存溢出。因此對于數(shù)據(jù)庫查詢盡量采用分頁的方式查詢。 檢查代碼中是否有死循環(huán)或遞歸調(diào)用。 檢查是否有大循環(huán)重復(fù)產(chǎn)生新對象實體。 檢查List、MAP等集合對象是否有使用完后,未清除的問題。List、MAP等集合對象會始終存有對對象的引用,使得這些對象不能被GC回收。

第四步,使用內(nèi)存查看工具動態(tài)查看內(nèi)存使用情況

三、內(nèi)存泄漏和內(nèi)存溢出的區(qū)別

內(nèi)存溢出是指向JVM申請內(nèi)存空間時沒有足夠的可用內(nèi)存了,就會拋出OOM即內(nèi)存溢出。

內(nèi)存泄漏是指,向JVM申請了一塊內(nèi)存空間,使用完后沒有釋放,由于沒有釋放,這塊內(nèi)存區(qū)域其他類加載的時候無法申請,

同時當(dāng)前類又沒有這塊內(nèi)存空間的內(nèi)存地址了也無法使用,相當(dāng)于丟了一塊內(nèi)存,這就是內(nèi)存泄漏。

值得注意的是內(nèi)存泄漏最終會導(dǎo)致內(nèi)存溢出,很好理解,內(nèi)存丟了很多最后當(dāng)然內(nèi)存不夠用了。

以上就是Python內(nèi)存泄漏和內(nèi)存溢出的解決方案的詳細內(nèi)容,更多關(guān)于Python內(nèi)存泄漏和內(nèi)存溢出的資料請關(guān)注好吧啦網(wǎng)其它相關(guān)文章!

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 免费va国产高清不卡大片 | 亚洲成a人片在线网站 | 亚洲精选在线观看 | 久久国内精品自在自线软件 | 手机黄色网址 | 国产精品一区在线观看 | 91成年人| 久久中文字幕日韩精品 | 在线观看免费a∨网站 | se94se欧美 | 日本加勒比在线 | 国产精品亚洲第五区在线 | 日日摸天天摸狠狠摸视频 | 毛片手机在线视频免费观看 | 中文字幕福利视频 | 免费一级大片 | 成人黄激情免费视频 | 欧美 亚洲 丝袜 清纯 中文 | 日本高清色视频www 日本高清在线精品一区二区三区 | 亚洲女人在线 | 日日摸日日碰夜夜爽久久 | 免费一级欧美片在线观免看 | 欧美一区二区三区不卡片 | 美女视频黄的免费视频网页 | 成年女人免费看 | 亚洲成a人片在线v观看 | 国产一区二区三区亚洲综合 | 亚洲欧美日本综合 | 日本三片在在线播放 | 99久久精品毛片免费播放 | 欧美生活片在线 | 美女黄色在线 | 国产精品极品美女自在线看免费一区二区 | 国产1区2区三区不卡 | 亚洲成年男人的天堂网 | 日韩 欧美 国产 师生 制服 | 欧美成人免费大片888 | 毛茸茸年轻成熟亚洲人 | 毛片日韩 | 国产a级三级三级三级中国 国产a级特黄的片子视频 | 性福利视频 |