Python内存泄漏从200MB涨到8GB的排查与解决方法_Python

一、这个报错你大概没见过

[error] memoryerror: unable to allocate 1.2 gib
[error] worker (pid:28471) was sent sigkill!

周三凌晨3点，我在香港家里的macbook上收到报警：公司内网的强积金数据查询服务挂了。登上服务器一查——一个跑了不到3天的flask应用，内存从200mb涨到了8.2gb。oom killer把进程杀了。

这篇文章是我花了72小时排查的完整记录——从找不到原因到定位泄露点、修复、验证，每一步的代码和工具都在这里。

二、环境准备

# 必备工具
# pip install objgraph memory-profiler tracemalloc
import tracemalloc
import objgraph
import gc
import time

三、第一步: 还原现场

flask应用的核心逻辑: 用户上传excel→pandas解析→计算→返回结果。正常100mb以内，但它每处理一个请求就泄露一点。

from flask import flask, request, jsonify
import pandas as pd
import io

app = flask(__name__)

@app.route('/analyze_mpf', methods=['post'])
def analyze_mpf():
    file = request.files['file']
    df = pd.read_excel(io.bytesio(file.read()))
    # 计算逻辑...
    result = df.groupby('scheme_type')['contribution'].sum()
    return jsonify(result.to_dict())

# 看起来没问题,对吧？

四、第二步: tracemalloc — 抓现行

import tracemalloc

tracemalloc.start()

@app.route('/analyze_mpf', methods=['post'])
def analyze_mpf():
    file = request.files['file']
    df = pd.read_excel(io.bytesio(file.read()))

    # 🔍 tracemalloc快照
    snapshot = tracemalloc.take_snapshot()
    top_stats = snapshot.statistics('lineno')

    print("=== top 5 内存占用 ===")
    for stat in top_stats[:5]:
        print(stat)
    # 输出:
    # /pandas/io/excel/_base.py:723: size=145 mib, count=5034
    # /werkzeug/formparser.py:215: size=78 mib, count=8921
    # /flask/app.py:1542: size=45 mib, count=12034
    # /pandas/core/frame.py:445: size=32 mib, count=8922  ← 每次新建dataframe不释放!
    # /python3.10/threading.py:980: size=28 mib, count=5601

    result = df.groupby('scheme_type')['contribution'].sum()
    return jsonify(result.to_dict())

第一块拼图: frame.py:445 占32mb，而且随着请求次数增多，这个数字一直在涨。说明每次请求创建的dataframe没有被释放。

五、第三步: objgraph — 找到泄露链

import objgraph
import gc

# 在处理了500次请求后
gc.collect()  # 强制垃圾回收
objgraph.show_most_common_types(limit=10)

# 输出:
# dataframe         8922  ← 应该有0个! 请求结束后应该被删除
# series            5621
# function          4210
# dict              3234
# list              2102

8922个dataframe还活着——但请求早就结束了。用objgraph画出引用链:

# 找出还在引用的dataframe
dataframes = [obj for obj in gc.get_objects() if isinstance(obj, pd.dataframe)]
print(f"泄漏的dataframe数量: {len(dataframes)}")

# 看第一个dataframe的被引用链
if dataframes:
    objgraph.show_backrefs(dataframes[0], max_depth=5,
                          filename='leak_chain.png')

引用链: dataframe → flask.g → werkzeug请求上下文 → threading.local → 线程池 → 永不释放

收藏本文——下次遇到python内存问题时，tracemalloc + objgraph 这套组合拳能省你一个通宵。

六、第四步: 根因 — flask.g + 线程池 + pandas

问题出在这个模式:

from flask import g

@app.route('/analyze_mpf', methods=['post'])
def analyze_mpf():
    file = request.files['file']
    df = pd.read_excel(io.bytesio(file.read()))

    # 🔴 这里: 把dataframe存到了flask的g对象里
    g.current_df = df  # ← 泄露源!

    # ... 其他处理逻辑 ...

    # 🔴 更致命: 用threading.current_thread()做key缓存
    import threading
    cache_key = f"df_{threading.current_thread().ident}"
    if not hasattr(app, '_cache'):
        app._cache = {}
    app._cache[cache_key] = df  # 线程池不释放→dataframe永远不释放

    result = df.groupby('scheme_type')['contribution'].sum()
    return jsonify(result.to_dict())

flask的线程池有20个worker线程，每个线程的threading.local存储不会被清理。20个线程 × 累积的dataframe → 内存线性增长。

七、第五步: 修复 — 显式删除 + 弱引用

import weakref
from functools import wraps

def cleanup_dataframe(f):
    """装饰器: 确保请求结束后dataframe被释放"""
    @wraps(f)
    def wrapper(*args, **kwargs):
        df = none
        try:
            result = f(*args, **kwargs)
            return result
        finally:
            # 显式删除所有pandas对象
            for var_name in list(locals().keys()):
                obj = locals()[var_name]
                if isinstance(obj, pd.dataframe):
                    del obj
            gc.collect()  # 强制回收
    return wrapper

@app.route('/analyze_mpf', methods=['post'])
@cleanup_dataframe
def analyze_mpf():
    file = request.files['file']
    df = pd.read_excel(io.bytesio(file.read()))
    # ✅ 不再存到g或线程缓存
    result = df.groupby('scheme_type')['contribution'].sum()
    return jsonify(result.to_dict())
    # ✅ 函数返回后装饰器自动清理df

八、验证: 修复前后对比

import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcparams['font.sans-serif'] = ['pingfang sc', 'simhei']
matplotlib.rcparams['axes.unicode_minus'] = false

# 模拟200次请求的内存变化
requests_n = list(range(0, 201, 10))
before_fix = [200, 310, 420, 580, 720, 890, 1050, 1240, 1380, 1560,
              1720, 1910, 2080, 2250, 2420, 2610, 2780, 2950, 3120, 3280, 3410]
after_fix = [200, 215, 218, 225, 220, 240, 235, 238, 250, 245,
             255, 248, 260, 252, 265, 258, 270, 262, 275, 268, 280]

fig, (ax1, ax2) = plt.subplots(1, 2, figsize=(14, 5.5))

ax1.fill_between(requests_n, before_fix, alpha=0.3, color='#e74c3c')
ax1.plot(requests_n, before_fix, 'o-', color='#e74c3c', linewidth=2, markersize=5, label='修复前')
ax1.fill_between(requests_n, after_fix, alpha=0.3, color='#27ae60')
ax1.plot(requests_n, after_fix, 'o-', color='#27ae60', linewidth=2, markersize=5, label='修复后')
ax1.set_xlabel('请求次数', fontsize=11)
ax1.set_ylabel('内存占用 (mb)', fontsize=11)
ax1.set_title('200次请求的内存变化', fontsize=13, fontweight='bold')
ax1.legend(fontsize=10)
ax1.grid(alpha=0.3)
ax1.annotate('oom kill!', xy=(200, 3410), xytext=(130, 3000),
             fontsize=11, color='#e74c3c', fontweight='bold',
             arrowprops=dict(arrowstyle='->', color='#e74c3c', lw=1.5))

# 右图: dataframe存活数量
stages = ['请求中', '请求结束\n(修复前)', '请求结束\n(修复后)', 'gc后\n(修复前)', 'gc后\n(修复后)']
df_counts = [1, 1, 1, 892, 0]
colors2 = ['#3498db', '#e74c3c', '#27ae60', '#e74c3c', '#27ae60']
bars = ax2.bar(stages, df_counts, color=colors2, edgecolor='white', linewidth=1.5)
ax2.set_ylabel('dataframe存活数', fontsize=11)
ax2.set_title('单次请求的dataframe泄漏对比', fontsize=13, fontweight='bold')
ax2.grid(axis='y', alpha=0.3)
for bar, val in zip(bars, df_counts):
    y = val + 30 if val > 0 else 30
    ax2.text(bar.get_x()+bar.get_width()/2, y, str(val), ha='center', fontweight='bold', fontsize=12)
ax2.annotate('垃圾回收\n892个幽灵对象!', xy=(3, 892), xytext=(2.5, 700),
             fontsize=11, color='#e74c3c', fontweight='bold',
             arrowprops=dict(arrowstyle='->', color='#e74c3c', lw=1.5))

plt.tight_layout()
plt.savefig('python_memory_leak.png', dpi=120, bbox_inches='tight', facecolor='white')