<aside>

AI 主导编写，请自行辨别信息

</aside>

1. 问题背景

simulator_v2 是 aiak_ds_tool 库中的推理性能模拟器，给定模型配置和运行参数，通过查询预采集的算子性能数据库，输出逐层/逐算子的耗时预估。

核心调用链：

SimulatorV2App.export_result()
  └─ SimulatorEngine.simulate()          # 对每个 case 逐层模拟
       └─ OperatorRegistry.get_time()    # 对每个算子查询耗时
            └─ DBEngine.query()          # 打开 sqlite3 DB → 执行查询 → 返回行

问题：16-case prefill 场景下 wall time = 32.9s。对一个纯 CPU 数据查询+计算工具而言，显然不可接受。

2. Trace 工具选择：cProfile vs pyinstrument

实战中两者互补：先用 pyinstrument 看树状结构找到热路径，再用 cProfile 量化该路径上的调用次数和单次开销。

命令示例

# cProfile: 输出 pstats 二进制文件
python3 -m cProfile -o /tmp/simv2.pstats -m aiak_infer_tools simulator_v2 \
  --model-config ... --run-config ... --export-output /tmp/out.csv

# pyinstrument: 输出 HTML 调用树
pyinstrument -r html -o /tmp/profile.html \
  -m aiak_infer_tools simulator_v2 ...

# pyinstrument: 输出 speedscope JSON
pyinstrument -r speedscope -o /tmp/profile.json \
  -m aiak_infer_tools simulator_v2 ...

3. 基线测量

测量环境：macOS / Apple Silicon / Python 3.11 / sqlite3 本地文件

<aside>

关键发现：prefill 16 cases 生成 42,960 个算子请求，但 unique DB query key 仅 556 个。

</aside>

77 倍重复查询。大部分时间花在重复打开相同的 sqlite3 文件、执行相同的 SQL、转换相同的行。这是典型的 memoization 机会。

4. 瓶颈诊断

从 pyinstrument baseline 调用树提取的热路径拆解：

诊断结论：