1. 更新历史

表 1.8 更新历史

版本

发布日期

描述

1.4.0

2026年07月11日

无。

1.3.0

2026年05月22日

LLM推理性能评测工具 不再支持 --ndevices 参数,新增 --devices 参数,支持指定推理使用的后摩逻辑设备列表。

1.2.0

2026年04月15日

无。

1.1.0

2026年03月12日

LLM推理性能评测工具更新如下:

  • 新增参数:--warm_up_output--LazyMode--skip_perf--dump_file <filename.yaml>--warm_up_input

  • 配置文件支持YAML格式。

  • 参数 --stop 重命名为 --output

  • 新增 Memory Usage (Max Values) 回显字段,展示在本轮模型测试期间,主机内存的最大使用量。

  • 新增 Inference Performance 回显字段,展示模型推理阶段的性能统计。

1.0.0

2026年02月06日

LLM推理性能评测工具 支持返回推理过程中设备的运行状态,包括温度、功耗等信息。

0.7.0

2026年01月09日

  • LLM模型推理性能评测工具新增 --visual <vlm_model>--no_warm_up 参数, 支持VLM模型性能评测和设置正式测试前是否执行 warm up。 详情参看 LLM推理性能评测工具

  • 模型推理性能评测工具支持在Windows环境下使用, 详情参看 模型推理性能评测工具

0.6.0

2025年12月15日

0.5.0

2025年11月01日

初始版本。