M50 模型性能评测工具用户指南
1.3.0
目录
1. 更新历史
2. 模型推理性能评测工具
2.1. 简介
2.2. 环境准备
2.3. 指令说明
2.4. 性能指标说明
3. LLM推理性能评测工具
版权声明
M50 模型性能评测工具用户指南
»
2.
模型推理性能评测工具
2.
模型推理性能评测工具
2.1. 简介
2.2. 环境准备
2.2.1. 环境依赖
2.2.2. 运行环境
2.2.3. Linux环境准备
2.2.4. Android环境准备
2.2.5. Windows环境准备
2.3. 指令说明
2.3.1. 使用示例
2.4. 性能指标说明
2.4.1. 延迟时间
2.4.2. 吞吐量