4. 新增功能和特性变更

4.1. 通用

  • 新增LZ50 MXM卡和LQ50f eM.2卡产品支持

    本版本新增对LZ50 MXM卡和LQ50f eM.2卡产品的支持，覆盖驱动、固件、模型编译及推理等完整软件栈能力，支持用户在上述产品上完成模型部署与推理。基于统一的软件栈设计，用户可复用现有后摩大道软件能力，实现跨平台一致开发体验，降低适配与迁移成本。

    根据产品型号需选择对应的固件包：

    • LQ50f eM.2卡： M50_M2_fw-xh2_<release>.tar.gz

    • LZ50 MXM卡： M50_MXM_fw-xh2_<release>.tar.gz

4.2. 驱动和固件

扩展IPU核频率配置档位

之前版本中，优化了IPU频率配置机制，支持根据不同后摩产品工作配置设置对应的IPU频率最高值。

本版本进一步扩展IPU频率配置档位，针对不同后摩设备及板载 M50 芯片工作配置，新增支持1200 MHz、1100 MHz和1000 MHz频率档位，满足更多设备工作配置需求。扩展后的频率配置能力可支持用户根据不同应用场景灵活调整性能与功耗平衡，在满足推理需求的同时降低设备功耗，提升系统运行效率。

注意

为保证模型推理过程稳定性，IPU工作频率仅支持在推理任务开始前进行配置，不支持在推理任务执行过程中动态调整频率。在推理过程中修改IPU工作频率会导致IPU运行异常，甚至引发系统不稳定。

4.3. HMQuantool 量化工具

  • 新增模型量化支持

    本版本支持对以下模型量化，以提升推理性能和降低资源占用：

    • Qwen3.5-122B-A10B

    • emotion2vec+large

    • SAM 3

    • SAM 2

    • FunASR 1.2.6

    • SigLIP 2

    • Qwen3-VL-Embedding

    • Qwen-AgentWorld

    • VoxCPM2

    • Hy-MT2-7B

    • Qwen3-TTS-12Hz-1.7B-CustomVoice

    • MiniCPM-V 4.5

    • MiniCPM-V 4.6

    • Ornith-1.0-35B

    • Fun-Audio-Chat-8B

    • Laguna-S 2.1（118B-A8B）

    • Qwen3.8-27B

    • Qwen3-Next-80B-A3B

4.4. 模型编译

  • 扩展LLM Decode Batch Size配置，满足并发推理需求

    之前版本中，模型编译接口仅支持将LLM Decode 阶段的batch size 设置为 1。本版本针对Qwen3.5系列和Qwen3.6模型将其可选值扩展为 2、4、8 ，可通过 build_from_hmonnx API 的 modify_llm 配置项中的 batch 参数设置。用户可根据业务并发需求和设备资源选择合适的batch size，为提高推理吞吐量、优化设备资源利用率提供更多选择。

    详情参看 《TCIM开发者手册》。

  • 新增模型编译支持

    本版本新增对以下模型的编译支持，提升模型的灵活性和性能：

    • Qwen3.5-122B-A10B

    • emotion2vec+large

    • SAM 3

    • SAM 2

    • FunASR 1.2.6

    • SigLIP 2

    • Qwen3-VL-Embedding

    • Qwen-AgentWorld

    • VoxCPM2

    • Hy-MT2-7B

    • Qwen3-TTS-12Hz-1.7B-CustomVoice

    • MiniCPM-V 4.5

    • MiniCPM-V 4.6

    • Ornith-1.0-35B

    • Fun-Audio-Chat-8B

    • Laguna-S 2.1（118B-A8B）

    • Qwen3.8-27B

4.5. 运行时推理与部署

  • 默认推理后端调整

    默认推理后端由 Xh1HdiBackend 调整为 Xh2HalBackend，省去对应计算平台上的后端配置步骤，简化模型部署，加快推理应用上手。使用其他计算平台时，需显式指定匹配的后端。

    详情参看 《TCIM用户手册》。

  • 支持异步查询推理任务完成状态

    针对推理任务同步等待占用调用线程、影响其他业务处理的问题，新增 Stream::TrySync （C++接口）或 tcim_lite.runtime.Stream.try_sync （Python接口），支持在后台完成stream同步并立即返回，让应用在等待推理任务完成期间继续处理其他工作，提升业务响应灵活性。应用只需周期性查询同步状态，即可确认任务是否完成，无需额外调用同步接口。

    详情参看 《TCIM开发者手册》。

  • 支持多设备协同推理的设备与芯片选择

    多设备协同推理需要选择满足 CTC 通信要求的设备和芯片。本版本新增以下接口，用于辅助设备选择与配置校验：

    • GetDeviceGroupId （C++接口）或 tcim_lite.runtime.get_device_group_id （Python接口）：查询指定设备所属的逻辑设备组（logical device group） ID，帮助用户识别同组设备，简化设备选择与配置校验，减少分组不匹配导致的运行错误。

    • GetDeviceChipId （C++接口）或 tcim_lite.runtime.get_device_chip_id （Python接口）：查询指定设备对应的逻辑芯片 ID，帮助用户校验芯片组合是否符合推理要求，减少配置错误，简化多芯片推理部署。

    对于依赖 CTC 通信的多芯片协同推理，所用芯片必须满足以下条件：

    • 所有芯片属于同一逻辑设备组。

    • 依赖 CTC 通信的推理任务，所用芯片必须属于同一逻辑设备组，且逻辑芯片ID连续，例如 {0, 1}、{2, 3}，而{2, 4} 不符合连续性要求。任一条件不满足均会导致运行错误。

    任一条件不满足均会导致运行错误。

    注：返回的组ID（Group ID）与 SMI工具中标识CTC互联域的 Group ID 含义不同，不可混用。

    详情参看 《TCIM开发者手册》。

  • API变更

    • C++ API：

      • 新增接口如下：

        • Stream::TrySync

        • GetDeviceGroupId

        • GetDeviceChipId

    • Python API：

      • 新增接口如下：

        • tcim_lite.runtime.Stream.try_sync

        • tcim_lite.runtime.get_device_group_id

        • tcim_lite.runtime.get_device_chip_id

      • 新增类如下：

        • tcim_lite.runtime.StatusError

        • tcim_lite.runtime.FatalError

    详情参看 《TCIM开发者手册》。

4.6. 开发工具

  • 优化调试信息，支持查看产品 SKU 配置

    为便于排查不同产品配置下的问题，SMI工具 hm_smi -vvv 日志等级设置指令新增 SKU_Flag 和 SKU_Default 字段，展示当前产品的SKU配置信息，为问题定位提供配置依据。同时，该指令不再返回 DDR_Train 字段。

  • 支持查看原始模型输入图像尺寸

    之前版本中，如果在量化或编译阶段配置图像处理功能后，现有接口仅能查询配置后的模型输入尺寸，无法获取后处理所需的原始模型输入尺寸，用户需额外查找。本版本在模型信息获取工具中新增 resize_original_shape 返回字段，支持直接查询原始模型输入尺寸，减少手动配置工作，提升后处理适配效率。

    详情参看 《模型转换与评估工具用户指南》。

  • 精准衡量峰值算力，掌握芯片性能潜力

    芯片算力基准测试中的内存读写操作会引入访存开销，使测试结果难以充分体现计算引擎的峰值性能。本版本在芯片算力基准测试工具中新增 --no-load-store 参数，支持跳过内存读写操作，单独评估计算引擎的运算性能，帮助用户了解芯片的峰值算力水平，为分析实际推理性能与峰值算力的差距、确定优化方向提供参考。

    详情参看 《模型转换与评估工具用户指南》。

  • 扩展模型评测支持，加快应用性能验证

    LLM 推理性能评测工具新增对 ASR 模型多输入及 Gemma 模型的支持。用户可直接使用该工具评估推理延迟和吞吐量是否满足业务要求，减少评测适配工作，加快模型性能验证，为应用优化和部署配置提供依据。

    详情参看 《模型转换与评估工具用户指南》。

4.7. 开发样例

  • ModelZoo 新增示例

    ModelZoo 新增以下模型示例，扩展语音、视觉、语言及多模态应用支持，方便用户快速验证与集成：

    • emotion2vec

    • Fun-Audio-Chat

    • MiniCPM-V 4.5

    • MiniCPM-V 4.6

    • Ornith-1.0

    • PP-OCRv5

    • PaddleOCR-VL-1.6

    • Qwen3.5-122B-A10B

    • Qwen3.8-27B

    • Qwen3-TTS-12Hz-1.7B-CustomVoice

    • Qwen3-VL-Embedding

    • Qwen-AgentWorld

    • SAM 2

    • SAM 3

    • SigLIP 2

    • Laguna-S 2.1

    该更新可帮助用户更高效地进行模型功能验证与端到端流程验证，降低模型接入与适配成本。

  • 调整示例数据集获取方式

    本版本调整开发示例包的数据集分发方式，仅保留部分演示数据（如COCO 2017采样数据），不再随包提供其他第三方数据集，精简示例包内容，需由用户根据示例需求自行下载。

    运行示例前，用户需根据示例说明下载所需数据集，并将 HOUMO_DATASETS_PATH 环境变量设置为示例使用的数据目录，确保示例能够正确读取数据。

  • 提供Qwen3.6 LoRA全流程示例，加快定制模型部署

    ModelZoo新增Qwen3.6-35B-A3B LoRA全流程示例，覆盖原始模型及 LoRA 数据下载、PTQ 量化、模型编译和推理，支持一键执行完整部署流程。用户可将 LoRA 微调后的模型快速部署到后摩设备，既享受少量参数微调带来的低成本定制优势，又能减少部署适配工作，加快特定业务场景的应用验证。

    运行 get_model.py、ptq.py、build.py、demo.py 或 test.sh 时，可通过 --lora 参数启用LoRA流程。示例位于应用开发示例包 houmo-examples-xh2/models/llm/qwen3.5 目录下。

  • 精简ModelZoo Qwen3-ASR运行依赖，简化环境准备

    此前，运行Qwen3-ASR示例需一并安装量化和推理相关依赖。本版本将基础运行依赖与量化依赖拆分管理，用户可根据实际任务按需安装，减少推理环境中不必要的软件包安装，加快环境准备与模型验证：

    • 基础运行： 仅需安装 requirements.txt 中的依赖。

    • 模型量化： 使用新增的 requirements_ptq.txt 安装对应依赖。

    示例位于应用开发示例包 houmo-examples-xh2/models/asr/qwen3-asr 目录下。

  • ModelZoo Qwen3.5、Qwen3.6和Qwen3.8模型示例新增C++推理支持

    此前，ModelZoo中的Qwen3.5、Qwen3.6和Qwen3.8模型示例仅提供Python推理实现，使用C++开发应用的用户需自行适配推理流程。本版本为上述模型新增基于C++接口的推理示例，便于用户直接参考并集成到现有C++应用中，减少接口适配工作，加快推理功能开发与验证。

    示例位于应用开发示例包 houmo-examples-xh2/models/llm/qwen3.5 目录下。

  • 支持灵活配置示例系统提示词，简化场景验证

    ModelZoo 为以下模型示例新增 --system_prompt 参数，支持在运行时指定系统提示词（system prompt）。用户无需修改示例代码，即可调整提示词并验证模型表现，加快业务场景适配：

    • Qwen3-ASR

    • Z-Image

    • Qwen3.5

    • GLM-OCR

    • Qwen3-Omni

    • Gemma 4

    • Qwen3-Next

    • GLM-ASR

    • CoPaw-Flash

    • gpt-oss

  • 优化Whisper音频处理示例，提升分段推理效率与性能分析能力

    本版本优化ModelZoo中的Whisper示例，采用torchaudio实现音频读取与重采样，并完善多声道音频处理。针对分段推理，示例复用首次确定的语言信息，减少后续分段的重复语言检测开销，提升音频处理效率。

    同时，完善Whisper示例的性能统计，新增encode、prefill、decode、端到端延迟及RTF 等指标展示，便于用户分析各阶段耗时、定位性能瓶颈，为语音识别应用的性能优化提供依据。

    示例位于应用开发示例包 houmo-examples-xh2/models/asr/whisper 目录下。

  • ModelZoo Qwen3.5、Qwen3.6和Qwen3.8模型支持动态匹配视觉模型

    本版本ModelZoo中Qwen3.5、Qwen3.6和Qwen3.8模型示例新增动态ViT功能支持，并提供多档视觉模型，能够根据图片预处理后的image token数量，自动选择能够容纳输入的最小规格视觉模型，减少小图推理的计算开销，同时满足大图的视觉信息处理需求，帮助用户在处理不同尺寸图片时更高效地利用计算资源。

    该特性使视觉计算规模与输入图片需求相匹配，减少小图推理的计算开销，同时满足大图的视觉信息处理需求，提升不同尺寸图片混合输入场景下的推理效率。

    示例位于应用开发示例包 houmo-examples-xh2/models/llm/qwen3.5 目录下。

  • 停止提供模型应用示例

    不再提供应用开发示例包中模型应用示例（位于 houmo-examples-xh2/apis ）。用户可参考 ModelZoo 模型开发样例进行模型适配与应用开发。

  • ModelZoo模型示例废弃与停止维护

    ModelZoo 本版本起，以下模型示例进入维护终止状态，不再进行功能更新、适配验证及问题修复：

    • CoPaw-Flash

    • DeepSeek-R1-Qwen3-8B

    • gpt-oss

    • Qwen2.5

    • Qwen3

    • Qwen3-30B-A3B

    • Qwen3-Next

    • PaddleOCR-VL

    • PP-OCRv3

    • MiniCPM-o

    • Qwen2.5-VL

    • Qwen3-VL

    这些示例将不再作为后续版本的维护对象，建议用户基于新版本模型示例或等效替代方案进行迁移，以确保持续获得功能更新、性能优化及兼容性支持。

4.8. 算子支持列表

本版本算子支持范围相对上一版本无变化。

完整算子支持范围及使用限制，请参见 《软件平台快速入门》。