运行首个样例

下面以Qwen3.5-4B模型样例为例，验证后摩设备是否能够正常完成AI推理运行，并确认开发环境已正确搭建。

执行下面步骤运行Qwen3.5-4B样例：

下载应用开发示例包。
1. 下载应用开发示例包到Docker镜像中。
  1. 登录后摩开发者社区。
  2. 在 请先选择板级类别 下拉列表中选择使用的后摩板级产品。
  3. 在版本列表中选择下载的版本号，再在 AI模型类别筛选器 、平台架构筛选器 、操作系统筛选器 下拉菜单中分别选择AI模型类型、平台架构和操作系统，找到资源名为示例代码的下载资源，选中该资源左边复选框。
  4. 点击 直接下载、wget链接、批量直接下载 或 wget批量下载 按钮。
2. 执行下面指令解压应用开发示例包。
```
unzip houmo-examples-xh2_<release>.zip
```
  解压后为 houmo-examples-xh2/ 文件夹。
配置样例运行环境。

进入模型样例根目录，并执行环境初始化脚本：
```
cd houmo-examples-xh2
source env.sh
```
进入模型目录 houmo-examples-xh2/models/llm/qwen3.5：
```
cd houmo-examples-xh2/models/llm/qwen3.5
```
（可选）如果使用AArch64架构，设置以下环境变量：
```
export LD_PRELOAD=/usr/lib/aarch64-linux-gnu/libgomp.so.1
```
下载Qwen3.5-4B模型文件：
```
python3 get_model.py --type hmm --model_name qwen3.5 --model_size 4b
```
执行成功后，qwen3.5-4b_prefill.hmm、qwen3.5-4b_decode.hmm、qwen3.5-4b_visual_448x448x2.hmm、qwen3.5-4b_visual_896x896x2.hmm 以及 hmquant/quant_embedding.pt 文件将下载至 models/llm/qwen3.5/output/xh2 目录。

推理模型。通过 demo.py 脚本，启动模型的推理：

python3 demo.py --model_name qwen3.5 --model_size 4b

qwen3.5-4B的推理示例图片存放在示例包 houmo-examples-xh2/data/pic/beach.jpeg 路径，推理示例图片如下所示：

推理默认使用 qwen3.5-4b_visual_896x896x2.hmm，即高分辨率视觉模型，能保留更多图像细节，但更慢、更占资源。

执行成功后，终端将返回提示信息，示例如下：

2026-07-07 02:59:15.016 | SUCCESS  | __main__:chat:1112 - question:
描述这些图片
...
2026-07-07 02:59:16.497 | SUCCESS  | __main__:chat:1327 - response:
这张图片展现了一个温馨、宁静的海滩日落场景：

- **主体人物与动物**：一位年轻女性坐在沙滩上，面带微笑，正与一只浅棕色的大型犬（看起来像拉布拉多）互动。狗狗后腿跪坐，前爪抬起，温柔地“握手”或轻触女性的手掌，表现出亲昵和信任。
- **服饰细节**：女性穿着一件黑白格子长袖衬衫，搭配深色裤子，赤脚踩在沙地上，显得轻松自在。狗狗佩戴着一条带有彩色图案的胸背带，系着红色牵引绳，绳头散落在沙中。
- **环境与氛围**：背景是广阔的海洋，海浪轻柔拍打岸边，天空被夕阳染成柔和的暖白色，光线从右侧洒下，在人物和狗狗身上形成温暖的光晕，营造出浪漫、治愈的氛围。
- **情感表达**：整个画面传递出人与宠物之间深厚的情感纽带，以及大自然带来的宁静与美好。

这是一张充满爱意、自然与和谐之美的摄影作品，适合用于表达陪伴、治愈、户外生活等主题。
...

模型完成推理后，将输出性能统计信息。

更多详情，请参看 houmo-examples-xh2/models/llm/qwen3.5/README.MD 。