3.1. 模型编译

TCIM仅支持在Linux系统主机上使用Python API编译模型。编译使用的接口在软件平台提供的Docker镜像中 /usr/local/houmo/venv/lib/python3.12/site-packages/tcim/builder/api.py 文件中。

注意

AArch64架构不支持模型编译。用户需要在X86架构下编译模型,再将生成的二进制模型文件拷贝到AArch64架构的环境中进行推理。

下面示例展示了如何调用 Python API编译模型:

  1. 导入 tcim 库访:

    import tcim
    
  2. 调用 build_from_hmonnx API编译模型。示例如下:

    tcim.build_from_hmonnx(
        onnx_model,
        output_name=model_name,
        target="xh2",
        ncore=ncore,
        output_dir=output_dir,
        work_dir=os.path.join(output_dir, "tcim")
    )
    

模型编译后生成二进制模型文件(.hmm或.hmms)。接口详情可参看《后摩大道® M50 TCIM开发者手册》。