Ubuntu系统应用开发指南

目录

• 开发指南导读
• 软件组件与平台支持矩阵
• 版本说明
• 软件架构介绍
• 快速安装
• 软件环境部署
  • 驱动安装与卸载
    • 环境依赖
    • 安装前准备
    • 安装驱动
      • 注意事项
    • 卸载驱动
  • 固件镜像升级
    • 固件镜像升级前操作
      • M50系列产品概览
    • 升级固件镜像
      • 命令行方式升级固件镜像
      • GUI界面方式升级固件镜像
  • 工具链开发环境部署
    • Docker镜像安装与部署
      • 使用依赖
      • 操作步骤
      • 环境变量
        • 环境变量列表
        • 配置运行平台模式
      • Docker镜像预置软件内容
  • Runtime推理环境部署
    • 使用依赖
    • 环境准备
• 模型开发
• 设备管理
  • SMI系统管理接口使用指南
  • HMDML设备管理库
  • 功耗和热管理
• API接口
  • TCIM模型推理与运行时接口
  • TCIM设备控制接口
  • HMDML设备管理库接口
• 开发工具
  • PCIe性能评测工具
  • 芯片算力基准测试工具
  • 芯片DDR带宽基准测试工具
  • 模型信息获取工具用户指南
  • 模型权重共享工具
  • 模型转换与评估工具
  • 模型推理性能评测工具
  • LLM推理性能评测工具
  • LLM精度评测工具
  • 部署环境检测工具
• 开发样例
  • 概述
  • ModelZoo模型评估示例
    • 样例说明
    • 模型获取
    • 数据集准备
    • 环境准备
    • 环境变量
    • 样例运行
    • LLM模型样例介绍
      • 特别说明
    • 运行Qwen3-8B模型样例
      • 模型推理验证
      • 完整开发流程：从开源模型到设备推理
        • 软硬件环境要求
        • 开发流程
        • 准备量化和编译开发环境
        • 下载Qwen3-8B模型
        • 量化模型
        • 编译模型
  • 模型应用示例
    • 简介
    • 运行前准备
      • 下载开发样例包
    • 样例运行
• 常见错误处理
  • 驱动安装
  • 固件镜像升级
  • SMI工具
  • 模型推理