1. 产品介绍

力擎® LQ50 M.2卡是面向边缘端大模型推理场景的大算力模组产品,具有体积小、性能高、功耗低等特点。依托 后摩漫界® M50创新计算架构,实现最高160 TOPS弹性算力,以及最高 100 TFLOPS@bFP16算力。该产品板载最高48 GB LPDDR5/LPDDR5X内存,提供高达153.6 GB/s内存带宽。其紧凑的M.2接口设计能够轻松集成到各种设备中。

后摩大道®软件平台是为后摩芯片开发的集模型、算子、系统以及中间件为一体的软件开发平台,具有兼容、便捷、灵活以及高效的特点。配合该软件平台, LQ50 可适配主流大模型,能够灵活部署在AI PC、视频会议系统、工业自动化、泛安防等各类边缘和端侧设备中。

../_images/overview.png

图 1.1 LQ50外观图

1.1. 产品型号

力擎® LQ50 M.2卡产品型号如下表所示:

表 1.1 产品型号

产品型号

规格

LQ50-12GB

160 TOPS 弹性算力 + 100 TFLOPS@bFP16 + 12 GB LPDDR5/LPDDR5X

LQ50-18GB

160 TOPS 弹性算力 + 100 TFLOPS@bFP16 + 18 GB LPDDR5/LPDDR5X

LQ50-24GB

160 TOPS 弹性算力 + 100 TFLOPS@bFP16 + 24 GB LPDDR5/LPDDR5X

LQ50-48GB

160 TOPS 弹性算力 + 100 TFLOPS@bFP16 + 48 GB LPDDR5/LPDDR5X

2. 产品规格

产品规格如表所下:

表 2.1 产品规格

特性

规格

物理尺寸

22mm * 80mm * 3.3mm

AI计算能力

  • 最高160 TOPS 弹性算力

  • 最高100 TFLOPS@bFP16算力

内存

  • 12 GB LPDDR5/LPDDR5X

  • 支持扩容至最高48 GB

  • 内存带宽153.6 GB/s

存储

1 * 32 MB NOR Flash

接口规格

M.2 Key M

PCle接口

  • 提供 1 个 PCIe Gen4 接口,并向下兼容 PCIe Gen3/Gen2/Gen1

  • 支持最大 x4 Lanes,兼容x3/x2/x1

  • 每个接口的峰值带宽高达 8 GB/s

UART

  • 支持2个UART接口

  • 支持常见标准波特率,最高支持921600 bps

I2C

  • 支持1个I2C控制器

  • 支持100 KHz和400 KHz通信速率

重量

9g(±10 g)

工作环境温度

-20°C ~ +60°C

存储温度

-20°C ~ +65°C

工作湿度

10%RH ~ 90%RH(非冷凝)

存储湿度

5%RH ~ 95%RH(非冷凝)

供电电压

3.3 V ± 5%

典型功耗

13 W

3. 快速开始

本文档介绍了LQ50 M.2卡的首次使用流程,包括硬件安装、软件环境搭建以及基础推理验证,帮助开发者快速完成设备初始化与开发环境准备。

3.1. 使用流程

首次使用LQ50 M.2卡时,建议按照以下流程完成环境准备与功能验证:

  1. 硬件安装。安装LQ50 M.2卡并完成系统启动,确认操作系统已正确识别设备。

  2. 设备识别验证。确认操作系统已正确识别LQ50 M.2 卡。

  3. 软件安装。搭建软件运行环境,安装相关驱动、SDK 及依赖组件,并完成基础运行配置。

  4. 推理功能验证。运行官方推理样例程序,验证设备、驱动及软件环境是否正常工作。

完成上述步骤后,开发者即可基于LQ50 M.2卡开展模型部署、推理开发与性能调试工作。

4. 硬件使用

4.1. 安全性须知

  • LQ50 M.2卡为PCBA板卡,须搭配散热方案,详情请咨询后摩官方技术支持。

  • 静电会严重损害LQ50 M.2卡上的电子元器件,请尽量避免与LQ50 M.2卡上的零件做不必要接触。

  • 请不要在潮湿和布满灰尘的坏境中或者在产品容易接触到油污、蒸汽等的环境中使用产品,否则,可能导致火灾事故。

  • 为避免造成产品损坏,请不要将产品置于不安全表面,或让产品受到强烈撞击或冲击而掉落或翻倒。

  • 请不要在散热设备附近或在高温坏境下使用产品,这可能会导致系统过热而引发火灾。

4.2. 硬件安装

本章介绍LQ50 M.2卡的硬件安装、上电启动以及设备识别方法。

4.2.1. 安装前准备

在安装LQ50 M.2卡前,请确认以下条件:

  • 主板提供支持PCIe协议的M.2 2280 M-Key插槽。

  • 系统具备稳定供电与散热条件。

  • 已准备 M2x3 固定螺丝。

4.2.2. 安装步骤

  1. 关闭计算机电源,并断开所有外围设备连接。

  2. 断开计算机的所有电缆,包括交流电源。

  3. 打开计算机机箱,在主板上找到形态为M.2 2280 M-Key,并支持PCIe协议的插槽。

  4. LQ50 M.2卡电流需求为3.3V/10A。请确保计算机主板的 M.2 插槽供电能力满足此规格,以保障LQ50 M.2卡满载运行时的稳定性。

  5. 将LQ50 M.2卡金手指对准插槽,以 20° ~ 30° 角平稳插入。确认金手指完全贴合后,轻轻向下按压模块至水平位置。

  6. 使用 M2x3 镀镍黑螺丝(头径 4.5mm ~ 5mm)锁固末端,确保LQ50 M.2卡稳固。

  7. 重新连接电源,将计算机开机。

  8. 硬件检查。LQ50 M.2卡须搭配散热方案,详情请咨询后摩官方技术支持。

4.2.3. 设备识别验证

系统启动后,可通过以下方式确认 LQ50 M.2 卡是否被操作系统正确识别。

4.2.3.1. Linux系统

在Linux系统中,执行下面步骤确认LQ50 M.2卡是否被系统正确识别:

  1. 开机进入Linux系统,打开终端。

  2. 执行以下指令查看 PCIe 拓扑结构:

    lspci -tv
    
  3. 在输出的设备树中查找标识1f6b:0c00,确认LQ50 M.2卡被识别成功,如图所示:

    ../_images/images1.png

    图 4.1 Linux系统设备识别示例

4.2.3.2. Windows系统

在Windows系统中,执行下面步骤确认LQ50 M.2卡是否被系统正确识别:

  1. 开机进入Windows系统,在任务栏上的搜索框中,键入设备管理器,然后从菜单中选择设备管理器,弹出设备管理器窗口。

  2. 如果存在Houmo AI Device节点则说明安装成功,示例如下图所示:

    ../_images/images2.png

    图 4.2 Windows系统设备识别示例

4.2.3.3. Android系统

在Android系统中,执行下面步骤确认LQ50 M.2卡是否被系统正确识别:

  1. 开机进入Android系统,打开终端通过 ADB 或系统自带的终端工具进入命令行界面。

  2. 输入以下命令以遍历 PCIe 总线并获取供应商 ID:

    for d in $(ls -d /sys/bus/pci/devices/*); do echo "$d: $(cat $d/vendor)"; done
    
  3. 观察输出结果,寻找供应商代码0x1f6b。示例如下:

    ../_images/images3.png

    图 4.3 Android系统设备识别示例

5. 软件安装

完成硬件安装后,可按照下面说明完成软件环境配置。

  1. 驱动安装,参见《软件平台驱动安装指南》

  2. 固件升级。

  3. 运行时环境配置,参见安装与部署

5.1. 资源下载

前往 https://developer.houmoai.com/resources_v2 下载驱动程序。

6. 保修政策条例

力擎® LQ50 M.2卡保修政策条例如下:

一、请将保修单上的资料填写完整,并由最终直接经销商加盖印章,如果没有加盖印章,请找原购买处补盖以保障您的权益。

二、请务必在购买产品后保留发票和保修单,否则将以出厂日期为参照进行保修。

三、自购买之日起,可享受一年免费保修服务。用户在正常使用该产品情况下,如果出现产品质量问题,并属于正常保修范围,可享受一年质保服务。

四、用户在使用产品过程中,若出现下列情况,本公司不承担保修义务,用户可以选择收费服务。

  1. 超过保修有效期;

  2. 违反产品手册使用指导而导致的产品损坏;

  3. 由于不当的使用、拆解而造成的损毁和故障;

  4. 擅自改动或自行维修而导致的产品损坏;

  5. 超出允许使用环境(如高温、腐蚀等)而导致的产品损坏;

  6. 由于非正常外力(如坠落、挤压、磕碰、撞击等)而导致的产品损坏;

  7. 自然灾害或其它不可抗力(如火灾、水灾、地震、雷击等)而导致的产品损坏;

  8. 无法提供有效购买凭证;

五、如您使用的产品由于硬件故障,需要维修,可发送邮件至 service@houmo.ai

以上服务解释权归北京后摩智能科技有限公司所有。