端侧推理 + 云端大模型
AI 智能硬件
围绕 0.5–16 TOPS NPU 构建的产品。"到模型之前"的环节全部本地完成——唤醒词、远场音频、语音识别、视觉推理;算力到这一档的上端,量化后的小参数模型也能跑在设备上,断网时产品照样能应答。完整的对话式大模型放在云端。桌面、车载、陪护、音箱四种形态共用同一套推理与音频栈。
决定项目成败的那一环
延迟,以及这点延迟花在哪里。语音产品被评判的就是你说完之后它沉默多久——大约 700 ms 以内像对话,超过 1.5 s 就像坏了。模型在云端时,这笔预算在联网之前就已经花掉大半:唤醒检测、断句、降噪、语音识别全在设备上跑,它们多耗一毫秒,留给模型的就少一毫秒。所以 NPU、音频前端和流式设计必须一起定,而且是在几个月前定,不是事后调参能救的。
报价前你需要先定的事
- 端侧跑到哪一层——只做唤醒、完整语音识别、还是本地跑一个小模型
- 响应预算:调用模型之前,设备最多能花多少时间
- 后端接哪家大模型,服务放在哪个区域
- 断网时还剩什么功能,以及对用户怎么承诺
这个方向覆盖什么
- AI 桌面机器人
- 车载 AI 机器人
- 陪护机器人
- AI 智能音箱
- 大模型语音模组
跑在哪档芯片上
带 NPU 的 Linux SoC(0.5–16 TOPS) · WiFi SoC · MCU
研发与制造获取报价
启动一个AI 智能硬件项目
把市场、目标价位和所需认证发过来。你会拿到平台建议、成本区间和认证路径——由工程师回复,一个工作日内。