Skip to content
3CBAY

端侧推理 + 云端大模型

AI 智能硬件

围绕 0.5–16 TOPS NPU 构建的产品。"到模型之前"的环节全部本地完成——唤醒词、远场音频、语音识别、视觉推理;算力到这一档的上端,量化后的小参数模型也能跑在设备上,断网时产品照样能应答。完整的对话式大模型放在云端。桌面、车载、陪护、音箱四种形态共用同一套推理与音频栈。

决定项目成败的那一环

延迟,以及这点延迟花在哪里。语音产品被评判的就是你说完之后它沉默多久——大约 700 ms 以内像对话,超过 1.5 s 就像坏了。模型在云端时,这笔预算在联网之前就已经花掉大半:唤醒检测、断句、降噪、语音识别全在设备上跑,它们多耗一毫秒,留给模型的就少一毫秒。所以 NPU、音频前端和流式设计必须一起定,而且是在几个月前定,不是事后调参能救的。

报价前你需要先定的事

  • 端侧跑到哪一层——只做唤醒、完整语音识别、还是本地跑一个小模型
  • 响应预算:调用模型之前,设备最多能花多少时间
  • 后端接哪家大模型,服务放在哪个区域
  • 断网时还剩什么功能,以及对用户怎么承诺
AI 智能硬件方向的典型板级架构示意
板级架构示意——这个方向的项目通常需要的功能块。实际选型按你的成本、供货与认证约束确定。

这个方向覆盖什么

  • AI 桌面机器人
  • 车载 AI 机器人
  • 陪护机器人
  • AI 智能音箱
  • 大模型语音模组

跑在哪档芯片上

带 NPU 的 Linux SoC(0.5–16 TOPS) · WiFi SoC · MCU

研发与制造

获取报价

启动一个AI 智能硬件项目

把市场、目标价位和所需认证发过来。你会拿到平台建议、成本区间和认证路径——由工程师回复,一个工作日内。

您的信息仅用于回复本次询盘,不会用于其他用途。

微信 igooglely