量子位· 量子位的朋友们·· 13 小时前AI 评分31
高通进博会展示端侧MoE智能体:终端侧AI从单点应用走向智能体体验
终端侧AI:从单点应用走向智能体体验
AI 导读
高通在第九届进博会展出端侧MoE智能体,联合阶跃星辰、Infris AI、江波龙优化模型、推理、存储与芯片平台。当前端侧主流通常只能运行20亿至30亿参数模型,MoE按任务调用部分专家模块,减少单次推理实际参数量并提升效率。现场演示覆盖意图理解、任务编排和实时操作目标App,未来有望用于手机、汽车、PC等终端。
来源:量子位 · qbitai.com