讯飞推业界首个百万上下文端侧模型：端侧AI从“能对话”迈向“能办事”

事件核心：端侧大模型的“上下文”竞赛

据搜狐科技报道，讯飞于近期发布了业界首个支持百万级上下文（即“百万tokens”级别）的端侧大模型。该消息发布于2026年9月2日，核心卖点在于其不仅具备传统端侧模型的聊天能力，更强调“能办事”——即能在手机、汽车或物联网设备本地完成复杂的多步骤任务处理。相较于云端大模型，端侧模型直接在设备上运行，无需联网上传数据，在隐私保护、响应速度和离线可用性上具有天然优势。 当前，主流端侧模型（如手机厂商内置的语音助手模型）支持的上下文窗口多在数万至十余万tokens之间。讯飞此次宣称的“百万上下文”若属实，意味着端侧设备首次能够“记住”并处理超长对话历史、完整文档或多轮复杂指令，这为端侧AI执行诸如行程规划、长文摘要、代码辅助等“办事型”任务提供了基础。需要指出的是，截至本文发稿，讯飞官方尚未披露该模型的具体参数量、内存占用及推理功耗细节，其实际性能表现仍有待第三方评测证实。 从技术路线看，端侧大模型的关键瓶颈在于有限的存储带宽、功耗预算和算力资源。要在手机或车机芯片上支撑百万级上下文，通常需要对注意力机制进行稀疏化或优化缓存策略。“这可能意味着讯飞在模型压缩或硬件适配层面取得了突破，但具体实现路径尚未公开。”一位不愿具名的AI芯片从业者向记者表示，该技术若能在消费级芯片上稳定运行，将显著拓宽端侧AI的应用场景。

产业背景：边缘AI与芯片算力的双向奔赴

端侧大模型的竞赛背后，是边缘AI市场的高速增长与芯片产业链的深度耦合。据国际数据公司（IDC）2025年发布的预测，全球边缘AI芯片市场的年复合增长率（CAGR）预计在2024至2028年间达到18.5%，到2028年市场规模有望突破240亿美元。这一增长动力主要来自智能手机、智能汽车和可穿戴设备对本地智能推理的需求激增。相比昂贵的云端训练芯片，端侧推理芯片更强调单位瓦特性能（TOPS/W），这直接决定了模型能否在电池供电的设备上流畅运行。 讯飞此次发布的百万上下文端侧模型，对标的应用场景首先指向智能汽车与AI手机。在智能座舱领域，车载语音助手若能支持长上下文本地记忆，可连续处理用户跨数小时的导航、娱乐和车辆控制指令，而无需频繁唤醒云端。据市场研究机构Counterpoint在2026年中期报告估算，2025年全球具备端侧AI能力的汽车出货量已突破4500万辆，占当年新车总销量的比重超过40%，预计到2028年这一比例将攀升至60%左右。这对座舱芯片的算力提出了更高要求，尤其是系统级芯片（SoC）中的神经网络处理单元（NPU）。 同时，端侧大模型的普及还将重新定义终端芯片的价值分布。当前，高通、联发科等移动SoC厂商的旗舰芯片已内置大算力NPU，如部分2025年旗舰芯片的NPU算力已超过50 TOPS。然而，“百万上下文”带来的内存带宽压力（推测需要至少20GB/s以上的持续带宽来刷新KV缓存）可能将迫使芯片设计从‘算力堆料’转向‘存储优化’。“这一变化可能利好拥有高带宽内存（如LPDDR5X）定制能力的厂商，以及开发独特稀疏注意力硬件的初创公司。”某半导体产业分析师指出，该趋势值得对国产AI芯片设计公司保持关注。

市场影响：应用边界的扩张与生态博弈

当端侧模型不仅能“聊天”还能“办事”，其直接影响是AI助手的形态可能从“问答工具”进化为“个人代理”。这背后涉及的并非单点模型能力，而是端云协同的架构转型。讯飞此次将百万上下文能力部署在端侧，可能的产品方向包括离线场景下的长文档分析（如本地读取合同并提取关键条款）、医疗健康咨询中的多轮病史记录，以及教育场景的持续性学习辅导。然而，“能办事”意味着模型需要对接本地应用接口（API）和操作系统权限，这并非讯飞一己之力能完成。 在智能汽车市场，讯飞本身是车载语音交互的主要供应商之一。据公司2025年年报披露，其汽车智能化产品已累计搭载于超过6000万辆汽车（历史累计数据，非本次发布相关）。若百万上下文模型能顺利适配主流车机芯片，将大幅提升其在多轮对话、跨应用控制（如同时操作导航和空调）中的流畅度，从而与车企自研语音团队形成差异化竞争。但值得关注的是，大模型上车对车规级芯片的算力和散热提出了更高要求，目前主流车规级SoC（如高通SA8295P）的NPU算力多在30 TOPS左右，能否支撑百万级上下文端侧推理，有待实际工程验证。 从产业格局看，端侧大模型的发展可能推动AI应用生态从“云端独大”转向“端云协同”。据中国信通院2025年发布的《端侧AI技术发展白皮书》估算，截至2025年底，中国市场上支持端侧运行1B（10亿）参数以上模型的智能手机占当年出货量的比例已超过30%，而到2027年，这一比例有望突破55%——这是预测数据，实际受芯片迭代速度和模型优化程度影响。讯飞的技术突破若被主流终端厂商采纳，将可能加速这一进程，并带动独立软件供应商（ISV）开发更多面向端侧NPU的加速库和中间件。 不过，仍需警惕端侧化趋势中的现实障碍。首先是碎片化问题：不同品牌手机NPU指令集和内存管理机制差异巨大，一个“百万上下文”模型很难在所有设备上获得一致性能。其次是功耗门控：处理百万tokens的注意力计算即使在稀疏化后，峰值功耗也可能达到数瓦，这对手机散热是严峻挑战。再次是商业模式：端侧模型如何订阅计费、如何与云端大模型差异化定位，讯飞尚未给出答案。总体而言，此次发布是一个重要的技术里程碑，但“百万上下文”能否从展示走向大规模量产应用，有待设备端实测数据和生态合作伙伴的进一步确认。

数据参考

• 行业背景参考数据：IDC预测，全球边缘AI芯片市场2024-2028年复合增长率约18.5%，2028年市场规模有望达240亿美元（IDC，2025年发布预测）。
• 行业背景参考数据：Counterpoint估算，2025年全球具备端侧AI能力的汽车出货量超4500万辆，占新车销量比重超40%，预计2028年将达60%左右（Counterpoint，2026年中期报告，含预测成分）。
• 行业背景参考数据：2025年部分旗舰手机SoC的NPU算力已超过50 TOPS（行业公开数据，来源为各芯片厂商发布会）。
• 公司历史数据（非本次发布）：讯飞2025年年报披露，其汽车智能化产品历史累计搭载量已超6000万辆汽车（讯飞公司年报，2025年度）。
• 行业背景参考数据：中国信通院《端侧AI技术发展白皮书》估算，2025年底中国支持端侧运行1B以上参数模型的手机占当年出货量超30%，预计2027年突破55%（中国信通院，2025年，后者为预测值）。
• 本次新闻已确认数据：讯飞发布“业界首个支持百万上下文端侧模型”（来源：搜狐科技，2026年9月2日）；该模型宣称不仅能聊天也能“办事”。其余技术参数（如内存、算力、发布时间细节）暂缺可核验数据。 #端侧大模型 #科大讯飞 #边缘AI #车载芯片