【ALENG 自媒体】10月23日早间自媒体专稿,你有没有想过,手机里那个越来越能干的 AI,其实有很多事根本不需要联网。过去两年,你把合同、简历、私信一股脑发给云端,换来的便利,账单和数据都在别人手里。
据 上海证券报 报道,10月22日,科大讯飞在北京国家会议中心二期办完了第十届全球 1024 开发者节,董事长刘庆峰在主论坛上发布了讯飞星火 X2.6 大模型。台上讲的词是端云一体协同架构、全国产算力训练、路由准确率 96.1%,听着挺绕,翻译成人话,这家公司要解决的是两件特别朴素的事——怕泄密,怕太贵。
办法是先把 AI 拆成两半。过去大家用 AI,习惯把问题一股脑全发给云端,那其实是一种大材小用。新架构的做法是,先让端侧模型当一回裁判,判断这活归谁干——纯端办、纯云办,还是端云协办。刘庆峰给的比例是:未来约 60% 的应用场景可以在端侧完成,30% 走端云协同,剩下 10% 才需要云端大模型。
这不是纸面上的规划。现场演示过一个机器人创业公司 CEO 的经营复盘:模型靠着本地资料关联周报、采购通知和项目邮件,找出重复跟进同一个客户的经营风险,结论可追溯,资料不出端。另一个演示是采购合同审核,模型识别出验收与付款条款叠加的风险,还生成了带修订记录的 Word 文件。
真正让人在意的其实是脱敏这一条:需要云端介入时,敏感信息先在本地脱敏,经用户确认后才发出去,本地原始文件根本不上传。老实说,“数据不出门”这套话,听着像上世纪九十年代加密软件的广告词,却是这场发布会里唯一一条普通用户当天就能感知的承诺。
发布会另一边的数字更硬。据 中国基金报 报道,星火 X2.6 是 293B 总参数、30B 激活的 MoE 架构,上下文撑到 100 万 token,跑在国产万卡推理集群上。刘庆峰说,为对付国产芯片显存与带宽的限制,团队把 2000B 规模、256K 长度数据的训练时间从 4.5 个月压到 1.2 个月;推理端配合全国产硬件首个四层 KVCache 架构,效率提升 4.5 倍。
真正的赌注其实在这里。刘庆峰在台上坦白得很干脆:目前国产算力对标全球,仍有两代左右的差距。这句话放在一家刚宣布全流程百分之百基于全国产算力训练推理的公司嘴里,分量不轻。于是他给了几乎像宣言的一句——
只有真正地在国产算力上训练出自己的模型,才是真的自主可控。
这话听着不新鲜,细想却是一道极难的题。通用计算机的这笔账是冯·诺依曼那辈人算过的:机器越通用,为每一件具体小事付出的代价就越高。七十多年过去,这笔账被压进了一枚芯片。而香农在上世纪四十年代末把信息量定义成消除不确定性的度量,如今大模型公司争的其实是同一个东西的具体价格——是你按 token 付给云端,还是你的手机自己扛下来。
讯飞的另一条腿在端侧。据 腾讯新闻 报道,星火 X2.6-4B 同步开源,X2.5 端侧模型累计下载已达 256 万次,跻身全球端侧模型下载量前四;星火 Loomy 和 AStudio 两款应用率先搭载新架构。行业侧也铺开了:讯飞晓法拿 1.6 亿件案件的实践做底座,覆盖案情梳理、证据审查和合同法务,办案效率提升 45% 以上;面向教师的讯飞星光注册教师已到 30 万。
有意思的是,讯飞的三季报谈不上漂亮,也谈不上难看:三季度营收约 65.64 亿元,同比增长 7.99%,净利润约 2.26 亿元,同比增长 31.05%。利润增速跑赢营收增速,在一屋子还在烧钱的 AI 公司里,已经算一种体面。麦肯锡的数据摆在那儿:AI 能为 80% 的人提效,但只有 6% 的企业真正跑出了显著成效。
《庄子·人间世》篇末有一句:人皆知有用之用,而莫知无用之用也。放到今天,一台端侧小模型干的全是“无用”的活——改个格式、摘个要点、翻译两句话、查一份行程,可正是这些“无用”的事,决定了你的合同和简历要不要出门。
说实话,把 293B 的模型塞进全国产集群、把 100 万上下文压进可接受的延迟里,这些数字本身并不便宜。难得的是它发生在国产算力还差两代的当口。从蒸汽机到个人电脑,人类每一次把算力往掌心搬,都不是为了炫耀它有多快,而是为了让它重新变成一件只属于自己的东西。
刘庆峰那句“要能在国产平台上完成训练”,听着像跟整个供应链较劲。可《道德经》里说“大巧若拙”,放在端侧小模型上意外贴切——把一件小事做得笨拙地留在本地,反而比一件聪明地飞上云端更要紧。真正的自主可控,说到底不是嘴上那三个字,而是你的数据能不能不出门,你的模型能不能长在别人的芯片上。
所以星火 X2.6 最值得记住的,大概不是 293B,而是那句“资料不出端”。当机器开始学会在你口袋里守口如瓶,科技的下一个十年,或许就藏在这道门里。
