讯飞星火X2.6把AI搬回本地:哪些活不用再把数据传上云

源自195位全网作者

15:40

用讯飞办公本、录音笔开会记录的人,多半有过一闪而过的顾虑:这盘录音,会不会传到了厂家的服务器上?

10月22日的1024开发者节上,科大讯飞给出的回答是:有些活,以后不用传了。

他们当天发布的是端云一体星火X2.6。现场最受关注的,不是云端那颗293B参数的主力模型,而是X2.6-4B、X2.6-1.7B两颗端侧小模型。按董事长刘庆峰在发布会上的说法,4B模型是业界首个支持百万Token上下文的端侧模型,经过端云一体训练后,综合性能超过了市面上多个9B模型。界面新闻新华网

图片图片

端云一体干的事,简单说就是分流:端侧模型先判断,哪些活设备自己干,哪些活按需交给云端。科大讯飞在乌镇“互联网之光”博览会上介绍,4B端侧模型已经能接信息搜索、文档处理、日程管理、本地表格这些日常活。对确实要上云的数据,官方说法是有脱敏和确认机制——本地原始文件不上传,用户确认后才加密上传,处理完再回传还原敏感信息。界面新闻新华网

发布会给出的数字是:端侧模型可完成的智能体类任务比例,从业界主流的12.8%提升到41.9%,未来目标是60%以上。网上有些帖子把这句话写成了“约六成日常AI应用可在本地终端运行”,口径被放大了:60%是未来目标,目前的41.9%只针对“智能体类任务”,不是所有AI应用。界面新闻知乎

图片图片

科大讯飞把重心挪到端侧,主要是成本和隐私两本账。Gartner今年8月的报告预测,API定价虽然一路下降,但多步骤执行等复杂工作流仍在推高AI总成本。长任务全在云端跑,每个Token都是钱;语音转写、检索、表格这些活挪回设备端,厂商省算力,用户省掉解释数据去向的麻烦。界面新闻

这些能力已经开始落到设备上。语音基座模型SparkAudio 1.0已进入讯飞输入法16.0、讯飞听见、讯飞智能办公本和讯飞翻译机,官方称效果提升20%、响应时间降低15%、成本降低60%。讯飞AI眼镜在乌镇展示了中文与13种外语的离线互译,覆盖122种语言及口音;新一代AIPC灵机N9000还拿了这届博览会的“新光”产品奖。新华网

图片图片

对讯飞设备的用户来说,这次升级的实际变化是:原来必须上传云端才能干的活,正在被设备本地接回去。更值得盯的,是这些端侧能力会不会通过固件更新下放给老设备。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章