高通AI Hub开放了,普通用户离端侧AI还差三道门

源自166位全网作者

01:01

11月3日,高通AI Hub正式对中国开发者开放,但你在应用商店里搜不到它。官方给出的清单很具体:230多个预优化模型,Workbench可以在云端真机上做量化、编译和验证,Apps提供参考代码,GenieX负责端侧生成式AI推理。 它更像一间开在云端的模型改装店:开发者把模型交进去,平台负责把它塞进骁龙的CPU、GPU和NPU里跑起来。Qualcomm开发者社区

这件事对用户的意义,不在于又多了一个开发工具,而在于“把模型装进手机”的成本降了。过去给手机做端侧模型,要自己量化、转换格式、找真机调试;现在这些环节被收进一条云端流水线。 模型供给也在补:腾讯混元的Hy-MT2-1.8B、Hy-4B等四个模型已经进了优化模型库。 对开发者来说,验证一个模型能不能在手机上跑,从一件要排期的事变成了点几下的事。亚马逊云科技高通

但“模型能跑”和“用户能用上”之间,还隔着三道门。

第一道是机器。端侧模型再小,也要落在有NPU的手机上。IDC的预测是,2027年搭载NPU的生成式AI智能手机渗透率接近40%,而且智能体功能会先落在中高端机型,千元机要等更久。 现实还有一层:高通2026财年第三季度手机业务收入50.9亿美元,同比下滑19.6%,厂商为了降本,甚至倾向于沿用上一代平台。 换机周期又被拉长,有调研机构预测部分海外市场会到48个月,国内短一些。 所以哪怕明天所有新机都支持,用户手里的旧手机也不会一夜之间变聪明。新华网36氪数研君

第二道是App,这堵墙比芯片硬。去年12月豆包手机第一代发货,第一天晚上微信就限制了部分用户登录,第三天支付宝、淘宝也做了限制。 一台能自己点屏幕的手机,第一天就撞上了别人的门。端侧AI可以自己算,但不能自己打开微信,也不能替支付宝改接口。AI Hub能优化模型,优化不了平台之间的权限和分成。小白测评

第三道是物理和信任。端侧AI的天花板不在峰值算力,而在内存带宽;高通自己在探索3D内存堆叠,说明现在的LPDDR还喂不饱更大的模型。 所以短期内,手机上跑的多是小模型,复杂任务仍要端云协同。用户这边的顾虑也很具体:B站一条实测视频下面,有人担心让Agent订机票酒店,它会挑最贵的或者商家充值的选项。 这不是多给几个TOPS就能解决的。新华网哔哩哔哩

那普通用户到底什么时候能用上?答案不是一个日期,而是分层。今年到明年,最先被感知的往往不是“AI助手”,而是离线字幕、相册语义搜索、录音摘要、通话降噪这类不需要跨App权限的功能。它们不会叫自己AI,但会实实在在用到端侧模型。离线翻译甚至已经不是未来时:腾讯Hy翻译已经支持33种语言互译和离线翻译。 2027年前后,随着生成式AI手机在新机中的渗透率接近四成,更多中小App会把模型放进安装包,端侧功能开始变成默认选项;但真正轮到千元机用户,还要更久。至于“一句话让它帮我订票”的智能体,要等手机厂商、互联网平台和监管把接口、责任和分成谈清楚,按现在的节奏,大概率要等到2028年之后。投资界

AI Hub今天开放,真正的意义不是让手机立刻变聪明,而是让“把模型塞进手机”从手艺变成流水线。流水线建好了,货什么时候到用户手里,还得看路上那三道门。对普通用户来说,最实际的建议是:现在换手机,NPU值得看一眼;不换,也别指望旧手机靠一次系统更新就变成AI手机。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章