48小时,一台游戏机挤进了本地党的聊天群
10月15日下午,微博上先传出一组对照数字:Qwen3.8-27B 在越狱 PS5 的 GPU 上能跑到约 20 token/s,同一个模型挪到这台机器的 CPU 上,速度大约只有每分钟 1 token——差了一千多倍。当天傍晚,细节被补齐:开发者移植了 RADV 驱动,用 Vulkan 打通 GPU 加速,越狱 PS5 变成了 llama.cpp 的原生设备,甚至能直接拿着手柄在电视上从 Hugging Face 刷模型;16GB 统一内存、448GB/s 带宽,解锁出 11.4GB 可用显存,Llama 3.2 3B 飙到 124 tok/s,整机功耗只有 80 多瓦。微博微博
10月16日晚,IT时代网把来龙去脉讲全了:Reddit 用户公布了自己对 PS5LM 的分支版本,这个 llama.cpp 的 PS5 移植项目由此可以原生运行在主机上,并调用 GPU 资源跑体积更大的模型。在这之前,GitHub 用户 cobanov 的初版是用 CPU 载荷方式跑 llama.cpp,本质是劫持 CPU,内存访问被压在约 6.25GiB,超过直接冻结主界面——这次新分支解锁 GPU,才算把这层天花板掀掉。B站梳理项目脉络的视频里还多了一个玩法:局域网调用,PS5 当推理端,PC 当操作端。到了10月17日早上,显卡日报第1028期把它收进条目——48小时,一条游戏机新闻走完了"爆料—搬运—日报"的全流程。IT时代网哔哩哔哩哔哩哔哩
"带宽超越 M4 Max"是自媒体吹的,但这台机器的快是真的
转发量最大的一句说法是"448GB/s 统一内存带宽领先苹果 M4 Max"。这句是错的:M4 Max 的带宽是 546GB/s,PS5 追不上;它真正碾压的是 120GB/s 的基础款 M4、273GB/s 的 M4 Pro,以及同价位消费卡的显存带宽——一张 16G 的 4060 Ti 只有 288GB/s。微博
但这个错误的传播恰恰暴露了本地党真正该看懂的东西:单轮对话的生成速度是带宽生意,不是算力生意。解码阶段每吐一个 token,都要把权重完整读一遍。27B 压到 2bit 约 7GB 权重,448÷7≈64 tok/s 是理论上限,实测 20 属于正常效率;3B 模型权重小,124 tok/s 和这套算法完全对得上。这就是为什么两千多的游戏机能跑,而手里那张 8G 显存的 2070 跑不动——不是 A 卡不行,是它的显存和带宽都装不下这桌菜。PS5 赢在"统一内存+高带宽"天生就是推理机的账本结构,这和小主机、Mac 党常驻的选型逻辑是同一本账。
先对完这三本账,再决定要不要抄作业
门票账。 越狱门槛写得很明白:目前 PS5 主机仍未提供原生的大模型运行能力,相关方案都需要先对主机进行越狱操作。更要紧的是,124t/s、20t/s 全部来自开发者自报,B站梳理项目脉络的视频自己也写明白了:相关性能数据来自开发者测试,不代表独立横评,不同模型、量化与设置不可直接比较。评论区主机党的反调也很直接:“这种只能图一乐,想实用基本没可能”,另一条点得更狠——“推理这块持续输出比能不能启动更要命”。长时间跑的散热和稳定性,目前没有任何公开数据。IT时代网哔哩哔哩哔哩哔哩
智商账。 16GB 物理内存只解锁 11.4GB 可用,权重、KV cache、系统全挤这 11.4GB,原话是"虽说极限量化牺牲了精度、内存几乎贴着红线跑"。也就是说,27B 在这台机器上只有 2bit 一档能选,而 2bit 输出什么水平,实机试玩视频的文案已经替社区说完了:“不能说不聪明,只能说精神状态不太稳定”——赛博精神病。本地模型想进工作流,本来就要过验收——社区最近的盲测,是让模型在未下发任何排错方案的情况下从零完成排查,这还只是 16G 显存档的考题,2bit 档只会把通过线拉得更低。3B 在 124t/s 下是合格的电视聊天玩具,2bit-27B 是"看着像干活,但不敢让它干长活"。微博哔哩哔哩知乎
退路账。 三类人三个座位:已经持有固件窗口内越狱 PS5 的,值得刷一次玩玩,80 瓦的功耗和不占 PC 的独立设备是它真实的舒适区;没有 PS5、想为跑模型专门收一台的,别——你花门票钱买到的体验,仍在你现有 PC 的 4bit 档之下;想要 24 小时挂机推理箱的,再等。何况现在想给 PC 补硬件也不便宜:DDR4 内存价格三个月上涨 24%,RTX 5090 基本断货,AMD 还上调了显卡显存定价——加卡和收二手机这两条退路,门票都在涨。微博
接下来盯这三个信号
一看 PS5LM 分支的更新节奏,GPU fork 才放出 48 小时,内存布局和长任务稳定性是唯一的硬指标;二看实机教程是否落地,试玩 UP 已经在文案里吊着"我考虑一下可以出教程",手柄下模型这套交互能不能走出开发者桌面,决定了它是玩具还是产品。三看同类改造的跟进——10月12日的 GitHub 热榜上,PS5 程序自动移植工具 AnyPS5 已经连续霸榜,主机盒子被改造成计算端不只是单点行为。但在那之前,本地党的钱还是先按老账本花:这张 448GB/s 的牌桌,目前只欢迎已经坐在上面的人。哔哩哔哩微博