张大妈

『两千块跑27B』是真的、『带宽超M4 Max』是错的:PS5爆改推理机这48小时,我把开发者自报、11.4GB红线和三句社区反调摆进同一张表——抄作业前,先对完门票、智商、退路这三本账

源自30位全网作者

08:39

48小时,一台游戏机挤进了本地党的聊天群

10月15日下午,微博上先传出一组对照数字:Qwen3.8-27B 在越狱 PS5 的 GPU 上能跑到约 20 token/s,同一个模型挪到这台机器的 CPU 上,速度大约只有每分钟 1 token——差了一千多倍。当天傍晚,细节被补齐:开发者移植了 RADV 驱动,用 Vulkan 打通 GPU 加速,越狱 PS5 变成了 llama.cpp 的原生设备,甚至能直接拿着手柄在电视上从 Hugging Face 刷模型;16GB 统一内存、448GB/s 带宽,解锁出 11.4GB 可用显存,Llama 3.2 3B 飙到 124 tok/s,整机功耗只有 80 多瓦。微博微博

10月16日晚,IT时代网把来龙去脉讲全了:Reddit 用户公布了自己对 PS5LM 的分支版本,这个 llama.cpp 的 PS5 移植项目由此可以原生运行在主机上,并调用 GPU 资源跑体积更大的模型。在这之前,GitHub 用户 cobanov 的初版是用 CPU 载荷方式跑 llama.cpp,本质是劫持 CPU,内存访问被压在约 6.25GiB,超过直接冻结主界面——这次新分支解锁 GPU,才算把这层天花板掀掉。B站梳理项目脉络的视频里还多了一个玩法:局域网调用,PS5 当推理端,PC 当操作端。到了10月17日早上,显卡日报第1028期把它收进条目——48小时,一条游戏机新闻走完了"爆料—搬运—日报"的全流程。IT时代网哔哩哔哩哔哩哔哩

"带宽超越 M4 Max"是自媒体吹的,但这台机器的快是真的

转发量最大的一句说法是"448GB/s 统一内存带宽领先苹果 M4 Max"。这句是错的:M4 Max 的带宽是 546GB/s,PS5 追不上;它真正碾压的是 120GB/s 的基础款 M4、273GB/s 的 M4 Pro,以及同价位消费卡的显存带宽——一张 16G 的 4060 Ti 只有 288GB/s。微博

但这个错误的传播恰恰暴露了本地党真正该看懂的东西:单轮对话的生成速度是带宽生意,不是算力生意。解码阶段每吐一个 token,都要把权重完整读一遍。27B 压到 2bit 约 7GB 权重,448÷7≈64 tok/s 是理论上限,实测 20 属于正常效率;3B 模型权重小,124 tok/s 和这套算法完全对得上。这就是为什么两千多的游戏机能跑,而手里那张 8G 显存的 2070 跑不动——不是 A 卡不行,是它的显存和带宽都装不下这桌菜。PS5 赢在"统一内存+高带宽"天生就是推理机的账本结构,这和小主机、Mac 党常驻的选型逻辑是同一本账。

先对完这三本账,再决定要不要抄作业

门票账。 越狱门槛写得很明白:目前 PS5 主机仍未提供原生的大模型运行能力,相关方案都需要先对主机进行越狱操作。更要紧的是,124t/s、20t/s 全部来自开发者自报,B站梳理项目脉络的视频自己也写明白了:相关性能数据来自开发者测试,不代表独立横评,不同模型、量化与设置不可直接比较。评论区主机党的反调也很直接:“这种只能图一乐,想实用基本没可能”,另一条点得更狠——“推理这块持续输出比能不能启动更要命”。长时间跑的散热和稳定性,目前没有任何公开数据。IT时代网哔哩哔哩哔哩哔哩

智商账。 16GB 物理内存只解锁 11.4GB 可用,权重、KV cache、系统全挤这 11.4GB,原话是"虽说极限量化牺牲了精度、内存几乎贴着红线跑"。也就是说,27B 在这台机器上只有 2bit 一档能选,而 2bit 输出什么水平,实机试玩视频的文案已经替社区说完了:“不能说不聪明,只能说精神状态不太稳定”——赛博精神病。本地模型想进工作流,本来就要过验收——社区最近的盲测,是让模型在未下发任何排错方案的情况下从零完成排查,这还只是 16G 显存档的考题,2bit 档只会把通过线拉得更低。3B 在 124t/s 下是合格的电视聊天玩具,2bit-27B 是"看着像干活,但不敢让它干长活"。微博哔哩哔哩知乎

退路账。 三类人三个座位:已经持有固件窗口内越狱 PS5 的,值得刷一次玩玩,80 瓦的功耗和不占 PC 的独立设备是它真实的舒适区;没有 PS5、想为跑模型专门收一台的,别——你花门票钱买到的体验,仍在你现有 PC 的 4bit 档之下;想要 24 小时挂机推理箱的,再等。何况现在想给 PC 补硬件也不便宜:DDR4 内存价格三个月上涨 24%,RTX 5090 基本断货,AMD 还上调了显卡显存定价——加卡和收二手机这两条退路,门票都在涨。微博

接下来盯这三个信号

一看 PS5LM 分支的更新节奏,GPU fork 才放出 48 小时,内存布局和长任务稳定性是唯一的硬指标;二看实机教程是否落地,试玩 UP 已经在文案里吊着"我考虑一下可以出教程",手柄下模型这套交互能不能走出开发者桌面,决定了它是玩具还是产品。三看同类改造的跟进——10月12日的 GitHub 热榜上,PS5 程序自动移植工具 AnyPS5 已经连续霸榜,主机盒子被改造成计算端不只是单点行为。但在那之前,本地党的钱还是先按老账本花:这张 448GB/s 的牌桌,目前只欢迎已经坐在上面的人。哔哩哔哩微博

内容由AI生成

精选参考来源

1. 就算是PlayStation 5也没能幸免。有人成功越狱PS5,在它的GPU上运行通义千问Qwen3.8 27B大模型,生成速度可达20 token每秒。这是在游戏主机本地运行实打实的270亿参数AI大模型。如果在PS5的CPU上跑同一个模

2. 【越狱PS5爆改AI推理机:高带宽显存跑大模型的硬核玩法】有开发者通过移植RADV驱动打通Vulkan GPU加速,把越狱PS5做成了本地大模型原生应用,还能直接用手柄在电视上刷Hugging Face下模型。依托448 GB/s高带宽统一

3. #越狱PS5可原生运行本地大模型#IT时代网10月16日消息,一名 Reddit 用户在社区公布了其对 PS5LM 的分支版本,这个 llama.cpp 的 PS5 移植项目由此可以原生运行在主机上,并调用 GPU 资源运行体积更大的模型。

4. #人工智涨ultra的行业观察# PS5改造运行Qwen 3.8 27B大模型,速度达20Token/s,统一内存带宽448GB/s领先苹果M4 Max。价格不到4000……我一直就觉得AMD适合做盒子……辣个APU很适合边缘推理……

5. 📊 GitHub 今日热榜 Top81️⃣ morluto/rea ⭐102.1k 📈+2.6万用 agent 逆向一切:从 App 行为扒到原生二进制,连续3天榜首2️⃣ boykopovar/AnyPS5 ⭐29.9k 📈+4.0kPS

6. PS5 彻底疯了!两千块的游戏机跑起 270 亿参数 AI,老黄看完连夜修改显卡定价?

7. 【显卡日报】10月17日|第1028期:PS5跑起本地大模型!开发者称27B约每秒20 token

8. PS5跑本地大模型?居然有点聪明,虽然有点赛博精神病。

9. 本地大模型 Agent 盲测|Windows 中文文件名文件读取任务

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章