Mac 终端里藏了个免费 AI:不花 token,但国行用不了

源自221位全网作者

12:36

十月下旬,一条只有一句话的帖子在 X 上被围观了八十多万次:「我靠,刚发现 MacBook 自带一个免费的本地大模型,就在终端里」。知乎

很多人跟着敲,才发现这不是彩蛋。苹果在 6 月的 WWDC 上专门开过一场 session,讲 fm 命令行和 Python SDK;fm 随 macOS 27 预装。知乎

它调用的是苹果第三代基础模型 AFM 3。本机跑的是 30 亿参数 AFM 3 Core;更强的 200 亿参数 Advanced 只出现在最强芯片上。这一代是苹果和 Google 合作定制的。知乎

用起来不复杂。先确认 Apple Intelligence 已打开、模型下载完。终端里敲 fm,按提示同意条款;没提示就补 sudo fm license。小红书

fm available 看模型是否就绪,fm chat 对话,fm respond 问完即走。fm respond 更适合塞进脚本:把一篇文章用管道丢给它,加一句「三句话总结」,结果直接出来。知乎

Mac 终端里藏了个免费 AI:不花 token,但国行用不了

它还能读图,WWDC 上演示过丢一张截图问用了什么软件。fm serve 能在本机开一个 OpenAI 格式的接口,能接 Cherry Studio。知乎

速度不慢。一次 M5 Max 上的断网实测,每秒约 46 个 token,短问题基本秒回。小红书

但记性很短:上下文只有 4096 或 8192 个 token,问题、材料、回答全挤在里面。知乎

有人实测,输入 3700 个 token 能跑,3950 就报错。一篇长文塞进去,大概率爆掉。知乎

中文也不是它的强项。改错字会漏,翻译偶尔译反;问它是谁,四次里有两次说自己是 Google 训练的。知道这一代模型有 Google 参与,这个回答就没那么离谱。小红书

它擅长总结、打标签、改写、从文本里抽信息,别拿它当百科。写代码、算数学、读长文档,还是交给更大的模型。知乎

免费不等于没有代价。macOS 27 会在联网后自动下载 Apple Intelligence 的本地模型,没有一键删除的总开关。知乎

苹果官方给的存储上限是 14GB(M3 及更新、12GB 内存以上)或 8GB。Apple 支持

但实测普遍更高:M4 Pro Mac mini 约 20.67GB,M3 MacBook Air 约 22.42GB,Reddit 上还有 30.16GB 的截图。知乎

对 256GB 的 Mac 来说,这不是小数目。系统本身占一部分,再被 AI 模型拿走二三十 G,接近 12% 的硬盘空间被锁死。知乎

Mac 终端里藏了个免费 AI:不花 token,但国行用不了

国行用户连这笔账都不用算。国行 Mac 上,fm available 返回 deviceNotEligible,fm chat 直接说这台设备不支持苹果智能。知乎哔哩哔哩

卡的不是系统语言,而是设备在哪买的。苹果支持页写得很直接:目前,在中国大陆购买的支持设备无法使用 Apple Intelligence。Apple 支持

账号地区也要对得上:设备在境外买,只要 Apple 账户国家或地区是中国大陆,目前同样用不了。Apple 支持

11 月 4 日,升级到 iOS 27.3 测试版的国行 iPhone 已经能打开 Apple Intelligence,但苹果确认首批只限 iPhone,Mac 等其他平台要等监管批准。小红书微博

同一天,macOS 27.3 的首个开发者测试版开始推送,国行 Mac 的 fm 依旧没有解禁。微博

网上有绕过限制的脚本,要关掉系统完整性保护,项目也已归档。为一个小模型冒这个险,不值。知乎

所以它适合谁?适合不想为每件小事打开网页、也不想付 token 费的人。总结一段会议记录、从邮件里挑出时间和地点、把一句话改顺、给文件分类打标签,这些活它干得动。小红书

真要在 Mac 上跑本地模型,Ollama、LM Studio 更成熟,中文模型也能自己挑。fm 的优势不是性能,是零配置、系统预装、随手就能用。知乎

Mac 终端里藏了个免费 AI:不花 token,但国行用不了

它真正改变的是默认设置。以前用 AI,先想「要不要联网、要不要充值」;现在终端里就有一个,虽然小,虽然挑地区。

苹果把大模型变成了系统组件。国行用户只能等下一次推送。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
1评论

  • 精彩
  • 最新
  • 国行设备 mac ipad还没支持用本地端侧模型 估计先在手机上先放开使用

    校验提示文案

    提交
提示信息

取消
确认
评论举报

最新文章 热门文章