什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

抽屉里的安卓机,现在能当全家的私人AI服务器:不交月费,数据不出门

闲置两三年的安卓旗舰,不刷机、不root、不花一分钱token费,就能变成一台局域网内全家共用的本地AI。它替代不了云端大模型,但干得了这些活:离线写作润色、翻译、文档总结、代码补全,手机、电脑、平板都能连过来调用。数据全程留在自己屋里——这是云端给不了的。知乎

为什么突然值得折腾

最近"旧手机改造"的话题还集中在车机、状态屏上,风向已经转向本地大模型。B站和知乎上"旧手机变AI服务器"的教程两个月里密集冒出来,最热的路子是一个叫 PocketOrca-LLM 的安卓App——装好模型,手机直接开出一个OpenAI兼容的API接口,等于把小模型变成家里的小网关。端侧模型这代也确实争气,4B级的Qwen3.5已够应付日常杂活。今日头条知乎Gitee

抽屉里的安卓机,现在能当全家的私人AI服务器:不交月费,数据不出门

先看你抽屉里那台够不够格

  • 系统门槛:Android 12以上、arm64芯片,近五六年的机器基本都满足。Gitee

  • 内存是硬指标:4B模型建议8GB起步,6GB的机器能跑但要调小上下文、清后台——评论区实测,其他设备一调API,手机本体就先"抢内存"卡顿;

  • 模型别一步到位:先从4B稠密款跑起,有人实测9B"也能跑,速度也还行",但那是大内存机器的余裕,MoE小钢炮更是中低端机跑不动;

  • 旗舰和千元机是两个世界:开发者实测骁龙8 Elite跑Qwen3.5-4B,NPU全速约17.9 token/s,叠加MTP投机推理能到21;省电档掉到10出头。老旗舰值回票价,中低端走CPU引擎速度感人,而且MoE模型官方长期不给NPU通道、只能回落CPU,新版本虽加了“专家流式”隐藏档让12GB内存硬塞35B,实测也只有5-6 token/s,抄作业前先看清自己芯片。哔哩哔哩

抽屉里的安卓机,现在能当全家的私人AI服务器:不交月费,数据不出门

怎么装:两条路

懒人路:PocketOrca-LLM的GitHub Releases下载APK,选模型、下载、点启动,三步出API地址,电脑端填进任何支持OpenAI格式的工具就能用。折腾路:Termux手动部署ollama再拉开源模型,免root但全程命令行,适合想自定义参数的玩家。Gitee知乎

抽屉里的安卓机,现在能当全家的私人AI服务器:不交月费,数据不出门

评论区踩出来的四个坑,绕开再开工

  1. 速度莫名腰斩:有用户CPU引擎从一百多token/s掉到30,开发者和其他用户的结论指向系统温控或内存不足,重置应用数据后能回到150——拿掉壳、选平衡/省电功耗档,别全速档硬挂着跑。哔哩哔哩

  2. 上下文一超就400报错:外部App接入弹出 `CONTEXT_WINDOW_EXCEEDED`(提示8192不够用),要么调大App里的上下文,要么关掉客户端自动塞历史对话的功能;

  3. NPU不保证比CPU快:有人实测同一台机器CPU 155、NPU反而只有80,装完把两种引擎各跑一遍再定,别迷信加速;

  4. 24小时插电,电池是最大隐患:旧机长期满电高温容易鼓包,能拆电池的老机型拆了再插电,不能拆的至少把充电上限设到80%以下。

抽屉里的安卓机,现在能当全家的私人AI服务器:不交月费,数据不出门

一句话总结

它不是让你告别云端AI,而是给家里添一个不订阅、不断网、不泄露隐私的AI底座——旧手机反正闲着,装上去跑一次,值不值自己说了算。

评论

评论区空态插画

当前文章无评论,是时候发表评论了