什么值得买App下载 App ›
连续签到专享现金活动

模型跑通了,同事却看不到:本地AI的最后一公里,一条隧道就通,坑不少

把模型跑通的那天,你会发现一件残酷的事:它只能对着你自己的屏幕用。

同事想看演示、手机上想用、客户要联调API——服务就在家里的内网里,宽带是运营商大内网,路由器没给你公网入口,想给异地的人看一眼,只能束手无策。部署完,AI反而成了"本地户口的"。这是本地部署的最后一公里:算力到位了,网络没接上。知乎

隧道怎么搭,三条路

内网穿透,本质是在一台能被外面访问的机器和你自己的机器之间打一条洞,把内网服务"挂"到公网地址上——装个客户端点几下,就能让本地服务通过加密隧道被外面访问。常见路线就三条:知乎知乎

  • 托管穿透(花生壳、cpolar这类):装客户端、点几下就出一个公网地址。最省事,但要实名,流量要过服务商服务器;

  • 自建frp:需要一台有公网IP的VPS,自由度和成本最好,但配置、保活、安全全得自己扛;

  • P2P组网(Tailscale、ZeroTier这类):不经过中转、直连延迟低,适合"自己的设备互相访问",给外人演示就得多教一步。

这门生意还在变大:全球内网穿透软件市场2025年规模已达7.12亿美元,预计2032年增长到10.86亿美元。知乎

速度这事,知乎上一篇做对照测速的帖子给过一组公平数据:同一拓扑下Tunx与frp同级,两者都贴近Wi-Fi直连约4 MiB/s的天花板。也就是说,卡你的往往不是隧道,是你那台连Wi-Fi的机器。穿透机先插网线,再谈优化。知乎

打洞之前,先绕开这5个坑

一位折腾了整整一年穿透的作者,把自己踩过的坑整理成了清单,普通人命中率极高:

  1. 用Wi-Fi跑常驻服务——家用Wi-Fi会自动休眠、降频、切信道,长连接必断。所有要常驻穿透的设备,插网线;

  2. 服务只监听127.0.0.1——洞打穿了,外面照样进不来,监听改成0.0.0.0;

  3. 没配心跳保活——默认断了就断,不会自己重连。他实测调试出的最优参数:30秒心跳、90秒超时重连,稳定性直接翻倍。知乎

  4. 裸跑端口——公网端口天天被扫描、爆破。TLS加密、来源IP限制、防火墙白名单,一个都别省;

  5. 分不清备案和节点规则——国内节点80/443需要备案,没备案的域名直接被封。

最狠的一条经验是:内网穿透一旦被入侵,黑客可以顺着隧道拿下你整个家庭内网。合规上再补一句:托管穿透基本都要实名、流量都过服务商。知乎就有用户自述,用花生壳搞内网穿透连自己的本地大模型,上午的事,中午派出所就来电话。你可以不干了,但不能当这条链路不存在。知乎知乎

什么人走哪条路

  • 只想自己的手机、办公室电脑随时连回家里的模型:P2P组网就够了,别开公网;

  • 临时给客户、朋友演示:托管穿透加访问密钥,用完关掉;

  • 要把AI服务长期对外:自建frp或Cloudflare Tunnel,安全加固、备案、日志审计,一步不能省。

穿透解决的是"服务在内网、人在外网"这类错位。穿透不是技术题,是判断题:公网入口和你手里资产的级别,得匹配。模型搬回家是让自己用得安心,别顺手把整个家网推给了全世界。知乎

评论

评论区空态插画

当前文章无评论,是时候发表评论了