美国时间11月9日，一位律师把自己攒的AI服务器晒了出来：从二手市场淘来8块2018年的英伟达V100，每块32GB显存，分装在两块4卡底板上，电源合计约2800瓦，分接在律所两路普通办公电路上。他这么干，动机很具体：一名律师为了避免将客户案件材料上传到云端。 “案卷不出所”这个方向，在国内外都有明确的合规依据；但“手搓8卡V100电老虎”是一笔性价比很低的账，而且把机器装上，并不等于把合规做好了。小红书知乎
这台机器干的活，是律所里最朴素也最刚需的一类：翻一整个文件夹的案卷，抽取事实、日期、金额，写摘要，起草例行文书的初稿——他特别强调，没人审过的东西一件都不往外发。按他自己的估算，原来要调云端大模型的活，现在一半以上（50%到60%）已经能在这台本地机器上跑。小红书
速度分场景：写法律文书每秒约118个token，写代码可以到215；1千token的提问约1.2秒开始出字，128K长文要等一分钟左右。要是把256K的超长上下文整卷塞进去，有懂硬件的转述者补充，速度会更拉胯，一整个案卷喂进去经常要等两分钟才蹦出来第一个字。小红书知乎
成本账：卡钱省了，持有账在后面
8块卡他入手时单卡约400美元、合计约3200美元，这个价钱如今回不去了——二手V100 32GB挂价已到约900美元一块，翻了一倍多还在涨，配齐同款整机按现价约要8500美元。国内的二手水位更低一档：2026年10月底，闲鱼上V100 16G的挂牌中位价仅为SXM2版750–1350元、PCIe版1250–1390元。小红书知乎哔哩哔哩
便宜的原因恰恰是“老”：V100是2017年发布的Volta架构计算卡，距今整十年，市面上流通的基本都是数据中心淘汰货；它不支持FP8，INT8也没有张量核心加速，显存带宽只有A100的45%。知乎知乎
电费才是长期账单。单张PCIe版V100 32G标准功耗250瓦，八张同时跑满，光显卡功耗就直奔2000瓦，叠加双路CPU和散热，整机满载轻松突破2800瓦——这位律师的机器恰好落在这个量级。按美国当地电价，当事人自测低负载每月电费约100美元，长时间满载能涨到400美元上下。更现实的问题是它很难待在办公室里：4U机架服务器噪音巨大，普通房间无法安放，只能租机房机柜或单独改造隔音。淘汰卡随时可能罢工——这台机器在装机时就因PCIe错误自己重启过两次，一块底板电源接口烧出焦痕，限频、拆掉整块板才稳住，如今一次只能处理一个请求。知乎知乎小红书
合规账：本地部署是入场券，不是合格证
律师敢为保密掏这笔钱，是因为这本来就是本行的法定义务。《律师法》第三十八条要求律师保守执业中知悉的国家秘密、商业秘密，不得泄露当事人隐私；泄露的，可依第四十八条被停止执业三个月以上六个月以下。知乎知乎
行业规范也已经把方向写明：深圳市律师协会发布的律师行业首份AI辅助执业指引共八章三十五条，其中明确，涉及客户敏感信息时，建议审慎评估使用公共云服务共享实例的风险，条件允许时优先考虑本地化部署或专有云部署方案。昆明律协的指引更进一步：涉密或敏感信息输入公共AI工具、上传第三方平台，即便服务商承诺不留存，也“视同信息对外披露”。知乎知乎
大洋彼岸是同一套逻辑的更硬版本：他所涉的民事诉讼在美国法域下有漫长的庭前证据开示，直接把案卷交给第三方云端AI，有可能被判丧失律师—客户特权、触发主题放弃（subject matter waiver），对方据此就能调取他与AI的沟通记录；AI使用记录本身是否受特权保护，各州判例尚不统一。本地化恰好堵住这条路径：数据不进别人的机房，就不存在向第三方披露的环节。知乎
但多位回答者提醒，“形式合规”和“做好了合规”之间还差一套制度：本地部署不等于安全，权限分级、操作留痕、数据备份、招采与消防程序，缺一样都会在事后说不清。做过律所知识库实施的从业者给出过更朴素的判据：出了事，能不能说清楚这份材料从哪来、谁看过、改过什么，能说清楚才算真合规。而且机器防得住网络路径，防不住人：同事或助理嫌本地系统麻烦、把卷宗粘进公共AI工具，硬件投资照样归零。知乎知乎
什么情况下这笔账划得来
这台机器值不值，取决于手里涉密材料的密度，而不是捡漏技术。只是偶尔离线处理一两份敏感文档的话，问题下的一条回答说得直白：普通人拿来写周报、润色邮件这么用绝对亏，还得自己伺候一台服务器，不如直接用20美元一个月的主流云端API。确有稳定涉密需求的，更划算的形态也不是每位律师各自攒一台：有回答建议由律所整体采购、全所共用；技术侧更成熟的共识是，法律、医疗、金融确实会是本地AI最早商业化的领域，但形态一定是合规的私有化方案，由有资质的供应商实施，而不是把淘汰卡堆在办公室角落。知乎知乎知乎
回到标题里的问题：对守着客户案卷的这位律师来说，花约3200美元把“案卷不出所”从一句承诺变成物理事实，划得来；但若要照这套配置在自己桌上复制一台——不值得。合规要靠制度解决，算力应当按用量购买。
