先说个昨天刚刷屏的数字:同样处理30笔真实客户订单,旗舰模型GPT-5.1出错2次,轻量化的GPT-5.4 Nano反而30次全部稳定输出,成本从306.9降到7.6——砍掉97%以上,准确率还更高。微博这不是哪家模型厂商在自卖自夸,而是Palantir新产品的演示。8月25日,科技博主T3chfeed放出一段分析视频,讲Palantir的新品AIP Evolve怎么给企业AI"砍账单",随后被转进了微博和各大AI社群。评论区最集中的反应不是"太神了",而是"我们公司的AI预算是不是花冤枉了"。
这个反应很真实。过去一年,企业AI落地的叙事一直是"模型越强越好、上下文越长越好、Agent越多越好",账单也跟着水涨船高。而Palantir给出的解法几乎是反着来的:降本的核心不是用更贵或更多的模型,而是找到"根本不需要调用大模型"的环节。
Evolve是什么:一队专门给你AI系统"抠成本"的Agent
先补个背景。AIP Evolve今年5月底亮相,7月14日在Palantir DevCon 6上正式发布。它不是一个新的大模型,恰恰相反,Palantir从来不训练自己的大模型。
Evolve干的事,是部署一整队Agent,持续优化你现有AI系统的三个指标:成本、质量、速度。它会自动做三类实验——在不同模型供应商之间换模型、重写提示词让同一个模型用更少的token干同样的活、调整系统架构。而且所有优化都基于你自己的评估集,不是拍脑袋。哔哩哔哩

和它一起发布的还有AIP Inspect和Agent Timeline:把Agent每一步做了什么、为什么做、花了多少钱,翻译成人类能看懂的完整叙事。逻辑很直白——看不见的东西没法优化,只能靠人修的没法规模化。
DevCon上放出的战绩包括:一个制造业工作流,延迟从单案例45秒压到8.8秒,降了90%。
最有说服力的不是97%,是那家利润率不到2%的医院
演示数据再好看也是演示,真正让这件事有分量的是DevCon上的一个客户实战:美国佛罗里达州的Tampa General Hospital。
医院这个行业的利润率不到2%,意味着每一分AI支出都得算清楚。他们的做法是和Palantir的前线部署工程师一起,用Evolve优化"使用率审查"流程——也就是审核医嘱、检查、用药是否合理,这原本是烧token的大户。哔哩哔哩

优化就三板斧,但每一板都很实在:
第一,跨模型筛选。在多家模型供应商之间逐一实测,找性价比最高的那一个,而不是默认用最贵的。
第二,重写提示词。让同一个模型用更少的token输出同样质量的结果。
第三,也是砍得最狠的一板:凡是不需要大模型的环节,直接换成确定性代码。最后把GPT调用量砍掉了84%,整个审查流程的成本降了近70%。哔哩哔哩
更关键的是结尾那个证据:Tampa General自己的医学专家,在90%的情况下更偏好优化后的输出。省钱的同时质量没降,反而更高——这才叫降本,否则那叫偷工减料。
为什么这事是Palantir做成的
看懂这一步,比记住97%这个数字更重要。
第一,中立裁判的位置。OpenAI、Anthropic、谷歌,每家模型厂商都希望你多用自己的模型,没有人会主动告诉你"这个环节其实不用调我的API"。Palantir不训自己的模型,卖的是平台,天然没有这个利益冲突。知乎无论模型大战最后谁赢,"告诉你什么时候不用大模型"这门生意都成立。
第二,本体(Ontology)终于露出了它的另一面。中文社区最近都在讨论Palantir的本体——把企业里散落在ERP、CRM、Excel里的数据,抽象成对象、关系和动作,让AI看得懂业务。这次演示里有个容易被忽略的细节:对于本体库里已经存在的知识,系统直接跳过LLM调用,又省了31%的成本。微博换句话说,本体不只是让AI更懂业务,还是判断"哪里不需要大模型"的依据。大家争论的本体论,原来还是省钱的基建。

三盆冷水,喝之前先看
97%这个数字,需要放在正确的位置上看。
首先,这是单一演示场景的最优结果,不是普适承诺。订单处理这类结构化流程天然适合拆解,换成开放式的创意、研究类任务,降本空间完全不同。
其次,Evolve的所有优化都基于你自己的评估集。没有靠谱的评估集,就没有优化的基准,甚至可能把质量优化没了。很多团队连"什么叫输出合格"都没定义清楚,这一步躲不过去。
第三,确定性代码替换LLM的前提,是你真的搞清楚哪些环节是确定性的。搞错了,就是把灵活性换成了脆弱性。
值得带走的东西
如果你正在负责或参与企业AI项目,这个案例可以直接翻译成一份自检清单:
一是把AI流程按环节拆开,逐个问一句"这一步真的需要大模型吗",能用规则、能用查询解决的,别让模型干。
二是在几家模型之间做真实任务实测,别按价格和名气选模型。
三是先建评估集,再谈优化,顺序不能反。
如果你关注的是Palantir本身:二季度营收19.4亿美元、同比增93%,全年指引上调到81.5亿美元以上,财报已经证明了需求端。东方财富而Evolve这类产品强化的是另一个故事——Palantir不押注任何一家模型厂商,把自己放在"裁判+教练"的位置上。接下来值得盯的信号,是后续财报电话会上Evolve的商业化进展,以及有没有更多像Tampa General这样带具体数字的客户案例出来。演示再漂亮,也要等账单说话。