随着AI模型能力趋稳，行业焦点正从训练转向推理。vLLM团队创立的Inferact，凭借其核心技术，获顶级资本1.5亿美元投资，旨在解决AI推理的效率与成本瓶颈，这预示着AI基础设施领域的新一轮变革。
智能速览
vLLM创始人成立AI推理公司Inferact，估值达8亿美元。
公司完成1.5亿美元种子轮融资，由a16z和光速创投领投。
AI行业瓶颈正从模型训练转向经济高效的推理环节。
Inferact核心技术源自开源项目vLLM，获数千开发者支持。
公司计划在延续开源的同时，开发独立的商业化产品。
精华内容
过去，AI发展的重心是训练更强大的模型；如今，如何高效运行这些模型成为新的挑战与机遇。
巨资入场
Inferact由vLLM原始维护者Simon Mo领导，宣布完成1.5亿美元种子轮融资，估值高达8亿美元。本轮融资由安德森·霍洛维茨基金和光速创投领投，红杉资本、Altitude资本等机构跟投。a16z与vLLM的渊源颇深，该项目曾是a16z“AI开源资助计划”的首个受助项目，这为此次深度投资奠定了坚实基础。
推理瓶颈
投资界普遍认为，AI行业的核心挑战正从模型训练转向推理环节。a16z合伙人Matt Bornstein指出，随着模型能力趋于成熟，开发者无需再等待重大模型升级，但其产品与模型的持续交互，正推高运营成本并对系统构成压力。他判断，推理瓶颈在未来几年将愈发严峻，成为制约AI应用普及的关键。
技术基石
Inferact的技术核心源自开源项目vLLM，该项目于2023年在加州大学伯克利分校启动，现已由PyTorch基金会监管，吸引了数千名开发者贡献。vLLM旨在帮助企业将AI模型高效部署于数据中心硬件。其应用广泛性已获巨头验证，据CEO Simon Mo透露，亚马逊不仅在云服务，甚至在其购物应用程序中也依赖vLLM运行内部AI系统。
商业路径
Inferact规划了清晰的双轨发展路径。首要任务是继续作为独立开源项目支持vLLM，并将所有改进回馈社区。其次，公司计划开发独立的商业产品，帮助企业更高效地在各类硬件上运行AI模型。Simon Mo强调，微小的效率提升都能对成本产生显著影响，这正是Inferact的商业价值所在。
Inferact的诞生与巨额融资，标志着AI基础设施战场正从“训练”向“推理”延伸。在开源与商业的结合下，它能否真正攻克推理成本与效率的世纪难题，值得整个行业密切关注。
