DeepSeek团队开源了新论文《Engram》，为大模型设计了一个“记忆外挂”。该架构将知识记忆与逻辑推理分离，不仅显著提升了模型在多项基准测试中的性能，更通过降低显存依赖，为企业部署AI带来了新的降本增效思路。
智能速览
DeepSeek开源新架构Engram，为大模型添加“记忆外挂”。
Engram将“死记硬背”与“逻辑推理”剥离，优化计算资源分配。
实验数据显示，该架构在多项能力评测上获得显著提升。
通过将记忆表移至内存，极大降低了企业部署AI的硬件成本。
精华内容
Engram的核心创新在于，它重新定义了模型的记忆与计算分工，这种架构上的巧思带来了性能与成本的双重突破。
记忆外挂是什么
传统大模型在回答任何问题时，都需要调动全部参数进行一次完整运算，哪怕只是简单的常识问答，也像用微积分计算基础加法，造成了巨大的算力浪费。Engram的设计思路是为模型提供一个外部记忆模块，专门用于存储固定的答案、常识和公式等知识。当遇到相关问题时，模型可以直接从这个“笔记本”中查询，而非重新计算。
剥离记忆与计算
这项工作是DeepSeek对模型架构的持续优化。此前，MoE（混合专家）架构通过按需调用特定专家网络，有效解决了“算得贵”的问题。而Engram则专注解决“记不住”的痛点，它与MoE协同工作，形成“MoE负责推理，Engram负责记忆”的新范式。这种明确的分工让模型运行更为高效。
性能显著提升
DeepSeek的实验数据证实了这一架构的有效性。研究团队将模型20%-25%的参数分配给Engram作为记忆单元，其余部分用于MoE计算。结果显示，模型综合能力得到全面增强：MMLU（综合能力）从57.4提升至60.4；BBH（推理能力）从50.9提升至55.9；HumanEval（代码生成）和MATH（数学解题）也分别获得了3.0和2.4的增长。
企业部署降本
对于企业而言，部署大模型最大的成本之一在于显存。模型参数必须常驻昂贵的GPU显存中，而Engram通过巧妙的索引机制，让系统能够预测下一步所需数据。这意味着庞大的记忆表可以存放在成本相对低廉的内存中，仅在推理时将少量必要数据加载到GPU。这种设计将显存容量压力转移至内存，显著降低了硬件投入门槛。
Engram的出现，是一次务实的架构创新，有效平衡了大模型的性能与成本。它为解决企业部署痛点提供了具体方案，这种将记忆外挂化的思路，或许会开启大模型普惠化应用的新篇章。
