刚刚,DeepSeek悄悄测试新模型:百万token上下文、知识库更新,V4要来了?

源自公众号:DeepTech深科技

02-11 22:19

DeepSeek 正在灰度测试一项重大升级,其模型的上下文窗口长度直接从128K跃升至1M token,知识库也更新至2025年5月。结合代码线索和近期发布的技术论文,这次升级很可能预示着新一代旗舰模型V4的即将到来,展现其在长文本处理领域的野心。

刚刚,DeepSeek悄悄测试新模型:百万token上下文、知识库更新,V4要来了?智能速览

  • DeepSeek新模型上下文窗口提升至1M token。

  • 模型知识截止日期更新至2025年5月。

  • GitHub仓库出现代号为“Model 1”的神秘模型标识。

  • 近期发布的mHC和Engram论文为长上下文推理提供了技术基础。

  • 此次灰度测试被外界视为V4模型发布的前奏。

刚刚,DeepSeek悄悄测试新模型:百万token上下文、知识库更新,V4要来了?精华内容

这次百万token上下文的升级并非简单的参数堆砌,其背后是DeepSeek在模型架构上的深层变革,多个技术线索共同指向一个更强大的新版本。

上下文飞跃

DeepSeek此次升级最引人注目的是上下文窗口从V3系列的128K token直接跃升至1M token,提升了近8倍。这一进步使其直接对标Google Gemini系列,跻身行业第一梯队,彻底扭转了此前在长文本处理能力上的短板。

对于需要处理整本书、完整代码库或长篇财报的用户而言,这意味着模型能够更精准地捕捉和理解全局信息,减少关键细节的丢失。

知识库前瞻

与上下文窗口同步升级的还有模型的知识库。其知识截止日期从此前的版本更新到了2025年5月,这意味着在不联网的情况下,模型已经能够准确回答发生于2025年4月的新闻事件。

这一特性显著提升了模型在处理时事、分析近期趋势方面的能力,让生成的内容更具时效性和参考价值,避免了因知识陈旧导致的信息滞后问题。

架构新猜想

代码层面的线索也为这次升级提供了佐证。DeepSeek的GitHub仓库中出现了代号为“Model 1”的神秘模型标识,其在KV缓存布局和稀疏性处理上与现有V3.2架构存在明显差异,指向了一次重大重构。

结合近期发布的mHC和Engram论文,后者的“查算分离”架构尤为关键。它通过哈希查找替代昂贵计算,能将高达1000亿参数的嵌入表卸载到CPU,使GPU专注推理,理论上可显著降低百万token上下文带来的巨大计算开销。

V4前奏

种种迹象将此次灰度测试与即将发布的V4旗舰模型紧密联系起来。发生在DeepSeek-R1发布一周年之际,与传闻中2月中旬春节前后发布V4的时间点吻合。

根据部分用户测试,新版本的响应速度似乎明显快于拥有671B参数的V3系列,引发其可能为200B级别模型的猜测。尽管具体参数规模、架构整合情况及基准测试表现尚待官方公布,但百万token上下文的灰度测试无疑为V4的登场奏响了序曲。

DeepSeek通过百万token上下文的灰度测试,展示了其在追赶和引领AI技术前沿上的决心与实力。这不仅是一次技术参数的突破,更可能预示着模型应用范式的革新。真正的重头戏是否会在春节期间揭晓,无疑吊足了整个行业的胃口。

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章