张大妈

刚刚,DeepSeek悄悄测试新模型:百万token上下文、V4要来了?

源自今日头条:DeepTech深科技

02-11 23:11

DeepSeek在App和网页端开启灰度测试,将上下文窗口从128K大幅提升至1M token,知识库更新至2025年5月。结合近期GitHub代码线索及核心论文发布,此次升级极有可能是即将登场的V4旗舰前奏,长文本处理能力将迎来质变。

刚刚,DeepSeek悄悄测试新模型:百万token上下文、V4要来了?智能速览

  • DeepSeek灰度测试将上下文窗口提升至1M token

  • 知识截止日期更新至2025年5月,已能回答近期新闻

  • GitHub代码暗示“Model 1”架构进行重大重构

  • 新论文mHC和Engram为超长上下文提供技术支撑

  • 推测此次测试为春节前发布的V4模型前奏

刚刚,DeepSeek悄悄测试新模型:百万token上下文、V4要来了?精华内容

此次DeepSeek的升级并非简单的数值堆砌,而是基于底层架构的重构。从代码变动到论文发表,多项技术拼图正在指向一场长文本推理的革命。

百万级上下文

DeepSeek App和网页端已开始灰度测试,模型自述的上下文长度达到1M token,知识截止日期更新至2025年5月。此前仅128K的容量曾是短板,此次直接对标Google Gemini百万级别,使DeepSeek跻身长文本处理第一梯队。

架构重构信号

GitHub仓库FlashMLA更新中出现了代号为“Model 1”的神秘标识,与当前V3.2架构并行。代码显示其在KV缓存布局、稀疏性处理等方面存在明显差异,指向架构层面的重大重构,而非简单版本迭代。

新技术论文

近期发布的两篇论文为此提供了理论支撑。mHC解决了大规模模型训练稳定性问题,Engram模块通过“查算分离”架构,用O(1)复杂度哈希查找替代昂贵计算,能显著降低百万级上下文推理的计算开销。

V4前奏猜想

灰度测试版本反应速度似乎快于671B的V3系列,引发外界对其参数规模或为200B的猜测。虽然官方未披露具体参数和基准成绩,但结合春节前发布旗舰的时间表,此次测试极有可能是DeepSeek V4的前奏。

去年DeepSeek R1在春节前夕引发全球震动,今年的V4似乎也蓄势待发。百万上下文可能只是开胃菜,真正的技术变革或许还在后头。DeepSeek能否再次凭借架构创新改写大模型竞争格局,值得持续关注。

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章