年入50亿的量化基金,如何养出估值200亿的DeepSeek?
源自52位全网作者
14:06
精选参考来源
1
各位被量化反复收割的投资者,给大家读一篇能看到未来希望的文章,正在发生。
DeepSeek用的是什么底层架构 幻方量化的模型是deepseek吗 未来有什么技术颠覆DeepSeek?
一、DeepSeek 底层架构(一句话:Transformer + MoE + MLA 混合架构)
- 基座:标准 Transformer 编码器-解码器(自回归)
- 核心创新:MoE 3.0(混合专家)+ MLA(多头潜在注意力)
- MoE 3.0:总参量极大(V3 671B),但仅激活约 37B(≈5.5%),推理成本极低
- MLA:把 KV 缓存压缩 50%+,注意力从 O(n²) 优化到 O(n),长序列更快更省显存
- 推理优化:FlashMLA、DeepEP、FP8 混合精度、多词元预测(MTP)
- 一句话总结:用 MoE 做大、用 MLA 做快、用稀疏化做省,是当前效率最高的 Transformer 变体之一
二、幻方量化 vs DeepSeek(关系清晰,不是一回事)
- 关系:
- DeepSeek(深度求索)由幻方量化全资孵化、梁文锋同一创始人
- 幻方提供初期资金、萤火超算算力、AI 方法论(MoE/强化学习)
- 但模型与交易系统物理隔离:DeepSeek 用公开语料,幻方用金融私有数据
- 结论:
- ❌ 幻方量化不是直接用 DeepSeek 做交易
- ✅ 两者技术同源、架构共享、团队同源,但业务完全独立
三、未来可能颠覆 DeepSeek 的 5 大技术(按颠覆力度排序)
1. SSM/Mamba 新架构(最可能颠覆)
- 核心:O(N) 复杂度、无注意力、长序列(百万 token)、推理快 5–10 倍、显存省 30–50%
- 代表:Mamba、RWKV、Yan AI
- 颠覆点:彻底绕开 Transformer 的 O(n²) 瓶颈,MoE 的效率优势被抹平
2. 神经符号/世界模型(认知级颠覆)
- 核心:神经网络 + 符号推理 + 因果/逻辑/数学公理,解决幻觉、数学、推理弱问题
- 代表:DeepMind AlphaGeometry、MIT LILAC
- 颠覆点:从“统计拟合”到“理解+推理”,DeepSeek 这类纯大模型会被降维打击
3. 专用硬件+新架构(算力代际差)
- 核心:为 SSM/Mamba 做专用 ASIC/光子/存算一体,能效比提升 10–100 倍
- 代表:MatX(Mamba 专用)、Olix(光子)、爱芯元智
- 颠覆点:算力成本降 90%+,新公司用新硬件+新架构弯道超车
4. 自进化/合成数据(数据飞轮颠覆)
- 核心:AI 自我博弈、自我标注、自我对齐,无需人工数据
- 代表:Anthropic 宪法 AI、Minimax 自生成数据
- 颠覆点:DeepSeek 依赖的海量标注数据壁垒失效,新公司数据成本趋近于零
5. 量子/丛子计算(远期终极颠覆)
- 核心:量子比特处理指数级复杂度,解决当前大模型无法处理的问题
- 颠覆点:彻底重构计算范式,但 5–10 年内商用可能性低
四、一句话结论
- DeepSeek = Transformer + MoE + MLA,是当前效率最优的大模型之一
- 幻方与 DeepSeek 同源不同用,独立运营
- 未来颠覆者:Mamba/SSM 新架构 + 专用硬件 + 神经符号推理,新公司最有机会
2
量化转型(八)幻方量化平台深度剖析(梁文峰,DeepSeek)
全部
来源
来源
内容由AI生成
0
0
0评论
当前文章无评论,是时候发表评论了
提示信息
取消
确认
评论举报
已收藏
去我的收藏夹