科大讯飞星火X2.5发布,293B参数全靠国产算力训推,手机端跑百万上下文
源自234位全网作者
09-07 17:15
精选参考来源
1
#8月大模型日均发布1.1个#内卷的风也刮到大模型行业了。8月大模型行业进入“日均发布1.1个”的高频迭代节奏,月内有30余个开源模型/项目更新。其中,国产模型占据主导地位。DeepSeek、千问、智谱、腾讯混元、商汤、蚂蚁等密集开源,覆盖端侧部署、多模态、视频生成、Agent等方向。Claude、ChatGPT、Gemini等海外模型同步迭代,但开源节奏明显不及国产阵营。另外,国产开源阵营集体换挡,竞争焦点正从“拼参数”转向“拼计算效率与场景落地”。多款MoE模型将总参数推至数百B,单次推理仅激活数B至数十B,以有限计算量承载更大能力容量,以降低成本提升效率。Agent、AI编程、具身智能持续升温,AI竞争走向产品能力与实际应用。截止到6月,我国日均token调用量已突破500万亿,OpenRouter上中国模型Token调用占比从去年4.5%飙升至50%以上,前五全为中国模型,算力需求爆发式增长。#老张聊科技# #8月大模型日均发布1.1个#
2
海光DCU又干了一件漂亮事——腾讯Hy4 preview发布当天,海光DCU就完成了推理全流程适配,发布即支持。
770B总参数、49B激活参数的MoE架构,Gated MLA、iHC、learnable sink这些新结构,腾讯前脚刚开源,海光后脚就适配上了。这不是简单的“能用”,是真刀真枪的“
全部
来源
来源
内容由AI生成
0
0
0评论
当前文章无评论,是时候发表评论了
提示信息
取消
确认
评论举报
最新文章
热门文章
-
罗永浩,又又又被电视气到发飙了!243 413 -
40岁一到,那股"洗不掉"的味就开始找上门了!116 82 -
【评论有奖】你家最难清理的地方是哪?最后怎么搞定的?140 242
已收藏
去我的收藏夹