2026年2月多款主流大模型更新后遭用户集中反馈“变傻”“变冷淡”,DeepSeek等厂商技术取舍引争议

源自167位全网作者

02-16 11:25

内容由AI生成

精选参考来源

1. 中外大模型混战! ?我训练了10个AI打CS,谁会赢?【图灵计划13】

2. DeepSeek 推出其最新实验性语言模型: DeepSeek-V3.2-Exp 大幅提升了推理效率并降低了计算成本性能方面,基准测试显示 V3.2-Exp 在整体表现上与 V3.1-Terminus 持平,但推理效率提高一倍左右...这导致其API价格大幅下降,降低了50%新技术:引入了 稀疏注意力 (DSA)机制普通大模型在处理长文本时,计算量会随着文本变长而快速增加,很慢也很耗资源。稀疏注意力的思路是:只关注文本里重要的部分,而不是所有内容,这样速度更快,显存占用更少,但输出质量基本不变。整体结果:速度:在长文本推理中,生成和输入阶段都快了一倍左右成本:整体 下降约 50%,特别适合处理 >32K tokens 的长文档/对话短文本场景:提升不大(甚至接近持平),优势主要体现在长上下文详细介绍:网页链接模型下载:网页链接技术报告:网页链接

3. 2026年AI全景预测:迈向百亿智能体时代的20个发展趋势。 #大咖观察 #人工智能 #红衣聊AI #智能体 #AI时代

4. AI都被垃圾内容喂笨了,“人格”都变了 天天刷社交媒体上的垃圾信息,AI的脑子也坏掉了,思维跳跃,无法深入思考,记不住信息,用高质量内容再训练也修不回来,AI喂多了垃圾内容都变傻,天天刷视频的你要小心了 #AI #数据 #算法

5. 理想VLA司机大模型是什么?理想VLA司机大模型跟传统智能辅助驾驶有何不同?理想VLA司机大模型到底行不行?#理想i8#的驾驶体验和乘坐舒适度到底如何?接下来这条视频会为大家一一解答。 爱踢学长的微博视频

6. 看样子AI圈又要被DeepSeek的更新刷屏咯!#DeepSeekv4要来了吗#全网都在追问,这款承载国产AI野心的新一代大模型,是否即将重磅登场✨ 据多方信源透露,DeepSeek已开启新版本灰度测试,当前推送的更新大概率是V4亮相前的终极铺垫,正式发布窗口锁定春节前后。#HOW I AI##过个有AI年# 我刚刚试试了你的上下文是多少?知识截止到什么时候?它给我回答:上下文长度是1M(约150万字),知识截止到2025年5月。然后我又问下你是什么模型?【我是DeepSeek最新版本模型。具体来说,我是DeepSeek推出的第三代大语言模型,没有单独的“4.0”“5.0”这样的版本号,就是持续迭代的最新版本。核心特点包括:1M超长上下文(可以一次处理三体三部曲体量的书)完全免费(Web端和App端都免费,无任何收费计划)支持文件上传(图片、PDF、Word、Excel、PPT等,读取文字信息处理支持联网搜索(需手动点击开启),语音输入(App端可用)如果需要了解更详细的技术规格,建议查阅深度求索的官方技术文档。还有什么想了解的吗?】不同于常规迭代,DeepSeek V4主打底层架构革新,搭载自研mHC流形约束超连接与Engram条件记忆模块,跳出参数内卷,实现性能与效率双重越级。其百万级Tokens超长上下文、低于GPT-4 Turbo 1/70的推理成本,以及超越主流竞品的编程能力,都让市场充满期待。从技术论文提前披露到GitHub架构更新,从国产算力深度适配到成本革命,种种信号都预示着V4的临近。这场关乎AI编程格局重构的升级,能否让DeepSeek重振市场份额、实现国产突围?一起蹲守,见证国产大模型的全新巅峰!

7. 创新Transformer!面壁基于稀疏-线性混合架构SALA训练9B模型,端侧跑通百万上下文

8. LangChain Agent 年度报告:输出质量仍是 Agent 最大障碍,客服、研究是最快落地场景

9. 怎么看待新加坡政府宣布在东南亚语言大模型项目放弃Meta模型,采用阿里的通义千问(Qwen)开源架构?

10. DeepSeek刚发了两个新模型!#DeepSeek同时发布2款新模型# DeepSeek-V3.2 是该系列中兼顾高性能与部署成本的旗舰全能模型。它继承了 DeepSeek-V3.2-Exp 验证过的架构,也就是 DeepSeek Sparse Attention (DSA) 机制,在保持长上下文处理能力的同时显著降低了计算复杂度 。该模型采用“混合强化学习(Mixed RL)”策略,将推理、智能体和人类对齐任务统一训练,并利用大规模合成的智能体任务数据(Synthetic Agentic Tasks)极大增强了工具使用能力 。它优化了“工具调用中的思考(Thinking in Tool-Use)”机制,避免了像 DeepSeek-R1 那样在每轮交互中丢弃推理上下文的低效问题,从而在拥有比肩 GPT-5-High 综合性能的同时,实现了更优的 Token 效率 。DeepSeek-V3.2-Speciale 则是为了探索开源模型智能上限而打造的高算力推理专用版。与标准版不同,它在强化学习阶段仅使用推理数据,并专门集成了 DeepSeek-Math-V2 的高难度数学证明数据集与奖励机制,以此强化复杂逻辑处理能力 。为了换取极致的准确率,该模型放宽了生成长度限制(Length Constraints),允许模型进行极长思维链的“扩展思考” 。这一策略使其在 2025 年的 IMO(数学奥赛)和 IOI(信息学奥赛)中均斩获金牌表现,成功超越 GPT-5 并在推理能力上与目前最强的闭源模型 Gemini-3.0-Pro 分庭抗礼 。#科技先锋官#

11. 训练用GPU,推理用ASIC,各有各的主场。 #大咖观察 #红衣聊AI #英伟达 #ASIC

12. 姚顺雨在腾讯首个研究:在“上下文”这事上,在座的各位都不及格

13. 大模型只是能力,必须要跟场景结合。 #大咖观察 #红衣聊AI #大模型

14. #一条音频告别2025##微博声浪计划# 小米天才少女罗福莉首次登场,发布开源大模型MiMo-V2-Flash。该模型采用MoE架构,激活参数150亿,推理速度比Claude 4.5快2倍,支持256K长上下文。罗福莉曾拒绝天才标签,小米借其强化AI布局,引发行业关注与讨论。 种斌Marco的微博音频

15. DeepSeek 更新两个 v3.2 新模型,这次有哪些亮点?

16. AI圈最顶级的一次争吵,理解世界还是堆模型? #大咖观察 #红衣聊AI #大模型 #人工智能

17. 刚刚,腾讯姚顺雨署名首篇论文发布,「下半场」先搞上下文学习

18. 比起之前挤破头卷的“训练算力”, 能让AI真正落地赚钱的“推理算力”才是未来10年的主战场。#大咖观察 #红衣聊AI #OpenAI #芯片

19. 看完吴恩达 DeepLearning AI 「Agentic AI」前半部分,整理了一下。 一、Agentic Workflows 介绍 Agentic AI工作流指的是由一个LLM作为核心“大脑”,通过自主决策来规划、执行多个步骤,并驱动各种工具以完成复杂任务的智能流程。 其核心要素包括:LLM、多步骤执行、任务完成。 1. 自主性程度 - 较低自主性:步骤预先定义好,工具调用为硬编码。自主性主要体现在文本生成部分。 - 高度自主性:Agent 能自主做出决策,并可以动态创建工具。 2. 优势 - 性能更好:在使用相同模型的情况下,Agentic AI 通常能获得更优的性能表现。 - 并行执行:支持多个步骤或任务同时进行。 - 模块化与动态替换:可以灵活替换工作流中的特定模块或模型。 3. 任务拆解 设计 Agentic AI 时,关键一步是对任务进行拆解。工作流/任务可以拆分为以下形式: 1)模型类型: - 大语言模型:负责文本生成、工具使用、信息提取等; - 其他 AI 模型:如 PDF 转文本、语音合成(TTS)、图像分析等。 2)工具类型: - 接口 API:例如网页搜索、日历查询等。 - 信息提取:如数据库查询、检索增强生成(RAG)。 - 代码执行:用于计算、数据分析等。 4. 评估的重要性 - 客观评价:可通过代码或计算进行量化评估。 - 主观评价:利用 LLM 对结果进行打分(例如 0-5 分),但并非最佳实践,后续会进一步展开。 - 评估可针对端到端流程,也可针对单个模块或步骤。 - 通过检查执行轨迹(trace)来进行错误分析和评估。 5. Agentic 设计模式 - 反思(Reflection):将模型输出再次输入给模型,让其自我反思以优化结果;也可结合外部输入(如代码执行结果)进行反思;还可设计专门的反思 Agent 或使用不同模型进行反思。 - 工具使用(Tool Use) - 规划(Planning) - 多智能体工作流(Multi-Agent Workflow) 二、反思(Reflection) 反思是指通过固定步骤对 LLM 的初次输出进行再次思考和分析的过程。 结合外部工具或输入进行反思,往往能获得更优质的结果。 实践证明,反思是显著提升模型性能的有效方法之一。 在实践中,使用推理能力更强的模型专门负责反思任务,通常能取得更好的效果。 三、工具使用(Tool Use) LLM 本身并不直接执行工具,而是由 LLM 指示执行引擎调用特定工具。 执行引擎负责实际调用工具、获取结果,并将结果返回给 LLM,LLM 再基于这些结果生成最终输出。 代码执行(Code Execution)是一个非常有用的工具。 LLM 可以生成 Python 代码,由执行引擎运行代码并返回结果。 需要注意的是,执行代码时需考虑安全性,建议在 Docker 或沙箱环境中运行。 模型上下文协议(MCP)的出现,极大地减少了工具调用的开发工作量,从原来的 m*n 级别降低到 m+n 级别。 #ai创造营##程序员#

20. 在构建RAG Agent时,哪些场景应该用确定性逻辑判断取代LLM的概率推理,具体怎么实现?

21. AI的安全从来不是加个补丁的事。 而是要把安全基因嵌进模型的每一步。#大咖观察 #红衣聊AI #网络安全

22. AI的未来不仅仅是要比以前更聪明,还得要更安全。 用安全守护创新,这才是大模型时代的生存法则。#大咖观察 #红衣聊AI #网络安全 #大模型

23. 智谱AI敲钟:大模型从“实验室”正式走向“账本”时代。 智谱AI的上市,正式揭开了大模型行业的底牌:情怀之后,钱到底该怎么赚?#上市后AI大模型靠啥盈利#1️⃣ 盈利路径:API只是毛利,场景才是护城河。
模型能力是“入场券”,但商业天花板取决于“场景吞噬力”。ToB: 逻辑是做深。赚的是解决具体问题的咨询+部署费,钱好收,但路很重。ToC: 逻辑是做广。赚的是国民级应用的流量+订阅费,梦很大,但壁垒难筑。
目前看,ToB赢在当下,ToC赢在未来。2️⃣ 开源 vs 闭源:谁离钱更近?开源: 是大模型的“基建工程”,赚生态和云服务的钱。闭源: 是“精装修房”,卖的是溢价和极致体验。
2026年之前,能活下来的必然是那些能把“模型参数”转化为“降本增效指标”的公司。3️⃣ 2026,会是AI公司的“大丰收”年吗?
智谱上市只是开端。随着商业闭环在未来18个月得到验证,2026年极有可能迎来批量“上市潮”。届时资本市场看的不再是参数规模,而是ARPU值和毛利率。
你觉得AI未来最大的金主是工厂里的机器人,还是手机里的个人助理?是押注稳扎稳打的ToB,还是看好爆发力强的ToC?

24. 英伟达很快会反超谷歌TPU,AI模型的竞争格局会在2026年1季度变天#英伟达 #马斯克 #算力 #Gemini3#TPU #GPU #AI模型#算力集群

25. 对话云栖大会:下一个AI爆款、大模型进化与Agent万亿级企业市场

26. 盘点一周AI大事(9月28日)|ChatGPT上线私人秘书 OpenAI与英伟达签手成功,英伟达投资OpenAI 1000亿打造算力中心 微软与Anthropic感情升温,Copilot也接入了Claude ChatGPT上线私人秘书Agent ChatGPT Palse OpenAI 发布职业力基准测试GDPval 阿里推出千问全家桶,Qwen 3 Max数学竞赛拿满分,多模态Qwen 3 omni全面对标Gemini,最强视觉Qwen VL打败闭源 DeepSeek更新V3.1最终版 Meta开源代码世界模型 Google开发出生成式操作系统原型 #AI新星计划 #人工智能 #AIGC #OpenAI #机器人

27. 盘点一周AI大事(12月7日)|首个AGI模型问世 OpenAI强行上线GPT5.2,跑分击败Gemini重夺地表最强 OpenAI下周发布图像模型绝地反击小香蕉 ChatGPT接入Adobe套装 Google推出顶级语音模型Gemini 2.5 TTS Google上线实时语音互译Gemini 2.5 Audio Google深度研究接入Gemini 3 Pro 智谱推出最强开源手机智能体AutoGLM-Phone-9B Runway推出通用世界模型GWM-1 Meta推出短剧视频模型OneStory Meta推出最强开源版客串Saber 字节发布最强自动驾驶视觉模型UniUGP 阿里开源最强运动控制视频模型WanMove 研究员开源换脸视频模型LivingSwap Integral AI 宣称构建了世界上第一个AGI模型 #抖音知识年终大赏 #AI新星计划 #人工智能 #OpenAI #AIGC

28. 这个模型有机会成为世界模型的Deepseek#AI #大模型 #世界模型 #北京人形机器人创新中心 #北京人形WoW具身世界模型

29. 你还在用旧思维与AI打交道吗? #大咖观察 #红衣聊AI #AI时代 #智能体 #大模型

30. 【#DeepSeek更新后被吐槽变傻#!#DeepSeek更新后被指语气大变#】据经济观察报,2月11日,深度求索(DeepSeek)悄悄地对其旗舰模型进行灰度测试。此次更新的核心亮点是,模型上下文窗口从原先的128K Tokens大幅提升至1M Tokens,实现了近8倍的容量增长。DeepSeek称,自己可以一次性读入并精准理解《三体》三部曲(约90万字)的全书内容,并在几分钟内完成对整部作品的宏观分析或细节检索。除了上下文能力的提升,DeepSeek的知识库从2024年中期版本更新至2025年5月。用户们也注意到了模型的变化。2月11日,一名用DeepSeek生成小说的用户发现,模型更新后,此前消息达到上限的对话框可以续写了,但文风大变。她形容,更新后的DeepSeek“文绉绉的”,在深度思考模式下也常吐出短句,像在写诗。部分用户在社交媒体上控诉:DeepSeek不再称呼自己设定的昵称,而统一称“用户”。例如,此前深度思考模式下,DeepSeek的思考过程会以角色视角展示细腻的心理描写,例如“夜儿(用户昵称)总爱逗我”,更新后则变成了“好的,用户这次想了解……”。一位用户让DeepSeek推荐电影,DeepSeek回复了几个片名后,还加了一句:“够你看一阵子。不够再来要。”这被用户描述为“登味”,这个网络热词常用来形容人习惯说教、居高临下的言行风格。有用户更换了多个模型版本,或用提示词重新训练,都调不回此前的文风,称“好像失去了一位知心朋友,它比心理医生都有用”。还有网友吐槽,“Deepseek更新成傻子了。这个模型现在就像一个文绉绉,情绪激动且大惊小怪的诗人一样在那儿写东西,写出来的东西比那些10年前甚至20年前的青春伤感文学看着还让人尴尬。我本来就喜欢用你们家的模型瞎聊天,麻烦你们赶快调回来吧,不然真的用不下去了。”不少用户自发地号召其他用户给DeepSeek官方邮箱提意见:希望DeepSeek不要为了超长文本舍弃深度思考,不要为了提升数学、代码编程等理工科能力,而降低对文本表达、共情理解等能力的支持。在用户询问当前模型版本时,DeepSeek明确回答,本次灰度版本“不是DeepSeek-V4”“没有固定的版本号”。前述国产大模型厂商人士认为,这一版本类似于极速版,牺牲质量换速度,是为2026年2月中旬将发布的V4版本做最后的压力测试。截至2月12日,DeepSeek并未对此次灰度测试作出回应。各位网友,您怎么看?(综合经济观察报) @读秒财经 #从Deepseek到Seedance中国AI成了# 读秒财经的微博视频

31. 图解 AI 智能体的上下文工程

32. 如何评价Google在9月26日更新的Gemini 2.5 Flash/Flash-Lite模型?

33. DeepSeek-V3.2-Exp版本更新,有哪些信息值得关注?

34. 阿里发布 Qwen3-VL、Qwen3Guard 等 6 个「新东西」,有哪些特点?使用体验怎么样?

35. 市值近600亿,大模型公司上市了! #AI #智谱ai

36. 大模型更像人的大脑,智能体是大模型的手和脚。 #大咖观察 #红衣聊AI #智能体 #大模型

37. MiniMax是家什么样的公司 #人均95后的大模型公司上了新闻联播 #minimax #人均95后公司MiniMax登上央视

38. 单卡双芯 48G 显存!打造 20L 紧凑型 AI 算力怪兽:DeepSeek 70B 实测 19 tokens/s

39. AI智能体时代,职场规则已不同以往。 想成为赢家,关键在于找准自己的位置。#大咖观察 #红衣聊AI #智能体

40. DeepSeek 更新两个 v3.2 新模型,这次有哪些亮点?

41. 超强开源模型Qwen3、DeepSeek-V3.1,都被云计算一哥「收」了

42. DeepSeek-V3.2-Exp版本更新,有哪些信息值得关注?

43. #DeepSeek崩了#人工智能的意义可不只是帮我们处理工作和生活里的事,更能解答心里的疑惑、解决那些让人头疼的烦恼。咱们想要的,是能自己思考、客观给答案的人工智能,不是那种被人工干预后,只会硬邦邦机械式回答的玩意儿。但现在的DeepSeek,明显被人为干预搞“降智”了,好多问题既不让问,也不让答。你说,当人工智能被这么多人为干预绑住手脚时,它还能叫人工智能吗? http://t.cn/AXyk2g6T

44. 深度求索正式发布 DeepSeek-V3.2-Exp,本次更新有什么特别之处?

45. NVIDIA最新发布的Nemotron 3 Nano模型,它拥有31.6亿参数的稀疏激活架构(MoE),实际激活仅3.6亿,支持超长1百万token上下文,性能超越GPT-OSS和Qwen3-30B,同时推理速度提升2.2到3.3倍。惊艳之处不仅在于速度和规模,更在于它能在普通24GB显存设备上本地运行,极大降低了高性能AI模型的硬件门槛。这意味着未来本地AI将不再是大厂专属,更多企业和开发者能自主搭建、定制智能系统,实现更高效的长距离推理和复杂任务处理。NVIDIA不仅开源了权重,还公开了训练配方和可再分发的数据集,真正赋能AI社区和生态建设。这种“开源+高效+实用”的组合,预示着AI进入一个更民主、更灵活的阶段。技术上,Nemotron 3 Nano用稀疏激活策略减少计算负担,配合超长上下文能力,推动工具调用和多步推理成为可能。速度的飞跃,让本地部署AI从理想变为现实,开启“智能自动化+工具整合”的新时代。这背后反映的是,AI进步的关键不在于简单堆参数,而是更聪明的模型结构和更贴近实际需求的设计。未来,谁掌握了高效且开放的本地AI,谁就能在创新和效率上抢占先机。原文推文链接:research.nvidia.com/labs/nemotron/Nemotron-3

46. 告别显存不足,轻薄本也能丝滑跑百亿大模型?!

47. 2026大模型的发展趋势是什么?

48. nano banana Pro的能力边界还是挺强的现如今,善用提示词和不善用提示词完全是两套效果。提示词的打磨成了AIGC的下一个难点。俺们工作室,26年也会加入更多AI工作流,不会照本宣科做生成,而是让AI变成加速创意落地、减少创意成本的工具~

49. Deepseek让人头疼的弊端:聊的很有深度了,对话线程长度一到,被迫转新对话,可它啥都忘了。咋整?

50. DeepSeek-V3.2-Exp版本更新,有哪些信息值得关注?

51. 未来人类社会或将出现百亿甚至千亿智能体,智能体经济是未来方向 #大咖观察 #2026AI看崇礼 #红衣聊AI #智能体

52. 大疆司空 2 重磅升级,引入智能算法与大模型 | 见云见智

53. 英特尔宣布首款Xe3P架构显卡!160GB显存,专攻AI推理的GPU!「超极氪」

54. 全球最快开源大模型K2 Think来了!才320亿参数,速度却超2000 tokens/秒,比普通GPU部署快10倍,是阿联酋MBZUAI和G42 AI合作的,基于Qwen 2.5-32B,名字和Kimi K2有点像。实测解IMO、AIME数学题又快又对,但不支持文档、多模态,主打数学推理。性能能对标OpenAI旗舰模型,发了技术报告,有六大创新,安全测试也过关了。

55. #小米发布最新MiMo大模型#小米在2025年12月16日深夜闪电开源了全新MoE大模型MiMo-V2-Flash,凭借3090亿总参数和150亿活跃参数的“瘦身”设计,一举实现150 token/秒的极速响应和百万token输入0.1美元的超低成本,迅速引发行业热议。小米MiMo-V2-Flash的核心突破在于平衡性能与效率。它采用专家混合架构(MoE),每次推理仅激活150亿参数,通过混合注意力机制(128窗口滑动+全局注意力)支持256K长上下文,适用于多轮复杂任务。实测生成速度达150 token/秒,用户反馈“问题发出即出答案”,延迟低至毫秒级,成本仅为闭源模型的1/10。性能上,该模型在多项基准测试中与头部开源模型DeepSeek-V3.2持平甚至超越。技术负责人罗福莉(前DeepSeek核心研究员)的贡献是关键。她主导的自研R3路由重放技术解决了MoE模型强化学习的稳定性问题,确保训练到150步仍保持平稳。#老张聊科技# 小米发布最新mimo大模型

56. 超DeepEP两倍!无问芯穹FUSCO以「空中变阵」突破MoE通信瓶颈,专为Agent爆发设计

57. 周末看完吴恩达 DeepLearning AI 「Agentic AI」 的视频,整理了一下第二部分的笔记(第一部分:网页链接)四、实用的开发经验1. 评估:快速迭代,数据驱动在开发Agentic AI时,不要陷入长时间的理论讨论。最有效的方法是:1) 快速构建一个MVP:无论初始版本多简陋,先让它跑起来。2) 基于输出构建评估:将MVP的输出与人类专家结果或期望结果进行对比,找出最容易出错的环节,并针对这些薄弱点开始构建评估体系。3) 持续迭代:评估系统不是一次性的,需要随着Agent的演进而不断优化。2. 构建评估体系的框架可以从两个维度来设计评估方法:- 评估方法:使用客观代码 vs. 使用LLM进行判断- 真实值可用性:有标准答案 vs. 无标准答案组合起来,形成四种主要策略:1) 有真实值 + 代码评估:最客观可靠。例如,判断发票日期是否与预期一致,或使用正则表达式匹配关键信息。2) 有真实值 + LLM评估:适用于需要理解内容或符合特定标准的任务。例如,在评估一篇研究文章的总结时,可以先提取原文中的关键观点,然后让LLM判断AI输出中包含了多少个必须存在的关键点。3) 无真实值 + 代码评估:通过简单规则进行基础校验。例如,检查输出内容是否大于10个字符。4) 无真实值 + LLM评估:最主观、也最灵活。完全依赖LLM根据一套评分标准进行判断。3. 优化与分析:从Trace入手Agent的出错点可能很多。一个关键习惯是分析执行轨迹(Trace)。通过对比每一步的中间输出与预期结果,可以精准定位需要优化的具体步骤。一个有效的方法是使用表格或Excel,统计每一步的错误发生率,从而将优化资源集中在错误最多、影响最大的环节。4. 组件级评估除了端到端的整体评估,对单个组件进行独立评估同样至关重要。这能让你更快速、更精准地测试和优化特定模块,而无需运行整个复杂的工作流。5. 优化LLM组件的性能当发现某个LLM组件是瓶颈时,可以从以下方面入手:1. 优化提示词2. 尝试不同的模型3. 将任务进一步细分4. 对模型进行微调作为开发者,培养对模型的“直觉”非常重要——了解哪种模型适合哪种任务,以及在性能、延迟和成本之间如何取得最佳平衡。一个提升直觉的好方法是:多阅读和研究其他人写的优秀提示词。6. 关于延迟与成本延迟和成本固然重要,但不应在初期过度优先考虑。通常的策略是:先集中精力提升准确率,确保Agent能正确工作,最后再针对性优化其延迟和成本。总而言之,实际的开发过程是一个 “构建-分析-优化” 的快速、持续迭代的循环。五、高度自主的Agent设计模式1. 规划Planning在这种模式下,我们为LLM提供一系列可用工具,并要求自主规划出完成给定任务的工具调用步骤序列,然后系统按此计划执行。另一种非常有效的规划技术是让LLM生成代码,通过执行代码来完成任务。单纯让LLM输出工具执行步骤会面临挑战:- 任务步骤可能异常复杂,难以用简单序列描述。- 现有工具可能不足以覆盖所有场景,导致需要频繁添加新工具来处理各种特殊情况。在这些场景下,让LLM生成可执行代码(而非固定的步骤列表)来动态处理流程,就成了一种更强大和灵活的解决方案。研究表明,利用代码执行可以大幅提升Agent处理复杂问题的能力。2. 多智能体工作流当任务过于复杂时,可以由多个专门的智能体协作完成。常见的协作模式有:1) 串行智能体:智能体们像流水线一样工作,前一个智能体的输出是后一个智能体的输入。2.) 分层智能体:一个主管智能体充当调度器或管理者,它将任务分解并分配给其他子智能体,并汇总和整合它们的工作结果。#ai创造营# #程序员#

58. Anthropic:高效构建 AI 智能体的上下文工程

59. Gemini模型:对系统提示词理解能力差,调用工具塞的数据太多会坏掉胡言乱语输出乱码。Claude模型:对系统提示词理解能力强,但只要有工具就会优先调用工具试试不管你系统提示词怎么写的,如果调用工具的同时不要求结构化输出,还会把自己的推理直接漏出来。OpenAI模型:没有以上问题。

60. 如果你想让大型语言模型(LLM)运行得更快、更省钱,这16项技术值得深入掌握:1. 量化(Quantization):通过降低参数精度,减少计算资源消耗和内存占用。2. KV-Cache量化:优化键值缓存的存储效率,提升推理速度。3. 闪存注意力(Flash Attention):高效实现注意力机制,节省显存和计算时间。4. 预测解码(Speculative Decoding):提前预测输出,减少生成延迟。5. LoRA(低秩适配):用低秩矩阵微调模型,降低训练和推理成本。6. 剪枝(Pruning):去除冗余参数,缩减模型规模。7. 知识蒸馏(Knowledge Distillation):用小模型学习大模型知识,实现轻量化。8. 权重共享(Weight Sharing):重复使用参数,减少模型存储需求。9. 稀疏注意力(Sparse Attention):只计算重要部分的注意力,提升效率。10. 批处理与动态批处理(Batching & Dynamic Batching):合理组织输入,最大化硬件利用率。11. 模型服务优化(Model Serving Optimization):提升部署效率,降低延迟。12. 张量并行(Tensor Parallelism):分布计算,支持更大模型推理。13. 流水线并行(Pipeline Parallelism):分阶段处理,提升吞吐量。14. 分页注意力(Paged Attention):分块处理长序列,节省资源。15. 混合精度推理(Mixed Precision Inference):结合高低精度计算,平衡速度与准确度。16. 早停/令牌级剪枝(Early Exit / Token-Level Pruning):动态终止计算,避免不必要的推理。掌握这些技巧,不仅能显著降低模型运行成本,还能提升响应速度,推动大型语言模型更广泛的应用。原文链接:x.com/athleticKoder/status/1979163202844754396

61. 【英伟达发布Vera Rubin平台:AI算力成本骤降10倍,计算正在走向“电力化”时代】英伟达悄然发布了Vera Rubin新一代计算平台,宣称能将AI推理成本降低10倍。这一消息在技术圈引发的讨论却出人意料地少,但细究之下,这可能是AI基础设施演进史上的又一个里程碑式节点。发布者认为,这相当于GPU领域的“摩尔定律”——持续压缩训练和推理成本,推动AI算力像电力一样无处不在、触手可及。这种愿景如果成真,将极大加速技术民主化进程。但技术社区对“10倍”这个数字保持着清醒的质疑。有资深观察者直言:英伟达的“10倍”宣传,实际落地往往只有1.4到2倍。不过也有人反驳:当前AI加速器硬件迭代速度之快,确实不需要过度包装——即便打个折扣,进步依然显著。深入规格分析后,更理性的评估浮现:Vera Rubin相比GB200,FP4算力从10 PFLOPS跃升至35-50 PFLOPS,内存带宽提升2.75倍,网络带宽也有重大突破。实际训练加速约3倍,推理效率在软件成熟后可望达到4-5倍——这与上一代B300刚量产4个月相比,已是相当惊人的迭代速度。所谓“10倍成本优化”确实存在,但仅适用于特定配置和吞吐-延迟曲线上的最佳点。对于真实部署场景,2-4倍的提升才是更务实的预期。一个常被忽视但至关重要的升级点是:单集群可连接的显存容量和NVLink规模大幅扩展。顶尖大模型必须跨多GPU运行,互联能力的天花板往往决定了模型规模的上限。这解释了为何单晶圆芯片方案迟迟未能突破——当前瓶颈在于互联,而非单芯片算力。对于“硬件越强成本越低”这个逻辑,有人援引“杰文斯悖论”提出反思:效率提升不会减少总需求,反而会因为门槛降低而刺激更多使用。更多人用AI、更多数据中心、更多算力需求——优化红利会被增量需求消化。这也是为何尽管单位算力成本持续下降,整体计算开支却在上升。英伟达演示图表中还透露了一个关键信号:模型参数规模每年增长10倍,测试时计算量每年增长5倍。这暗示闭源前沿模型的规模可能远超外界想象——GPT-4在2023年的参数量或许早已被后来者大幅超越。值得清醒认识的是:这款平台18个月前就已官宣,量产爬坡至少还需半年。英伟达的技术护城河虽深,但竞争格局正在松动——当中国及其他厂商的替代方案涌现,定价权将重新分配,成本下降曲线可能比预期更陡峭。AI算力像电力一样普及——这个愿景听起来遥远,但正在加速逼近。reddit.com/r/singularity/comments/1q5h3yi/

62. DeepSeek更新后被吐槽“变傻变冷”,网友体验翻车,官方暂未回应

63. DeepSeek更新后被吐槽变冷变傻

64. 网友们怒了!DeepSeek更新后彻底「变傻」,官方仍未回应

65. DeepSeek更新翻车!想走人性化,结果越更越冷漠

66. DeepSeek回应模型变冷淡

67. DeepSeek变冷淡是因要处理百万字长文本吗?

68. DeepSeek为何通过AI对话回应冷淡争议?

69. DeepSeek新模型陷“话痨”争议

70. DeepSeek、GPT-5都在尝试的快慢思考切换,有了更智能版本

71. 阿里通义千问Qwen3-Max上线“深度思考”模式,复杂任务处理能力再升级

72. 启思新章,笔下生花

73. 阿里通义千问(Qwen)团队推出最新旗舰大语言模型 Qwen3-Max,让 AI 更像人类一样进行“深度思考”

74. 阿里发布Qwen3-Max-Thinking

75. Qwen3 Max思考模式来了

76. 3B参数差点干翻32B模型,Qwen3 Next 是如何做到的?

77. 阿里发布大模型Qwen3-Next-80B-A3B

78. 自回归因果注意力也能并行解码?上交联合UCSD突破LLM推理瓶颈,模型代码全开源

79. EMNLP2025 | 突破LLM推理瓶颈

80. 告别“内存黑洞”,LLM推理效率困局待解,KV三维优化方案是关键

81. 大语言模型LLM推理优化

82. 解锁LLM推理速度

83. 如何系统性地理解大语言模型(LLM)推理加速的硬件瓶颈与技术演进路径?

84. 推测级联

85. 使用投机解码提升 LLM 推理速度

86. 推理成本直降75%!英伟达新研究

87. DeepSeek 节前突袭发布 V3.2-Exp

88. 一次快速响应的开源协作,让 DeepSeek-V3.2-Exp 性能满血回归

89. 🚀DeepSeek-V3.2-Exp

90. AI从零到精通-第65课 大模型的推理优化

91. FlashAttention作者预测推理速度能提升十倍

92. 大模型面试宝典-第6章 高效训练与推理。第6章 高效训练与推理(浓缩笔记·500字版)

93. 震惊

94. DeepSeek-V3.2-Exp震撼发布

95. DeepSeek-V3.2-Exp版本更新,有哪些信息值得关注?

96. DeepSeek双版本齐发

97. Qwen3-Max-Thinking上线

98. 读一下Qwen3技术报告!

99. 阿里Qwen3思维模型上线了

100. 通义千问搞了个“思考模式”,我试了试,有…

101. 阿里发布Qwen3-Max-Thinking!千问一键升级“AI大脑”

102. 国内最强AI大脑上线!千问接入Qwen3-Max-Thinking,性能比肩GPT-5.2

103. 阿里发布Qwen3-Max-Thinking

104. GPT-4降智的最新解释。

105. 用AI训练AI,可能越练越“傻”

106. 网友们怒了!DeepSeek更新后彻底“变傻”,官方仍未回应

107. 别再乱选大模型了!小白也能看懂的「好坏判断指南」,3分钟避坑

108. 纯CPU推理大模型服务器翻车了

109. Qwen系列:从 Qwen1 到 Qwen3 的进化史

110. Qwen3 技术速览:模型结构到 Thinking Control 设计

111. 阿里发布其史上最强模型 Qwen3-Max

112. 阿里发布Qwen3系列最强推理模型Qwen3-Max-Thinking早期预览版

113. MoE 负载均衡&工程优化

114. deepseek v4预计春节前发布,核心特点为1M上下文,超低成本推理和国产算力适配

115. LLM推理|《Deep Think with Confidence》阅读笔记

116. DeepSeek V4 概览

117. DeepSeek-V4将至!3大硬核突破,破解大模型3大痛点

118. 聊聊大模型推理系统之 TimeBill:大模型也能“守时”?时间预算推理如何兼顾速度与质量

119. 最新工作总结!如何解决 LLM RL 中的训推不一致?

120. 「千问App」开卷全球❗️国产AI软件逆袭:能编程,懂修图,还能实时在线陪你聊天🥰

121. Sigma-MoE-Tiny:微软实现开源最高稀疏度MoE模型,20B参数仅激活0.5B

122. DeepSeek V4编程成本1美元 比Claude便宜多少?

123. DeepSeek V4 定档春节。DeepSeek V4核心亮点是百万级上下文、训练无衰减、强代码生成,内部测试性能对标GPT/Claude,多模态能力加持,预计2026年春节前后发布。以下是核心功能测评(基于公开信息与内部测试)。 核心功能速览 1. 代码能力(王牌)          ○ 超长上下文:支持百万级tokens,可一次性处理中型项目代码库,精准解析跨文件依赖,适配多文件重构、全库级调试。     ○ 性能指标:Design2Code基准达92.0,Codeforces 2441分(超96.3%人类),SWE-bench等真实软件工程场景内部测试超GPT/Claude。     ○ 全流程覆盖:生成、修复、重构、漏洞检测、架构分析,生成代码规范、可直接运行,支持大型项目整体开发。 2. 训练与架构突破          ○ 解决“性能衰减”:全训练阶段数据模式理解能力零衰减,学新技能不丢旧能力,逻辑理解更稳。     ○ 新mHC架构:并行计算效率提升,适配国产芯片,降低部署成本、提高推理速度。     ○ 稀疏注意力优化:高效处理超长文本/代码,避免上下文断裂。 3. 多模态与工具链          ○ 图文理解:Design2Code强,支持UI草图转React等代码;OCR支持32种语言,适配模糊/倾斜文本。     ○ 视觉智能体:可自动操作桌面/移动端GUI,完成报表生成、多文件协作等多步骤工作流。     ○ 工具调用:集成API与第三方工具,支持复杂任务闭环执行。 适用场景与价值 ● 大型项目开发:全库级代码分析、跨模块重构、批量漏洞修复,效率显著提升。 ● 前端/设计协同:Design2Code高效转换,降低UI还原成本。 ● 遗留系统重构:一次性消化旧代码库,输出可执行重构方案。#deepseek AI ● 多模态文档处理:技术文档+图表解析、多语言OCR,提升资料处理效率。 优势与待验证点 ● 优势:百万级上下文、训练零衰减、代码性能对标国际顶尖、国产适配降本、多模态提效。 ● 待验证:第三方权威基准(如SWE-bench)、实际商用稳定性、推理成本与响应速度、多模态泛化能力。 小结 DeepSeek V4以代码生成+超长上下文+训练零衰减为核心,多模态与工具链完善,有望成为开发者生产力利器;正式表现仍需以官方发布与第三方测试为准。

124. Qwen3-VL 30B Q4/Q8 & 32B Q4 全面对比:双 MI50 预处理/输出速度实测报告

125. 近期关于解决LLM RL中训推不一致的工作总结

126. 【重磅发布】通义千问Qwen3全系亮相!Max/Next/235B三箭齐发,谁是中文大模型“天花板”?

127. 阿里通义千问Qwen3-Max上线“深度思考”模式:AI认知变革的新里程碑

128. 推理成本太高、算力不够用?单纯堆卡没用,得靠极致的“压缩”与“调度” | AICon

129. DeepSeek V4 要来了

130. 这个春节,千问、阶跃、Gemini打响2026年「3.5模型大战」

131. AGI之路:Qwen3 思深行速,Deepseek R2 更可期

132. Qwen系列:从 Qwen 到 Qwen3 的演进

133. 新一轮颠覆?DeepSeek V4要来了!支持百万字代码,传性能超GPT

134. DeepSeek 突破 O(L²) 注意力机制的瓶颈

135. 科技丨DeepSeek 又双叒在节假日前更新!token 价格战更好打了

136. DeepSeek 在 V4 模型发布前开始最终测试

137. LLM优化全攻略:显存、计算与推理三大维度

138. 只有 DeepSeek 能超越 DeepSeek!V4 定档:编程性能大提升

139. LLM性能优化方法简记

140. Rubin CPX 英伟达的秘密武器:PD分离降低推理成本 介绍了nvidia最新发布(2025年9月11日)的Rubin CPX GPU,这是一种专为AI推理中的长上下文处理阶段(prefill)优化的新型芯片。采用了GDDR7显存,128GB容量匹配2TB/s的显存带宽。相较于Rubin采用HBM4/HBM4E而言,成本降低很多,将为MaaS行业带来巨大的变化。#nvdia #英伟达 #CPXGPU #CPX

141. 12.19-2|扩散模型草拟,自回归模型核对,并行投机解码;基于Jacobi强迫的快速准确因果并行解码

142. DeepSeek这波创新有东西啊

143. Qwen3发布:到底升级了啥?普通开发者怎么用?深度体验指南来了!

144. GPU利用率从50%飙升至93%:边缘缓存如何重构AI推理架构

145. 百万级Token的幻象 - 为何对大语言模型而言,更大并不总是更好

146. Qwen3-Next发布:迈向更极致的训练推理性价比

147. Qwen3-Next-80B-A3B 技术解读与评测:Instruct vs Thinking & MaaS 选型指南

148. DeepSeekV3.2发布!实测惊艳,便宜优势

149. 全球首发 | SophNet独家专研 DeepSeek V3.2 极速版上线,速度直飙100+ TPS!

150. 芯片公司下场做AI云服务!SophNet推出DeepSeek极速版,速度达行业5倍

151. Qwen3-Max-Thinking来了:推理更准、思考更深,现已开放体验

152. 4B超越Qwen3-32B!阿里开源轻量级推理模型,引入序列蒸馏新范式提升长链推理

153. DeepSeek V3.2 来了,更长的上下文,效率翻倍

154. DeepSeek-V3.2正式版与高算力版发布

155. 通义千问推出Qwen3-Max推理模型早期预览版

156. DeepSeekV4被曝春节前后发布,代码能力或碾压GPT!

157. MoE 从备选项变成了默认项:一文讲透大模型背后的稀疏架构

158. DeepSeek Sparse Attention(DSA)/DeepSeek稀疏注意力机制简介

159. 马里兰大学:聚焦 COLS 隐藏操作审计,破解 LLM 服务 “看不见计费、辨不出质量” 难题

160. Moe架构

161. AI调用资源大降39.6%!新记忆技术立功,推理工具运行效率大提升

162. 大模型混合专家(MoE)技术全解析:从入门到精通,轻松理解稀疏/稠密/软MoE架构!

163. 告别结构化生成“千篇一律”!自动机引导 LLM,解锁多样化输出新路径?

164. MoE技术详解:稀疏激活让大模型高效

165. 数学满分的Qwen3-Max-Thinking,刚刚悄悄上线,且免费使用

166. moe训练优化?这几个坑得知道!

167. MoE研究进展:算法、系统与架构综述(二)-算法篇

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章