轻量化Agent模型:普惠大众还是空中楼阁?全网观点大碰撞
25-12-03
精选参考来源
精选参考来源
1. Agent轻量化创业实验
今日头条
2. 忘记大模型,英伟达
今日头条
3. 为什么大模型 Agent 产品总是无法落地?来自实战派的经验分享(一)
知乎
4. 为什么大模型 Agent 产品总是无法落地?来自实战派的经验分享(二)
知乎
5. Agent 创业者闭门
微信公众号
6. AI智能体的门槛,不在大模型,也不在指令
知乎
7. 李开复
微信公众号
8. 端侧AI或进入爆发期
微信公众号
9. 【资讯分享】vivo发布全球首款3B端侧Agent模型,个人化AI手机时代正式开启
微信公众号
10. 人人都可以自定义Agent,上海交大IPADS团队开源端侧Agent全套软件栈
知乎
11. 清华团队推出轻量级端侧GUIAgent,用代码生成技术提升任务效率
今日头条
12. 从云端到端侧
今日头条
13. 面壁基于第五代骁龙 8 至尊版发布创新端侧智能体 AgentCPM
什么值得买
14. 2025端侧AI火了!上海海思这三大布局,藏着行业新机会
今日头条
15. 8 种真正能交付功能的 AI Agent 架构
微信公众号
16. 开源智能体开发框架全面对比分析
微信公众号
17. 2025 年构建 AI Agents 的七大框架
今日头条
18. AI智能体(Agent)盛行,Dify、n8n等主流开发框架与低代码工具对比
今日头条
19. AI Agent调研--7种Agent框架对比!盘点国内一站式Agent搭建平台,一文说清差别!大家都在用Agent做什么?
知乎
20. 大模型Agent开发框架哪家强?12项Agent开发框架入门与选型
微信公众号
21. 8月20日,智谱正式发布AutoGLM 2.0,推出全球首个手机通用Agent,支持云端异步操作,用户可自由使用本地设备。
抖音
22. 微软Fara-7B
微信公众号
23. AI主权之战刚开打
微信公众号
24. 清华团队推出轻量级端侧GUI Agent,用代码生成技术提升任务效率
今日头条
25. 阶跃开源4B Agent模型,跑通所有安卓设备,手搓党一键部署
知乎
26. 为什么推荐 Mac 用户都试试这个本地 Agent
小红书
27. Fara-7B — 微软推出可在本地运行的小型 agentic 模型
微信公众号
28. 边缘计算奇点已至!华为盘古终端本地运行百亿级Agent,延迟小于0.1秒
微信公众号
29. Silicon Labs 推出 Simplicity AI
微信公众号
30. 英伟达最新研究颠覆认知
小红书
31. MiniMax M2 发布即爆,拿下开源模型第一名
知乎
32. 面壁智能基于第五代骁龙8至尊版带来创新终端侧智能体AgentCPM
微信公众号
33. 英伟达新研究
今日头条
34. 上海交大 MobiAgent
知乎
35. 微软AI推理模型rStar2-Agent
知乎
36. 微软新模型 rStar2-Agent
知乎
37. 华中科技大学人工智能与自动化学院副院长谭毅华
微信公众号
38. 大模型瘦身术
知乎
39. 2025年普通人AI Agent选择指南
微信公众号
40. AI时代的归园田居,是本地Agent带来的生活——Libra,一个文档类本地智能体
微信公众号
41. 本地AI助手!数据隐私全保护
小红书
42. 未来的PC如何重塑你的工作?AI Agent与本地大模型正成为新主角
知乎
43. Multi - Agent
微信公众号
44. 荣耀Magic V5发布会上雪藏的杀招
微信公众号
45. 摆脱云端
微信公众号
46. 开源是战略,生态是王炸,阿里千问入局AItoC #千问 #大模型
抖音
47. 未来智能体不能把它看成软件,它可以把大模型的专业能力提炼出来 #大咖观察 #红衣聊AI
抖音
48. 全网都在为AI焦虑,京东却在开Party? #Agent #科技改变生活 #京东 #人工智能
抖音
49. 无论未来做什么,智能体和大模型都是AI进化的基础。 #大咖观察 #红衣聊AI #AI新星计划 #具身智能
抖音
50. #Agent当下是泡沫还是前夜#先给大家简单科普一下,Agent可以是软件也可以是硬件设备,它是一种能替人完成特定任务的智能程序,具备自主性、感知能力、目标导向和交互能力,不需要编程也能从应用层面进行学习。比如智能家居中的智能音箱、智能灯泡、智能空调等,它们可以根据指令或预设条件自动运行;还有网站上的在线客服机器人,能回答常见问题;像Netflix、Spotify这类应用的推荐系统,也是Agent的一种;而自动驾驶汽车更是Agent的高级应用,能感知路况、识别交通标志并自主做出驾驶决策。要是说好用的Agent,那不得不提实在Agent,它融合了第三代RPA技术、大语言模型和计算机视觉技术,能理解指令,自主拆解和规划任务、生成代码并自动执行,知识问答、数据采集、软件操作等流程任务都不在话下。未来的话,说不定每个人都能有专属智能助理,比自己还懂自己,安排好生活工作#ai生活指南##ai创造营#
新浪微博
51. 大模型只是能力,必须要跟场景结合。 #大咖观察 #红衣聊AI #大模型
抖音
52. Agent是什么?#Agent当下是泡沫还是前夜#? 首先,我们需要明确Agent的概念。AI Agent 是能够独立完成一系列任务的AI智能体,与传统的大语言模型(LLM)如ChatGPT、Claude、Gemini等有所不同。后者主要聚焦于对话和信息生成,而Agent更侧重于执行具体任务,比如自动化工作流程、数据分析甚至多步骤决策。简单来说,Agent不仅会“说”,还会“做”。 未来的Agent,它或许会成为高度自主、能够与人类无缝协作的智能体。比如,像电影《钢铁侠》中的“Jarvis”一样,Agent可以实时理解你的需求,帮你处理复杂的工作,甚至在动态环境中主动决策。未来的Agent可能具备跨领域能力,既能写代码、分析数据,又能管理日程、优化资源,真正成为人类生活与工作的“超级助手”。 从行业角度看,Agent技术正处于快速发展阶段,但其现状却呈现出两面性。 🔻现状 遇冷信号:前不久,Manus大裁员并将总部搬迁至新加坡,这一事件被视为Agent赛道降温的标志。可能的原因包括技术尚未完全成熟、市场接受度不足以及商业化落地艰难。Agent的开发成本高昂,而短期内回报有限,这让一些企业面临压力。 技术依赖:Agent的发展离不开AI技术的进步,特别是大语言模型和强化学习的应用。目前,Agent在复杂任务中的自主性和稳定性仍有待提升。 🔻潜力 技术突破:Kimi发布的K2新模型展示了Agent的潜力,其在编码能力上甚至逼近Anthropic的Claude Opus 4。这表明Agent正在从理论走向实用,技术跃升为行业注入了信心。 市场前景:Agent的应用场景正在逐渐清晰,比如企业自动化、智能客服、科研辅助等领域。未来,随着商业模式的成熟,Agent可能成为AI产业的新增长点。 政策影响:政府的支持与监管政策也将塑造Agent的未来。合理的政策框架既能推动技术创新,又能防范潜在风险。 Agent当下既有泡沫挤出的“寒意”,也有技术蓄力的“曙光”。它可能正处于从泡沫期向实用期过渡的“前夜”阶段。 🔻在当前阶段,已经有一些优秀的Agent产品值得关注 1️⃣Anthropic的Claude 特点:以强大的编码能力和安全性著称。 优势:适合企业级应用,尤其在需要高可靠性与隐私保护的场景中表现出色。 2️⃣OpenAI的GPT-4 特点:多模态能力强大,支持文本、图像等多种输入。 优势:应用场景广泛,从内容创作到任务自动化都有涉猎。 3️⃣Moonshot的Kimi K2 特点:低成本、开源特性。 优势:为中小型开发者提供了更多可能性,展现了Agent技术的多样性与创新性。 这些Agent各有特色,正在推动技术与应用的融合。 我希望Agent能带来更高效的工作和生活方式。比如,一个智能Agent可以帮我快速整理数据、规划项目,甚至预测潜在问题,这将极大提升生产力。 在我看来,Agent既是通往未来的起点。 #ai创造营##ai生活指南#
新浪微博
53. 综合能力比肩GPT5,万亿参数思考模型Ring-1T来了!#AI #国产大模型 #蚂蚁百灵 #AIGC
抖音
54. 「Github一周热点90期」规格驱动开发、AI记忆引擎、AI agent的docker、开源流媒体平台、开源电商平台和密钥管理平台
哔哩哔哩
55. 智谱ChatGLM绝对是国产AI里面冷门又好用的一款。智谱AI的ChatGLM系列模型最早开创并普及了“双语(中英)对话”模型的概念,其独特的GLM架构和高效的参数利用策略,使其在同等参数规模下往往能表现出卓越的性能,ChatGLM-3-6B模型仅用60亿参数就达到了接近千亿参数模型的对话效果。#谁是最被低估的国产AI#
新浪微博
56. 真正的系统级Agent!这个桌面上的AI能帮你全自动干活
哔哩哔哩
57. 吉利携全域AI技术矩阵亮相2025世界人工智能大会(WAIC 2025),多款重磅新车将密集上市!#吉利的野心是成为全球最大的机器人公司# 7月26日,吉利汽车集团携科技生态战略合作伙伴——阶跃星辰联合参展2025世界人工智能大会(WAIC 2025)。极氪9X、领克10EM-P、吉利银河A7和吉利银河M9等全新产品,以及千里浩瀚智能辅助驾驶系统、吉利未来出行星座、AI智能可穿戴设备等吉利“全域AI”技术体系成果均悉数展出。其中,吉利银河M9行业首发的超拟人车载AI智能体,搭载了阶跃星辰的端到端AI语音大模型,人机交互全面革新。期间,阶跃星辰发布了最新一代的基础大模型——Step 3,并联手千里科技、吉利汽车集团共同发布了面向AI Agent原生打造的下一代智能座舱Agent OS(预览版),可为用户带来更自然、更拟人和更情感化的座舱交互体验。阶跃星辰是吉利汽车集团的科技生态战略合作伙伴,也是吉利五大AI生态圈伙伴之一,双方携手在多模态大模型、智驾、座舱领域取得了一系列成果。在AI技术的快速迭代下,“具身智能”时代正加速到来。凭借着坚实的技术底座和智能生态圈,吉利已然成为最快实现汽车向具身智能发展的企业,未来甚至是成为最大的机器人公司。算力、算法和数据是AI的“三大引擎”,吉利在这些领域均实现了全面领先。在算力上,吉利联合阶跃星辰、千里科技、星纪魅族、时空道宇等科技生态伙伴,成立了全球唯一的“智能汽车算力联盟”——星睿智算中心2.0,综合算力23.5 EFLOPS,稳居中国车企算力第一。在算法上,吉利星睿AI大模型体系已经与阶跃星辰多模态大模型等完成了深度融合。在数据层面,吉利已积累10T的token数据、40B的汽车领域垂类数据,为大模型训练准备了核心“燃料”,大幅提升大模型“认知能力”的上限。得益于AI“三大引擎”的强力赋能,吉利通过端到端、VLA、世界模型等AI技术,推出了千里浩瀚智能安全辅助驾驶系统,为用户带来了全场景安全的智能出行体验。据吉利控股集团首席智驾科学家、极氪科技副总裁陈奇介绍,今年四季度,吉利千里浩瀚将落地全新的面向L3的技术架构、云端WM+基座大模型和车端VLA+端到端对抗安全模型,实现AI训练AI,AI检验AI。目前,吉利已经成为最广泛实现AI智能体上车普及的车企,是AI造车第一车企。智驾域的千里浩瀚智能安全辅助驾驶系统、动力域的雷神AI电混2.0、底盘域的AI数字底盘、架构域的AI智能架构等吉利全域AI技术成果,都已量产上车,可为用户带来前所未有的智能安全出行体验。
新浪微博
58. 中国的AI模型在海外又火了,全球用户迎来更多选择#亚马逊云科技 #AmazonBedrock #生成式AI #出海 #全球化
抖音
59. 对话云栖大会:下一个AI爆款、大模型进化与Agent万亿级企业市场
哔哩哔哩
60. 盘点一周AI大事(9月28日)|ChatGPT上线私人秘书 OpenAI与英伟达签手成功,英伟达投资OpenAI 1000亿打造算力中心 微软与Anthropic感情升温,Copilot也接入了Claude ChatGPT上线私人秘书Agent ChatGPT Palse OpenAI 发布职业力基准测试GDPval 阿里推出千问全家桶,Qwen 3 Max数学竞赛拿满分,多模态Qwen 3 omni全面对标Gemini,最强视觉Qwen VL打败闭源 DeepSeek更新V3.1最终版 Meta开源代码世界模型 Google开发出生成式操作系统原型 #AI新星计划 #人工智能 #AIGC #OpenAI #机器人
抖音
61. 教你使用一个工具玩转阿里云所有顶尖AI大模型!
哔哩哔哩
62. #MR头显会是下一代智能终端吗##新品驾到#vivo这次带来的Vision MR头显,和传统VR最大的区别就是轻量化。以前大家吐槽VR笨重、戴久了不舒服,而Vision在重量控制上做了明显优化,长时间佩戴的压力小了不少。散热也是个痛点,传统VR经常用一会儿就发热,这次vivo在散热设计上下了功夫,佩戴体验更友好。屏幕方面则用了Micro-LED,亮度更高、显示更细腻,基本摆脱了“颗粒感”。可以说,这些硬件升级让MR头显逐渐摆脱“尝鲜玩具”的标签,往日常化、普及化的方向走了一步。至于能不能成为下一代智能终端,还真挺值得期待。
新浪微博
63. 大模型迭代太快?企业如何跟上AI“高速列车”#AI应用# #智能制造# #智能零售# #AI友妙计#全套模型开发工具,帮助企业充分使用模型最佳能力@阿里云 科技俊的微博视频
新浪微博
64. 这个模型有机会成为世界模型的Deepseek#AI #大模型 #世界模型 #北京人形机器人创新中心 #北京人形WoW具身世界模型
抖音
65. 探访云栖(一):揭秘AI“底座”,谁在为算力搭建“水电气”?
哔哩哔哩
66. AI猫片疯传,海螺一键复刻爆款! 让无数老外上头的AI猫片,还有兔子蹦床、Baby采访、食物吃自己,原来都是用海螺做的。 它有个「Agent」模式,简直是懒人福音,上传一张图,AI全自动干活,一键出片。 电商搞钱:AI模特走秀、商品广告,拍摄成本秒归零; 知识博主:让爱因斯坦给你讲课写板书,谁还敢说学不会; 剪辑师:无限的片头、空镜素材库,灵感用到飞起; 个人IP:AI写真、AI短剧,轻松打造一个永不塌房的虚拟爱豆。 它背后的Hailuo 02大模型,,在全球AI榜单上都是TOP级别的存在,难怪效果这么稳! 帮大家总结了爆款公式和赛道,快来试试吧! #AI #人工智能 #AIGC #AI视频 #海螺AI
抖音
67. Agent store 平台 MuleRun (骡子快跑)海外走红,如何使用?有哪些信息值得关注?
知乎
68. 探访云栖(二):AI Agent元年,谁在打造“数字员工”?【101 Weekly】
哔哩哔哩
69. n8n重磅更新:多智能体编排,AI Agent团队化协作、智能分解复杂任务!
哔哩哔哩
70. 罗福莉加入后,其智能从语言迈向物理世界理念刚落地,我米推出Miloco大模型+智能家居方案,基于摄像头和自研大模型,可识别家居场景并联动设备,结合AIoT优势,有望引领行业进入大模型时代,未来多模态及硬件升级将助力人车家全生态发展,值得期待!
新浪微博
71. 让AI真正理解世界,360是如何做到的? #大咖观察 #红衣聊AI #国产模型 #人工智能 #编程
抖音
72. 华硕天选Air 2025:HotHatch小钢炮 轻而强大
哔哩哔哩
73. 2025年被科技界提及最多的词—Agent!大家都把它视为下一个风口。那究竟什么是Agent?Agent到底能做些什么?这期视频,带大家看看理想同学Agent又能带给我们的生活哪些改变? #理想i8# 骆智慧的微博视频 抽奖详情
新浪微博
74. 探访云栖(三):AI不再遥远:它正如何“贴身”重塑你的日常?【101 Weekly】
哔哩哔哩
75. 快抄作业!我用JoyAgent搞了个AI团队 2025年都快结束了,Agent是不是还没用上? 我找到了打工人用上智能体的最简单方法, 就是用JoyAgent把每天重复的SOP全做成Agent, 不懂代码也能零门槛搭建,而且效果很稳定。 看着AI团队全自动打工、出活,非常解压。 #AI #智能体 #JoyAgent #JoyCode #京东云
抖音
76. 【白TV】MiniPC 行不行?OUclink外接显卡?32B本地AI大模型?——极摩客EVO-T1上手体验
哔哩哔哩
77. 有了AI,未来个人电脑可能会消失?在云栖大会我悟了
哔哩哔哩
78. 怎么成为一个 ai agent 工程师?
知乎
79. 英伟达研究:Agent时代,就是小模型时代
知乎
80. AutoGLM的出现对agent的意义在什么地方?AI Agent到底有多强?
知乎
81. AI agent到底有多大创新?
知乎
82. MiniMax Agent 再进化!正式走向商业级全栈开发
微信公众号
83. 在 AI Agent 的开发中,交互设计(壳)和底层模型能力哪个更重要?未来哪一方会成为竞争核心?
知乎
84. Google 最新的白皮书,很值得收藏!《Introduction to Agents》 ,这个白皮书几乎可以看作是对“智能体时代”正式宣言。它系统地定义一种新型软件范式——让模型能自主思考、决策和执行。AI 正在从“预测”走向“行动”。1. 从预测式AI到行动式AI过去的AI是“被动的”:模型接收输入、生成输出,一问一答。但这篇文档开篇就指出,我们正在经历一次范式转变——从“预测AI(Predictive AI)”到“自主智能体(Autonomous Agents)”。智能体的关键区别在于:它不再等人指令,而是能围绕目标自我规划、行动、再评估。Google 把这类系统定义为一个闭环结构:LLM + 工具 + 编排层 + 部署环境。LLM提供推理,工具执行动作,编排层控制整个“思考—行动—观察”的循环,而部署让智能体能长期运行和被复用。2. 智能体的工作循环:Think–Act–Observe文档用一个非常清晰的五步模型解释智能体的工作方式:1. 获取任务(Get the mission)2. 扫描场景(Scan the scene)3. 思考计划(Think it through)4. 执行动作(Take action)5. 观察反馈(Observe & iterate)这一循环让智能体具备了真正的“任务感”。举个例子:用户问“我的订单在哪?”,智能体不会立刻回答,而是分解出“查订单→查物流→整合结果→回复”的完整路径。我特别喜欢它强调的那句话:智能体的本质,是上下文窗口的策展人(curator of context window)。——它不断组织、更新、过滤信息,让模型始终聚焦在当前任务最关键的上下文上。3. 智能体的分级:从单脑到群体这份白皮书提出了一个五层级的智能体体系:Level 0:仅推理模型(纯LLM)Level 1:能调用外部工具的“连接型问题解决者”Level 2:具备策略规划与上下文工程能力的“战略型智能体”Level 3:多智能体协作系统(类似团队协作)Level 4:自我演化系统(能创造新工具或子智能体)这一分级体系几乎可以当作企业部署智能体架构的路线图——从简单的调用API,到让智能体学会分工合作,最后走向能自我改进的“学习型组织”。4. 三大核心组件:脑、手与神经系统Google 把智能体拆成三个核心部分:1. Model(脑):推理与决策中心,负责思考。2. Tools(手):执行动作的能力,比如RAG、API、代码执行。3. Orchestration Layer(神经系统):调度逻辑、记忆与策略,实现“Think–Act–Observe”循环。有一个关键点:他们认为模型并不是越大越好,而是要根据任务选择最优组合——复杂任务用强模型(如Gemini Pro),高频简单任务则用轻模型(如Gemini Flash)。这种模型分层调度的思路对未来Agent架构很关键。5. Agent Ops:智能体的运维哲学文档中提出了一个新概念——Agent Ops。它相当于 DevOps 在智能体时代的延伸。因为智能体行为具有不确定性,传统的“单元测试=预期输出”已经失效。Agent Ops 的目标是通过指标驱动、日志追踪、模型评审和用户反馈闭环,让系统在不确定中保持可靠。一个新的职位或部门来了?Agent Ops6. 安全与治理:从单Agent到Agent Fleet当智能体数量增多,问题就从“怎么造一个Agent”变成“如何管理一群Agent”。Google 提出的解决思路是建立控制面板(Control Plane),统一管理身份、权限和通信协议(MCP/A2A),避免Agent Spraw(智能体泛滥失控)。有意思的是,文中引入了“Agent作为新型主体(principal)”的概念,认为Agent不只是代码,而是一种能独立被认证、被授信的行动体。7. 学习与自演化:Agent Gym 的想象力最后几章讨论了“Agent如何自我进化”。Google 提出了一个概念叫 Agent Gym,类似模拟环境,用来让智能体在离线条件下训练、演练、红队测试、吸收人类反馈,从而“成长”。这个暂时用不上,估计大公司比较有资源搞。——这两个新的点,之前没深刻理解:1. Agent = 新的软件范式。过去我们以为“智能体”只是“会用工具的模型”,但Google用这份文档明确告诉大家——Agent是一种新的软件范式。它不是应用AI,而是用AI重新定义应用。2. Agent的核心不在“思考”,而在编排(orchestration)。未来的开发者更像导演而不是程序员——我们要设计场景、挑演员、布置镜头,让智能体自然演出目标行为。#ai创造营##科技#
新浪微博
85. 这篇文章《Agent Design Is Still Hard》写的太好了,值得逐行细读!看完的6个感受:1. 如果你自己写 agent,建议尽量直接用底层 SDK(而不是高层抽象);2. 明确缓存策略 — 尤其是对大模型 + 多步骤任务,非常关键;3. 引入强化机制(reinforcement) 和 sub-agent / sub-inference,以提高 agent 的稳定性/可靠性;4. 如果你的 agent 会生成实际输出 (邮件、文件、报告等),考虑用专门的 output tool,而不是把 “输出内容” 混在 agent loop 的消息里;5. 在设计共享状态 (shared state) 时,引入类似“虚拟文件系统 (virtual file system)”的机制,会让系统更模块化,也更适合复杂任务 + 多工具调用;6. 最难也是最重要的一点 —— 测试与评估 (testing & evals) 是 agent 系统工程中最棘手的问题,目前还没有通用/优雅的解决方案。原文转译如下:Agent 设计依然很难我觉得现在是时候写写我新学到的一些东西了。大部分内容与构建 agent 有关,少部分与使用 agent 式编程工具有关。总结:构建 agent 依然混乱。只要真正开始用工具,SDK 抽象就会崩。缓存如果你自己管会更好,但不同模型间差异很大。强化(reinforcement)比预期承担更多“驱动”任务,而失败必须严格隔离以避免把循环带偏。通过类似文件系统的共享状态是非常重要的基石。输出工具比想象中更棘手,模型选择依然强依赖任务类型。一、选择哪个 Agent SDK?当你构建自己的 agent,你可以选择直接使用 OpenAI SDK、Anthropic SDK 等底层 SDK,也可以选择更高层的抽象,例如 Vercel AI SDK 或 Pydantic。我们之前做的选择是采用 Vercel AI SDK,但只用其 provider 抽象,然后基本上自己驱动 agent loop。现在来看,我们不会再做这个选择。Vercel AI SDK 本身没有问题,但当你要真正构建 agent,会发生两个我们没预料到的事:第一,不同模型之间的差异大到不得不自己构建 agent 抽象。我们没发现任何 SDK 提供的抽象能真正匹配 agent 的需求。部分原因是:虽然 agent 的基础设计就只是一个 loop,但工具集不同会带来微妙差异。这些差异会影响抽象是否容易找到(比如缓存控制、不同的强化需求、工具提示、provider 侧工具等)。因为“正确抽象”现在还不清晰,所以使用平台的原生 SDK 让你掌控更多。而很多高层 SDK 要你构建在它们的抽象之上,最后这些抽象可能并不是你真正需要的。第二,当涉及 provider 侧工具时,我们发现使用 Vercel SDK 非常困难。消息格式尝试统一,但并不真正奏效。例如 Anthropic 的网页搜索工具会频繁破坏 Vercel SDK 的消息历史,我们至今还没完全搞清原因。此外,在 Anthropic 的情况下,缓存管理在其原生 SDK 中比在 Vercel 中容易得多,而且错误信息也更清晰。也许未来会变化,但至少现在,我们不会在构建 agent 时使用抽象层,除非整个生态已经稳定。对我们来说,目前抽象层的收益远远不足以抵消其成本。也许别人已经解决这个问题了。如果你看了觉得我错了,欢迎发邮件,我非常愿意学习。二、关于缓存的经验不同平台对缓存的处理方式非常不同。大家已经讨论过很多,例如 Anthropic 的缓存是收费的,并且需要你显式管理缓存点,这会从 agent 工程角度完全改变你的交互方式。一开始我觉得手动管理缓存很蠢:为什么平台不自动管理?但现在我完全反过来了,非常喜欢显式管理缓存。它让成本与缓存利用率都更可预测。显式缓存能让你做一些否则很难做的事情。例如,你可以把会话分叉成两个不同方向并行执行。你也能进行上下文编辑。最佳策略尚不明确,但你确实有更多控制权,而且这种控制权非常宝贵,也让你更容易理解 agent 的成本结构。你可以更好地预测缓存命中率,而其他平台我们发现经常是碰运气。我们在 Anthropic 的 agent 中的缓存策略很直接:一个缓存点放在 system prompt 后;两个缓存点放在对话开头,并随对话尾部不断前移;除此之外还有一些小优化。因为 system prompt 和工具选择必须尽可能静态,我们会在之后的动态消息里提供时间等信息,否则会破坏缓存。我们在循环中也更多利用强化。三、Agent Loop 中的强化每次 agent 调用工具,你不仅可以返回工具的执行结果,还可以向循环中注入更多信息。例如,你可以提醒 agent 宏观目标、子任务状态,也可以在工具失败时提供如何让工具调用成功的提示。另一个用途是在后台状态发生变化时告知系统。如果 agent 会使用并行处理,你可以在每次工具调用后注入状态变化信息。有时 agent 自我强化就够了。例如在 Claude Code 中,todo write 工具本质上是个自我强化工具——它只是接收 agent 给出的一组任务,再原样返回。这基本就是个 echo 工具,但却足以让 agent 推进得比只在上下文开头给任务列表要好得多。我们也使用强化来告诉系统环境是否在执行过程中发生了问题。例如,如果 agent 在某一步失败并重试,但恢复基于损坏的数据,我们会注入消息告诉它应该回退几步重新来。四、 隔离失败如果你预计代码执行中会有很多失败,有机会把这些失败从上下文中隐藏。主要方式有两种。第一,把可能需要多次迭代的任务单独运行。你可以在子 agent 中运行任务直到成功,再只把成功结果(可能带一段失败策略摘要)回传。让 agent 看到一些失败尝试是有价值的,因为它可以在后续任务中利用这些信息避免重复错误。第二,并非所有模型都支持,但 Anthropic 支持上下文编辑。我们还没取得太多成功,但觉得非常值得继续探索。上下文编辑理论上可以保留更多 token 用于后续循环。例如你可以从上下文中删除对解决问题没有帮助的失败输出。但如前所述,让 agent 知道“什么没成功”有价值,只是不需要保留全面状态。唯一的问题是:上下文编辑会自动使缓存失效,这是无可避免的。因此是否值得这样做往往难以判断。五、子 Agent / 子推理(Sub Inference)如我之前提过,我们的 agent 多基于代码执行与代码生成。这要求 agent 有一个公共的数据存储位置。我们采用文件系统——在我们这里是虚拟文件系统。为了支持子 agent 或子推理,这要求所有工具都能访问这个文件系统。你应该尽量构建没有死路的 agent。所谓“死路”是指任务只能在某个特定工具内部继续。例如你做了一个图像生成工具,但它只能将图像交给另一个特定工具使用,那就会造成死路。如果你希望把生成的图像打包成 zip,需要代码执行工具能读取这些图像。因此必须让图像生成工具把文件写到虚拟文件系统,而代码执行工具也能读同一位置。反之亦然。你可能需要代码执行工具解压 zip 文件,然后让推理工具描述这些图片,之后再回到代码执行工具继续处理。文件系统就是实现这一点的机制。但这要求所有工具都支持从虚拟文件系统读取路径。因此“ExecuteCode” 工具和 “RunInference” 工具应该都能访问同一文件系统。六、输出工具的使用我们的 agent 不是一个聊天式系统。它最终会输出给用户或外部世界一些内容,但中间所有消息通常不会暴露出去。问题是:它如何生成最终输出?我们有一个专门的输出工具,agent 必须显式调用它来对人类输出。我们通过 prompt 告诉它何时使用该工具。在我们的场景中,输出工具负责发送邮件。但这反而带来很多意外问题。最难的是:相比直接在 agent loop 中输出文本,让输出工具生成“最终信息”时很难控制语气与措辞。我不知道为什么,但推测与模型训练方式有关。我们尝试过让输出工具再调用一个小模型(如 Gemini 2.5 Flash)进行文本润色。但这增加了延迟,而且反而降低输出质量。部分原因是小模型没完整上下文,无法正确措辞。而为了给它更多上下文又会变得昂贵,而且仍不能解决所有问题。有时还会泄露我们不想让最终用户看到的中间步骤。另一个问题是 agent 有时根本不调用输出工具。我们强制要求记录输出工具是否调用过。若循环结束前还没调用,我们会注入强化消息提醒它调用。七、模型选择总体上我们的模型选择最近没有太大变化。Haiku 和 Sonnet 依然是目前最好的工具调用模型,因此非常适合作为 agent loop 的主模型。它们对 RL 的行为也比较透明。另一个明显选择是 Gemini 模型。我们在主循环中并未在 GPT 系列上获得太多成功。对于子工具(例如需要额外推理的工具),我们目前主要用 Gemini 2.5——尤其是处理长文档、PDF、图像信息抽取等任务。特别是因为 Sonnet 系列容易被安全过滤器挡住,处理图像比较麻烦。另外一个显而易见的结论:token 价格并不能决定 agent 的整体成本。工具调用更强的模型能用更少 token 完成任务。有些模型 token 更便宜,但不一定在 loop 中更省钱。总的来说,过去几周变化不大。八、测试与 Evals测试与评估是我们认为最难的问题。这并不意外,但 agent 的特性让问题更棘手。与 prompt 不同,你无法在某个外部系统里轻松做 eval,因为需要提供太多上下文。这意味着 eval 必须基于观测数据或在真实测试运行中进行仪表化。目前我们试过的所有解决方案都没让我们满意。遗憾的是,现在我们还没有找到让人真正开心的 eval 方法。希望能尽快找到,因为这已经变成构建 agent 时最令人沮丧的问题之一。九、Coding Agent 的一些更新关于编码 agent,我的体验没有太多变化。主要的新点是我在试用 Amp。原因不是它一定比我现用的 agent 更强,而是我非常喜欢他们对 agent 的设计方式。从他们公开内容能看出,他们的子 agent(如 Oracle)与主循环交互方式非常优雅,而今天市面上很少有框架能做到这一点。这也是我用它来验证不同 agent 设计方式的原因。Amp 和 Claude Code 一样,让人感觉是“使用者自己做的产品”。行业里并非所有 agent 产品都有这种感觉。十、最近读的东西下面是一些我觉得值得分享的内容。1. 《What if you don't need MCP at all?》:Mario 认为很多 MCP 服务器过度工程化,工具过多占用上下文。他提出一种极简浏览器 agent 方案:只依赖简单 CLI 工具(start、navigate、evaluate JS、screenshot),不仅 token 使用小,而且流程更灵活。我据此做了一个 Claude/Amp 的 skill。2. 《The fate of "small" open source》:作者认为微型开源库时代正在结束,因为平台 API 与 AI 工具足以按需生成简单实用工具。对此我非常认同。3. 《Tmux is love》:没有文章,但结论是 Tmux 很棒。如果你的 agent 要与任何交互式系统工作,都应该考虑添加 Tmux 能力。4. 《LLM APIs are a Synchronization Problem》:这是我最近的一个发现,内容太长写成了另一篇文章。#ai创造营# #程序员# 黄建同学的微博视频
新浪微博
86. 人人都能炼专属Agent,上海交大开源端侧Agent全栈工具链,真实场景性能超GPT-5!
微信公众号
87. 用完这个Agent,你会觉得ChatGPT Agent真的是个傻子。
知乎
88. 第一个能帮你做生意的Agent来了。
知乎
89. 现在agent开发,不论什么项目,都会遇到的又慢又不精准的问题解决了吗?
知乎
90. Anthropic的Agent上下文工程官方指南来了!
知乎
91. 第三天《Context Engineering: Sessions & Memory》,一个Agent做得好,80%看上下文管理!这个pdf有72页,系统讲述了如何让LLM在交互中形成“状态”“个性”与“持续学习“,想做好AI Agent的别忘记深读一下这个文档。划线点:1. 上下文工程的核心理念 传统的 Prompt Engineering 只关注如何写出一个最优提示,而 Context Engineering 则是更高维度的概念。它要求开发者在每次模型调用前,动态地拼装完整的上下文——包括系统指令、工具定义、few-shot 示例、外部检索内容、长期记忆以及当前对话历史。 白皮书中有个比喻:如果 Prompt 是食谱,那么 Context Engineering 就是备料,决定了模型能否稳定地产出理想结果。2. Session vs. Memory Session 是一场对话的“工作台”,保存着事件日志和临时状态;Memory 是长期的“档案柜”,从这些对话中提炼出可复用的知识。 Session 负责连贯性,Memory 负责持续性。3. 多智能体系统中的会话共享 多个 Agent 协作时,Session 的设计变得更复杂。不同框架(如 ADK、LangGraph)内部的数据结构差异较大,直接共享会导致互操作问题。 文档提出用框架无关的 Memory 层作为共享语义中枢,各 Agent 通过抽象化的记忆数据交换信息,从而实现真正的跨框架协作。4. 长上下文的管理与压缩 模型上下文窗口有限,随着会话增长,成本、延迟和注意力衰减都会出现。有三种压缩策略: (1)保留最近 N 轮(滑动窗口); (2)基于 token 数截断; (3)递归摘要,用 LLM 生成对旧内容的总结。 这些方法共同目标是保留必要、舍弃冗余,让模型始终聚焦关键信息。5. 记忆系统的设计与生命周期 记忆并非简单存储,而是一套动态的 LLM 驱动工作流,涵盖提取、整合、存储、检索与遗忘(有点像一个ETL系统)。 提取阶段从原始对话中识别有意义的信息;整合阶段解决重复与冲突;存储可采用向量数据库、知识图谱或混合架构;检索阶段结合语义相似度、时间衰减与重要度评分挑选最合适的记忆。 文档还提出“遗忘”机制——旧记忆会随时间或置信度衰减被归档或删除,以保持知识库的健康。 划重点:真正的智能不在于保存全部信息,而在于知道何时、为何、记什么、忘什么。一个理想的 Memory 系统,像人脑的海马体,既能在短期保持上下文,又能在长期过滤、压缩、抽象出模式。 AI Agent的设计应该把动态遗忘作为标准功能来设计,而非可有可无的能力。6. 触发策略与 Memory-as-a-Tool 模式 记忆生成可在会话结束、固定回合、实时、或用户显式命令下触发。频繁触发可保留更多细节,但计算成本高;批量触发更经济,却易失真。 白皮书提出 Memory-as-a-Tool 模式:让 Agent 自行判断何时、为何生成记忆,将“记忆何时发生”的控制权交给模型逻辑本身(划重点!)。7. 信任、来源与隐私 文档专门讨论了 Memory 的来源溯源(Provenance):每条记忆应携带来源类型、时间戳、置信度与可信层级。系统需依据来源权重解决冲突,并对个人敏感信息在写入前脱敏,确保隔离与合规。8. RAG 与 Memory 的对比 RAG 让模型更懂世界, Memory 让模型更懂你。 前者检索外部事实,后者积累用户语境。Agent 需要二者结合,既具世界知识,又具个人连续性。#ai创造营# #程序员#
新浪微博
92. 朱啸虎:大模型会吃掉90%的Agent
今日头条
93. 张宏江演讲:中美AI算力储备差距大,Agent将改变人类组织构成
今日头条
94. AI Agent 规模化落地最大障碍是技术还是商业模式?
知乎
95. AI Agent 落地血泪史,分享我的几点思考
今日头条
96. LlamaIndex 分享生产级 Agent 五大设计模式落地实践
知乎
97. 为什么2025成了Agent落地元年?
今日头条
98. 邬贺铨院士:AI发展三部曲 生成式大模型到AI Agent,再到Agentic AI
今日头条
99. 阿里王牌Agent横扫SOTA,全栈开源力压OpenAI!博士级难题一键搞定
知乎
100. 数字技术工人已到岗!时序大模型+Agent已掌握了工厂生产管控技术
今日头条
101. 首个Data Agent基准!将数据库、PDF、视频、音频异构数据源一网打
今日头条
102. 李开复:零一万物AI Agent可接入任何开源模型,不要低估DeepSeek的强大能力
今日头条
103. 开源Agent模型榜第一名,现在是阿里通义DeepResearch
今日头条
104. 一文带你了解模型量化、剪枝和蒸馏
微信公众号
105. AI大模型压缩秘籍:量化、剪枝、蒸馏三大技术深度剖析!
知乎
106. 《模型压缩宝典:剪枝·量化·蒸馏,一篇小白也能看懂的收藏指南》
知乎
107. 一文搞懂量化、剪枝和知识蒸馏都是什么?
微信公众号
108. 卡位端侧AI爆发前夜,上海海思瞄准三大方向:场景智能、AI Agent、物理AI
微信公众号
109. 魔搭社区AMD MCP&Agent挑战赛首选奖品, 极摩客EVO-X2赋能端侧AI创新
什么值得买
110. 小米智能家电市场份额激增,美的迎头赶上,入局AI两年风生水起
今日头条
111. 活动回顾 | S4E2 AI Agent 落地实战与端云协同智能体 - 端云聚变,重构应用新范式
微信公众号
112. AI产品经理面试100题之24:端侧AI与云计算协同策略
今日头条
113. 营销观点丨Agent时代已来,多智能体与端侧模型成新战场(推荐阅读:量子位智库《2025上半年AI核心成果及趋势报告》附下载)
知乎
114. 华为Mate 80或将带AI Agent: 这三家公司已经进入产品开发
今日头条
115. 2025国产Agent推荐:从选型到实战,实在Agent为何适配90%用户?
知乎
116. LocalAI:开源本地 AI 推理框架,支持多模态模型与分布式推理
微信公众号
117. 让机器人“大脑”更轻更快:SQAP-VLA首次实现VLA模型量化与剪枝协同加速
微信公众号
118. 对话美的全屋智能尚喆:家居家电一体化是优势,要有所为有所不为
知乎
119. 从零开始构建端侧AI Agent:开发步骤与实践分享
哔哩哔哩
120. 小红书提出DeepAgent:通用推理智能体
小红书
121. 学习AI真的需要5090D那样的顶级显卡吗?最新AI入门装机指南
今日头条
122. DeepSeek V3.1 适配下一代国产芯片,大幅提高 Agent 能力和推理效率
今日头条
123. 智己LS9的AIAgent上车背后,AI原生车载应用市场呼之欲出
今日头条
124. [快览-具身VLA] 双管齐下保证效果和性能:南大联合亚利桑那大学发布基于剪枝+量化的VLA模型轻量化方案
微信公众号
125. 模型量化、微调、蒸馏区别对比
知乎
126. 2025国产Agent推荐:从选型到实战,实在Agent为何适配90%用户? - 哔哩哔哩
哔哩哔哩
127. AI大模型轻量化:手机也能跑千亿参数模型,AI 服务“随叫随到”
知乎
128. 实在智能欧阳小刚:Agent端侧性能超GPT-4o 10%,一体机30分钟开箱部署
知乎
129. AI浏览器开源!Nxtscape :可直接本地运行AI Agent!
今日头条
130. 8大主流 AI Agent 框架测评!企业&开发者选型不踩坑
微信公众号
131. 打破压缩极限!OBR让大模型同时实现W4A4KV4量化+50%剪枝,LLM性能逼近FP16带来4.72×加速
微信公众号
132. 模型压缩“炼金术”:剪枝、量化、知识蒸馏大揭秘
知乎
133. AMD 锐龙 AI MAX+ 395 处理器与端侧 AI 部署的行业实践
今日头条
134. 端侧智能体应用方案及微调实操
微信公众号
135. 技术速递|使用 AI Toolkit 构建基于 gpt-oss-20b 的应用程序
知乎
136. 本地AI Agent Hello World(Java版): Ollama + LangChain4j 快速上手指南
知乎
137. 从AIPC到JoyAI,京东AI布局全面升级|独家
百度
138. 小红书推出端到端深度推理智能体DeepAgent
小红书
139. 如何打好Agent地基?WAIC上,这家独立分布式云计算服务商交出了自己的“答卷”
今日头条
140. 【论文速递】IEEE T-ASLP | MixPQ: 面向语音与语言基础模型的联合剪枝与量化压缩框架
微信公众号
141. 让家电“听懂话”,小度澜川助力博西家电迎来智能交互时代
今日头条
142. 在本地部署了一套超轻量的 Agent 工作流工具
今日头条
143. 行业首个AI智能体落地!用户一句话COLMO激活全屋家居主动服务
今日头条
144. 告别踩坑!17 款 AI Agent 框架对比:不同场景的最优解都在这里
今日头条
145. 本周AI领域重大突破:训练技术革新、开源模型爆发、Agent落地加速(2025.6.2~2025.6.8)
知乎
146. 模型压缩技术揭秘:量化、剪枝、蒸馏三大法宝
微信公众号
147. 让AI模型“轻装上阵”!
微信公众号
148. 大模型周更时代来临!阿里云揭秘AI Agent落地四大黄金法则
今日头条
149. Dify迎来最强开源对手!这个本地Agent内置微调+超细权限控制~
知乎
150. 8G 显卡也能跑 160G 大模型!oLLM 离线推理神器来袭
哔哩哔哩
151. 大模型部署优化:量化、剪枝与蒸馏技术对比
今日头条
152. AgentFlow:多智能体协作推理和工具调用
小红书
153. 一文速览!10个AI Agent框架大盘点,谁才是最优解?
知乎
154. AI Agent开发框架哪家强?主流Agent框架盘点
微信公众号
155. 一图搞懂深度学习:模型压缩指南(减枝、量化、知识蒸馏)
微信公众号
156. LLM开发工程师入行实战–从0到1开发轻量化私有大模型(高清同步)
知乎
157. 最值得使用的 8 大 AI Agent 开发框架全面解析
今日头条
158. 从设备联网到空间觉醒,AI能力驱动天猫精灵全屋智能3.0重构“家的体验”
微信公众号
159. 一文讲清Agent开发主要框架模式、痛点、前景趋势与选型建议
知乎
160. 一篇搞明白✅八大主流agent框架解析
小红书
161. TRIM:利用定向逐行迭代度量驱动剪枝实现极端稀疏性
微信公众号
162. 端侧AI与云端AI对比及投资价值简析(周记十六)
今日头条
163. 美的全屋智能解决方案亮相第30届科技月,AI驱动家居体验升级
今日头条
164. AI Agent智能硬件:告别伪智能,重塑产品未来
微信公众号
165. 从 0 到 1 搭建 agent:小白也能看懂的框架指南
今日头条
166. 蒸馏、剪枝、量化三大模型压缩技术!在边缘设备上可部署模型的关键!全面介绍 PyTorch 量化感知训练
知乎
167. 恒生活:AI人工智能家居到虚拟助手的全面改变
今日头条
168. 基于Agent的智能家居项目实战(已交付
小红书
169. “端侧AI部署”与端侧计算、边缘计算与云端
小红书
170. 基于多 Agent 架构的智能家居系统——MOSS AI
微信公众号
已收藏
去我的收藏夹