高效压缩不是删字,而是重组语义骨架
05-19 17:41
精选参考来源
网络用户 2026-05-14
来自新浪微博
网络用户 2025-12-06
来自哔哩哔哩来源
精选参考来源
1. 问:上下文(Context)和上下文窗口(Context Window)什么差别?这两个概念经常被混用,但其实指的是不同层面的东西:上下文是指 AI Agent 在执行任务时实际拥有的所有信息,包括系统提示词、用户的对话历史、检索到的文档、工具调用的结果、记忆模块注入的内容等等。你可以把它理解为“Agent 此刻脑子里装的所有东西”。上下文是一个动态的、可以被工程化管理的概念——哪些信息该放进来、什么时候放、怎么组织,这就是现在越来越多人说的 Context Engineering。上下文窗口则是模型层面的一个硬性限制,指的是模型单次推理能处理的最大 token 数量。比如 128K、200K、1M 这些数字,说的就是上下文窗口的大小。它本质上是一个“容器的容量”。打个比方:上下文窗口是你厨房操作台的面积,上下文是你实际摆在台面上的食材、调料、菜谱和工具。台面就那么大(上下文窗口有上限),但你放什么上去、怎么摆放(上下文的管理)决定了你能不能高效做菜。在 Agent 开发中,一个核心挑战就是:Agent 需要的上下文往往远超上下文窗口的容量。对话越来越长、工具调用结果越来越多、检索的文档越来越大——这些都在消耗上下文窗口的空间。所以才需要各种策略来管理:摘要压缩历史对话、选择性检索而不是全量灌入、及时清理不再需要的中间结果等等。简单总结就是:上下文(Context)是“内容”,上下文窗口(Context Window)是“装内容的容器”。做 Agent 工程的核心功夫之一,就是在有限的“上下文窗口”里塞进最有价值的“上下文”。
新浪微博 2026-05-14 00:00:00
2. 「Github一周热点96期」Flux2绘图模型、腾讯的视频生成模型、AI记忆、开源Launchpad、笔记和知识库,Nginx可视化工具
哔哩哔哩 2025-12-06 00:00:00
3. 财报需求和预期全面打开,英特尔突然大涨DeepSeekV4 MIMO也来了:拼谁把算力榨干 | 模型压缩 |CPU|GPU
哔哩哔哩 2026-04-25 00:00:00
4. 大模型上下文工程指南
知乎 2026-04-12 00:00:00
5. DeepSeek v4全面支持百万上下文 token,这意味着什么?到底有多厉害?
知乎 2026-04-26 00:00:00
6. Andrej Karpathy:2025 大语言模型年度回顾
知乎 2025-12-20 00:00:00
7. 终于来了!DeepSeek-V4 正式发布!免费开源,百万上下文,Agent能力直逼Claude!| 零度解说
哔哩哔哩 2026-04-24 00:00:00
8. AI 化知识管理怎么做?Obsidian x GAP 管理法|AI 做搬运、我做判断
哔哩哔哩 2026-05-11 00:00:00
9. TRAE中国版白送SOLO,一人指挥一支AI大军 重磅消息!SOLO终于上线TRAE中国版了,Waitlist免费开放中 本期视频实测TRAE的新版本,亮点很多 1、先规划再动手的 Plan 模式 2、带专家团一起干活的 Subagent 子智能体 3、DiffView 差异视图 4、多任务并行 5、上下文智能压缩长时运行不掉链子 SOLO终于把AI从“瞎干活的外包”变成了“懂协作的队友” #AI #人工智能 #TRAE #AI编程 #vibecoding
抖音 2025-11-26 00:00:00
10. DeepSeek V4 网页端《原神×我的世界》融合小游戏代码测试:拳打 ChatGPT,脚踢 Gemini,硬刚 Claude
哔哩哔哩 2026-04-09 00:00:00
11. 刚刚,腾讯姚顺雨署名首篇论文发布,「下半场」先搞上下文学习
微信公众号 2026-02-03 00:00:00
12. 停止低效创作!这套爆款内容系统,正在重新定义内容工业化生产! 今天我给你彻底拆解:为什么你的内容创作效率低下,而头部品牌却能批量产出爆款? 因为你们之间,隔着一套"AI时代的内容生成工具"。 给你看个国内某头部公司的爆款内容采集分析&二创系统,这套系统不是简单的工具,而是完整的"内容工厂"解决方案。 它解决的不是单点问题,而是整个内容生产流程的数字化转型。 #飞书 #短视频运营 #小红书运营 #内容创作 #ai内容创作
抖音 2026-04-19 00:00:00
13. 创新Transformer!面壁基于稀疏-线性混合架构SALA训练9B模型,端侧跑通百万上下文
微信公众号 2026-02-11 00:00:00
14. 姚顺雨在腾讯首个研究:在“上下文”这事上,在座的各位都不及格
微信公众号 2026-02-05 00:00:00
15. Nano Banana Pro的表现令人震撼。它能将论文或长篇文章,转化成详细且直观的白板图像,这堪称人类历史上最强的“信息压缩算法”。比如,将92页的《Llama 3 Herd of Models》PDF,瞬间变成教授讲课时的白板笔记,结构清晰,重点突出,远超过传统的文本摘要。这不仅仅是“文本转图像”的简单生成,更像是真正的智能理解与表达。它用图形化的方式呈现复杂信息,让知识传递更高效、更直观。老师、讲者、研究者都能借助它,把冗长内容变成易懂的视觉故事。许多专业人士已经开始尝试:上传PDF,做演示,甚至用来可视化代码结构。它让AI在教学和知识传播中打开了新天地。这不仅是技术的突破,也是思维方式的革新。未来,知识不会再被长篇文章束缚,而是以图像和故事的形式,快速传达核心价值。这提醒我们,真正的智能,是把复杂变简单,是让信息更有温度,更易理解。原文链接:x.com/skirano/status/1991527921316773931 爱可可-爱生活的微博视频
新浪微博 2025-11-21 00:00:00
16. 大模型的上下文工程,都说很重要,但相关的研究那么少,对Agent开发有什么影响,有大佬能解释一下吗?
知乎 2025-11-27 00:00:00
17. 【顿悟现象、隐式正则化:深度学习隐藏的底层逻辑】快速阅读:深度学习正从工程经验向科学理论跨越。尽管目前行业倾向于通过增加算力和数据来解决问题,但关于“为什么神经网络有效”的底层逻辑——如隐式正则化、信息压缩与归纳偏置——正逐渐清晰。现在的 AI 领域有点像早期的电学时代:我们已经能造出极其复杂的电路(大模型),甚至能用它们实现各种惊人的功能,但对于电流究竟是怎么流动的,我们还没有一套完美的物理定律。大家都在聊“暴力美学”,觉得只要算力和数据够大,一切问题都能迎刃而解。有观点认为,这本质上是“苦涩的教训”:规模(Scaling)胜过一切复杂的架构设计。但这种看法忽略了一个关键点:如果只是单纯的参数堆砌,为什么同样规模的参数,换一种架构就完全不行?神经网络之所以比传统模型更强,秘密可能藏在“压缩”里。有网友提到,类似于 L1 正则化的机制能迫使模型用最少的比特去编码数据分布,这种隐式正则化其实是一种高效的信息压缩。这解释了为什么模型在经历一段看似毫无进展的训练后,会突然产生“顿悟”(Grokking)现象。现在的争议在于,我们是在“工程”深度学习,还是在“发现”它。有人觉得神经网络就像面向对象的编程,好用但没人懂底层逻辑;也有人担心,如果我们不能理解模型产生“幻觉”的数学本质,就永远无法在医疗或航空等高风险领域使用它。我们正处于一个奇特的节点:工程进步的速度远超理论理解。这就像在还没弄懂热力学定律之前,人类就已经造出了蒸汽机。问题的核心不在于模型有多大,而在于我们能否通过数学,把那些隐藏在海量参数里的“归纳偏置”找出来。arxiv.org/abs/2604.21691
新浪微博 2026-04-26 00:00:00
18. 使用 Claude Code:会话管理与 100 万上下文
知乎 2026-04-16 00:00:00
19. 【保姆级】RAG智能体终极方案:n8n+Google File Search,零门槛搭建高精度RAG工作流!
哔哩哔哩 2025-12-04 00:00:00
20. 开发者在使用 Claude Code 编写代码时,想要自动保存每次操作的上下文和工具使用情况,方便后续继续工作。Claude-Mem 是一款为 Claude Code 打造的持久化记忆压缩插件,能抓取工具执行的观察数据,通过 AI 进行语义压缩,并将相关上下文注入到未来的编码会话中。它支持跨会话保持上下文连贯,内置智能搜索功能,能用自然语言查询历史操作,极大提升项目管理和代码回溯的效率。插件提供 Web UI 实时查看记忆流,并可配置隐私标签过滤敏感信息。更有实验性的“无限模式”,通过压缩和分层存储实现更长的会话记忆,适合复杂项目的持续开发。主要功能:- 自动捕获并压缩会话数据,实现跨会话记忆延续- 语义搜索工具,快速定位历史决策和代码修改- Web 界面实时展示记忆流和搜索结果- 灵活配置隐私控制和上下文注入策略- 支持实验性无限扩展会话长度的“Endless Mode”- 基于 SQLite 和向量数据库结合实现高效存储和检索适用于需要在多次编码会话中保持项目上下文连续的开发者,尤其是使用 Claude Code 进行 AI 辅助编程的用户。项目地址:github.com/thedotmack/claude-mem安装简单,启动后自动生效,无需手动操作。想让 AI 更懂你的代码历史,这个开源插件值得一试。
新浪微博 2025-12-08 00:00:00
21. Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文
微信公众号 2026-04-17 00:00:00
22. 字节火山开源的上下文数据库OpenViking, 专为 AI Agent 设计。该项目通过文件系统范式,统一管理智能体所需的记忆、资源与技能,解决了传统 RAG 架构中信息碎片化和检索低效的问题。1. 文件系统管理范式 → 解决碎片化问题:基于文件系统范式,将记忆、资源、技能进行统一上下文管理;2. 分层上下文按需加载 → 降低 Token 消耗:L0/L1/L2 三层结构,按需加载,大幅节省成本;3. 目录递归检索 → 提升检索效果:支持原生文件系统检索方式,融合目录定位与语义搜索,实现递归式精准上下文获取;4. 可视化检索轨迹 → 上下文可观测:支持可视化目录检索轨迹,让用户能够清晰观测问题根源并指导检索逻辑优化;5. 会话自动管理 → 上下文自迭代:自动压缩对话中的内容、资源引用、工具调用等信息,提取长期记忆,让 Agent 越用越聪明。项目:github.com/volcengine/OpenViking#HOW I AI# #过个有ai年#
新浪微博 2026-02-18 00:00:00
23. 在线开发智能代理系统遇到上下文管理难题?推荐看看 muratcankoylan 的开源项目「Agent Skills for Context Engineering」,这是一个面向生产级 AI 代理系统的全面技能库。它提供了完整的上下文工程方案,涵盖基础理解、架构设计、多代理协作、工具开发、评估优化等多维度技能,帮助你科学管理语言模型的上下文窗,实现最高效的上下文利用和智能决策。主要亮点:- 深入讲解上下文衰减、压缩和优化,避免模型“迷失中间”;- 支持多代理架构设计,含监督者模式、图谱记忆、沙盒环境等;- 提供完善的评估框架,支持LLM作为裁判进行性能对比和偏差缓解;- 包含项目开发全流程指导,从概念设计到流水线部署;- 独家认知架构技能,形式化建模代理心智状态,实现理性推理与解释;- 跨平台、通用原则,适配Claude Code、Cursor等主流代理平台。GitHub:github.com/muratcankoylan/Agent-Skills-for-Context-Engineering无论你是搭建单一代理还是多智能体系统,这套技能库都能助你构建、优化和调试高效智能体,推荐 AI 开发者和研究者深入学习!#AI创造营##人工智能#
新浪微博 2026-03-02 00:00:00
24. 由2条Prompt到2条命令,让你的Claude Code拥有无限上下文,不会乱Grep浪费Tokens(帮你省Tokens),按你所想埋头苦编,绝不越界
知乎 2026-01-07 00:00:00
25. #DeepSeekV4发布#DeepSeek刚刚发布了新的V4系列模型,主要有三项比较大的变化:支持百万级上下文、引入混合注意力机制通过压缩Token,百万级上下文需要的推理算力和显存显著下降、性能更高,多项基准刷新开源模型记录的同时Token成本更低。[good] 值得一提的是,V4不具备多模态能力。所以怎么说呢,期待的一年的V4模型,发布后基本符合预期吧。 在AI的浪潮里,大模型也上演着后浪推前浪,年初至今,Seedance 2.0、小米MiMo等国产大模型一个比一个表现出色,在全球掀起了巨大关注。这也应了那句:一支独放不是春,百花齐花春满园。中国大模型加油![耶]
新浪微博 2026-04-24 00:00:00
26. 告别KV Cache枷锁,将长上下文压入权重,持续学习大模型有希望了?
微信公众号 2026-01-02 00:00:00
27. Codex CLI 有个很大的不同就是喜欢啥事都让模型替你决定,比如我这个任务,跑了快一小时了,然后上下文空间都用完了,它也不结束,就直接主动帮我做了一次上下文压缩。这点也不好说好还是不好,确实是个 Claude Code 不一样的地方。
新浪微博 2026-01-17 00:00:00
28. 使用 Claude Code 进行长周期开发时,上下文的自动压缩(Compaction)往往会导致关键细节丢失,随着对话增长,模型容易产生幻觉或遗忘之前的决策。Continuous Claude 是一个专为 Claude Code 打造的上下文管理工具包,核心理念是“清理而非压缩”,通过账本和交接机制确保开发状态的无损延续。它不仅提供了自动化的状态保存功能,还整合了高效的 MCP 执行环境和多智能体协作流,让 Claude 在处理复杂任务时始终保持高清晰度的上下文。GitHub:github.com/parcadei/Continuous-Claude主要功能:- 连续性账本系统,在清理上下文前后自动保存和恢复任务目标与进度;- 自动化钩子(Hooks),在会话启动、工具调用和上下文压缩等关键节点自动执行状态维护;- 令牌高效的 MCP 执行,通过脚本化工具调用减少上下文污染,提升响应质量;- 智能体编排工作流,支持计划制定、方案验证、实施及 TDD 驱动的开发模式;- 本地构件索引,使用 SQLite 存储交接文档和计划,支持快速检索历史决策;- 深度集成代码质量工具,支持自动格式化、静态检查及 TypeScript 预检。该项目支持全局安装或单项目配置,通过 uv 管理 Python 依赖,适合需要使用 Claude Code 进行深度编程和复杂架构设计的开发者。
新浪微博 2025-12-26 00:00:00
29. 昨天这篇文章提到了强化机制(网页链接),此强化非彼强化,正好详细了解了一下。这里的强化机制并非机器学习领域的强化学习,而是一种为大模型注入额外提示、补全上下文、修正轨迹的工程技巧。它的核心目标是让 Agent 在多步任务中保持方向稳定、决策一致。1. 解决什么问题?当 Agent 需要处理复杂的多步骤任务,模型常常出现以下问题:1) 工具报错后无法正确恢复当错误信息过长或过几轮后被遗忘时,模型会继续产生无效输出。2) 忘记初始目标在长上下文中,模型会偏向于处理眼前的文本,而不是任务本身。3) 被工具输出的噪声误导许多系统的工具输出不够结构化,模型难以正确解析。4) 循环行为模型可能重复调用相同工具,或重复生成相同解释。2. 什么是强化机制?为了让 Agent 能够顺畅执行任务,工程实践中逐渐形成了一种关键方法,即“强化机制(reinforcement)”。强化机制通常包含三类信息:1) 原始工具输出2) 对工具输出的解释、总结或结构化处理3) 针对任务目标的提醒、下一步行动建议或错误纠正提示这种方式让模型在下一轮推理时,不仅知道发生了什么,还知道应该如何继续。3 强化机制是如何运作的?为了说明强化机制如何发挥作用,可以将 Agent 的通用循环简化为四个阶段:1) 用户或系统提出任务2) 模型给出行动(如调用工具或生成内容)3) 工具返回结果4) 系统将结果整理后重新注入模型,让模型继续强化机制作用在第四阶段,它通过人工设计“强化后的上下文”结构,让模型更理解状态,也更容易走上正确路径。一个典型的强化注入可能包含:1) 工具原始输出2) 提炼后的关键点3) 关于失败原因的简要解释4) 明确提示模型下一步应该做什么5) 任务目标的提醒4 强化机制的常见形式在实际系统中,强化机制可以通过多种形式实现:1) 结果总结将工具输出的关键部分提炼为简短段落,让模型更容易解析。2) 错误解释遇到报错时,用自然语言告诉模型:错误原因是什么,应该如何修复。3) 结构化状态把工具状态包装成 JSON 或结构化文本,让模型减少解析错误。4) 目标重申在任务进行多轮之后,重新提醒模型最终目标是什么。5) 自我检查(Self-Check)让模型根据当前状态生成“我下一步应该做什么”的列表,并在下一步回显给自己。6) 路径规划在关键步骤加入“你已完成哪些步骤,还剩哪些步骤”的信息。这些设计本质上都是为了让模型更容易维持任务链路。5 如何设计一个高质量强化机制?如果你正在构建自己的 Agent,可以遵循以下设计原则:1) 状态必须清晰不让模型自己推理上下文,而是直接告诉它关键点。2) 信息必须简短强化信息越长,越容易被淹没在上下文中。3 )错误必须显式解释模型在理解错误时的鲁棒性很差,需要手工解释。4) 目标必须持续提醒尤其是超过三轮的任务,不提醒必偏航。5) 工具结果必须被结构化能 JSON 就不要纯文本。通过这些工程技巧,可以显著提升 Agent 的稳定性。#微博兴趣创作计划# #人工智能#
新浪微博 2025-11-29 00:00:00
30. 日常办公或学习时,经常需要将长文本提炼成要点,手动梳理不仅耗时,还容易遗漏核心信息,普通文本工具缺乏自动提炼功能,难以快速输出简洁摘要。 针对这种场景,TextRanker提供开源免费的文本自动摘要工具,基于自然语言处理算法提炼核心内容,高效完成文本精简。 开源地址:github.com/davidadamojr/TextRank 主要功能: 1. 自动分析文本逻辑,提取关键句子生成简洁摘要,保留核心信息; 2. 支持自定义摘要长度,按需调整提炼详略程度,适配不同场景需求; 3. 兼容中英文文本,可处理文章、报告、论文等多种长文本类型; 4. 本地离线运行,无需上传文本至云端,保障敏感内容隐私安全; 5. 轻量无广告,操作界面简洁,输入文本即可一键生成摘要; 6. 支持结果导出,可直接复制或保存为文档,方便后续使用。 TextRanker省去手动提炼要点的繁琐,快速将长文本转化为精炼内容,大幅提升资料整理与信息吸收效率,是办公和学习中处理长文本的实用工具。
新浪微博 2025-12-17 00:00:00
31. Alex Albert 正在征集 Opus 4.5 的反馈,用户们纷纷指出了使用中的痛点和改进建议:- 上下文限制频繁导致查询失败,界面空白,且离开页面后常丢失输入(Deedy)- 模型偶尔过于急于下结论,忽略指令,且有时回答直觉化,缺乏严格核查- 需要更强的“长上下文智能”,能提炼主题、战略方向,而非简单检索- UI体验欠佳,比如无法在会话中切换Sonnet和Opus,自动压缩功能不可控,浪费时间和资源- 性能和成本问题,期望更快更便宜- 代码生成时常忽视已有抽象,重复造轮子;合并冲突处理不够智能,导致等待CI失败- 安全研究场景识别不足,拒绝分析恶意软件样本- 记忆和上下文管理不理想,频繁重复说明,影响效率- 功能期待:自动生成并保持最新的CLAUDE .md文档,异步渐进式压缩,支持视频输入- 质量波动大,有时表现“迷糊”,甚至比旧版本Sonnet还差- 期望下一个版本能更快推出,提升智能和稳定性总体来看,Opus 4.5 功能强大,用户体验和技术细节仍有不少提升空间。真正的挑战是如何在保持模型强度的同时,提升稳健性和实用性,减少“直觉式”错误,增强上下文理解和持续学习能力。只有这样,才能让AI成为日常工作中真正值得信赖的助手,而非偶尔拖后腿的“聪明伪专家”。x.com/alexalbert__/status/1998801676854337643
新浪微博 2025-12-12 00:00:00
32. 蚂蚁灵光,30秒生成专属程序,普通人也能手搓代码 #蚂蚁灵光 #AI #阿里
抖音 2025-11-22 00:00:00
33. ControlNet作者张吕敏最新论文:长视频也能实现超短上下文
微信公众号 2026-01-03 00:00:00
34. 硅谷最新估值5亿的文档产品Mintlify:以AI为上帝重构,1000万ARR
微信公众号 2026-05-04 00:00:00
35. 9.3k星Skill Seekers:一键把文档变成Claude技能,文档党狂喜
微信公众号 2026-02-11 00:00:00
36. 不知道大家想过这个问题没有,大家都感觉现在大模型的记忆存储受限,200万的上下文记忆其实也不够用。但我想说,其实即使大模型能够记住海量的上下文,也未必有用,它依然需要上下文的管理。也就是说,在AI时代,一个人非常重要的能力就是如何去管理上下文,去领导Agent。为什么这么讲呢?大家可以想想,如果记忆不受限,大模型可以无限存储,你和它聊的内容越多,它大脑里塞的东西就越满。在执行任务的过程中,它不知道到底应该怎么去执行,因为塞的东西太多了,哪个是核心的?是不是太多了?如果记忆太多,就容易导致错乱和模糊,因为你塞得太满,它不知道怎么执行,很多东西在里面很乱。所以,上下文管理是必须的。第二,即使大模型的记忆非常多,人和人之间沟通,一句话的理解都可能不同,何况大模型和人之间的沟通呢?这里面肯定也会存在交流的摩擦。所以,人需要及时干预和介入到大模型的工作流程当中,去管理上下文、管理整个流程,这是非常必要的。所以大家不要期待说,大模型的上下文越来越长就越好,不一定,有利有弊。即使大模型不会丢掉记忆,记忆永存,它依然不会精准地按照人类的要求去执行。我之前看过一个调查或研究,就是说大模型里,你上下文塞得越多越满,它的执行就会越混乱、越模糊,就是因为东西太多了,它不知道怎么执行了。所以,管理上下文这个事情,依然需要有人去管理、去做。#科技先锋官##How I AI#
新浪微博 2026-04-11 00:00:00
37. 网页链接langchain发了篇官博,探讨了智能体如何利用文件系统进行上下文工程,以提升其性能和可靠性。智能体失败的主要原因并非模型能力不足,而是缺乏正确的上下文信息。上下文工程的目标是精准地将必要信息填入模型的上下文窗口,避免信息缺失、冗余或不相关。常见的上下文工程挑战包括: 信息过多(检索内容远超所需):如网络搜索返回大量无用内容,浪费token并增加成本。 信息过少或超出上下文窗口:复杂任务需大量信息,单次无法加载全部。 难以定位小众信息:所需信息埋藏在大量文件中,语义搜索效果有限。 缺乏持续学习能力:无法从交互中积累新知识。文件系统是解决这些问题的关键工具,其优势体现在: 作为“草稿板”:将大体积工具输出(如网页内容)存入文件系统,按需通过grep等工具提取关键信息,减少上下文占用。 动态管理上下文:存储长期计划、子任务结果或复杂指令,按需调用,避免系统提示过载。 精准搜索:利用ls、glob、grep等命令在结构化目录中快速定位特定文件、行甚至字符,尤其适合代码或技术文档。 持续学习与自我更新:智能体可通过用户反馈更新自身“技能文件”,将新知识写入文件系统,实现长期记忆与能力进化。#科技先锋官#
新浪微博 2025-11-23 00:00:00
38. 科普 latent space:**Latent space 就是把现实世界的高维混乱信息压缩成一个低维的"关键特征地图",机器人在动手之前先在这张地图上快速模拟出不同走法的后果,挑出最稳的那条路再去真干——所谓"在 latent space 里做梦",就是先在压缩世界里沙盘推演,再去现实世界里执行。**
新浪微博 2026-05-11 00:00:00
39. #DeepSeek v4 百万上下文# 直接就发布了,这次太炸裂,又是行业重磅!DeepSeek-V4已经正式上线并开源,其核心特点如下:拎几个重点来聊聊:1、百万上下文标配:Pro与Flash双版本均原生支持1M token超长上下文。2、领先性能:Agent能力、世界知识与推理性能达国内与开源领域领先,Agentic Coding性能登顶开源模型。3、架构革新:创新采用基于token维度的动态压缩与DSA稀疏注意力技术,大幅降低算力与显存消耗。4、双版本策略:推出Pro版(1.6T参数,49B激活)与Flash版(284B参数,13B激活)。5、开源生态:同步开源模型权重,并已完成对华为昇腾等国产芯片的深度适配。#DeepSeekV4发布##DeepSeekV4和GPT5.5谁更强#
新浪微博 2026-04-24 00:00:00
40. 1000倍压缩!TUM开源Nix and Fix:让3D GS仅占用0.1 MB内存,精度无损!
知乎 2026-02-13 00:00:00
41. 扩散语言模型总是均匀发力,华为诺亚教它「抓重点」
微信公众号 2026-03-22 00:00:00
42. #DeepSeekV4发布# DeepSeek V4预览版终于来了!这次更新主要有三大亮点:产品分层:网页端上线了“快速模式”和“专家模式”。日常聊天用快速版,写代码、搞科研等复杂任务就切到专家版,虽然可能要排队,但逻辑和精度强很多。超长上下文:支持100万Token上下文,相当于能一次性吃透75万字的内容,处理整本小说或大型代码库毫无压力。原生多模态:虽然“视觉模式”还在灰度测试,但V4已经具备了原生看图、理解视频的能力,不再只是简单的“看图识字”,跨模态理解能力有了质的飞跃。今年大模型的进步绝对是突飞猛进,AI能力会呈现指数级提升。
新浪微博 2026-04-24 00:00:00
43. DeepSeek-V4论文中CSA(Compressed Sparse Attention)的参考实现。www.k-a.in/CSA.html作者把论文中的关键公式逐段落实成 PyTorch 实现,涵盖 token 压缩、稀疏索引、滑动窗口 KV、共享 KV 注意力和输出投影,并拿它和标准多头注意力(MHA)比较 KV cache 占用、训练收敛、前向延迟和长上下文 passkey retrieval 表现。#AI创造营#
新浪微博 2026-04-28 00:00:00
44. //@Transformer-周:其实也没啥特别的,说牛逼点叫战场态势感知,庸俗一点就是信息压缩抽取summary,属于最基本能力,传统洗数据要洗好几天,还要各种人工回去check对应的非结构原始数据的语义,现在直接发模型只要context够就完全没问题了,前提模型幻觉小,推理能力高,但是这里有一个bug,claude可是没有asr服务,那么是谁来做asr识别的呢//@历史的进城:Claude在行动中扮演的角色并非直接操控武器,而是处理海量的非结构化战争数据。Claude能够快速阅读数千小时的波斯语截获通话,识别出伊朗革命卫队内部的指挥链裂痕,并为指挥官生成几十种动态博弈下的打击场景模拟。分析人员需要问:“如果我们在此时对德黑兰实施电子压制,并同步进行空中打击,哈梅内伊最可能的逃生路线是哪一条?”Claude会基于其海量的军事理论训练和实时注入的情报流,给出最优化的拦截概率图表。
新浪微博 2026-03-01 00:00:00
45. 跟大家说一个 TRAE 非常好用的功能,就是帮你整理文件。这个功能实在是太实用了。大家在电脑上肯定存了很多文档,这些文档你自己去整理也不知道怎么入手,因为有些文档里面的内容,确实很重要,但是有一些内容又分散在不同的文档里,然后有一些文档的内容又相互有一些重合的部分。你要把这些文档整理出个头绪的,比理毛线团还乱。这个时候,你就可以用TRAE。你把你的需求告诉他,就是分门别类,把这些文档整理合并精简。 大模型做这种事情做得非常好。
新浪微博 2026-03-13 00:00:00
46. 人类很容易跟踪可疑目标,智驾却很难只有更长的上下文,才能让智驾系统持续、稳定、不丢失地跟踪动态危险目标(横穿行人、加塞车辆、逆行非机动车等),减少“突然消失、突然出现、ID 切换”的跟踪错误,显著提升极端路况下的安全性特斯拉模型架构迭代的方向,在不断增加上下文长度特斯拉terafab不但要造逻辑芯片,还要造存储因为延长上下文长度,主要依赖更大的存储来支撑 KV Cache#特斯拉fsd##人工智能 # 刘智驾的微博视频
新浪微博 2026-04-06 00:00:00
47. 【原神】多鲁德的长诗+异时的流星/挪德卡莱月之四开图主线②/战歌吟唱时/古老的阵眼/终至破晓/夜莺之歌·第二章+终章/原神月之四/挪德卡莱月之四世界任务
哔哩哔哩 2026-01-14 00:00:00
48. 【首发】GPT-5.5重磅上线!能自己搞定复杂任务的AI来了
哔哩哔哩 2026-04-26 00:00:00
49. 智能体上下文工程:为什么文件系统成了AI记忆的最佳载体?
知乎 2026-03-09 00:00:00
50. 大模型的记忆能力现在完全靠内存的大小决定,也就是上下文的大小决定了当前大模型的智能水平。这与去年我们玩小模型硬吃显存的逻辑是不一样的。现在经过量化的小模型已经能稳定地高效产出tokens。我在本地的gemma4上下文测试时一直对话,上下文的用量除着对话不断抬升内存用量,直到拉满然后爆炸了。从内存用量一半到爆炸,GPU显存几乎纹丝不动。也就是说对显存的需求被量化的压缩给控制住了。硬件从GPU的算力,发展到了存储容量的记忆力比拼。所以各大厂商都在无限堆推理上下文内存。但对内存的依赖应该在算法上可以优化,将上下文进行关键压缩和向SSD固化,需要时再对内存激活。不过内存厂家也是SSD厂家。这就是为什么最近半年多,内存被拉冒烟的根本原因。当LLM的算法遇到scaling law的天花板,内存大小决定了智能化程度。注意算法扰动,如果真出现数倍级压缩算法,那么内存的预期就会被暴击。因为现在认为内存决定能力还看不到天花板。我们迫切需要内存上下文量化技术和内存版MOE的出现。
新浪微博 2026-04-18 00:00:00
51. 在线聊天记录和上下文管理总是难题,消息太多模型上下文窗口很快就撑满了。一个超棒的开源插件 Lossless Claw(基于 LCM:Lossless Context Management),为 OpenClaw 提供了一套无损上下文管理方案。它用有向无环图(DAG)替代传统滑动窗口,完美保存所有消息,通过智能摘要浓缩旧消息,又能即时复原细节,感觉像和一个“永不忘记”的智能助手聊天。主要功能:- 所有对话消息持久存储到 SQLite 数据库,确保数据不丢失;- 采用 LLM 自动生成多层摘要形成聚合 DAG 结构,压缩旧内容但保持可展开细节;- 每次对话上下文由最新消息+层级摘要组成,极大扩展了上下文容量;- 配套 lcm_grep、lcm_describe、lcm_expand 等搜索和回溯工具,快速定位旧消息和内容;- 支持自动分层压缩、会话持久化,减少手动操作;- 多种可自定义参数调节压缩触发阈值、摘要深度、最新消息保护数量等。安装只需在 OpenClaw中执行插件安装命令,一键启用,适合想突破上下文限制的AI项目和研究者。GitHub:github.com/martian-engineering/lossless-claw#AI技术# #开源插件# #上下文管理##AI创造营##人工智能#
新浪微博 2026-03-16 00:00:00
52. #DeepSeekV4发布# 这算是千呼万唤始出来,终于发布了。DeepSeek今天正式发布V4系列预览版并同步开源,分为V4-Pro和V4-Flash两个版本,主打100万(1M)超长上下文能力,官网、App及API均已同步更新。V4-Pro在Agent能力、世界知识、数学推理等多项评测中达到开源模型最佳水平,推理性能比肩顶尖闭源模型;V4-Flash则以更小的参数量提供更快速、更经济的API服务,适合轻量场景。技术层面,V4采用全新注意力机制,结合DSA稀疏注意力,在大幅压缩计算和显存需求的同时,实现百万级超长上下文。DeepSeek表示,1M上下文将成为旗下所有官方服务的标配。此外,V4针对多款主流Agent产品进行了专项适配优化。旧版API接口模型名deepseek-chat和deepseek-reasoner将于2026年7月24日正式停用,用户需提前切换至新模型名。#老张聊科技# deepseekv4发布
新浪微博 2026-04-24 00:00:00
53. 智能的核心在于学习与感知,而非表层的模仿与生成。大语言模型的生成能力,本质是基于海量文本的概率性拼接,虽能输出契合人类语言逻辑的内容,却无法真正理解文字背后的物理意义、因果关联与现实场景。跳出语言文本的局限,转向对物理世界的感知,从单一模型迈向多元架构,才是AI的未来之路。
新浪微博 2026-01-04 00:00:00
54. 信息压缩到底是怎么回事?——用一根“无限长的软尺”把所有高大上的概念一次性讲透
微信公众号 2025-12-09 00:00:00
55. 学习Claude Code源码,学习Claude Code 的上下文压缩
知乎 2026-04-20 00:00:00
56. GPT-5.5长文档处理实战:从卡壳到流畅的优化全攻略
什么值得买 2026-05-02 00:00:00
57. 字节面试官问:怎么在大模型有限的上下文里塞更多信息?有什么压缩技巧?
微信公众号 2026-03-31 00:00:00
58. 上下文压缩(Context Compaction)怎么做才不“忘事”?一套可落地的触发条件 + 比例方案(附模板)
知乎 2026-02-28 00:00:00
59. 聊聊各家 AI 产品的上下文压缩方法论
知乎 2026-04-01 00:00:00
60. 清华孙茂松+深言科技重磅突破!LLM 长文本处理效率翻倍,EDU 压缩方案终结 “上下文瓶颈”
微信公众号 2025-12-23 00:00:00
61. 11月起【技术标】超50页直接废标!3步AI精简法,核心得分点一个不丢
微信公众号 2025-11-27 00:00:00
62. 6倍省内存,8倍提速!Google这招要让长上下文便宜了
今日头条 2026-03-27 00:00:00
63. AI Agent与上下文工程(三): 上下文压缩方法
知乎 2026-04-13 00:00:00
64. GPT-5.2 Codex长上下文处理技术深度解析
微信公众号 2025-12-23 00:00:00
65. 小模型读书大模型思考:上海AI Lab提出新知识推理解耦方法DRIFT,高效且「防越狱」
微信公众号 2026-03-14 00:00:00
66. 32倍压缩率下性能反超25个点!破解长文本压缩「翻车」难题
今日头条 2026-02-23 00:00:00
67. 可信大模型应用!上下文工程将推动业务场景大模型可信应用发展
微信公众号 2025-11-27 00:00:00
68. 【AI论文解读】解决大模型长上下文内存爆炸!用测试时梯度把长文本压缩进紧凑内存 | GradMem
哔哩哔哩 2026-04-10 00:00:00
69. 【译】如何优化你的上下文?
知乎 2025-11-21 00:00:00
70. 浙江技术标限 100 页!5 步快速精简,标书照样高分!
微信公众号 2026-02-04 00:00:00
71. 32倍压缩率下性能反超25个点!破解长文本压缩「翻车」难题 | ICLR 2026
腾讯网
72. TTT-E2E:端到端的长上下文测试时训练
微信公众号 2026-01-01 00:00:00
73. LLM 上下文压缩方法汇总(2025.09 ~ 2026.03)
知乎 2026-04-06 00:00:00
74. ASPICE文档编写太复杂?3个精简原则落地实操
知乎 2026-01-17 00:00:00
75. Agent上下文工程核心方法:上下文压缩中间件
哔哩哔哩 2025-12-12 00:00:00
76. 【从0到1构建一个ClaudeAgent】内存管理-上下文压缩
77. 如何利用智能AI快速提炼文章中核心内容
今日头条 2026-02-06 00:00:00
78. 大模型应用开发-2 上下文工程
知乎 2026-04-05 00:00:00
79. 2026年Gemini长上下文办公实战:从百万Token容量到结构化输出的技术路径
哔哩哔哩 2026-04-17 00:00:00
80. 信息过载?3步建立高质量信息筛选秩序
今日头条 2026-03-06 00:00:00
81. 上下文压缩调度:工具裁剪与历史记录压缩
微信公众号 2026-04-20 00:00:00
82. 牛津新方案让长上下文缓存更好压缩
小红书 2026-05-12 00:00:00
83. 从“信息过载”到“有效认知”:数字时代的内容筛选法则
今日头条 2026-03-30 00:00:00
84. Day 853 生成式人工智能赋能可持续旅游:缓解认知过载,促进用户福祉与环境责任行为
微信公众号 2026-05-07 00:00:00
85. 决策者的“信号过滤”:在信息过载时代,如何重构情报获取的精准度?
知乎 2026-04-19 00:00:00
86. 豆包如何快速整理会议纪要并提取待办?
今日头条 2026-03-13 00:00:00
87. Claude Code管理上下文的最佳实践
小红书 2026-04-17 00:00:00
88. 职场人必备 录音转文字自动提炼重点 会议纪要不用愁
什么值得买 2025-11-28 00:00:00
89. 2026版总结视频内容的AI工具 精准识别高效输出让内容整理更省事
什么值得买 2026-04-17 00:00:00
90. 别卷模型了!上下文工程才是大模型应用的王道!
知乎 2025-12-14 00:00:00
91. 信息过载与焦虑,AI如何破局未来资讯困境?
今日头条 2026-02-12 00:00:00
92. RAG代码补全中的文本分块策略有啥?影响几何?如何选择?一项实证分析
微信公众号 2026-05-08 00:00:00
93. AI文本翻译与智能摘要自动化流程
哔哩哔哩 2026-03-04 00:00:00
94. 精简笔记提炼法,考前冲刺更省心
今日头条 2026-05-10 00:00:00
95. 手动翻记录、找线索太费劲?微伴「信息识别」让关键内容自动“跳”出来!
微信公众号 2026-02-04 00:00:00
96. 安卓16推AI摘要功能
微信公众号 2025-12-04 00:00:00
97. 重要的事情说三遍!对人管用,对AI也管用。Google Research 去年12月发表了一篇论文,题目叫「 提示词重复可提升非推理型大语言模型性能」。论文提出一种简单方法,通过重复输入提示来提升语言模型在非推理任务上的表现。 因果语言模型有局限,早期的 token 不能关注后来的 token。但如果把提示复制一遍,比如从变成,模型在预填充阶段就能让所有 token 互相关注。这不改变输出格式,也不会增加生成token的数量或延迟。 他们在7个流行模型上测试,包括:Gemini、GPT、Claude 和 DeepSeek。基准有7个,如ARC、GSM8K和自定义任务NameIndex。 在非推理设置下,重复提示带来明显改善。总共70个模型-基准组合中,有47次准确率上升,没有下降。比如在NameIndex任务,Gemini 2.0 Flash-Lite的准确率从21.33%升到97.33%。 多选题中,如果选项在前、问题在后,效果更好。因为重复让模型看到完整上下文。 但是启用推理提示如「 Think step-by-step 」时,重复的作用中性或略有帮助。推理模型往往自己重复部分提示,所以额外重复不伤性能。 他们还做了消融实验。重复三次常比两次好。用「 Let me repeat that: 」这种冗长重复,效果相当。只是增加提示长度而不重复,则无改善,证明关键是内容重复。 延迟方面,大多模型不变。只有Claude在长提示或三次重复时稍增,但整体高效。 这项技术实用,能无缝融入现有系统。论文建议未来方向,如在微调时用重复提示,或优化KV缓存只存第二份拷贝。 对AI开发者来说,这个技巧非常实用。构建QA系统时,试试重复提示,能提升非推理任务准确率,而不添麻烦。 #大模型 #AI提示词 #AI资讯 #前沿科技 #大语言模型
抖音 2026-01-26 00:00:00
98. 会议纪要标准写法,精准提炼议定事项
今日头条 2026-02-06 00:00:00
99. 如何利用人工智能构建技术文档风格指南并用它来发现内容问题
今日头条 2025-12-05 00:00:00
已收藏
去我的收藏夹