训练速度翻倍不是梦！AI工程师闭眼入的GPU训练加速避坑指南_服务软件

1. 在AI时代，算力决定速度，内存决定高度。 #大咖观察 #红衣聊AI #GPU #内存

2. 刚刚，英伟达CUDA迎来史上最大更新！

3. Sand.ai开源发布MagiCompiler：突破局部编译界限，定义训推性能上限

4. DeepSeek最新论文新突破：彻底解决大模型训练稳定性难题

5. 英伟达亲手终结CUDA「护城河」？传奇芯片架构师引发争议

6. 英伟达护城河被AI攻破，字节清华CUDA Agent，让人人能搓CUDA内核

7. ICLR'26开源 | 加速SAM2！中科院Efficient-SAM2：更快更强的分割一切！

8. 英伟达“护城河”要塌了？但这次是老黄自己动的手【X.PIN】

9. #一分钟视频创作季# 突破 AI 算力瓶颈：英伟达 Spectrum-X 如何重构数据中心网络当万亿参数大模型训练时，数千张 GPU 协同产生的海量数据传输，常让传统以太网陷入带宽浪费困境，利用率仅 35%~40% 的网络成为算力释放的关键瓶颈。Spectrum-X 以太网解决方案破解了这一难题，将成为AI工厂的高性能神经系统。Spectrum-X三重突破：无损传输通过 PFC 流量控制与 ECN 拥塞通知，实现微秒级反馈避免数据包丢弃，彻底告别传统网络的丢包重传延迟；自适应路由采用逐包动态负载均衡，由 Spectrum-4 交换机实时选择最优路径，配合 BlueField-3 SuperNIC 完成乱序重组，让带宽利用率飙升至 95%。硬件级拥塞控制依托交换机内置遥测技术，精准调节数据注入速率，根除多 GPU 同步引发的 Incast 拥塞。在实际场景中，Spectrum-X 已展现硬核价值，在 Israel-1 超级计算机上将 800 GPU 集群的读带宽提升 48%，使 TB 级模型 Checkpoint 保存时间大幅缩短，避免训练中断导致的算力浪费。Oracle 用其构建十亿瓦级 AI 工厂，实现数百万 GPU 高效互连，加速生成式 AI 部署；Meta 则将其集成到 FBOSS 系统，为数十亿用户的 AI 服务提供稳定低延迟的网络支撑。对于检索增强生成场景，Spectrum-X 使向量数据库的检索延迟显著降低，助力多租户 AI 服务每秒处理数千查询。#有点东西##AI创造营##微博兴趣创作计划# 种斌Marco的微博视频

10. 创新Transformer！面壁基于稀疏-线性混合架构SALA训练9B模型，端侧跑通百万上下文

11. pytorch 2.0 torch.compile真的使你的训练变快了吗？

12. CUDA护城河破了？AI暴力直出82%算子，开发彻底告别手搓时代

13. 英伟达周末双炸！CUDA二十年最大更新，顺手屠榜AGI比赛

14. 酷睿 Ultra200H 处理器可分配 120GB 显存并运行 120BMoE 模型，这意味着什么？

15. 在线训练智能代理，从此轻松「对话」搞定！ OpenClaw-RL是一个开源的异步强化学习框架，它通过捕捉你与AI的日常对话，自动生成训练信号，持续优化个性化智能代理。无需繁琐的数据标注，训练过程完全异步运行，模型服务和训练互不影响，还能私有化部署保证隐私。主要特点： - 彻底异步架构，支持模型推理、采样收集、打分评估和训练四模块并行运行 - 私有化设计，所有对话数据留在本地，无需第三方API - 自动从对话中提取强化信号，支持两种核心训练方式：基于反馈评分的Binary RL 和基于文本回馈的On-Policy Distillation - 多轮对话上下文感知、回放记录及高质量更新机制，训练更稳定高效 - 模型服务兼容OpenAI API，易集成到现有系统支持8卡GPU集群，CUDA+Python环境，具体搭建方法详见仓库说明。 GitHub：github.com/Gen-Verse/OpenClaw-RL 适合需要打造个性化AI助理、机器人、自适应对话系统的开发者和机构。 #AI创造营##人工智能#

16. 在线训练PyTorch构建块，专为 OLMo 生态系统打造，助力大规模语言模型开发。AllenAI推出的 OLMo-core，集成了训练、推理的全套模块，不仅提供了官方训练脚本支持多GPU分布式训练，还能无缝接入 Hugging Face Transformers 和高效的 vLLM 推理引擎。主要亮点：- 支持最新的 OLMo-2（32B）和 OLMo-3（7B/32B）模型训练脚本；- 兼容 PyTorch，支持 torchrun 与 Beaker 一键分布式启动训练；- 提供多种可选依赖支持加速（flash-attn、TransformerEngine、torchao 等）；- 通过 Hugging Face Transformers 和 vLLM 实现高效推理，加速模型部署；- 提供交互式聊天演示和评测工具，方便研究和测试；- Docker 镜像包含所有依赖，便于快速启动环境。安装简易，pip 安装即用：```bashpip install ai2-olmo-core```官方文档：olmo-core.readthedocs.ioGitHub：github.com/allenai/OLMo-core适合科研人员、AI工程师、NLP开发者使用，全面提升大模型训练与推理效率。#开源项目# #大规模语言模型# #AI训练# #PyTorch# #自然语言处理#

17. 在线向量数据库经常只提供基础的相似度搜索，结果固定不变，人工调整复杂。最近发现 RuVector 这个开源项目，它是一个用 Rust 打造的高性能、实时自学习向量图神经网络和数据库，集成了自适应优化和本地 AI 推理，性能秒杀传统向量库。 RuVector 最大亮点是它的 GNN 层能够自动从每次查询学习，搜索结果随着使用自动提升，无需手动调优；还能本地运行 LLM，无需依赖云 API，支持 CPU 优先加速；具备图查询（Cypher）、超边、超球面嵌入、多模型智能路由和动态张量压缩等前沿功能。还支持 PostgreSQL 作为扩展，完全替代 pgvector，拥有 230+ SQL 函数，几乎零迁移。适合需要自适应搜索、复杂关系建模、本地 AI 推理的应用，比如智能问答、推荐系统、知识图谱等。 GitHub：github.com/ruvnet/ruvector 主要功能： - 自学习向量搜索，查询即训练，搜索结果越用越准 - 集成多种图神经网络（GCN、GAT、GraphSAGE等） - 支持超边连接，建模复杂多元关系 - 内嵌LLM推理引擎（ruvLLM），支持 Metal/CUDA/WebGPU 等硬件加速 - 动态多级张量压缩，节省 2-32 倍内存 - 跨平台支持，含 Node.js、浏览器（WASM）、PostgreSQL 等 - 自愈查询优化，DAG查询计划智能调整提速 - 并发分布式，含多主复制、Raft共识、自动分片 - 完整的认知容器（.rvf）格式，一文件即服务，可安全验证操作链 - 丰富生态：科学OCR、神经交易、合成数据、元认知脉冲神经网络等快速试用： ```bash npm install ruvector npx ruvector ``` 适合开发者、AI科学家、数据工程师和企业部署的全功能AI数据库底座。 #AI创造营##人工智能#

18. #AI# 国产算力芯片再传好消息！近日，华为发布了全新的 Atlas 350，搭载昇腾 950PR 芯片，定位为大模型推理旗舰卡，主打 Prefill 阶段与推荐业务场景，与英伟达 H100比有什么优劣势？H100 作为 Hopper 架构旗舰，是全球 AI 训练与推理的标杆产品，两者在定位、架构与生态上存在显著差异，以下从核心参数、优劣势与适用场景进行一下分析，大家可以有更深入的了解：华为 Atlas 350 优势●低精度推理性能突出：FP4 算力专为大模型 Prefill 阶段设计，在该场景下性能可达 H100 的 1.8 倍，多模态生成速度提升 60%●内存访问优化：内存访问颗粒度从 512 字节优化至 128 字节，小算子访存效率提升 4 倍，特别适配推荐系统等高并发场景●国产自主可控：无出口限制，适配国内 AI 生态（盘古大模型、MindSpore 框架），供应链安全有保障●超节点扩展能力：2TB/s 互联带宽支持最大 192 颗芯片全互连，满足 MoE 模型专家并行需求●价格优势：成本约为 H100 的 60%-70%，适合大规模部署英伟达 H100 优势●生态垄断地位：CUDA 生态 + TensorRT 优化，适配全球 90%+AI 框架与应用，开发工具链成熟●全场景覆盖：从千亿参数模型训练到边缘推理，产品线完整，无需更换硬件平台●通用计算能力：FP8/FP16/FP32 全精度性能均衡，尤其在训练场景下领先 Atlas 350 约 40%●软件工具链：调试、优化工具丰富，支持多实例 GPU（MIG）等高级特性，开发效率高●全球兼容性：适配国际主流云服务平台与企业级软件，无迁移成本各自短板华为 Atlas 350：生态成熟度不足，适配非国产框架需额外开发；训练能力弱于 H100，不适合大规模模型训练；功耗效率在通用场景下低于 H100英伟达 H100：受美国出口管制，国内企业采购受限；价格昂贵（约 25 万元 / 卡）；FP4 精度支持不足，在 Prefill 等特定推理场景性能不如 Atlas 350适用场景：优先选择 Atlas 350 的场景●国内大模型推理（特别是 Prefill 阶段），如文心一言、通义千问等国产模型部署●互联网推荐业务（如电商、短视频推荐系统），小算子密集型计算需求高●追求国产可控与供应链安全，避免外部制裁风险的企业●超大规模集群部署，需要高互联带宽与内存容量的场景优先选择 H100 的场景●全球部署的 AI 应用，需要兼容国际生态与框架●大规模模型训练（如 GPT-4 级千亿参数模型），对 FP8/FP16 算力要求高科研机构与高校，需要丰富的开发工具与全球技术支持●边缘计算与嵌入式场景，需要 MIG 等灵活部署特性

19. 成本仅0.3美元，耗时26分钟！CudaForge：颠覆性低成本CUDA优化框架

20. 这篇论文： arxiv.org/pdf/2510.26788 认为：大型语言模型在强化学习（RL）微调中普遍存在的不稳定性，其根源在于训练和推理引擎间的“训练-推理不匹配” 。跟进一步罪魁祸首是 BF16 浮点数格式，其较低的精度会引入大量舍入误差，破坏了两个引擎间的一致性。论文提出了一个极其简单的解决方案：在微调阶段切换回使用精度更高（尾数位更多）的 FP16 格式。实验证明，这一改动（仅需几行代码）能从根本上消除数值不匹配，从而在各种算法、模型和任务上均实现了更稳定的优化、更快的收敛和更强的最终性能。#微博兴趣创作计划#

21. 售价34999微星EdgeXpert小主机，AI性能干翻RTX5090D？

22. #我国突破瓶颈成功研制新型芯片#北大团队研制的高精度模拟矩阵计算芯片，在《自然·电子学》的亮相，标志着我国芯片自研在关键赛道实现重大突破。这款基于阻变存储器的芯片，一举攻克模拟计算“精度不足”的世纪难题，首次实现可与数字计算媲美的24位定点精度。更值得关注的是其性能飞跃：求解128×128矩阵时，计算吞吐量较顶级GPU提升千倍以上，传统GPU一天的任务它仅需一分钟完成。这不仅填补了国产高端专用芯片的空白，更在AI训练、6G通信等核心领域开辟了自主路径。从“卡脖子”到“破瓶颈”，这一成果印证了国产化崛起的核心逻辑——以基础科研突破驱动产业升级。它不是对现有技术的模仿，而是对冯·诺依曼架构的创新超越，为我国在“后摩尔时代”的算力竞争筑牢了自主根基。美国网友：如果是真的，英伟达那些就真的危险了。#ai创造营##秒懂热点就用智搜# 分析：#我国突破瓶颈成功研制新型芯片#【突破瓶颈！我国成功研制新型芯片】近日，北京大学人工智能研究院孙仲研川北小哥的微博视频

23. 双阈值训练法入门：有氧阈LT1与无氧阈LT2的估算雅各布巴肯挪威模式极化训练耐力运动乳酸阈值马拉松中长跑跑步五公里十公里半马训练方法丹尼尔斯

24. 微软今天发布了 Azure Maia 200 AI芯片，TSMC 3nm工艺，1400亿晶体管，HBM3e给到了216GB。但这里面最有意思的，不是它堆了多少料，而是：10 PetaFLOPS 的 FP4 算力。这反映了一个明显的行业趋势：在推理环节，云厂商正在从“通用兼容”转向极致的“Token 经济学”。面对 GPT-5.2 这种体量的模型，核心瓶颈往往不是计算，而是显存带宽。微软激进地押注 FP4，逻辑很务实——在显存容量不变的前提下，通过降低精度来倍增吞吐量，可以显著缓解带宽压力。这就是为什么 Maia 200 敢宣称比 AWS Trainium 3 强 3 倍。不是魔法，而是物理规律的胜利。与其说是技术突破，不如说是商业上的取舍。当 AI 服务从尝鲜走向大规模落地，如何把推理成本打下来，或许远比单纯卷 FP16/FP32 的峰值数据更关键。另一方面，Maia 200 的发布，其实给具身智能指了一条明路：FP4 加上极致的能效比，正是未来机器人“云端大脑”的刚需。想一想，具身智能目前的一大痛点：端侧算力和功耗的死结——你总不能在人形机器人那小小的胸腔里塞几张 B300吧？散热和能耗分分钟教做人。但如果推理成本足够低、延迟足够低，把高阶的逻辑推理和多模态理解扔给云端的 Maia 200，端侧只保留基础的运动控制，这条路也不是不行哈。特别是机器人处理的视觉流和 3D 空间数据，对于精度的容忍度其实很高。FP4 虽然看起来“糙”点，但用来处理海量感官数据刚刚好，根本不需要 FP16 的冗余。大家觉得呢

25. 英伟达：业绩好只是其次，未来还有巨大空间#英伟达 #财报 #AI泡沫 #CUDA #AI

26. #华为发布AI新技术#算力效率革命来了！华为这波Flex:ai黑科技直接改写行业规则🚀 谁懂啊！现在AI算力资源利用率普遍才30%-40%，大量GPU/NPU都在“闲置摸鱼”，华为新发布的Flex:ai直接把算力利用率拉满——单卡能精准切分10%粒度的虚拟算力单元，一张卡同时跑多个任务，平均利用率直接提升30%，相同硬件投入下训练速度快一倍、成本降三成！这波“软件补硬件”的突破太顶了，国产AI生态越来越能打！

27. The Well: 15TB of Physics Simulations物理仿真数据集规模空前，涵盖生物系统、流体力学、声波散射、磁流体动力学等多领域。The Well 提供了总量达15TB的高质量物理模拟数据，方便机器学习和计算科学研究者做模型训练与评估。项目集成16个不同数据集，支持直接下载或从 Hugging Face 流式访问，配合PyTorch接口可轻松加载训练。还提供基准模型和训练脚本，助力科研人员快速验证和改进物理场的数值模拟与PDE代理模型。GitHub 地址：github.com/PolymathicAI/the_well主要特点：- 涵盖多种物理领域的高精度仿真数据，数据规模达15TB；- 提供易用的Python接口，支持分布式训练和数据流式加载；- 包含基准测试和预训练模型，方便性能对比和模型迭代；- 支持本地下载和云端流式访问，灵活适配不同计算环境；- 由多所知名科研机构联合开发，质量和权威性有保障。适合机器学习研究者、物理模拟开发者和计算科学团队，推动跨学科AI科研创新。

28. 破解可塑性瓶颈！清华团队新作刷榜持续学习：可迁移任务关系指导训练

29. 【硬核教程】教你搭建Mac AI集群！4台M3 Ultra，运行万亿参数大模型！

30. 17000 token/s，比B200快48倍！Taalas AI 芯片能否颠覆英伟达GPU？

31. 视频生成DeepSeek时刻！清华&生数开源框架提速200倍，一周斩获2k Star

32. 自己写一个深度学习底层框架（像tensorflow），现实吗？(目前学习了1年深度学习理论和实践)？

33. 在做数据分析时，很多人都会遇到一个问题，日志、指标和实验结果分散，分析效率低，尤其是大模型训练时，手动汇总非常耗时。一个非常实用的开源工具是 TensorBoard，它专门用于可视化AI训练过程和模型性能，让实验结果直观、可追踪。开源地址：github.com/tensorflow/tensorboard主要功能：1.实时可视化训练指标，如Loss、Accuracy、学习率变化等；2.支持直观展示计算图、模型结构和参数分布；3.可管理多次实验对比，便于分析效果差异；4.支持嵌入自定义图表和指标，灵活展示AI项目结果；5.与TensorFlow、PyTorch等深度学习框架兼容；6.在大模型开发中，可集中展示训练日志、性能指标和模型变化，提高实验可复现性和团队协作效率。TensorBoard让AI实验结果直观可视、易于分析，是大模型训练和复杂AI项目不可或缺的可视化工具。

34. [CL]《Catch Your Breath: Adaptive Computation for Self-Paced Sequence Production》A Galashov, M Jones, R Ke, Y Cao... [Google DeepMind] (2025) Catch Your Breath：自适应计算实现自节奏序列生成近日，Google DeepMind团队提出了一种创新的训练方法——Catch Your Breath（CYB）损失，赋予语言模型根据输入Token动态调节计算步数的能力。模型可通过输出特殊的“<don’t know>”标记请求额外计算时间，插入“<pause>”Token延迟响应，从而提升预测的准确性与效率。【核心理念】- 模型将每个输出决策视为带有时间成本的顺序决策问题，实现速度与准确度的权衡。- 提出三种CYB变体： 1. CYB-AP（Anytime Prediction）：任何步骤均可输出结果，准确率随时间折扣。 2. CYB-VA（Variational Approach）：最大化准确率，满足预设停止时间分布。 3. CYB-DP（Distributional Penalty）：基于计算预算对停止时间分布施加惩罚。【方法优势】- 训练出的模型能针对不同Token的复杂度和上下文自适应调整计算步数，如对复数名词“patients”请求更多暂停，而对缩写“wasn”则快速响应。- CYB-AP表现优异，训练效率提升显著：基线模型需3倍数据量才能匹配其性能，且模型自动校准延迟概率以提升准确率。- 通过在C4数据集上微调实验，CYB-AP与CYB-DP明显优于传统交叉熵损失及已有“Think Before You Speak”方法。【实现细节】- 利用RoPE位置编码，赋予每个“<pause>”Token与前一个非暂停Token相同的位置索引，保证输入序列位置稳定。- 训练时固定在每个真实Token后插入固定数量的暂停Token，推理时亦保持一致，避免上下文窗口混乱。- “<don’t know>”标记作为模型输出空间的一部分，通过调整模型后验概率鼓励合理使用。【未来方向】- 探索变动数量暂停Token的训练与推理策略，尤其适合后续基于强化学习的自适应推理。- 研究模型如何利用“<pause>”Token进行多步推理，可能通过条件化注意力权重进一步增强计算效率。- 深入分析模型对不同Token和语境的自适应计算行为，助力理解语言模型的内部推理机制。【背景启发】研究灵感源自人类阅读行为——阅读时视线停留时间随信息整合难度变化而变化，模型模拟这种“微推理”机制，实现对复杂信息的动态处理。该工作将“自适应计算”与“非内容控制Token”创新结合，为提升大规模语言模型的效率与推理能力提供了新范式。欲深入了解技术细节与实验结果，请访问论文全文：arxiv.org/abs/2510.13879#语言模型 #自适应计算 #深度学习 #自然语言处理 #AI研究

35. CES上英伟达再放王炸，AI史诗升级 #AI #英伟达 #NVIDIA #CES2026 #AIPC

36. #微博超有用视频大赛# 随着2025 年 11 月 12 日微软正式启用全球首个行星级 AI 超级工厂，也意味着AI 基础设施迈入分布式协同新纪元。Fairwater 数据中心双层高密度架构缩短硬件通信延迟，闭环液冷系统实现近乎零水资源消耗，12 万英里 AI 专用广域网让跨州数据传输接近光速。业普遍认为这个行星级AI超级工厂重新定义了知识工作的生产范式；该架构解决了万亿参数模型训练的算力瓶颈，将原本数月的训练周期压缩至数周。#AI创造营##AI生活指南##微博兴趣创作计划# 种斌Marco的微博视频

37. Sand.ai重磅更新MagiAttention，正在定义分布式Attention性能新标杆

38. 一个开源 CUDA 教程github.com/infatoshi/cuda-course本课程用来帮助习惯于 Python/PyTorch 的深度学习从业者理解底层 GPU 编程，并为理解如 Karpathy 的 llm.c 等项目打下基础。不同于传统的 CUDA 课程（通常侧重于物理模拟或通用并行计算），这门课非常针对深度学习。它明确讨论了 PyTorch 生态、Triton 语言以及如何编写 PyTorch 的 CUDA 扩展。对于 AI 工程师来说，这种上下文非常宝贵。#科技先锋官##AI创造营#

39. 计算所严明玉团队新作： Attention 并非永远是瓶颈，多 GPU 并不一定更快

40. 被轻视的Rollout过程，是后训练的性能瓶颈，还是RL的ROI突破口？

41. sadernoheart：很多人问我如何入门GPU编程，说实话，我当初是摸着石头过河，没什么明确路线和资源。经过一段时间摸索，现在总结一套高效入门方案，分享给你们：1. 扎实C/C++基础先把指针、内存管理、结构体、函数、语法和流程控制搞透。CUDA基于C++，这部分打牢了学CUDA会轻松很多。线性代数基础（矩阵乘法、向量运算）也很重要，能帮你快速理解计算过程。2. 阅读经典书籍虽然不爱啃书，但《PMMP》和《Professional CUDA C Programming》值得一看，哪怕扫一遍也好。它们帮你建立整体认知，掌握关键术语和核心概念。3. Elliot Arledge的CUDA课程 Elliot Arledge的12小时CUDA课程很密集，内容丰富。如果时间有限，可以直接看他的课程，甚至可以跳过书本。课程结构严谨，是快速入门和回顾的宝藏。视频：youtu.be/86FAWCzIe_4?si=QWh3N8c51JFlYdKv4. 性能优化必读资料推荐一系列深度文章，覆盖CUDA矩阵乘法优化、超越cuBLAS性能、LLM推理确定性、深度学习加速原理、Transformer推理算术、AI推理硬件架构等。理解性能瓶颈和硬件协同设计至关重要。• How to Optimize a CUDA Matmul Kernel for cuBLAS-like Performance: siboehm.com/articles/22/CUDA-MMM• Outperforming cuBLAS on H100: a Worklog: cudaforfun.substack.com/p/outperforming-cublas-on-h100-a-worklog• Defeating Nondeterminism in LLM Inference: thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/• Making Deep Learning go Brrrr From First Principles: horace.io/brrr_intro.html• Transformer Inference Arithmetic: kipp.ly/transformer-inference-arithmetic/• Domain specific architectures for AI inference: fleetwood.dev/posts/domain-specific-architectures• A postmortem of three recent issues: anthropic.com/engineering/a-postmortem-of-three-recent-issues• How To Scale Your Model: jax-ml.github.io/scaling-book/• The Ultra-Scale Playbook: huggingface.co/spaces/nanotron/ultrascale-playbook• The Case for Co-Designing Model Architectures with Hardware: arxiv.org/abs/2401.14489 5. 实战演练：LeetGPU LeetGPU 提供丰富CUDA、Triton、PyTorch、Mojo和CuTeDSL题目，配备T4、A100、H100等GPU实操环境。实战才能提升技能。另有Tensara，大家可以对比选择。总结：入门GPU编程没有捷径，关键是持续学习和实践，别被外界声音干扰，埋头干活就对了。更多资源和讨论见原推文：x.com/sadernoheart/status/1987491712374038970附加思考：GPU编程从零开始像拼装没有说明书的家具，过程中充满试错和迷茫，但一旦运行流畅，你会感受到“弯曲物理定律”的成就感，这种体验让人上瘾。学习不仅是技术积累，更是对计算和硬件深度理解的锻炼。建议结合社区挑战和同行交流，提升效率和动力。

42. 超DeepEP两倍！无问芯穹FUSCO以「空中变阵」突破MoE通信瓶颈，专为Agent爆发设计

43. Gemini 3.0 的表现，并不直接空英伟达的市场。因为 Google 似乎没有打算大规模对外出货他的加速算力中心，虽然，已经有 meta 会导入的说法。而且两条路线的确有一些互补性。关键是，他又戳穿了一个资本谎言，就是 CUDA 是英伟达的护城河。英伟达 GPU = Google TPUCUDA = XLAC/C++ 带 cuda 扩展 = PythonGoogle 已经完全建立了一个英伟达加速算力集群的替代方案。并且训练出了高性能的模型。换而言之，你和 Google 说 CUDA 是护城河，他会微笑的拍手赞同。内心里呢。那么，对于 meta，xAI，华为，你觉得，CUDA 还是什么不可逾越的障碍吗？

44. Daniel San：Claude Code Skills 设计理念：采用三层上下文系统，分层如下- 第一层：项目主配置，始终加载。- 第二层：技能元数据，仅加载 YAML frontmatter（每个技能约 100-200 token）。- 第三层：按需加载技能文档（SKILL.md 与相关文档）。这种架构允许同时加载数十个技能而不超出上下文限制，同时将脚本和模板文件设计为直接调用（零 token 消耗），从而确保性能和灵活性。讨论中也有不同观点，比如关于各层职责划分、加载策略和多技能性能的问题，这些争议显示出设计细节的重要性和优化空间。原文链接：x.com/dani_avila7/status/1981394535155438029

45. 技术博客 | 提高AI效率

46. Paper Daily！大模型数据训练新框架统一三大优化范式

训练速度翻倍不是梦！AI工程师闭眼入的GPU训练加速避坑指南

精选参考来源