2026年中国智能算力规模将翻倍，推理算力占比首超50%_CPU

1. 狙击推理时代！英伟达200亿美元收购Groq，能否巩固AI帝国护城河？

2. #科技先锋官# 英伟达以200亿美元收购AI芯片初创公司Groq这笔看似天价的交易，并不是简单的技术并购，而是英伟达瞄准AI产业转型拐点的战略落子。如今推理任务占比已突破52.3%，首次超越训练，成为市场主流。长期以来，英伟达GPU在AI训练领域占据绝对优势，但在低延迟、高能效的推理场景中劣势明显。Groq的语言处理单元恰好精准补位。通过创新的数据流架构和片上SRAM设计，推理延迟较主流GPU降低60%以上，能效比提升5-10倍，完美适配聊天机器人、自动驾驶等实时交互场景。Groq的技术路线若被谷歌、亚马逊等云巨头收购，可能打破英伟达GPU的垄断地位。这些巨头拥有无限资本和数据中心整合能力，一旦将SRAM推理路径规模化，将彻底颠覆英伟达的定价逻辑。200亿美元本质是估值保险，通过独家掌控这条潜在颠覆路径，英伟达提前化解了最大竞争威胁。收购后，Groq核心团队将加入英伟达，其技术将整合进数据中心与终端产品，形成训练加推理的完整算力闭环。这不仅能巩固英伟达的霸主地位，更能通过统一生态降低开发者门槛，进一步锁定行业话语权。对普通用户而言，这意味着未来的AI服务将更快速、更节能，从智能助手到自动驾驶的体验都将迎来升级。英伟达的豪赌，最终赌的是对AI产业趋势的精准判断以及对未来算力规则的定义权。#一条vlog回顾2025##AI创造营##AI创作热点# 种斌Marco的微博视频

3. 昨天新闻报道了阿里自研的AI芯片PPU。看了下规格参数，400瓦的功耗100多tops的算力，显存、带宽、接口规格都是比较高的，替代H20是没有问题了。换句话说用来做大模型的推理够用。难怪最近很多公司不采购H20了，替代太多了。我觉得推理卡这一块后面就是打性价比了，基本上打到白菜价对中国公司来讲是没有任何问题的。这就接近了当今世界一半的算力需求，整个算力平民化了。算力在中国的价格无限趋于电力。有了全球最稳定便宜的电力中国是世界第一制造业大国，有了全球最稳定便宜的算力你说中国是不是全球第一的人工智能大国。答案不言而喻。推理算力解决了后面训练算力也好处理了，结合今天smic测试28纳米duv光刻机，可以预见不远的未来几年随着设备问题的解决训练卡也会被攻克。后续中国的人工智能没有卡脖子问题了。

4. 算力革命的总设计师！英伟达未来10年的AI蓝图！如何重构全栈生态？「超极氪」

5. 年薪过亿！AI时代，为何是华人占半边天？

6. #一分钟视频创作季# 突破 AI 算力瓶颈：英伟达 Spectrum-X 如何重构数据中心网络当万亿参数大模型训练时，数千张 GPU 协同产生的海量数据传输，常让传统以太网陷入带宽浪费困境，利用率仅 35%~40% 的网络成为算力释放的关键瓶颈。Spectrum-X 以太网解决方案破解了这一难题，将成为AI工厂的高性能神经系统。Spectrum-X三重突破：无损传输通过 PFC 流量控制与 ECN 拥塞通知，实现微秒级反馈避免数据包丢弃，彻底告别传统网络的丢包重传延迟；自适应路由采用逐包动态负载均衡，由 Spectrum-4 交换机实时选择最优路径，配合 BlueField-3 SuperNIC 完成乱序重组，让带宽利用率飙升至 95%。硬件级拥塞控制依托交换机内置遥测技术，精准调节数据注入速率，根除多 GPU 同步引发的 Incast 拥塞。在实际场景中，Spectrum-X 已展现硬核价值，在 Israel-1 超级计算机上将 800 GPU 集群的读带宽提升 48%，使 TB 级模型 Checkpoint 保存时间大幅缩短，避免训练中断导致的算力浪费。Oracle 用其构建十亿瓦级 AI 工厂，实现数百万 GPU 高效互连，加速生成式 AI 部署；Meta 则将其集成到 FBOSS 系统，为数十亿用户的 AI 服务提供稳定低延迟的网络支撑。对于检索增强生成场景，Spectrum-X 使向量数据库的检索延迟显著降低，助力多租户 AI 服务每秒处理数千查询。#有点东西##AI创造营##微博兴趣创作计划# 种斌Marco的微博视频

7. 阿里甩出 AI 王炸！ Qwen3-Max-Thinking 高调对标 GPT-5.2-Thinking，是真硬刚还是博眼球？这款阿里旗舰推理模型拿下 19 项国际基准测试高分，自带自适应工具调用，能自主搜信息、做计算，主动解决问题，还成了阿里全生态的技术底座，打通电商、本地生活等全场景实现智能闭环。有人说它缩小了中外 AI 差距，坐稳中文 AI 头把交椅，让阿里 AI 生态形成良性循环，未来可期；也有人质疑，对标全球顶尖模型只是纸面数据，落地商业场景的实际能力仍需检验。阿里这次的 AI 大招，到底是技术突破的里程碑，还是营销造势的噱头？这款模型的真实实力究竟如何，一起来聊聊吧！#微博超有用视频大赛##上微博涨知识##AI创造营##科技先锋官# http://t.cn/AXqpEa95

8. 这次春节AI大战，国产模型与国产芯片第一次，双向奔赴！ #春节世界观察 #新年囤点专业货 #燃起来了大国重器 #大咖观察 #红衣聊AI

9. 如何看待字节跳动也开始做AI芯片？

10. 终有一天，中国芯片公司会成为英伟达的噩梦#英伟达 #阿里巴巴 #芯片 #科技 #AI

11. 比起之前挤破头卷的“训练算力”，能让AI真正落地赚钱的“推理算力”才是未来10年的主战场。#大咖观察 #红衣聊AI #OpenAI #芯片

12. 当海外开发者还在为Gemini3 Flash惊叹时，小米开源大模型MiMo-V2-Flash横空出世，直接被老外吹成“Gemini平替”！它以309B参数实现2.6倍推理加速，延迟仅为DeepSeek-V3.2的一小部分，却在通用基准测试中性能相当。最让开发者疯狂的是，它不仅免费开源，推理成本还低至闭源竞品的2.5%，中国开源大模型的实力，这次真的让海外刮目相看

13. 【推理效率狂飙19倍！#千问3.5成本仅为谷歌大模型5%#】千问3.5凭什么做到成本仅为谷歌的1/18？答案是底层架构的全面革新。全新MoE架构，3970亿参数仅激活170亿，推理吞吐量最高提升19倍，部署显存降低60%。技术上的“斤斤计较”，才有了价格上的“大大方方”。#有AI的春节有什么不一样# 引力科普的微博视频

14. 都在问泡沫何时破，老黄直接下了更大的赌注 #英伟达#黄仁勋#ces2026#GPU#AI新星计划

15. 既然AI不是泡沫，你打算怎么搭上这趟车？ #大咖观察 #红衣聊AI #英伟达 #财报 #AI泡沫

16. 回复@小鱼儿-7N:今年开始就是训练推理5：5了，昇腾的问题也主要是推理太弱了，弱的没法说。//@小鱼儿-7N:刚才刷视频有个博主说这2年企业大模型算力需求来自训练企业大模型训练好了未来3年企业大模型算力需求来自推理推理最好的是走ASIC路线的华为AI芯片钊哥评价下//@钊哥科普:我住前海，在科技园上班//@艾佩珂婷牌空气净化器:你住坪地？在松岗上班？还没有星期六星期天休息，你真得对得住社保个人部分没有500的底薪。

17. 谷歌TPU杀疯了，产能暴涨120%、性能4倍吊打，英伟达还坐得稳吗？

18. #黄仁勋200亿美元带走TPU核心班底#平安夜的200亿美元收购传闻，最终以非排他性技术许可协议落地，英伟达这波操作堪称AI芯片领域的精准布局。看似反转的背后，是其对AI推理市场的势在必得——吸纳谷歌TPU核心缔造者Jonathan Ross领衔的Groq团队，同时获取LPU专属架构技术，既补齐高能效推理短板，又削弱潜在竞争威胁。AI战场已从训练转向推理，Groq的确定性执行架构在低延迟场景下优势显著，而英伟达凭借CUDA生态壁垒，可快速将授权技术融入现有产品线。这种"技术+人才"的柔性整合，比全额收购更灵活，既规避监管风险，又降低运营成本。此次合作印证了AI硬件竞争的核心逻辑：谁掌握关键架构与顶尖人才，谁就能主导下一代算力革命。英伟达的战略智慧，正持续巩固其在AI芯片领域的绝对优势。#秒懂热点就用智搜# 黄仁勋200亿美元带走tpu核心班底

19. 《The Big LLM Architecture Comparison》七年来，GPT架构演进虽有细节改进，但核心仍相似。从GPT-2到近期的DeepSeek V3与Llama 4，模型结构变化有限，更多是细节上的优化，如从绝对位置编码到旋转位置编码（RoPE）、多头注意力向分组查询注意力（GQA）转变，以及激活函数由GELU进化为更高效的SwiGLU。 DeepSeek V3（2024末发布）及其推理版本DeepSeek R1（2025年初）引入了两大关键架构创新：多头潜在注意力（MLA）和专家混合（MoE）层。MLA通过压缩键值张量显著节省KV缓存内存，并在性能上超越GQA。MoE则通过稀疏激活少量专家，极大提升模型容量与推理效率，DeepSeek V3拥有6710亿参数，但推理时仅激活37亿，大幅降低推理资源消耗。非盈利Allen AI的OLMo系列以高透明度著称，虽非性能最强，但其对训练数据和代码的公开为社区提供了宝贵的蓝图。OLMo 2采用Post-Norm（归一化层置于注意力与前馈模块之后）搭配QK-Norm（针对查询和键的归一化），提升训练稳定性，区别于主流的Pre-Norm设计。谷歌的Gemma系列（尤其是Gemma 3）强调滑动窗口注意力机制，限制每个查询的上下文范围，大幅降低KV缓存内存，用局部注意力替代全局注意力，保持性能几乎不变。Gemma 3还采用了Pre-Norm与Post-Norm混合归一化，兼顾训练稳定性与效率。此外，Gemma 3n针对移动设备进行了优化，利用分层嵌入（PLE）技术降低内存占用，并引入了Matryoshka Transformer结构，实现模型切片灵活部署。 Mistral Small 3.1以较小KV缓存和更少层数提升推理速度，虽舍弃滑动窗口注意力，但性能在多场景优于Gemma 3，凸显宽模型在推理速度上的优势。 Llama 4 Maverick采用MoE架构但激活专家更少且规模更大，整体与DeepSeek V3类似，体现MoE在2025年的流行趋势。 Qwen3系模型涵盖从0.6B到235B参数的密集和MoE版本，兼顾易用性和推理效率。其小型模型适合本地运行，MoE版本激活参数比例低，提升大规模应用的推理性价比。Qwen3 Next在较小规模下引入更多专家和共享专家，并采用混合门控DeltaNet注意力，实现超长上下文支持（262k tokens）和多步预测，提升训练速度和推理效率。 SmolLM3以3B参数提供优异性能，采用NoPE（无显式位置编码）策略，增强对长序列的泛化能力，减少对位置编码的依赖。 Kimi K2体量达到1万亿参数，基于DeepSeek V3架构扩展，采用Muon优化器替代AdamW，训练损失曲线平滑且下降迅速，性能媲美领先私有模型。最新的Thinking版本将上下文扩展至256k tokens，提升推理能力。 OpenAI最新开源的gpt-oss系列（20B和120B）采用类似Qwen3的MoE设计，结合滑动窗口注意力和注意力偏置，架构更宽而较浅，适合高吞吐量推理。其“注意力汇聚”机制（attention sinks）通过头偏置实现长上下文稳定性。 xAI的Grok 2.5作为去年旗舰模型，采用少量大专家，并引入始终激活的共享专家模块，与近期多专家模型设计呼应。 GLM-4.5通过先密集后稀疏的层序设计提高MoE模型稳定性，性能优于Claude 4 Opus，接近OpenAI和xAI的顶尖水平。 MiniMax-M2在保持高性能的同时回归全注意力，摒弃线性注意力的准确性不足问题，采用每层独立QK-Norm，参数激活比例更低，体现稀疏MoE架构的新趋势。 2025年线性注意力迎来复兴，Qwen3-Next和Kimi Linear将轻量级线性注意力与传统全注意力混合，兼顾效率与性能。Kimi Linear通过通道级门控提升长上下文推理能力，在速度和准确性之间取得平衡。 Allen AI最新的Olmo 3在保持透明度的基础上扩展规模，继续采用Post-Norm和滑动窗口注意力，支持64k上下文，表现稳定。 DeepSeek V3.2引入稀疏注意力机制，与Mistral 3大型MoE模型架构相似，后者增加视觉编码器支持多模态，优化推理速度，体现MoE架构的持续进化。综观2025年旗舰开源大模型，核心仍是Transformer，但细节创新如多头潜在注意力、Mixture-of-Experts、滑动窗口与线性注意力混合、归一化层位置变换等，推动模型在性能和推理效率间取得更优平衡。MoE架构热度持续攀升，模型规模与激活参数数目被巧妙控制，实现大规模知识整合与高效推理。长上下文支持成为新标准，优化训练稳定性和推理速度的技术层出不穷。未来，架构创新与训练工艺的协同将持续塑造大语言模型的发展路径，开源社区的透明度和多样化探索为行业注入活力。 magazine.sebastianraschka.com/p/the-big-llm-architecture-comparison

20. 今夜无显卡！老黄引爆Rubin时代，6颗芯狂飙5倍算力

21. 马斯克称5年后不再有手机和App马斯克最近在一档播客节目中说：未来五到六年内，我们将不会再使用传统意义上的手机，也不会再有操作系统或App的概念。手机将变为一个AI推理的边缘节点，而大多数内容由AI生成。你认同马斯克的这个判断吗？我来亮三点：左一点：现在的手机像是功能满满的瑞士军刀：通信、社交、影音、购物、游戏，一机搞定。但马斯克说：未来手机将变成 AI的边缘节点，只保留屏幕、声音、无线模块，真正的算力和内容生成都转到后端。换句话说，从“你拿手机指挥世界”变成“手机听你的指挥就行”。右一点：如今你还要下载App、安装更新、点图标，对吧？未来可能没那么麻烦。马斯克预测：你只要提出一个意图，比如“我想听点轻松音乐”或“看个轻松电影”，AI马上生成专属内容，你根本不用找App。这个发展路径就像：从“去DVD店租碟”→“在线观看视频网站”→未来连“点开流视频网站图标”都没了，AI“懂你”就搞定。所以，App不是“进化升级”，而是被“跳过”了那一步。下一点：手指点击屏幕、点击图标，上滑下拉，这些交互方式可能要被淘汰了。未来的入口是：一句话、一个念头，系统就知道你要什么。也就是说，操作系统、图标、App这些概念可能像老式功能手机一样——都将会成为“怀旧款”。你可以想象：未来你只需要说一句“我想放松。”→ AI生成一段专属的、20分钟的轻松电影。你根本不需要打开系统、不需要点开视频App。这不是手机换新款，而是换了交互逻辑。好了，这就是我今天亮出来的三点：左一点：手机不会变得更强大，而是“隐退为AI节点”。右一点：App不会“变好”，而是“被忽略掉那一步”。下一点：交互从“点”变成“说／想”——范式在变。所以，我认同马斯克的方向：这不是科幻，而是提前剧透。但他说的5年或者6年甚至是7年，大家不用去纠结具体数字，我们要做的不是盯时间，而是思考：我该怎样去适应这个未来？手机被淘汰是一定的，不管是几年，当那一天真的到来时，我们该怎么办？有没有什么新机会可以提前布局？刷手机的时代或许快结束了——但刷想象、刷未来的时代，才刚刚开始。#你好人工智能时代##ai创造营##亮三点# 刘兴亮的微博视频

22. 真正的科技竞争，拼的不是单个环节的领先，是整个生态的闭环。 #大咖观察 #红衣聊AI #电力 #芯片

23. 在AI时代，算力决定速度，内存决定高度。 #大咖观察 #红衣聊AI #GPU #内存

24. 如果明天算力不再决定胜负，你觉得你手里的哪张牌能赢？ #大咖观察 #红衣聊AI #ChatGPT #算力 #AI

25. OpenAI囤的不是算力，是未来10年的AI门票。 #大咖观察 #红衣聊AI #OpenAI #算力 #芯片

26. 2025华为全联接大会上，昇腾AI芯片路线图引热议。其从910逐年迭代至970，围绕单芯片算力、芯片互联、开发生态三大核心演进。2026年推950PR/DT，2027年960，2028年970；910C已量产，950起用自研HBM，算力、带宽持续翻倍。昇腾以矩阵计算单元、HBM优化、自研高速互联突破架构，结合CANN与MindSpore全栈优化，建支撑大模型训练推理的完整算力体系，成国产AI芯片成熟缩影。

27. 被@首席线索官按着重新复习了一下NV的Alpamayo-R1: Bridging Reasoning and Action Prediction for Generalizable Autonomous Driving in the Long Tail【衔接推理与动作预测，实现长尾场景下的泛化自动驾驶】简单在写一点个人理解：①：来自模仿学习的端到端构架，可以通过扩大数据集的方式提升能力，但是在关键的安全长尾场景下，因为数据分布、因果理解有限，所以安全兜底能力不足。【很难用端到端去做L4的安全兜底】②：面向#自动驾驶# 的长尾场景，通过因果链推理【Chain of Causation】和轨迹规划相结合，可以显著的提升复杂场景下的驾驶决策能力。【Alpamayo-R1】VLA模型③：如何将因果链和推理轨迹对齐是一个核心难点？【来自强化学习RL的思路，可以激发这个能力@本诺__ 】⭐实验的结果表现⭐与仅基于轨迹的基线模型相比，AR1 在复杂场景下的规划精度提升高达 12%，在闭环仿真中，偏离道路率降低 35%，近距离碰撞率降低 25%。经强化学习后训练，大型推理模型评估显示推理质量提升 45%，推理 - 动作一致性提升 37%。模型参数从 0.5B 扩展至 7B 时，性能持续提升。这个能力提升已经是非常明显了~里面有几个细节：①：因为VLM【LLM】通常用单独处理的图像和视频流信息，而AD车往往用环视多摄像头、多时间维度的感知。因此直接用VLM处理多个视频流信息会导致Token数量太大【讲人话，显存和带宽爆掉了，我需要更强的芯片@Rocky刘毅林】②：基于传统非驾驶专用的LLM的描述是自由的形式【废话太多，而且和驾驶领域无关信息更多】，无法形成严格的因果化推理。因此不能直接用，需要基于现有帧关键特征进行因果化的推理才能解决长尾场景。③：整个R1模型是输入多摄像头、多时间帧作为视觉输入、外加用户指令和高纬导航需求，用【Cosmos-Reason】作为主干网络，直接输出推理轨迹、原动作和预测未来轨迹的token。图二④：NV为了开发这个VLA的视觉语言模型，进一步增强其自动驾驶的能力。包含370万视觉问答【VQA】包含2.47万个驾驶场景的视觉问答。然后额外增加了10万自动驾驶场景的样本【在监督微调阶段】。这里注意一个事情数据收集，在自动标注里面用了Qwen3-VL这个教师视觉语言模型【👍】⑤：多摄像头视频信息进VLA ，token太多这里AR1用了一个新的压缩方式【Ivanovic ，2025】。简单来说，可以每一步多摄像头的token表征可以少至288个【等效7个摄像头，每个摄像头用41.1个token】，且不牺牲端到端驾驶的性能指标。此外还通过压缩帧之间的信息冗余等方式进一步压缩Token 数量。【考点，VLA不是不能做，只是车端算力不够。必须要压缩同一时间进模型的Token数量】有趣的尝试+1⑥：为了让VLA这个构架能有效运行：三个必要条件，（1）动作表示必须准确，同时保持保真度和多模态；（2）解码过程必须足够快，以支持实时推理；（3）解码机制应与 VLA 训练流水线无缝整合。【研究发现原始位置，坐标点】很容易受到传感器噪音影响，导致模型收敛不佳。因此R1 不直接在原始位置路点空间学习，而是采用基于单轮车动力学的动作表示，以实现更好的闭环性能。【有趣的尝试+2】⑦：传统的VLA/VLM会存在行为描述模糊、推理表面化和因果混淆的情况【图三】，因此R1构建了推理轨迹关联显式的驾驶决策，构建因果链。具体来说，R1构建了具体的推理因果的分类【图四/图五/图六】图四：用于将推理轨迹锚定到显式控制意图的封闭集驾驶决策（纵向和横向）图五：可能作为驾驶决策因果因素的关键组件类别和示例属性图六：片段选择中使用的场景，以及 CoC 标注的关键帧和关键帧范围定义这里在简单解释一下，为了让模型收敛。R1进行了结构化组件的定义，获得了和自动驾驶相关的关键帧。【这里每个Clips 包含20S的数据，在训练里用2秒的历史数据和6秒的推测数据】。为了进一步提升模型的泛化能力。R1利用远动作定义分类去开发了一套自动标注系统。见图七，在每个8秒的数据样本里面最多标注一个纵向和横向的高级驾驶决策，而元动作以10hz的速度自动标注。⑧：最后模型的训练方式怕【图八】：采用三阶段训练策略，将视觉语言模型转化为具备推理能力的自动驾驶策略。1. 离散轨迹令牌训练并添加基于流匹配的动作专家，将动作模态注入视觉语言模型，使模型能够预测车辆控制输出2. 通过在因果链数据集上进行监督微调，提升模型的推理能力，教会模型生成基于因果的解释，以支持更好的驾驶决策3. 利用大型推理模型反馈的强化学习，优化推理质量、使推理轨迹与执行的动作对齐，并优化轨迹质量，从而产生可解释且安全的驾驶行为⑨：基于强化学习的后训练【图九】，通过优化三个互补的奖励信号：推理质量（通过大型推理模型反馈）、推理 - 动作一致性和轨迹质量的方式进一步提升模型的稳健性和泛化能力。最后实际表现，前面已经说了。在移动端跑得动跑不动？在 NVIDIA RTX 6000 Pro Blackwell 跑的延迟是99ms？跑得动，还不错？但是现阶段车端Thor还是跑不动的...所以真满血学术 VLA上车？还是要等到千T以上的车端芯片再看看？不得不说，NV 的Alpamayo-R1 研究还是做的非常扎实的.从学术上看，VLA 确实是一条能跑的通的明确的路线~@大雁jassy @电动知士大雨 #懒博小课堂##微博新知#

28. 理想汽车 CTO 谢炎在 2025 云栖大会|开幕式圆桌会议做了分享，其中就包括大家关注的理想AI、VLA、芯片这三个领域内容:1. 理想汽车的AI战略与架构布局。谢炎表示，智能与新能源对未来车企的重要性是同等的，因此理想汽车超过 50% 的研发投入都放在人工智能领域，形成了差异化的战略路线。在架构设计上，理想将AI布局划分为三层：底层是高效的车端推理系统，涵盖芯片、操作系统、通信组件和上层服务的整合，目标是实现更高效率、更低成本和更强算力，支撑核心的自动驾驶任务；中层是VLA基座模型，既要让汽车具备理解三维世界的能力，又要具备人类常识和推理规划能力，理想同时与外部大模型团队开展合作；顶层则是具体应用，包括「AI驾驶员」，相当于每辆车标配的智能驾驶代理，以及「座舱管家」，能打通地图、音乐、外卖等互联网服务，满足用户出行与生活场景需求。通过三层垂直整合，理想强调技术从底到顶的联合设计，以追求极致的产品体验。⸻2. 为什么理想汽车坚持做VLA？在自动驾驶行业中，是否需要语言模型一直存在争议，但理想坚持推进VLA的原因主要有两点。第一，随着自动驾驶技术的演进，车辆必须应对越来越多corner case，这些低概率但复杂的情况无法仅靠大规模数据采集来解决，需要具备人类式推理能力的智能驾驶员。由于图像存在高噪声、不利于逻辑推理，而文字天然适合逻辑和抽象思维，因此语言模型成为关键。第二，从用户体验角度，智能驾驶必须让乘客感受到「像人一样思考」，否则即便安全也可能让人觉得不适。大语言模型通过学习人类海量文本，不仅能生成语言，也能形成接近人类的思维模式，使自动驾驶的行为更贴近人类直觉，提升信任感和舒适度。这些原因使理想坚定地将语言能力引入到自动驾驶核心架构中。⸻3. 为什么理想汽车要自研车端推理芯片？随着VLA和大规模AI模型引入车辆，Scaling Law「规模定律」开始发挥作用，模型的智能提升依赖于更大规模和更长推理链条，这使得车端算力需求呈指数级上升。现有芯片供应商难以满足这种演进需求，因此理想选择自研车端推理芯片，以保证长期自主可控的发展路径。同时，理想认为在推理计算上，可能存在比GPU更高效的架构，因此正在探索新的技术方案。自研芯片不仅能实现更高效的推理，还能帮助理想更好地进行软硬件一体化设计，优化功耗、成本和实时性能。谢炎也特别强调，车端与云端算力体系并不完全相同，云端可能采用另一套解决方案，而车端必须以极致优化为核心目标。因此，自研芯片是理想在智能化战略中不可或缺的探索与投入。#理想汽车##微博新知博主# #理想i6上市# 德卤爱开车的微博视频

29. 英特尔掌门人警告：AI内存危机彻底爆发！别再盯着算力了，这才是真卡点。#大咖观察 #红衣聊AI #内存 #算力 #英特尔

30. 真正决定中美AI胜负的，是电力 AI每算一次，电表都在狂转，真正的智能革命，拼的不是算法，而是电力！#AI #算力 #电力

31. 从算力到存储，谁能掌握AI时代的“口粮”？ #大咖观察 #红衣聊AI #算力 #存储 #硬件

32. 谁能控制芯片供应链，谁就能主导AI的未来。 #大咖观察 #红衣聊AI #英伟达 #芯片

33. 卖铲人的疯狂时刻，英伟达发布Rubin意欲何为

34. V3.2逼近Gemini 3，DeepSeek硬气喊话：接下来我要堆算力了

35. 昨夜，高通发布面向数据中心的下一代AI推理优化解决方案，包括基于云端AI芯片Qualcomm AI200和AI250的加速卡及机架。Qualcomm AI200推出一款专用机架级AI推理解决方案，旨在为大语言模型和多模态模型（LLM、LMM）推理及其他AI工作负载提供更高的内存容量、更低的总拥有成本（TCO）和优化的性能，支持每卡768GB LPDDR。Qualcomm AI250解决方案将首次采用基于近存计算的创新内存架构，通过提供超过10倍的有效内存带宽和更低的功耗，不仅支持分解式AI推理，还能高效利用硬件资源，同时满足客户对性能和成本的要求。两种机架解决方案均采用直接液冷以提高热效率，采用PCIe进行纵向扩展，采用以太网进行横向扩展，采用机密计算以确保安全的AI工作负载，机架级功耗为160kW。

36. #英伟达发布新一代GPU#英伟达Rubin平台全面量产，第三代Transformer引擎加持的Rubin GPU太能打，NVFP4推理算力达50PFLOPS，是前代5倍！还有Alpamayo1开源模型赋能自动驾驶，机器人赛道要彻底起飞了！而且不止GPU！英伟达Rubin全栈平台携Vera CPU、Rubin GPU等六款芯片亮相，推理算力暴涨，2026下半年落地。黄仁勋直言机器人迎ChatGPT时刻，这次真的要颠覆行业了！

37. #阿里正式发布千问最强模型Qwen3-Max-Thinking# 中国大模型性能首次比肩全球顶尖水平，进入“领跑”赛道🚀阿里巴巴于2026年1月26日正式发布其旗舰推理模型 Qwen3-Max-Thinking。这款模型的总参数超万亿，在多项关键性能基准测试中，实现了对GPT-5.2、Claude Opus 4.5和Gemini 3 Pro等全球顶尖模型的首次比肩乃至超越。此次发布不仅是技术上的里程碑，更可能重塑全球AI竞争格局与市场对阿里乃至中国AI产业的估值逻辑。【评论】这是中国大模型发展从“追赶者”迈向“并跑者”乃至“领跑者”的关键转折点。Qwen3-Max-Thinking的突破性并非仅体现在规模上，而在于其推理机制的本质创新。通过引入“测试时扩展”技术，该模型实现了类似人类“慢思考”的深度推理能力，能以相同算力产出更高质量的思考结果。同时，其原生、自适应的Agent能力，让模型可以像专业人士一样自主判断、调用外部工具（如搜索引擎、代码解释器）来解决问题，极大增强了实用性。这标志着阿里云的AI战略正从“拼算力、堆规模”的成本叙事，转向“拼智能、创价值”的价值叙事。

38. 36kr 独家报道了理想的战略会，记录一些重要信息：- 理想汽车对销量下滑、研发、产品等方方面面的问题进行了反思，从而调整车型、产品和研发策略，以及加快出海节奏和加大AI投入力度。- 理想认为，过去四年一次平台大迭代的节奏已跟不上当下的竞争强度，理想出牌变得被动。- 理想调整的策略之一是加快产品节奏，从以前的四年一次的平台大迭代缩短为两年一次。配合这一产品节奏转变，理想已经在供应链大会上动员供应链伙伴进行配合。- 过去李想比较抵触堆配置，以后是该卷就卷，不再做凑合的产品，做不到让用户惊艳的产品，就不要做。- 在产品的设计和研发上，理想决定将之后的车型区分度拉大，不再只靠配置区分，而是要靠设计定义区分。这意味着，理想可能打破家族化产品设计思路，不再走“套娃”路线，一个平台一个风格，不同车型的外观会有一定的差异化。- 在资源投入上，理想将逐渐淡化费效比，避免因预算问题影响人员和研发投入，在最近一次组织调整中，李想已亲自管理人力资源部，把控公司的组织架构和人员调整。- 理想研发技术部门正在酝酿成立一个独立体系，类似小米汽车近期成立的架构部（架构部为一级部门，能够直接向集团董事长雷军汇报工作），参与更多产品创新。- 理想反思“最大的失误是全力出海晚了”，接下来将全面加快官方布局节奏。- 在战略会上，理想花了单独一天的时间讨论要如何投入AI。这是理想战略会最后一天的主题，重点讨论了 AI 和第二代芯片， YCombinator 中国创始人陆奇参加了这一天的讨论，视频接入。- 有知情人士透露，陆奇在会上提出“未来稀缺不是训练算力，而是推理算力。”根据最新数据，理想目前已有 10EFLOPS 的训练算力、3EFLOPS 的推理算力，且推理算力还将不断增加。- 消息人士透露，目前，理想每个月在算力上的投入已经超过 1 亿，理想也在迭代自研车载芯片。按照规划，其第二代芯片预计在两年后推出，和小鹏图灵芯片、蔚来神玑芯片不同，理想第二代芯片更侧重推理能力。- “与市场上最强大的芯片相比，在运行大语言模型时，它能提供 2 倍的性能，在运行视觉模型（如CNN）时能提供 3 倍的性能。”谢炎表示。

39. 华为最新报告：未来10年，AI智能体、算力、半导体、能源都有巨大的机会#智能世界2035 #AI智能体 #算力 #半导体 #华为

40. 华为云碾压局，最强算力全家桶发布！

41. 2026年AI全景预测：迈向百亿智能体时代的20个发展趋势。 #大咖观察 #人工智能 #红衣聊AI #智能体 #AI时代

42. 单卡双芯 48G 显存！打造 20L 紧凑型 AI 算力怪兽：DeepSeek 70B 实测 19 tokens/s

43. 200亿美元！英伟达拿下AI芯片独角兽Groq核心资产英伟达（Nvidia）刚刚达成了公司史上最大的一笔交易，斥资约200亿美元现金收购AI芯片初创公司Groq的核心资产与人才团队。这次交易结构相当特殊。与其说是传统的全资收购，不如说是"掏空式"合作：Groq的创始人Jonathan Ross（他曾是谷歌TPU的核心创作者）将带领核心技术团队加入英伟达，负责推进技术落地；而Groq名义上仍作为独立公司存在，继续运营其云服务业务（GroqCloud）。Groq之所以被看重，是因为其研发的LPU（语言处理单元）在AI"推理"环节表现出色。简单来说，如果训练AI大模型是"读书"，那么推理就是AI投入应用时的"考试答题"。Groq的芯片能让AI答题速度极快，延迟极低，此前一直是英伟达在推理市场的潜在劲敌。后续看点英伟达正利用其巨额现金储备，通过这种"准并购"模式扫清竞争对手，将Groq的高速推理技术整合进自己的生态，意味着其在AI硬件领域的护城河将更加难以逾越。新闻来源：网页链接

44. #阿里发布旗舰推理模型# 阿里发布旗舰推理模型Qwen3-Max-Thinking，是目前阿里规模最大、能力最强的推理模型，总参数量超万亿（1T），预训练数据量高达36T Tokens。经过大规模强化学习训练，该模型在涵盖事实知识、复杂推理、指令遵循、人类偏好对齐等19个公认的大模型基准测试中，刷新多项最佳表现纪录，整体性能可媲美 GPT-5.2-Thinking-xhigh、Claude Opus 4.5 和 Gemini 3 Pro。

45. 78ms的VLA推理！浪潮信息开源自驾加速计算框架，大幅降低推理时延

46. 英伟达最新FastDriveCoT！CoT思维链推理加速3-4倍...

47. 随着美股“七巨头”中其他六家都已经公布第四季度财报，华尔街众多分析师的目光如今都聚集在英伟达身上——英伟达将在2月25日发布财报，而这份财报预计将被广泛视为全球人工智能热潮能否持续的关键风向标。目前，高盛集团对英伟达业绩寄予厚望。高盛分析师在最新报告中上调了对英伟达的业绩预期，预计该公司不仅将再次交出优秀“成绩单”，而且高盛还维持对英伟达250美元的目标价，这意味着较上周五的收盘价还有35%的上涨空间。

48. OpenAI 与 Cerebras 达成价值 100 亿美元的 AI 基础设施协议OpenAI 同意从 Cerebras 购买高达 750MW 的计算能力，用于运行 AI 模型的推理。Cerebras 采用晶圆级引擎技术，将计算和内存集成在单个巨型芯片上，大幅减少了多 GPU 集群中常见的互连瓶颈问题，从而实现更低的延迟和更高的效率。OpenAI 将分阶段将这一低延迟计算能力整合到其推理栈中，覆盖不同工作负载。该计算容量将分多个批次上线，一直持续到 2028 年。类似于英伟达与 xAI的合作，OpenAI 和 Cerebras 都在通过非传统 GPU 或专为推理优化的技术，来加强低延迟推理能力。这标志着 AI 基础设施竞争进入新阶段，重点转向更快、更自然的实时 AI 交互体验。#AI芯片##人工智能##芯片#

49. #阿里发布旗舰推理模型# 1月26日阿里正式推出通义千问旗舰推理模型Qwen3-Max-Thinking，这是其目前参数超万亿、综合能力最强的大模型，在19项权威基准测试中性能媲美GPT-5.2、Gemini 3 Pro等国际顶尖模型，标志国产大模型跻身全球第一梯队。该模型两大核心创新亮眼，自研测试时扩展技术通过迭代反思提升推理效率，同等Token消耗下多项指标超竞品；自适应工具调用能力可自主启用搜索、代码解释器等功能，大幅降低幻觉，实测中工具协同表现优于ChatGPT。目前模型已上线Qwen Chat开放体验，API同步开通，还将接入千问APP，同时阿里同步开源Qwen3-TTS全系列语音合成模型。依托“算力-模型-应用”全栈闭环，该模型已落地淘宝、支付宝等场景，其高效推理路径也为算力约束下的国产大模型创新提供了新方向。

50. 2014年，Google首次采购4万块NVIDIA GPU，花费1.3亿美元支持AI工作负载。但他们很快发现，依赖GPU在大规模推理时成本高昂，效率有限。于是Google组建顶尖团队，开发了专为AI推理优化的TPU（张量处理单元），在性能和成本上实现质的飞跃。这才是AI赛道中真正的持久领先优势：不仅看算力，更看规模化成本和能耗效率。TPU设计初衷就是为了大规模、低成本、低能耗的AI推理时代，帮助Google掌控AI硬件架构和成本曲线，摆脱对NVIDIA的依赖。虽然TPU的软件生态尚未成行业标准，外部推广受限，但Google凭借自身规模和研发能力，打造了难以复制的竞争壁垒。这也是为何Google在AI基础设施领域的价值远超“广告+YouTube”的传统理解。未来AI竞争的核心，不是单纯比算力，而是比谁能以更低成本、更高能效、更快速度实现规模化推理。TPU正是这个趋势的最佳注脚。长期来看，Google的战略不仅是技术创新，更是对AI“命运自主权”的掌控：从硬件设计到软件优化，全面自研，为未来AI生态打下坚实基石。链接：x.com/RihardJarc/status/1990449006095249519思考：真正的技术领先，不在于跟随巨头买产品，而在于掌握核心架构，定义行业经济规律。AI时代，谁能控制算力的成本曲线，谁就掌握了未来。

51. 英伟达今日正式发布自动驾驶 AI 系统 Alpamayo。黄仁勋将其称为：全球首款具备思考与推理能力的自动驾驶汽车 AI，该系统将于今年晚些时候在美国道路投入应用，首发搭载于奔驰 CLA 车型。它采用端到端训练模式，同时也引入了 VLA 模型，这套技术方案能够提升自动驾驶系统的透明度、安全性和稳健性，以及系统在复杂真实路况的表现，同时为更高等级自动驾驶技术的发展提供了支持。Alpamayo 第一代模型采用 100 亿参数架构，支持开发者二次开发，它可以被用于车辆端开发，也可作为自动驾驶开发工具的基础。同时 Alpamayo 第一代模型也将提供开放模型权重和开源推理脚本。该系列未来的后续模型将具备更大参数规模、更精细的推理能力、更灵活的输入输出方式，以及商用化部署选项。#42mark##新能源汽车##英伟达开源辅助驾驶模型和数据集# 42号车库的微博视频

52. 中美AI芯片博弈啥情况？国产芯片到底能达到什么水平？ #零距离看懂财经 #芯片

53. 训练用GPU，推理用ASIC，各有各的主场。 #大咖观察 #红衣聊AI #英伟达 #ASIC

54. AI在太空觉醒：人类算力正在离开地球 Al在太空“觉醒”：人类算力走出地球！战略级科技计划发布 #人工智能 #太空算力 #超算 #英伟达 #马斯克

55. 算力王冠易主！ #零距离看懂财经 #2026经济风向标 #财经 #芯片

56. Elon Musk 连发多条谈论特斯拉的芯片 AI5 和 AI6，又一次提到了「从两种芯片架构切换到一种」，也就是 Dojo 训练芯片和 AI 系列推理芯片合二为一，是显而易见的选择。其实，这是 AI 领域的重要趋势。比如谷歌第七代 TPU Ironwood 也专为大规模 AI 推理进行了设计和优化，是谷歌首个针对推理负载优化的 TPU。OpenAI 的首款自研芯片也主要对模型的推理任务进行了优化，重点在于高效推理。这个脉络和特斯拉合并训练和推理团队的逻辑是一致的。另外，按照 Elon 的说法，AI5 芯片可能支持运行大约 2500 亿参数量的 FSD 模型，成本最低，性能功耗比最高。2500 亿参数...2022 年的 FSD Beta 10.69 只有 10 亿参数，我们已经走了太远。

57. 何小鹏在#小鹏科技日#上首次披露，小鹏第二代VLA率先开启「物理世界模型」新范式，是继端到端与标准VLA后的最大飞跃。团队打破行业语言转译思路，构建以视觉为核心的无语言VLA模型，投入3万卡算力与超20亿研发资金，使模型迎来质变。它可直接利用近1亿真实视频训练，相当于人类驾驶6.5万年场景，具备视觉推理预测未来与仿真生成能力。依托720亿参数基座模型与全链路优化，五天可完成一次迭代，实现车端2250TOPS最高算力、推理效率提升12倍，参数规模领先行业10倍。

58. 《36 氪汽车》报道了理想在 10 月中旬开的秋季闭门战略会，对销量下滑、研发、产品等方方面面的问题进行了反思。- 首先是战略上，理想承认自己慢了，过去四年一次平台大迭代的节奏已跟不上当下的竞争强度。曾经创下月销超 5 万的 L 系列产品，如今已跌落至 2 万左右。理想准备加快节奏，把大平台的迭代从四年一次改为两年一次；- 产品上也要变，理想决定将之后的车型区分度拉大，并且配置上改卷就卷。「过去李想比较抵触堆配置，以后是该卷就卷，不再做凑合的产品，做不到让用户惊艳的产品，就不要做。」- 资源投入上，理想将逐渐淡化费效比，避免因预算问题影响人员和研发投入，研发技术部门正在酝酿成立一个独立体系，类似小米汽车近期成立的架构部；- 出海方面，之前理想一直是平行出口，但限制性政策越来越多了。战略会上理想反思「最大的失误是全力出海晚了」，接下来将全面加快官方布局节奏。- 理想花了单独一天的时间讨论要如何投入 AI，YCombinator 中国创始人陆奇视频参加了这一天的讨论。陆奇在会上提出「未来稀缺不是训练算力，而是推理算力。」理想汽车将继续加大 AI 投入，尤其是推理算力的储备。还要对机器人、AI 终端应用等方面做大量投入。大家觉得，明年的理想能逆风翻盘吗？#42how##新能源汽车##理想汽车#

59. 据观察者网透露，华为将于下周发布AI领域突破性技术成果，有望解决算力资源利用效率难题。据透露，该技术延续 “以软件补硬件” 的创新思路，可将GPU、NPU等算力资源利用率从行业平均30%-40%大幅提升至70%，显著释放算力硬件潜能。华为这项新技术将对标英伟达2024年底收购的以色列公司Run: ai的核心技术，旨在通过软件创新，实现英伟达、昇腾以及其他三方算力的统一资源管理与利用，屏蔽算力硬件差异，为AI训练推理提供更高效的资源支撑。

60. 【#千问上线阿里最强推理模型##阿里发布旗舰推理模型#】阿里发布旗舰推理模型Qwen3-Max-Thinking，AI助手千问同步在PC端和网页端接入这一“AI大脑”，千问App也即将接入。用户只需在模型选择栏中一键切换，即可体验更为强大的推理能力。据悉，Qwen3-Max-Thinking是目前阿里规模最大、能力最强的推理模型，总参数量超万亿（1T），预训练数据量高达36T Tokens。经过大规模强化学习训练，该模型在涵盖事实知识、复杂推理、指令遵循、人类偏好对齐等19个公认的大模型基准测试中，刷新多项最佳表现纪录，整体性能可媲美 GPT-5.2-Thinking-xhigh、Claude Opus 4.5 和 Gemini 3 Pro。

61. 关于特斯拉 AI5和AI6芯片1. AI5芯片 - 马斯克强调AI5将是“任何类型的最佳推理芯片”（best inference chip of any kind），特别适用于参数规模在250B以下的AI模型。它在硅成本（lowest cost silicon）和性能/瓦特（performance/Watt）方面“远超”竞争对手。这意味着AI5在边缘计算（如车载自动驾驶）和高效推理场景中具有显著优势，适合Tesla的FSD系统和Optimus机器人。 - 与前代AI4（也称HW4）相比，AI5的“真实世界性能”提升“远超任何我听过的芯片版本”，被描述为“非常出色”（real good）。马斯克在2024年6月透露，AI5的整体能力约为HW4的10倍，且Tesla掌控整个软件栈，进一步优化集成。 - 设计已于2025年9月完成，并进行了“精彩的设计审查”（great design review）。高量产预计在2024年7月后的约18个月内启动，即2025年底或2026年初；车载部署可能在2025年下半年。 TSMC将负责生产，初期在台湾，后移至亚利桑那工厂。 - AI5适用于推理（inference）和“至少相当不错的训练”（pretty good for training）。马斯克提到，在超级计算机集群中，多颗AI5芯片可集成在一块板上，减少网络布线复杂度和成本数个数量级，这类似于“简化版Dojo 3”。2. AI6芯片 - AI6被定位为“远超所有AI芯片的最佳”（best by AI chip by far），是AI5的进化版，将“进一步提升”性能。马斯克在2025年7月Q2财报电话会议中首次提及AI6，称其为“收敛架构”（convergence architecture），能同时高效处理推理和训练。 - 三星 Samsung的巨型德克萨斯工厂将专用于AI6生产，这被马斯克形容为“战略重要性难以夸大”。这标志着Tesla从依赖NVIDIA/AMD转向自研芯片的深化，AI6将整合Dojo项目的精华（如D1芯片的并行处理和矩阵运算），但采用更通用的SoC（系统级芯片）设计。 - AI6紧随AI5，预计2026年后进入生产。马斯克表示，切换到单一架构（从双架构到一）让所有硅团队专注于一款“史诗级芯片”（epic chip），加速迭代。 - AI6将支持大规模训练和推理，如Tesla的Dojo超级计算机演进版（Dojo 3：多颗AI6 SoC在一板上）。它针对数据中心和边缘设备，减少对外部供应商的依赖。 - 从Dojo到AI5/AI6的 pivot：Tesla原有的Dojo项目（2019年启动，使用D1芯片的5x5晶圆级设计）已被“关闭”（winding down），因为它“进化死胡同”（evolutionary dead end）。2025年7月，Tesla与Samsung合作后，Dojo团队部分成员离职，马斯克明确表示“所有努力聚焦AI5/AI6”，放弃双架构（Dojo vs. AI系列）以集中资源。这不是失败，而是“快速转向”（fast pivot），Dojo的经验（如高带宽互连）将融入AI6。马斯克强调，维持Dojo“持续太久”才是问题，现在转向能加速FSD/Optimus发展。 (以上内容有包括grok 的搜索整理)

62. 超越ORION！CoT4AD：显式思维链推理VLA模型（北大最新）

63. 国内首次！8.9毫秒推理速度破纪录，1元打穿百万token

64. #英伟达发布新一代GPU##CES2026#今天CES最大头条非黄仁勋莫属了！发布的 Rubin 平台，数据极其残暴，包含六款新型芯片，其中，Rubin GPU芯片搭载第三代Transformer引擎，NVFP4推理算力是50PFLOPS，是Blackwell的5倍。这么看来老黄已经不是在卖芯片了，他正在构建一种“算力闭环”，而且他也在反复强调物理AI，强调AI与物理世界的交互。本质上是因为 2026 年 AI 的战场已经变了，“参数量”没什么亮点了，而是开始奔向如何让 AI 真正理解并接管这个“复杂的物理世界”。

65. 看了一会儿黑芝麻华山 A2000 的芯片细节，感觉黑芝麻到这代产品做得还是挺好的。几个细节展开说说：- 从硬件层面对于前沿模型架构广泛的支持与兼容，可以动态支持 CNN、RNN、Transformer、Diffusion 甚至 SSM 状态空间模型这些不同的架构，尤其 A2000 的 NPU 集成了对 Transformer 的硬加速，这个 NPU 也是可编程的，如果要切换不同的模型架构也很灵活。对前沿模型架构的支持其实是很重要的问题，有很多标称几百 TOPS 算力的芯片实际利用率不到一半，部分原因就在这。之前有黑芝麻官方有公布过，A2000 九韶 NPU 和「行业旗舰芯片」跑一些典型神经网络模型的对比，比如 1080P 的 EffivientNet Lite0，A2000 可以干到 1161 FPS，而行业旗舰芯片优化到极致也就 680.4 FPS。这里的「行业旗舰芯片」也不难猜，大哥肯定是英伟达 Drive 系列啦。用 A2000 来搞国产化平替从性能的角度问题不大了，考虑这两年的营商环境变化，应该说各行各业的国产化替代也是大势所趋。- CPU 基于 ARM-A78AE 打造的 16 核 CPU，性能比上代提升了 10 倍，再加 LPDDR5 的高带宽内存系统，可以确保复杂的时序逻辑和因果推理任务的高效执行。现在的 VLA、世界模型，重心之一就在模型的推理，这个和行业的最新趋势也是能对得上的。- CPU、GPU、NPU 乃至超 20k DMIPS 的 MCU，可以原生支持视频、音频、语言等不同模态数据的融合和处理。单芯片性能是一方面，足够高的带宽来芯片互联也很重要，A2000 也支持 C2C 芯片对芯片片间级联，可以共享内存和算力，支持更大参数量的模型上车。- 最后也是很重要的，AEC-Q100 和国密二级的安全认证，有支持冗余校验的安全 NPU，芯片全流程都是车规级标准。所以可靠性不是问题。总的来说，感觉黑芝麻的华山 A2000 在开发阶段吸收了很多当下辅助驾驶模型迭代的研究和趋势，融入到了芯片架构设计当中，是一个比较契合当下市场需求的辅助驾驶芯片产品。

66. #Google发布Gemini3.1Pro#Gemini3.1 Pro在核心推理能力上更进一步。在ARC-AGI-2（一个评估模型解决全新逻辑模式能力的基准测试）测试中，3.1 Pro获得了77.1%的验证分数，在推理表现上达到3 Pro的2倍。其他专业领域都有突破: 学科知识:在 GPQA 钻石级测试中得分为 94.3%；编码:在 LiveCodeBench Pro 上 Elo 得分为 2887，在 SWE-Bench Verified 上得分为 80.6%；多模态理解：在 MMMLU 测试中达到了 92.6%。即日起，3.1 Pro 将陆续上线。#过个有AI年##HOW I AI#

67. 只有把产业链攥在自己手里，才能真正站在世界科技的前沿。 #大咖观察 #红衣聊AI #英伟达 #芯片

68. 黄仁勋最新访谈：AI芯片起码还有10倍空间，华尔街严重低估了这个机会#黄仁勋 #AI #芯片 #英伟达 #AI芯片

69. 寒武纪思元590在FP8下推理效率提升300%，专家模块利用率从30%升至85%；华为昇腾采用HiFloat8渐进式FP8，平衡范围与精度，支持训练/推理全流程；摩尔线程等在软件栈上优化。整体而言，国产芯片在推理场景已兼容主流大模型。#国产芯片的转折点是否到来#？DeepSeek选择国产芯片优化，主要源于战略、技术和生态多重考量。通过UE8M0 FP8优化，DeepSeek能与寒武纪思元590/690、华为昇腾等深度绑定，提升兼容性，实现模型-硬件协同。 FP8格式减少内存/带宽需求75%，推理吞吐翻倍，能效更高，适合国产芯片的7nm工艺限制；DeepSeek V3.1在混合推理架构下，支持思考/非思考模式，Agent能力增强，但需硬件支持低精度调度。DeepSeek已与15+家企业（如华为、中国移动）合作，模型先行定义标准，倒逼硬件适配，形成正反馈循环；这不同于NVIDIA的硬件主导模式，更适合“软件驱动硬件”的路径。优化后，DeepSeek V3.1在MMLU等基准上接近GPT-4o，API价格仅1元/百万token输入，性价比碾压海外，助力国产AI产业链落地。国产芯片确实有望借DeepSeek V3.1的UE8M0 FP8优化迎来突破，UE8M0 FP8是什么？UE8M0 FP8是一种创新的8位浮点数格式（Floating Point 8-bit），专为AI计算优化设计。在传统的浮点数表示中，浮点数由符号位（Sign）、指数（Exponent）和尾数（Mantissa）三部分组成，用于平衡精度和动态范围。但UE8M0采取极简主义设计：它将全部8位用于指数（Exponent），省略符号位和尾数（Mantissa=0），因此被称为“无尾数”格式。这种结构使得其动态范围极大（约从2^{-127}到2^{128}），乘除运算简化为简单的整数加减，极大降低硬件复杂度，但也导致精度较低，只有256个离散值水平，适合矩阵乘法（MatMul）等累积运算场景，而不直接用于加法。实际应用中，UE8M0常作为“Scale-only”模式，与其他FP8变体（如E4M3/E5M2）结合使用：权重保持在高精度格式，中间缩放用UE8M0，避免精度损失，同时兼容微缩放（Microscaling）框架。 #ai生活指南##ai创造营#

70. 同一条路，蔚来世界模型 vs 理想 VLA

71. 哥们，路子走窄了。强化学习RL是否能增强模型的推理能力？——NeruIPS 2025获奖论文，来自清华大学

72. 常规机器学习推理 vs. 大语言模型推理的 5 个关键区别

73. 华为算力概念爆发，相关概念股集体上涨。华为即将发布的AI技术通过软件统一调度异构算力，提升资源利用率，目标降低AI推理成本。产业链核心环节受益，但需警惕估值泡沫与业绩兑现压力。此次突破有望重构算力格局，推动国产AI转向提效率新范式。 http://t.cn/AX2gTfg0

74. 仅0.2B就比GPT-4.1强？加州大学新指标：组合推理基准首次超越人类

75. 首个1T参数开源推理模型来了！

76. VLA 到底带来了哪些改变？最近体验这几家的版本，元戎的 VLA 表现更有代表性一些。所以这期视频我们和大家聊聊。这期视频和大家讨论的是：如今 VLA 还处在“年幼期”，如果和过去的端到端对比，有质的飞跃我觉得并没有。但 VLA 带来了一些特性是过去端到端没有的。比如对复杂环境的理解，反应在自然的控速能力上。比如路口、小路、隧道涵洞等，不像过去先加到限速值体感不适应，还有就是主动防御性减速的能力。所以能力表现上我觉得差异不大，但是心理变化会更好一些。其次就是长时序的理解，在复杂的双向单车道，路边还有被占车道的场景，和对向车的连续博弈和绕行能力，VLA 的表现堪称惊艳。比如傻瓜式的减速、顿刹、起步延迟的问题少了很多了。还有就是语义的表达，特别是实时推理和决策推理，元戎这次的交互表现做的很不错。VLA 的内容有简化和剪枝，直接给重点和决策，而不是长文本推理。所以作为年幼期，VLA 的表现需要放大到更长远的时间节点看。有意思的是目前辅助驾驶技术开始第一次出现比较大的技术分歧，沉闷了这么久，市场终于有新的冲突点了！ #新能源汽车##大v聊车# http://t.cn/AXPBPjWi

77. 英伟达 B30A 中国特供芯片！2.4万美元一片！国内大厂还得抢着要？「超极氪」

78. 大模型推理加速技术的学习路线是什么?

79. 【摩尔线程发新芯片称对AI大模型训练推理均强于英伟达上代产品】摩尔线程发新芯片称对AI大模型训练推理均强于英伟达上代产品在资本市场热捧中摩尔线程发布下一代产品。12月20日，摩尔线程（688795.SH）在北京召开了首届开发者大会，在会上发布了下一代的GPU架构“花港”和基于该架构开发的AI大模型训练、推理一体芯片“华山”和专用于图形渲染的芯片“庐山”。此外，摩尔线程还发布了万卡智算集群、端侧AI SoC（系统级）芯片“长江”等产品。　　摩尔线程并未公布新一代AI芯片的具体参数或量产时间，称“华山”的浮点算力、访存带宽、高速互联带宽这三个指标能力介于英伟达量产的最新架构Blackwell和上一代架构Hopper之间，而访存容量优于前二者。

80. 只需三步！14G显存也能跑，腾讯混元video 1.5“小钢炮”本地部署实测

81. #千问Qwen3.5大模型发布# 阿里“年夜饭”来了，开源全新一代大模型千问Qwen3.5-Plus。总参数为3970亿，激活170亿，性能超过万亿参数的Qwen3-Max模型，部署显存占用降低60%，推理效率大幅提升，最大推理吞吐量可提升至19倍。在推理、编程、Agent智能体等全方位基准评估中均表现优异，并在视觉理解能力的权威评测中斩获数项性能最佳。支持长达2小时（1M token上下文）的视频直接输入，适用于长视频内容分析与摘要生成。#过个有AI年#

82. 如果你想让大型语言模型（LLM）运行得更快、更省钱，这16项技术值得深入掌握：1. 量化（Quantization）：通过降低参数精度，减少计算资源消耗和内存占用。2. KV-Cache量化：优化键值缓存的存储效率，提升推理速度。3. 闪存注意力（Flash Attention）：高效实现注意力机制，节省显存和计算时间。4. 预测解码（Speculative Decoding）：提前预测输出，减少生成延迟。5. LoRA（低秩适配）：用低秩矩阵微调模型，降低训练和推理成本。6. 剪枝（Pruning）：去除冗余参数，缩减模型规模。7. 知识蒸馏（Knowledge Distillation）：用小模型学习大模型知识，实现轻量化。8. 权重共享（Weight Sharing）：重复使用参数，减少模型存储需求。9. 稀疏注意力（Sparse Attention）：只计算重要部分的注意力，提升效率。10. 批处理与动态批处理（Batching & Dynamic Batching）：合理组织输入，最大化硬件利用率。11. 模型服务优化（Model Serving Optimization）：提升部署效率，降低延迟。12. 张量并行（Tensor Parallelism）：分布计算，支持更大模型推理。13. 流水线并行（Pipeline Parallelism）：分阶段处理，提升吞吐量。14. 分页注意力（Paged Attention）：分块处理长序列，节省资源。15. 混合精度推理（Mixed Precision Inference）：结合高低精度计算，平衡速度与准确度。16. 早停/令牌级剪枝（Early Exit / Token-Level Pruning）：动态终止计算，避免不必要的推理。掌握这些技巧，不仅能显著降低模型运行成本，还能提升响应速度，推动大型语言模型更广泛的应用。原文链接：x.com/athleticKoder/status/1979163202844754396

83. 阿里自研AI芯片亮相，由通义实验室、阿里云、平头哥组成的“通云哥”体系，有哪些信息值得关注？

84. Deepseek 验证了MLA+ MOE的技术可行性； KIMI thinking 在此基础上，实现了 int4的快速推理和低成本部署，给MOE单个专家参量能力提升了50%以上，实现了模型推理和能力上限的权衡。我很期待 AD里面的 Kimi Thinking 时刻#懒博小课堂##自动驾驶##微博新知#

85. 阿里云GPU降本黑科技落地！这些板块迎利好，两类股要警惕阿里云Aegaeon方案在SOSP大会的亮相，堪称AI算力领域的"降本革命"——服务720亿参数大模型所需英伟达H20 GPU数量直降82%，这一技术突破正悄然改写产业链格局，板块分化信号已明确。🔥 三大利多板块及核心标的1. 云计算板块：技术壁垒再强化Aegaeon通过token级调度和显存精细化管理，将单GPU服务模型数量提升9倍，直接解决了云厂商GPU资源浪费的核心痛点。阿里云百炼平台已率先落地该技术，模型调用量年增15倍，头部云厂商的成本优势和竞争力进一步扩大。 • 核心标的： ◦ 阿里巴巴（9988.HK）：方案研发主体，阿里云"AI+云"生态协同优势凸显 ◦ 优刻得（688158）：国内第三方云计算龙头，有望借鉴同类技术优化服务效率 ◦ 网宿科技（300017）：云分发与边缘计算龙头，可承接算力优化后的边缘部署需求2. AI基础设施优化领域：CXL与调度技术成关键方案依赖的全栈资源池化技术，与CXL高速互连协议形成协同效应。这类技术的普及将拉动相关芯片与解决方案需求，尤其利好深耕算力调度的企业。 • 核心标的： ◦ 澜起科技（688008）：CXL协议关键芯片供应商，技术适配GPU池化场景 ◦ 聚辰股份（688123）：存储接口芯片龙头，支撑显存精细化管理需求 ◦ 华丰科技（688629）：高速互连组件供应商，适配算力池化设备连接需求3. AI应用层：成本下降加速落地GPU用量削减82%意味着大模型推理成本大幅降低，传媒、金融等AI应用场景的商业化进程将提速。此前阿里云栖大会已释放"AI赋能数字消费"信号，应用端企业直接受益。 • 核心标的： ◦ 蓝色光标（300058）：AI营销龙头，模型部署成本下降增厚利润空间 ◦ 科大讯飞（002230）：教育医疗AI场景落地，算力成本优化提升渗透率 ◦ 同花顺（300033）：金融AI助手研发成本降低，产品迭代速度加快⚠️ 两大利空板块及风险标的1. 高端GPU硬件及分销链方案直接导致英伟达H20 GPU用量锐减，若行业大规模复制该模式，将冲击高端GPU需求。高盛已下调2025年AI服务器出货预期，相关产业链首当其冲。 • 风险标的： ◦ 鸿博股份（002229）：英伟达GPU分销核心标的，高端卡需求下滑影响业绩 ◦ 胜宏科技（300476）：GPU PCB板供应商，高端产品订单或受挤压2. 传统AI服务器硬件商缺乏算力优化技术的纯硬件组装厂商，将面临"GPU用量减少→服务器需求收缩"的传导压力，行业竞争重心转向"硬件+优化方案"一体化能力。短期看，这是技术突破带来的结构性调整；长期而言，算力效率革命将加速AI产业从"硬件依赖"转向"技术驱动"。你更看好算力优化赛道还是坚守硬件龙头？#阿里云技术突破##AI算力板块分化##GPU降本影响#

86. 英伟达还想做自动驾驶领域的安卓，智能电动车企们同意吗？现在大家连推理芯片都自研了视频为英伟达端到端智驾系统alpamayo在奔驰上的演示，还不错，很适合传统车企起步用英伟达如今自动驾驶部门负责人正是前小鹏汽车副总裁吴新宙#人工智能# #英伟达发布新一代gpu# 刘智身的微博视频

87. 英伟达正在把AI超算，塞进每个人的桌面

88. 【华为：2035年全社会的算力总量将增长10万倍】财联社9月17日电，据华为官微，9月16日，华为举办智能世界2035系列报告发布会，正式发布智能世界2035系列报告，包括《智能世界2035》和《全球数智化指数2025》报告。报告指出，2035年全社会的算力总量将增长10万倍，计算领域将突破传统冯• 诺依曼架构的束缚，在计算架构、材料器件、工程工艺、计算范式四大核心层面实现颠覆性创新，最终催生新型计算的全面兴起。数据将成为推动人工智能发展的“新燃料”，AI存储容量需求将比2025年增长500倍，占比超过70%，Agentic AI驱动存储范式改变。通信网络的连接对象将从90亿人扩展到9000亿智能体，实现移动互联网至智能体互联网的跃迁。

89. #何小鹏首次披露物理AI巨大进展# 小鹏第二代VLA突破行业范式！砍掉语言转译，以视觉为核心实现“百文不如一见”，投入3万卡算力、20亿研发后迎来质变。其能用近1亿真实视频数据训练（相当于6.5万年极限驾驶场景），还能视觉推理预测未来、生成仿真训练场景。依托3万卡智算集群与720亿参数基座大模型，每五天全链路迭代一次。软硬件协同更惊艳：Ultra车型车端有效算力达2250 TOPS，模型推理效率提升12倍，参数较行业主流高10倍，堪称辅助驾驶又一里程碑！#小鹏科技日#

90. 从拼数据到拼算力，VLA按下洗牌键：留给“杂牌车”的时间只剩一年！#汽车生活# 当VLA把智驾竞争从“堆数据”拖入“堆算力＋堆推理”的新维度，行业分水岭正式出现：巨头越跑越快，中小品牌被迫富士康化；而头部内部，华为、特斯拉的“巅峰时刻”与理想、小鹏的“逆袭元年”将同时上演。2025，既是智驾寡头最后的狂欢，也是新王加冕的序章。#汽车资讯##大V聊车# 玩车队长的微博视频

91. 荣耀Magic8系列曝光了，10月中旬正式发布！新机将首发端侧低Bit量化技术，模型推理速度提升15%，推理速度提升400%。还能够完成智能体驱动的AI追色功能，拍照魔法体验大升级！另外，新通用Agent，也就是一句话执行能力大幅提升。看来AI和影像方面荣耀都要大发力了。

92. #英伟达发布新一代GPU# 英伟达CEO黄仁勋CES上带来了最新的Rubin平台，将芯片的竞争直接带入系统层面。GPU推理算力是Blackwell的5倍，推理成本降低90%。 Rubin平台的发布直接降低大模型落地门槛，今年AI行业要迎来全面爆发了。

93. 【#马斯克太空算力中心被杭产大模型实现#】 1月26日，在中国信通院组织的“星算·智联”太空算力研讨会上，国星宇航披露，2025年11月已成功将千问3大模型部署至“星算”计划01组太空计算中心。这是全球首次将通用大模型注至在轨卫星，实现太空在轨部署。千问3在太空顺利完成多次端到端推理任务，从地面上传问题到卫星在轨运算、回传结果，全流程耗时不足2分钟。特斯拉创始人马斯克曾看好太空算力中心，认为其在能源供给、散热和空间规模上具备天然优势，终极目标是为地球文明备份，但该构想仍停留在规划阶段。此次杭产大模型的太空部署，标志着AI正式迈入太空应用阶段。

94. 天玑9500抢先体验：看性能+能耗+AI的三重进化

95. Google TPU v6e、AMD MI300X 与 NVIDIA H100/B200的推理成本大比拼：根据Artificial Analysis最新硬件基准测试，NVIDIA在「每百万输入输出token成本」指标上，较TPU v6e（Trillium）优势约5倍，较MI300X优势约2倍。以Llama 3.3 70B模型配合vLLM在30输出token/s的参考速度测试，NVIDIA H100的成本仅为1.06美元/百万token，MI300X为2.24美元，TPU v6e则高达5.13美元。此成本指标综合考虑了系统吞吐量与云端租用价格，反映了实际推理的经济效率。值得注意的是，测试基于当前云端可租用硬件，尚未包含即将上市的Google TPU v7和AMD MI355X。TPU v7在算力、内存与带宽上大幅跃升，但定价尚未公布，未来成本结构仍待观察。此外，TPU仅限Google Cloud生态，使用时需绑定供应商；而NVIDIA GPU更具中立性，支持多云及本地部署，灵活性更高。硬件性能虽关键，实际成本也深受模型输入输出比例、并发策略及批量大小影响，企业需结合自身业务场景做综合评估。从长远看，硬件只是推理效率的一环，未来真正的竞争力还将来源于跨平台的模型编译器和自动并行化技术，打破厂商壁垒，实现混合云协同。当前NVIDIA硬件在推理成本和灵活性上领先，不过Google TPU v7和AMD MI355X有望带来新变数。选择硬件时，除了理论性能，更要关注实际应用环境和整体成本效益。AI推理的成本战，远未到尘埃落定的时刻。详细数据及多模型对比请见： artificialanalysis.ai/benchmarks/hardware?model=llama-3-3-instruct-70b

96. Elon 最近在推特上披露了有关Tesla AI 芯片的信息，Elon 认为特斯拉AI5 将成为目前推理芯片，特别是针对 250B参数以下的模型，成本低，性能和能效比极佳，后续的 AI6会把这个优势再放大。从做 2 种芯片架构切换到 1 种之后更简化，特斯拉的芯片团队大约一半在湾区，一半在奥斯汀，还有工程师分布在全球各地#新能源汽车##大v聊车##特斯拉#

97. 【#阿里千问登顶空间推理全球冠军#】近日，空间推理基准测试SpatialBench更新最新一期榜单，阿里千问的视觉理解模型Qwen3-VL、Qwen2.5-VL表现亮眼，分别位列头两名，超越了Gemini 3、GPT-5.1、Claude Sonnet4.5等国际顶尖模型。从具体来看Qwen3-VL-235B和Qwen2.5-VL-72B分别斩获13.5和12.9分，领先于Gemini 3.0 Pro Preview（9.6）、GPT-5.1（7.5）、Claude Sonnet 4.5等海外顶尖模型。不过，AI大模型整体表现与人类仍有差距，人类基准线约80分，能专业处理电路分析、CAD工程和分子生物学等复杂空间推理任务，目前大模型还无法完全自动化完成这类工作。

98. 英伟达反弹了10%，但或许要到明年一季度blackwell显灵并大幅出货了，才能让人看到，你大爷还是大爷的，等马斯克GROK5出来看效果就知道了一个小插曲，昨晚传出英伟达200亿收购AI芯片初创Groq被否认，只是达成推理技术许可，英伟达称将在自家产品中整合Groq的产品。Groq称达成允许英伟达使用其推理技术的非独家许可协议，仍将独立运营，公司创始人、总裁和其他团队成员加入英伟达协助推进此技术。#电车财经##英伟达#

99. 【阿里发布新一代模型春节技术竞赛升温｜AI狂飙】AI模型厂商集中借春节时机宣发新一代大模型。阿里发布新一代模型春节技术竞赛升温｜AI狂飙　　2月16日，阿里巴巴开源发布新一代基座模型Qwen3.5-Plus，阿里称Qwen3.5-Plus整体能力媲美Gemini 3 Pro，并在多项权威基准测试中刷新开源模型纪录，API（应用程序接口）价格每百万Token（字符）低至0.8元，仅为Gemini 3 Pro的1/18。　　阿里发布的新模型已在千问App、PC端同步上线，开发者可通过魔搭社区、HuggingFace及阿里云百炼获取模型与API服务。阿里还称，性能更强的旗舰模型Qwen3.5-Max将在后续发布，还将推出不同尺寸、功能的模型。具体来看，新模型总参数规模达3970亿，激活参数约170亿，在多模态架构下实现性能跃升。与上一代Qwen3系列模型基于纯文本数据预训练不同，千问3.5则基于视觉与文本混合Token进行预训练，并显著增加中英文、多语言、STEM及推理类数据，使模型在更低参数规模下获得接近万亿级基座模型的综合能力。

100. AMD Ryzen AI MAX+ 392 笔记本处理器曝光，GeekBench 跑分库显示，它 12 核 24 线程，加速频率 5.0GHz，集成 50TOPS 算力 NPU，Geekbench 6 测其单核 2917 分、多核 18071 分，超桌面级 7900X

101. 推理算力需求超越训练，AI硬件迎来新增长点！

102. 华泰 | 计算机

103. AI革命才刚拉开序幕，推理算力需求将超十亿倍增长

104. 从训练到推理

105. AI算力需求能持续多久

106. 从训练到推理

107. 华泰 | 电子

108. 浅谈推理算力赛道的技术尽调参考

109. 一文了解-大语言模型 (LLM)训练 vs 推理

110. 通信｜推理+训练驱动算力需求井喷，云厂商资本开支或加码

111. AI推理进入“10毫秒、1块钱”时代！浪潮信息发布面向智能体优化AI计算系统

112. AI推理时代变天？GPU统治松动，英伟达靠TPU同源技术破局

113. 专访云天励飞董事长陈宁

114. 云天励飞董事长陈宁

115. 什么是训练与推理

116. 什么是推理算力和训练算力？它们之间到底有什么区别？

117. 大模型推理和训练阶段的不同点在哪里

118. 智算任务

119. AI训练与AI推理芯片深度对比

120. AI训练与推理的硬件需求有什么区别？

121. GPU训练与推理的核心差异与优化策略

122. 大模型算力设备选型

123. 周鸿t

124. GPU 选 “训练卡”还是“推理卡”？很多企业都选错了

125. 人工智能关键术语解析

126. 数据中心中的 AI 推理

127. 2026 AI 推理之年

128. 摩根士丹利

129. 智源研究院

130. 三大主线驱动2026十大AI趋势

131. 《2026年塑造未来格局的七大AI趋势研究报告》深度解析

132. 2026十大AI技术趋势

133. 智源研究院发布《2026十大AI技术趋势》

134. 2026年塑造未来格局的七大AI趋势研究报告(英文版)

135. 联想智库发布“2026企业AI十大趋势”

136. 1月10日AI资讯

137. 推理芯片

138. 国产“GPNPU”要发力了！All in AI大算力芯片，明年对标英伟达Blackwell

139. 推理芯片将成AI大规模应用的基石

140. 2025年中国AI推理芯片行业市场调查研究报告-华经产业研究院

141. 推理专用芯片，火了

142. 深度 | AI芯片战局生变，从比拼算力到优化推理，谁能抓住下一波机会？

143. 中国AI芯片在推理赛道寻突破

144. AI算力需求转折点

145. 算力“精打细算”时代

146. 专为 AI 推理设计的革命性处理器

147. 英伟达Rubin CPX引爆AI推理革命，A股产业链迎来新增量

148. 国产推理GPU问世！首用LPDDR6，性价比飙10倍

149. 端侧大模型推理

150. 论文解读|llm.npu

151. 《Serverless NPU

152. 2025 湾芯展丨从 GPU 到 GPNPU

153. 技术破局｜爱芯元智港股上市

154. “中国边缘AI芯片第一股”！爱芯元智今日登陆港交所，百亿智能体时代推理算力需求或迎指数级增长

155. 爱芯元智敲钟，成港股首家边缘计算AI芯片企业

156. 从训练到推理，全球AI芯片要变天了

157. 边缘AI需求迎来爆发期！下一代边缘AI服务器长什么样？

158. AI算力

159. MLPerf最新榜单炸裂公布！英伟达新核弹GB300性能屠榜，AMD的回应同样凶猛！

160. Meta发布最小推理模型MobileLLM

161. NVFP4

162. AI推理硬件选型指南

163. 大模型本地部署方案和推理引擎

164. Meta与英伟达达成重磅合作，数百万颗AI芯片部署提速

165. 《AI训练全流程拆解指南⑤》|《模型部署实战》

166. Meta与英伟达深化合作

167. Meta与英伟达达成数百亿美元芯片合作，部署数百万颗GPU及Grace CPU挑战x86架构

168. Meta加码英伟达，将独立部署Grace CPU并采购数百万颗AI芯片

169. 算力争夺战白热化

170. 云计算推理革命

171. 边缘推理爆发

172. AI推理“最后一公里”迎来激战，中国厂商凭啥赢过美国巨头？

173. 国产开源大模型迭代升级，大模型推理云服务性能测试持续进行中

174. 阿里云磐久AL128超节点，重构AI推理算力互联范式 - 哔哩哔哩

175. 阿里云国际站GPU

176. 亚马逊云代理商

177. Meta AI 推理新论文

178. AI推理黑箱被可视化了！Meta团队神作

179. AI周报 | 阶跃星辰开源Agent基座、阿里腾讯春节大战、推理优化新突破

180. 【【万字长文】大模型训练推理和性能优化算法总结和实践】本文主要总结了大模型落地过程中的训练、推理和性能优化相关算法和实践，并重点分享了大模型在推理与训练中的性能优化方法，针对推理延迟高、显存占用大及计算效率低等核心挑战，介绍包括连续批处理、分块注意力机制、分布式训练等技术，并结合实践分析了优化策略在

181. 【AI行业资讯】

182. 告别盲目纠错，Meta联合研发AI推理过程，全程可控！

183. 阿里云百炼ai模型

184. 算力芯片在增长，推理市场同样高速增长。国内推理芯片行业全景扫描：分类、厂商、市场与未来份额。

185. 中国 AI 算力供需深度分析报告核心内容

186. AI推理芯片黄金十年开启

187. 震撼发布！NVIDIA Blackwell Ultra 横扫MLPerf七项基准测试，10分钟搞定Llama 405B训练！

188. AI推理正式进入“10毫秒、1块钱”时代！

189. 英伟达Rubin CPX为首款为LLM推理加速而设计的专属芯片

190. 访谈Akamai李文涛：分布式边缘推理成智能体时代基础平台！

191. 下一个“AI卖铲人”：算力调度是推理盈利关键，向量数据库成刚需

192. AI芯片科普：AI推理芯片和AI训练芯片的区别

193. 英伟达新GPU！单机架AI性能暴涨650%，100TB大内存，专攻长文推理

194. 机器学习测试规模越来越大 —— Nvidia 不断击败竞争对手

195. 端侧大模型推理：MNN 利用高通NPU加速LLM解析

196. AI推理芯片的主要部署地点及分类

197. MLPerf基准测试持续扩大规模，英伟达保持领先地位

198. 光铜共进，AI 大变革！CPC推理时代开启！

199. 算力需求转向推理，AIDC零售服务迎来黄金时代

200. 中国边缘AI芯片第一股

201. AI从训练时代进入推理时代

202. 英伟达发布 Rubin CPX 专用 GPU，主攻百万级 Token 推理和视频生成

203. 怎么看“推理算力”？

204. 2025算力网络人工智能模型推理算力度量研究报告

205. 英特尔如何加速边缘AI落地？

206. 进入“推理”时代汽车将由AI定义

207. 全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本

208. AI算力度量模型及推理算力计算方式

209. 2026年最热门的AI趋势，不是GPU

210. MLPerf基准测试如何指导数据中心设计决策

211. 2026 AI大爆发！十大趋势颠覆生活，新BAT将诞生，安全隐患需警惕

212. 边缘AI是什么——在现场实时做出判断的下一代人工智能

213. 为啥 AI 训练要花几个亿？看完 “教本事” 和 “用本事” 的区别秒懂

214. Blackwell架构横扫MLPerf基准测试，AI算力格局生变

215. 2026年AI十大趋势

216. 2026十大AI技术趋势，你最看好哪个？

217. 大模型驱动算力革命 AI芯片迎破局新机遇

218. 十大AI推理芯片龙头深度解析

219. 边缘AI，何以成为大厂角逐的新沃土？

220. MLPerf最新榜单炸裂公布！英伟达新核弹GB300性能屠榜，AMD回应同样凶猛

221. 边缘AI芯片，常用的十大AI场景！

222. MLPerf Inference v5.1为人工智能设定新基准

223. 一文了解：大模型「推理基准测试」及其「核心评估指标」

224. 629TOP INT8 算力，Axelera 推出 AI 推理处理器 Europa

225. NPU 推理内存流量路径与 CPU 功能及负载分析

226. 推理芯片架构创新分类

227. AMD发布Instinct MI350系列GPU首批MLPerf 5.1测试成绩

228. AI推理芯片--未来3年的芯片大蛋糕

229. 2026十大AI技术趋势：从数字智能迈入物理世界

230. 英特尔至强W系列处理器：AI推理时代的性能引擎

231. 阿里云国际站GPU：阿里云GPU服务器如何提高AI推理速度？

232. NPU(三)：静态图推理的一些思考

233. PolarFire® FPGA，低功耗AI边缘推理新选择

234. MLPerf Training v5.1结果发布，Flux.1取代Stable Diffusion

235. AIGC每周精选-LLM 推理指标详解

2026年中国智能算力规模将翻倍，推理算力占比首超50%

精选参考来源