3. 【AI人工智能】题库:纯公益分享【就业+考研】笔试+面试必会【小白从小学Python,C,Java】知识点名称残差连接（Residual Connection）知识点讲解残差连接是ResNet的核心创新，通过在网络层之间添加“跳跃连接”，让输入可以直接跳过若干层加到输出上，形成输出 = F(x) + x（当维度一致时）。这种结构有效缓解了深度神经网络中的梯度消失/爆炸问题，使得训练数百甚至上千层的网络成为可能，同时也帮助网络学习恒等映射（identity function），避免了“越深越差”的退化问题。典型例子：ResNet-50/101/152在ImageNet上大幅超越之前模型。例题（单选题）残差连接的主要作用是什么？A选项：让网络可以训练更深层数B选项：完全取代Batch NormalizationC选项：减少模型总参数数量D选项：把卷积改成全连接层答案与题解答案、题解：见评论区温馨期待期待大家提出宝贵建议，互相交流，收获更大，助教：fyt #AI创造营# #科技风向标# 网页链接

4. 【AI人工智能】题库:纯公益分享【就业+考研】笔试+面试必会【小白从小学Python,C,Java】 [太阳]知识点名称 AI中梯度消失问题 [太阳]知识点讲解梯度消失是指在深度神经网络反向传播时，梯度随着层数增加指数级衰减，最终接近于0，导致浅层参数几乎无法更新，训练失效。常见于使用Sigmoid或Tanh激活函数的深层网络。解决方法包括使用ReLU/LeakyReLU激活函数、Batch Normalization、残差连接（ResNet）、LSTM/GRU等门控机制。举例：一个20层全连接网络使用Sigmoid，第1层收到的梯度可能仅为原始梯度的1/2^20≈10^-6，几乎无法学习，而改用ReLU后在一定条件下缓解梯度消失，但也可能出现“死亡ReLU”等训练问题。 [太阳]例题（单选题） AI中梯度消失的主要原因是什么？ A选项：权重初始化值全部为0 B选项：学习率设置过大引起震荡 C选项：批量大小太小导致噪声过大 D选项：激活函数导数小于1导致梯度指数衰减 [太阳]答案与题解答案、题解：见评论区 [太阳]温馨期待期待大家提出宝贵建议，互相交流，收获更大，助教：lxy #AI创造营# [握手] #科技风向标# http://t.cn/AX4h9zHn

5. DeepSeek后又一神作！清华校友出手，终结ResNet十年统治？

6. ResWorld：端到端自动驾驶的时序残差世界模型（北航&中关村实验室）

7. DeepSeek最新论文新突破：彻底解决大模型训练稳定性难题

8. #一条音频告别2025##微博声浪计划# DeepSeek两大论文揭秘AI底层突破！#DeepSeek发布梁文锋署名论文# DeepSeek近期发布两篇重磅论文：mHC架构解决传统残差连接不稳定问题，工程实现低开销；与北大合作提出的Engram模块革新大模型知识查找，提升多任务性能。展现中国AI从应用跟随到架构引领的转变。凯文思考的微博音频

9. 2026 第一枪：字节提出的超连接，被 DeepSeek 救活了

10. #一条音频告别2025##微博声浪计划# DeepSeek元旦新论文发布流形约束超连接（mHC）架构，针对传统残差连接缺陷，通过数学约束平衡灵活性与稳定性，信号放大倍数大幅降低，内存消耗减少，多项基准测试性能提升。行业热议其是否颠覆残差连接范式，实际价值需复现验证。#有点东西# 梁小欣同学的微博音频

11. 【AI人工智能】题库:纯公益分享【就业+考研】笔试+面试必会【小白从小学Python,C,Java】知识点名称梯度消失问题知识点讲解梯度消失是深度神经网络训练中的常见问题，尤其是在多层网络或循环神经网络中。它指的是在反向传播过程中，梯度在反向传播过程中逐层衰减（甚至呈指数级减小），导致靠近输入层的权重几乎得不到更新，从而使模型难以学习长期依赖关系。例如，在使用sigmoid或tanh激活函数时，其导数值在绝对值较大的输入处趋近于零，多层连乘后梯度会迅速衰减至接近0。为了解决这个问题，常见方法包括使用ReLU激活函数、残差网络（ResNet）、以及改进的循环结构如LSTM等。例题（单选题）梯度消失会导致什么问题？ A选项：靠近输入层的权重难以更新 B选项：模型参数爆炸 C选项：数据标签丢失 D选项：模型训练加速，很快收敛答案与题解答案、题解：见评论区温馨期待期待大家提出宝贵建议，互相交流，收获更大，助教：yy #AI创造营# #科技风向标# 网页链接

12. 本文对残差（ResNet）快捷方式进行了升级，使深度网络能够擦除、重写或翻转特征，而不仅仅是添加特征。关键在于，这为深度网络提供了一种清晰的方法来表示来回的状态变化，同时保持 ResNet 稳定的训练感觉。残留快捷方式会保留图层输入的副本并添加图层更改，因此旧的垃圾数据可能会保留下来。深度增量学习使快捷方式依赖于门和选定的方向，因此该层可以缩小或翻转该部分——使该快捷方式可学习且依赖于输入，因此它还可以减去或反转状态的某些部分。作者们研究了该门的运行方式，并表明它可以平滑地在什么都不做、删除该方向或翻转它之间切换。有了这种控制，网络可以在写入新信号之前忘记，这有助于模拟来回行为，同时保持易于训练。yifanzhang-pro.github.io/deep-delta-learning/Deep_Delta_Learning.pdf

13. resnet面试扩展问题

14. 一文带你看透什么是ResNet（残差神经网络）

15. 深度残差网络（ResNet）模型

16. 03

17. （2）ResNet 的革命

18. ResNet

19. 动手学深度学习（二十八）21世纪被引最高论文ResNet

20. 3分钟搞懂深度学习AI

21. PyTorch深度学习实战——基于ResNet模型实现猫狗分类

22. 计算机视觉模型进化路线图 AlexNet → VGG → GoogLeNet → ResNet → EfficientNet → ViT

23. 何凯明再破ResNet深度极限，1001层稳定收敛的秘密

24. 深度残差学习（ResNet）

25. 深度学习经典论文回顾

26. ResNet

27. 为什么深层网络会出现“梯度消失”？一文讲透本质原因

28. 经典CNN架构演进

29. 梯度消失&梯度爆炸公式版

30. 什么是梯度消失和梯度爆炸？如何解决

31. 读懂深度学习中的梯度爆炸和梯度消失

32. 【DeepSeek——mHC: Manifold-Constrained Hyper-Connections】详细梳理

33. 给残差加红绿灯

34. 残差网络核心原理及在 Transformer 与大语言模型中的影响解析

35. 技术专栏| 深度学习中的残差网络（上）

36. 【AI人工智能题库】残差连接（Residual Connection） - 哔哩哔哩

37. 从训练阶段空间上的ResNet与推理阶段时间上的KV Cache到Attention Residuals (v2)

38. 一文读懂ResNet

39. 残差连接（Residual Connection）

40. 残差网络ResNet真的是“脱裤子放屁”吗？

41. Resnet深度学习

42. 同一场革命，发生了两次

43. 学习AI之ALEX-net和Res-net

44. 深度学习的分水岭

45. 并行路径的艺术:从ResNet到Locas模型架构的两次“加法革命”

46. 从AlexNet到ResNet（自用）

47. 大模型Transformer架构介绍（位置编码Positional Encoding、残差连接Residual Connection 、层归一化Layer Normalization）

48. 马斯克点赞！Kimi动了大模型十年“祖传地基”，残差连接的漏洞被戳破

49. 大模型进展专栏第二十二期 | DeepSeek大模型架构新突破

50. DeepSeek发布新论文对Transformer架构做出根本性改进

51. DeepSeek元旦新作

52. 一条“残差连接”的进化之路

53. 马斯克点赞Kimi新作AttnRes

54. Attention Residuals｜残差连接的范式跃迁

55. DeepSeek 提出 mHC，改造何恺明残差连接

56. (arxiv2511) Step by Step Network

57. mHC : 残差连接的巅峰之作

58. DeepSeek 开年王炸：mHC 架构用流形约束重构 ResNet 残差连接

59. 梯度消失&梯度爆炸纯白话文版

60. 深度网络连接范式演进：残差连接 → 超连接 (HC) → 流形约束超连接 (mHC)

61. 深度神经网络中的退化问题与跳跃连接

62. Skip connection简要总结

63. 梯度爆炸与梯度消失介绍和解决思路

64. Deepseek MHC 论文核心知识点拆解：第三页深度解析，看懂残差连接到 HC 的演进逻辑陈罗律

65. 深度学习，残差学习，Transformer正是过去十年推动AI取得进展的核心技术（从融智学视域看其本质）

66. 梯度消失和梯度爆炸面试答法

67. 残差连接：提升深度学习可解释性的核心路径

68. ResNet论文逐段精读【论文精读】 - 哔哩哔哩

扫一下，分享更方便，购买更轻松

0评论

当前文章无评论，是时候发表评论了

提示信息

取消

确认

评论举报

垃圾广告！低俗色情！人身攻击！疑似水军评论！其他有害！