ResNet vs DenseNet：选错架构，训练直接崩盘？
06-11 13:13
精选参考来源
精选参考来源
1. 深度学习的分水岭：解密 ResNet 的 4 个颠覆性认知
今日头条 2025-12-13 00:00:00
2. ResNet 为什么有效？
知乎 2026-05-16 00:00:00
3. 3分钟搞懂深度学习AI：实操篇：ResNet
知乎 2026-03-14 00:00:00
4. 03：ResNet (CVPR 2016)
知乎 2026-04-28 00:00:00
5. 深度残差网络（ResNet）模型 深度残差网络（Residual Network，简称ResNet）是2015年由微软亚洲研究院何恺明团队提出的一种突破性卷积神经网络（CNN）架构，其核心创新的残差连接机制，彻底打破了“网络层数越深性能越差”的技术瓶颈，成功训练出152层的超深网络，在ImageNet图像分类竞赛中以3.57%的错误率夺冠，将人类视觉识别误差（约5.1%）远远超越，成为深度学习计算机视觉领域的奠基性模型。\n一、核心创新：残差连接与残差学习\n1.传统深层网络的痛点\n在ResNet提出前，随着CNN层数增加，会出现两大核心问题：一是梯度消失/爆炸，导致模型无法有效训练；二是网络退化，即深层网络的训练误差和测试误差反而高于浅层网络，并非过拟合导致，而是优化难度剧增。传统的梯度裁剪、Batch Normalization等方法只能缓解局部问题，无法从根本上解决。\n2.残差连接机制\nResNet的核心解决方案是引入残差连接（ shortcut connection ），即跳过一个或多个卷积层，将浅层特征直接传递到深层，与深层特征进行元素级相加。这种设计使网络不再被迫拟合复杂的原始映射，而是拟合残差映射，大幅降低优化难度。\n从数学角度定义：设目标原始映射为H(x)，通过残差连接将其转化为拟合残差F(x) = H(x) - x，最终输出为F(x) + x。若原始映射最优解接近恒等映射，残差F(x)可被轻松优化至接近零，无需深层网络费力拟合恒等映射，这也是残差学习的核心逻辑。身份快捷连接不增加额外参数和计算量，确保模型效率。\n二、网络架构：残差块与多版本设计\n1.两种经典残差块\nResNet通过堆叠残差块构建深层网络，根据网络深度不同，设计了两种残差块结构：\n•基础残差块（Basic Block）：适用于ResNet-18、ResNet-34等较浅版本，由两个3×3卷积层组成，中间搭配Batch Normalization和ReLU激活函数，残差连接直接跨接两个卷积层。\n•瓶颈残差块（Bottleneck Block）：适用于ResNet-50、ResNet-101、ResNet-152等深层版本，采用“1×1卷积→3×3卷积→1×1卷积”的结构。其中1×1卷积分别实现降维和升维，在减少参数量和计算量的同时保持特征表达能力，使深层网络具备高效训练特性。ResNet-
抖音 2026-01-28 00:00:00
6. 何凯明再破ResNet深度极限，1001层稳定收敛的秘密
知乎 2026-03-24 00:00:00
7. 各种CNN模型在图像分类任务上效果对比！（附学习资料）
微信公众号 2026-02-01 00:00:00
8. 学习AI之ALEX-net和Res-net
知乎 2026-01-01 00:00:00
9. 目标检测除了YOLO还有哪些靠谱的baseline？
小红书 2025-12-29 00:00:00
-
又学到了，暑期旅行的15个隐藏妙招，学会可太省心了！272 81 -
不听劝自己在卫生间砌了个浴缸！夏天泡着真舒服~成本仅需400195 360 -
iPhone 16 Pro 只要 2550 元，太离谱了！110 302
已收藏
去我的收藏夹