震惊!华人团队ResNet论文成AI视觉领域引用之王
你知道吗?在计算机视觉领域,有一篇华人团队撰写的论文,它的引用量已经突破了20万次,成为该领域当之无愧的‘引用之王’!这篇论文的名字叫《深度残差学习在图像识别中的应用》(ResNet),由四位华人科学家——何恺明、张祥雨、任少卿和孙剑共同完成。他们当时都在微软亚洲研究院工作。你知道吗?ResNet在2016年发表后,迅速成为深度学习领域的里程碑式作品,彻底改变了我们对深层网络训练的认知。
那么,ResNet到底解决了什么问题呢?在深度学习早期,人们普遍认为,网络层数越多,模型能力越强。但实际情况却相反,当网络层数超过一定数量(比如20层)后,模型性能不仅没有提升,反而开始下降,这就是所谓的‘退化问题’。更令人困惑的是,这种退化现象并不是因为过拟合,而是模型本身的学习能力出现了问题。即使在训练集上,模型的误差也会显著增加。
为了解决这个问题,何恺明团队提出了一个巧妙的设计——残差学习。他们引入了‘残差块’的概念,让网络学习‘差异’而不是‘整体’。具体来说,就是在传统的卷积层旁边增加一条‘捷径’,直接将输入信号传递到后面的层,与卷积层的输出相加。这样一来,网络只需要学习输入与输出之间的‘差值’,而不是从头开始拟合整个输出。这种设计大大降低了网络训练的难度,也让深层网络的训练变得可行。