|
卷积神经网络(CNN:Convolutional Neural Network)是前馈型神经网络,层间无反馈,一般前面是较深的多层卷积层(包括池化层),后面是较浅的多层感知器(也称为全连接层)。基于大数据,CNN可以有效解决图像分类等模式识别问题。最早的卷积神经网络是Yann LeCun提出的LeNet。LeNet贡献了卷积层和池化层概念,奠定了CNN的基本形式。后来,AlexNet引入了GPU计算,使得深度CNN能够在可忍受的时间内完成训练。AlexNet的贡献还有:提出使用ReLU激活函数,降低了梯度爆炸和梯度消失的程度,加快了训练速度;提出了Dropout、数据增强等操作减少过拟合。其后的GoogleNet、VGG、ResNet等模型则使得CNN的卷积层数越来越深,甚至达到上千层。各种实践也标明,增加网络的深度比增加网络的广度能更有效地提高分类的准确率。但是,随着网络层次深度的增加,如何有效传递误差梯度,避免梯度消失或者梯度爆炸则成为关键问题。 【出处】鲍军鹏,张选平.人工智能导论(第2版),机械工业出版社,2021年1月.
|