卷积神经网络与全连接网络的区别及优势

109、全连接网络和卷积神经网络有什么区别？

网络结构对比

全连接网络特点

• 各层神经元全部相连
• 高分辨率图像会导致：
• 网络宽度快速增长
• 网络参数数量增加
• 训练参数计算需求大

卷积神经网络特点

• 采用稀疏互连结构
• 灵感来源：生物视觉皮层
• 卷积滤波器特性：
• 仅连接有限数量神经元
• 能有效利用数据结构的先验知识
• 通过移动卷积窗口实现参数共享

参数特性对比

• 卷积神经网络：
• 滤波器参数在层内共享
• 可大幅减少需训练的权重数量
• 可避免过拟合
• 全连接网络：
• 无参数共享特性

性能表现

• 在图像识别任务中，卷积神经网络表现更好

110、什么是最大池化？

最大池化是一种减少权重数量的方法，属于 非线性下采样 （用更少的比特以更低的分辨率表达信息）。通常将一个 2×2 的块下采样为一个标量值，能降低网络的维度，是 对象检测的重要组成部分 和 大多数卷积神经网络架构的组成部分 。
此外，最大池化还允许小的 平移 （如将对象移动几个像素）或 缩放 （如将对象靠近相机）。

111、为什么共享权重是有利的？

共享权重有利的原因如下：

1. 允许特征被检测而不考虑其在视野中的位置，构成平移不变性；
2. 防止深度和宽度网络中权重数