神经网络

SGD（Stochastic Gradient Descent）就是最常见的随机梯度下降。向着参数的梯度的负方向改变（梯度方向是增加的方向）。相比于普通SGD，Momentum update在深度网络中收敛更好。

作者：Lilian Weng
编译：ronghuaiyang

导读

如果你和我一样，不明白为什么深度神经网络可以推广到样本外的数据点，而不会过拟合，请继续阅读。

如果你像我一样，有传统机器学习的经验进入深度学习领域，你可能会经常思考这样一个问题：由于一个典型的深度神经网络有这么多的参数，训练误差很容易达到完美，那么它一定会遭受大量的过拟合。如何将其推广到样本外数据点？

在理解为什么深层神经网络可以泛化的过程中，我想起了一篇关于系统生物学的有趣的论文——《生物学家能修理收音机吗?》。如果一位生物学家打算用她在生物系统上工作的方法来修理一台无线电设备的话，可能会很困难。由于无线电系统的全部机制还没有被揭示出来，小的局部功能可能会给出一些提示，但它很难显示系统内的所有交互，更不用说整个工作流程了。无论你是否认为它与DL相关，它都是一本非常有趣的读物。

我想在这篇文章中讨论一些关于深度学习模型的泛化性和复杂性度量的论文。希望它能帮助你理解为什么DNN可以泛化。

关于压缩和模型选择的经典定理

这篇文章提供了可以采取的切实可行的步骤来识别和修复机器学习模型的训练、泛化和优化问题。

神经网络是一种在很多用例中能够提供最优准确率的机器学习算法。其中参数的理解可能是我们入门的一个小小的难题，在讨论提升神经网络性能的方法，如检查过拟合、调参、超参数调节、数据增强之前，我们先简单介绍常用的神经网络参数，便于后期的学习和理解，以期更快的掌握深度学习，构建更准确的神经网络。

除了从头训练自己的网络，一种更有效，更好的方式就是微调已预训练好的网络模型，微调预训练模型简单点来说就是用目标任务数据在原先预训练的模型上继续训练的过程。

在训练神经网络的时候，需要调的参数很多，选一组最适合自己模型的参数。实际训练的时候如果不按照一定的顺序，会很乱。因此正确有序地调参很重要。

大家都遇到过这种情况，训练的时候没什么问题，测试的时候就不对劲了，想找问题，感觉无处入手，那么今天，给你37个建议，看看再说吧。

卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。

据称很容易开始训练神经网络。许多图书馆和框架都以展示解决您的数据问题的30行奇迹片段而自豪，给人以错误的印象，即这些东西即插即用。

随着深度卷积神经网络（CNN）在图像处理领域的快速发展，它已经成为机器视觉领域的一种标准，如图像分割、对象检测、场景标记、跟踪、文本检测等。然而，想要熟练掌握训练神经网络的能力并不是那么容易。比如，我们常常会遇到如下问题。你的数据和硬件有什么限制？你应该是从何种网络开始？你应该建立多少与卷积层相对的密集层？你的激励函数怎样去设置？即使你使用了最流行的激活函数，你也必须要用常规激活函数。