神经网络

本文阐述深度学习中使用的一些初始化技术。任何甚至没有机器学习背景的人都必须知道我们需要学习权重或超参数来制作模型。这些参数控制着我们的算法在看不见的数据上的表现。要学习模型，我们需要初始化参数，应用损失函数然后对其进行优化。

计算机具有高储量的硬盘和强大的CPU和GPU。但是智能手机却没有，为了弥补这个缺陷，我们需要技巧来让智能手机高效地运行深度学习应用程序。深度学习是一个令人难以置信的灵活且强大的技术，但运行的神经网络可以在计算方面需要非常大的电力，且对磁盘空间也有要求。这通常不是云空间能够解决的问题，一般都需要大硬盘服务器上运行驱动器和多个GPU模块。

网络参数确定原则：①、网络节点；②、初始权值的确定；③、最小训练速率；④、动态参数；⑤、允许误差；⑥、迭代次数；⑦、Sigmoid参数；⑧、数据转换。

激活函数是神经网络的一个重要组成部分。如果不用激活函数（即相当于激活函数为f(x)=x），在这种情况下，网络的每一层的输入都是上一层的线性输出，因此，无论该神经网络有多少层，最终的输出都是输入的线性组合，与没有隐藏层的效果相当，这种情况就是最原始的感知机。

对于神经网络的入门概念来说最重要的是一些相关的理解性概念：反向传播、激活函数、正则化以及BatchNomalizim等。其实反向传播归根结底就是一个每一次训练的动态更新的的过程，其遵循的原理是数学中的求导以及链式法则；理解了反向传播，也就能够理解梯度消失等相关的情况以及概念......

神经网络计算（Neural Network Computing NNC）是通过对人脑的基本单元——神经元的模拟，经过输入层、隐层、输出层等层次结构，对数据进行调整、评估和分析计算，得到的一类具有学习、联想、记忆和模式识别等功能的智能算法。要想比较深入的理解神经网络计算，就必须对神经网络系统有一定的理解，本文对其进行一些简单介绍。

相信大家都遇到过这种情况，训练的时候没什么问题，测试的时候就不对劲了，想找问题，感觉无处入手，那么今天，给你37个建议，看看再说吧。

时间序列数据是在不同时间点上统计同一指标，并按照时间先后排列成的一个集合。时间序列的主要作用是了解一个指标的长期趋势和预测未来。循环神经网络（Recurrent Neural Network或RNN )就是一类用于处理序列数据的神经网络。RNN的状态，不仅受输入影响，还受前一时刻状态的影响。

"深度学习"是为了让层数较多的多层神经网络可以训练，能够work而演化出来的一系列的 新的结构和新的方法。
新的网络结构中最著名的就是CNN，它解决了传统较深的网络参数太多，很难训练的问题，使用了“局部感受野”和“权植共享”的概念，大大减少了网络参数的数量。关键是这种结构确实很符合视觉类任务在人脑上的工作原理。

新的结构还包括了：LSTM，ResNet等。

新的方法就多了：新的激活函数：ReLU，新的权重初始化方法（逐层初始化，XAVIER等），新的损失函数，新的防止过拟合方法（Dropout, BN等）。这些方面主要都是为了解决传统的多层神经网络的一些不足：梯度消失，过拟合等。

从广义上说深度学习的网络结构也是多层神经网络的一种。

传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定，没有明确的理论推导来说明到底多少层合适。

而深度学习中最著名的卷积神经网络CNN，在原来多层神经网络的基础上，加入了特征学习部分，这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层，而且加入的是一个层级。

稳定可控的神经网络纹理合成和采用直方图损失函数的风格转移
<a href="https://arxiv.org/pdf/1701.08893.pdf">Stable and Controllable Neural Texture Synthesis and Style Transfer Using Histogram Losses</a>

<font size="3" color="blue"><strong>摘要</strong></font>