深度学习

入行深度学习之前,要做好哪些准备?

人工智能(AI)、机器学习(ML)、深度学习(DL)在当下的火热程度我就不多说了,同时又有很多人想入门进入这个领域,尤其是深度学习这个细分领域。本文将带你了解入行深度学习前需要做的一些准备。同时,你也会了解到深度学习的学习路径。

形象的解释:DBN、GAN、RNN、LSTM、CNN

深度信念网络(Deep Belief Nets),是一种概率生成模型,能够建立输入数据和输出类别的联合概率分布。深度信念网络通过采用逐层训练的方式,解决了深层次神经网络的优化问题,通过逐层训练为整个网络赋予了较好的初始权值,使得网络只要经过微调就可以达到最优解。

深度学习中的激活函数与梯度消失

深度学习的基本原理是基于人工神经网络,信号从一个神经元进入,经过非线性的激活函数,传入到下一层神经元;再经过该层神经元的激活,继续往下传递,如此循环往复,直到输出层。正是由于这些非线性函数的反复叠加,才使得神经网络有足够的能力来抓取复杂的模式,在各个领域取得不俗的表现。

深度学习—BN的理解(一)

机器学习领域有个很重要的假设:IID独立同分布假设,就是假设训练数据和测试数据是满足相同分布的,这是通过训练数据获得的模型能够在测试集获得好的效果的一个基本保障。那BatchNorm的作用是什么呢?BatchNorm就是在深度神经网络训练过程中使得每一层神经网络的输入保持相同分布的。