深度学习

七步理解深度学习

深度学习是机器学习的一个分支,拥有很多的相似性,但是却也不同,深度神经网络结构在自然语言处理、计算机视觉、生物信息学和其他领域解决了各种各样的问题。深度学习经历了一场巨大的最近研究的重现,并且在很多领域中已经展现出最先进的成果。

对深度学习的认知——深度模型可以解决什么问题?

在跟深度模型打交道的过程中,使用 DNN 解决了一些分类的问题。目前 DNN 好像是非常流行的一种学习方法。但是,如果要问我什么是 DNN,DNN 到底为什么这么受欢迎,它到底有哪些优势?以下是我个人的一些看法和回答。

深度学习之生成对抗网络(Gan)

生成对抗网络(GAN,Generative Adversatial Networks)是一种深度学习模型,近年来无监督学习上最具前景的方法之一。 模型主要通用框架有(至少)两个模块:生成模型和判别模型的互相博弈学习产生的相当好的输出。 原始GAN理论中,并不要求G和D都是神经网络,但使用中一般均使用深度神经网络作为G和D。

深度学习 - 解决局部最优点问题的方案

一般的梯度下降方法寻找的是loss function的局部极小值,而我们想要全局最小值。如下误差曲面图所示,我们希望loss值可以降低到右侧深蓝色的最低点,但loss有可能“卡”在左侧的局部极小值中,也就是图中红线所走的路径。

深度残差网络(ResNet)

对于传统的深度学习网络应用来说,网络越深,所能学到的东西越多。当然收敛速度也就越慢,训练时间越长,然而深度到了一定程度之后就会发现越往深学习率越低的情况,甚至在一些场景下,网络层数越深反而降低了准确率,而且很容易出现梯度消失和梯度爆炸。