深度学习

“人工智能”、“机器学习”和“深度学习”这三个词经常交替出现，但如果你正在考虑从事人工智能的职业，了解它们之间的区别是很重要的。

深度学习是机器学习算法的子类，其特殊性是有更高的复杂度。因此，深度学习属于机器学习，但它们绝对不是相反的概念。我们将浅层学习称为不是深层的那些机器学习技术。

认字时，一定是小朋友的大脑在接受许多遍相似图像的刺激后，为每个汉字总结出了某种规律性的东西，下次大脑再看到符合这种规律的图案，考试就知道是什么字了。计算机认字时，也要先把每一个字的图案反复看很多很多遍，然后，在计算机的大脑（处理器加上存储器）里，总结出一个规律来，以后计算机再看到类似的图案，只要符合之前总结的规律，计算机就能知道这图案到底是什么字。

深度神经网络的参数网络极其庞大复杂，也因此让机器得以实现以往难以想象的各类功能。然而，这种复杂性也成为制约其广泛应用的祸根：神经网络的内部工作机理一直是个谜，就连创建者自己也搞不清它到底怎么做出决策。自深度学习在2010年初全面流行以来，这个难题一直困扰着人工智能业界。

训练好的模型，用自己蒸馏一下，就能提高性能，是不是很神奇，这里面的原理到底是什么呢，这要从模型集成开始说起。

如今，深度学习是必经之路。大规模数据集以及深层卷积神经网络（CNN）的表征能力可提供超准确和强大的模型。但目前仍然只有一个挑战：如何设计模型？像计算机视觉这样广泛而复杂的领域，解决方案并不总是清晰明了的。计算机视觉中的许多标准任务都需要特别考虑：分类、检测、分割、姿态估计、增强和恢复以及动作识别。尽管最先进的网络呈现出共同的模式，但它们都需要自己独特的设计。

导读：使用Keras实现图像分类中的激活热图的可视化，帮助更有针对性的改进模型。

如何判断过拟合呢？我们在训练过程中会定义训练误差，验证集误差，测试集误差（泛化误差）。训练误差总是减少的，而泛化误差一开始会减少，但到一定程序后不减反而增加，这时候便出现了过拟合的现象。

Q学习（Q-Learning）算法是提出时间很早的一种异策略的时序差分学习方法；DQN 则是利用神经网络对 Q-Learning 中的值函数进行近似，并针对实际问题作出改进的方法；而 DDPG 则可以视为 DQN 对连续型动作预测的一个扩展；本文将从定义对比分析 DQN 和 DDPG ，更好地理解二者的算法区别与联系。

当前，各式各样深度学习框架的发展充分赋能机器学习，尤其是深度学习领域，为开发者提供了极致便利。在本文中，Waymo 软件工程师 Lin Yuan 细数了二十一世纪以来深度学习框架的发展历程，并划分为了石器、青铜、铁器、罗马和工业化时代。