demi的博客

深度学习:几种模型小型化的方法

现在深度学习模型开始走向应用,因此我们需要把深度学习网络和模型部署到一些硬件上,而现有一些模型的参数量由于过大,会导致在一些硬件上的运行速度很慢,所以我们需要对深度学习模型进行小型化处理。模型小型化旨在保证模型效果不会明显下降的情况下降低模型的参数量,从而提高模型的运算速度。

数据预处理(数据审核、缺失值处理、标准化正则化、降维等)

数据预处理(data pre-processing)是指在主要的处理以前对数据进行的一些处理。现实世界中数据大体上都是不完整,不一致的脏数据,无法直接进行数据挖掘,或挖掘结果差强人意。为了提高数据挖掘的质量产生了数据预处理技术。

自动驾驶汽车发展四个技术挑战——车辆、行人、道路、天气

与机器可以实现的功能相比,在许多方面,人类驾驶员所拥有的感知能力仍然遥遥领先,而且在许多关键领域我们仍然无法提供能够实现SAE 4级自动化所需性能和功能的传感器。在本文,我们涉及了一些特别具有挑战性或目前完全无法解决的情境来加以说明......

你真的理解正则化了吗?

说到正则化大家应该都不陌生,这个在机器学习和深度学习中都是非常常见的,常用的正则化有L1正则化和L2正则化。提到正则化大家就会想到是它会将权重添加到损失函数计算中来降低模型过拟合的程度。了解更多一点的同学还会说,L1正则化会让模型的权重参数稀疏化(部分权重的值为0),L2正则化会让模型的权重有趋于0的偏好。