demi的博客

你的算法可靠吗? 神经网络不确定性度量

当机器学习技术用于“关键任务”时,可接受的误差范围变得非常低。在我们用模型进行自动驾驶、协助医生等场景时,我们必须确保模型所做的预测是有效的.随着模糊系统成为我们生活中越来越重要的一部分,测量预测不确定性变得越来越重要。不过好消息是:有几种技术可以测量神经网络中的不确定性,其中一些非常容易实现!

一文介绍机器学习中基本的数学符号

本文介绍了机器学习中的基本数学符号。具体来说有算数符号,包括各种乘法、指数、平方根以及对数;数列和集合符号,包括索引、累加以及集合关系。此外,本文还给出了 5 个当你在理解数学符号遇到困难时可以应急的小技巧。

图像数据压缩原理

由于图像数据之间存在着一定的冗余,所以使得数据的压缩成为可能。信息论的创始人Shannon提出把数据看作是信息和冗余度(redundancy)的组合。所谓冗余度,是由于一副图像的各像素之间存在着很大的相关性,可利用一些编码的方法删去它们,从而达到减少冗余压缩数据的目的。为了去掉数据中的冗余,常常要考虑信号源的统计特性,或建立信号源的统计模型。

图像的冗余包括以下几种:

(1)空间冗余:像素点之间的相关性。
(2)时间冗余:活动图像的两个连续帧之间的冗余。
(3)信息熵冗余:单位信息量大于其熵。
(4)结构冗余:图像的区域上存在非常强的纹理结构。
(5)知识冗余:有固定的结构,如人的头像。
(6)视觉冗余:某些图像的失真是人眼不易觉察的。

压缩原理

对数字图像进行压缩通常利用两个基本原理:

(1) 数字图像的相关性。

在图像的同一行相邻像素之间、活动图像的相邻帧的对应像素之间往往存在很强的相关性,去除或减少这些相关性,也就去除或减少图像信息中的冗余度,即实现了对数字图像的压缩。

(2) 人的视觉心理特征。

图像增强之图像复原

图像复原技术主要是针对成像过程中的“退化”而提出来的,而成像过程中的“退化”现象主要指成像系统受到各种因素的影响,诸如成像系统的散焦、设备与物体间存在相对运动或者是器材的固有缺陷等,导致图像的质量不能够达到理想要求。

卷积神经网络(CNN)反向传播算法

在卷积神经网络(CNN)前向传播算法中,我们对CNN的前向传播算法做了总结,基于CNN前向传播算法的基础,我们下面就对CNN的反向传播算法做一个总结。在阅读本文前,建议先研究DNN的反向传播算法:深度神经网络(DNN)反向传播算法(BP)