算法

1. LDA

LDA是一种三层贝叶斯模型，三层分别为：文档层、主题层和词层。该模型基于如下假设：
1）整个文档集合中存在k个互相独立的主题；
2）每一个主题是词上的多项分布；
3）每一个文档由k个主题随机混合组成；
4）每一个文档是k个主题上的多项分布；
5）每一个文档的主题概率分布的先验分布是Dirichlet分布；
6）每一个主题中词的概率分布的先验分布是Dirichlet分布。

文档的生成过程如下：
1）对于文档集合M，从参数为β的Dirichlet分布中采样topic生成word的分布参数φ；
2）对于每个M中的文档m，从参数为α的Dirichlet分布中采样doc对topic的分布参数θ；
3）对于文档m中的第n个词语W_mn，先按照θ分布采样文档m的一个隐含的主题Z_m，再按照φ分布采样主题Z_m的一个词语W_mn。

在三维显示，空间可视化表达和图像处理中，插值处理是比较重要的一个部分。如何能找到快速、简单、有效的插值算法是目前研究者们津津乐道的问题。

以下几种是前人收集起来的比较常用的插值算法，仅供参考：
  •   Inverse Distance to a Power（反距离加权插值法）
  •   Kriging（克里金插值法）
  •   Minimum Curvature（最小曲率）
  •   Modified Shepard's Method（改进谢别德法）
  •   Natural Neighbor（自然邻点插值法）
  •   Nearest Neighbor（最近邻点插值法）
  •   Polynomial Regression（多元回归法）
  •   Radial Basis Function（径向基函数法）
  •   Triangulation with Linear Interpolation（线性插值三角网法）
  •   Moving Average（移动平均法）
  •   Local Polynomial（局部多项式法）

下面简单说明不同算法的特点。

AIoT领域中人机交互的市场机会

自2017年开始，“AIoT”一词便开始频频刷屏，成为物联网的行业热词。“AIoT”即“AI+IoT”，指的是人工智能技术与物联网在实际应用中的落地融合。当前，已经有越来越多的人将AI与IoT结合到一起来看，AIoT作为各大传统行业智能化升级的最佳通道，已经成为物联网发展的必然趋势。

在基于IoT技术的市场里，与人发生联系的场景(如智能家居、自动驾驶、智慧医疗、智慧办公)正在变得越来越多。而只要是与人发生联系的地方，势必都会涉及人机交互的需求。人机交互是指人与计算机之间使用某种对话语言，以一定的交互方式，为完成确定任务的人与计算换机之间的信息交互过程。人机交互的范围很广，小到电灯开关，大到飞机上的仪表板或是发电厂的控制室等等。而随着智能终端设备的爆发，用户对于人与机器间的交互方式也提出了全新要求，使得AIoT人机交互市场被逐渐激发起来。

AIoT发展路径

一、空洞卷积的提出

空洞卷积（atrous convolutions）又名扩张卷积（dilated convolutions），向卷积层引入了一个称为 “扩张率(dilation rate)”的新参数，该参数定义了卷积核处理数据时各值的间距。

该结构的目的是在不用pooling（pooling层会导致信息损失）且计算量相当的情况下，提供更大的感受野。 顺便一提，卷积结构的主要问题如下：
池化层不可学
内部数据结构丢失；空间层级化信息丢失。
小物体信息无法重建 (假设有四个pooling layer 则 任何小于 2^4 = 16 pixel 的物体信息将理论上无法重建。)

而空洞卷积就有内部数据结构的保留和避免使用 down-sampling 这样的特性，优点明显。

二、空洞卷积原理

如下如，卷积核没有红点标记位置为0，红点标记位置同正常卷积核。

传统的Canny边缘检测算法是一种有效而又相对简单的算法，可以得到很好的结果（可以参考上一篇Canny边缘检测算法的实现）。但是Canny算法本身也有一些缺陷，可以有改进的地方。

1. Canny边缘检测第一步用高斯模糊来去掉噪声，但是同时也会平滑边缘，使得边缘信息减弱，有可能使得在后面的步骤中漏掉一些需要的边缘，特别是弱边缘和孤立的边缘，可能在双阀值和联通计算中被剔除。很自然地可以预见，如果加大高斯模糊的半径，对噪声的平滑力度加大，但也会使得最后得到的边缘图中的边缘明显减少。这里依然用Lena图为例，保持Canny算法中高阀值100，低阀值50不变，高斯半径分别为2，3，5的Canny边缘二值图像如下。可知高斯模糊把很多有用的边缘信息也模糊掉了，因此如何精确的选择高斯半径就相当重要。

在图像几何变换的过程中，常用的插值方法有最邻近插值（近邻取样法）、双线性内插值和三次卷积法。

最邻近插值：

这是一种最为简单的插值方法，在图像中最小的单位就是单个像素，但是在旋转个缩放的过程中如果出现了小数，那么就对这个浮点坐标进行简单的取整，得到一个整数型坐标，这个整数型坐标对应的像素值就是目标像素的像素值。取整的方式就是：取浮点坐标最邻近的左上角的整数点。

举个例子：
3 * 3 的灰度图像，其每一个像素点的灰度如下所示

我们要通过缩放，将它变成一个 4 * 4 的图像，那么其实相当于放大了4/3倍，从这个倍数我们可以得到这样的比例关系：

随着机器学习浪潮的高涨，越来越多的算法在许多任务中表现得很好。但是我们通常不可能在事先知道哪种算法会是最优的。如果你有无限的时间逐一去尝试每一个算法那就另当别论。接下来的文章我们将依赖从模型选择和超参数调节中得到的知识向你一步一步展示如何来选择最优的算法。

原文地址：http://www.askaswiss.com/2017/02/how-to-choose-right-algorithm-for-your-...

Step 1: 基本知识

在深入讨论之前，我们应当确保已经疏通了基本的知识点。首先，我们应该知道机器学习主要有三大分类：监督学习、无监督学习和强化学习。

在机器学习表现不佳的原因要么是过度拟合或欠拟合数据。

机器学习中的逼近目标函数过程

监督式机器学习通常理解为逼近一个目标函数(f)(f)，此函数映射输入变量(X)到输出变量(Y).

Y=f(X)Y=f(X)

这种特性描述可以用于定义分类和预测问题和机器学习算法的领域。

从训练数据中学习目标函数的过程中，我们必须考虑的问题是模型在预测新数据时的泛化性能。泛化好坏是很重要的，因为我们收集到的数据只是样本，其带有噪音并且是不完全的。

机器学习中的泛化

在In机器学习中，我们描述从训练数据学习目标函数的学习过程为归纳性的学习。

归纳与特别的样本中学习到通用的概念有关，而这就是监督式机器学习致力于解决的问题。这与推演不同，其主要是另一种解决问题和寻求从通常的规则中找寻特别的内容。

泛化即是，机器学习模型学习到的概念在它处于学习的过程中时模型没有遇见过的样本时候的表现。

好的机器学习模型的模板目标是从问题领域内的训练数据到任意的数据上泛化性能良好。这让我们可以在未来对模型没有见过的数据进行预测。

近些年来，随着大数据、云计算、移动互联网、人工智能技术的兴起，“机器学习”成为了行业内炙手可热的一个名词。从通信互联网领域的专家，到各式各样的企业，甚至到普通的老百姓，都对“机器学习”技术略知一二。那么，机器学习到底是什么，它与我们常见的“人工智能”、“神经网络”、“数据挖掘“等相似概念都有什么关系？机器学习有那些基本分支、基本方法？在本文中，我们将用最简单易懂的语言解释这些问题。

问题一：“机器学习”和“人工智能”的关系是什么？

随着“机器学习”火起来的还有一个词语，即“人工智能”。每个人都肯定还记得不久以前的AlaphGo，随着机器打败围棋顶级高手李世石，人们也不得不感叹：“人工智能”时代真正到来了。

那么，“机器学习”和“人工智能”的关系到底是什么尼？其实，“人工智能”是一个很大的学科领域，里面包含很多子领域，如“机器学习”，“数据挖掘”，“模式识别”，“自然语言处理”等。这些子领域可能有交叉，但侧重点往往不同。比如”机器学习“就比较侧重于算法方面。总的来说，“人工智能”是一个学科领域，是我们研究的最终目的，而”机器学习“是这个领域中比较核心的，比较重要的，侧重于算法的一门学科，可以说，“人工智能”和“机器学习”是包含与被包含的关系。

引言

基于现实世界是一个三维空间，所以对计算机视觉的研究也应该是在三维空间中进行的。在自动驾驶过程中的首要任务就是道路识别 [1]，主要是图像特征法和模型匹配法来进行识别。行驶过程中需要进行障碍物检测 [2] 和路标路牌识别等，此时车辆，上的信息采集便可以运用单目视觉或者多目视觉。相比之下，运用多目视觉更具优势,获取的图像信息可构建成三维空间物体运动以及遮挡等问题对其影响较小。目前有很多智能小车的研究都是基于室内环境的研究，本文基于室外环境，采用双目摄像机模型 [3]，考虑光照、路面材质等问题，采用分水岭算法 [4] 对智能车的区域进行定位，以及在行驶区域中采用多阈值 canny 算法来进行障碍物的检测，进而计算出障碍物大小位置等信息。

分水岭算法