深度学习的能与不能

2018(第九届)清洁发展国际融资论坛上,北京交通大学人工智能研究院常务副院长、教授于剑先生从专业角度回顾了人工智能的发展历程,并介绍了深度学习的适用范围和所面临的问题。他指出,深度学习是机器学习领域最引人注目的研究方向,但没有任何一种算法可以解决机器学习所有的应用。

深度学习算法的分类

深度学习在早期被称为神经网络。神经网络是一种特殊的学习方式,在神经网络领域,人们将学习定义为“基于经验数据的函数估计问题”。需要指出,这样的学习定义虽然非常片面,但对于神经网络而言已经够用了。如此一来,如何构造函数,并应用经验数据将其估计出来,就成了神经网络面临的首要问题。

学习算法的分类有很多种。一种分类方式是将学习算法分为傻瓜型学习算法与专家型学习算法。所谓傻瓜型学习算法,就是任何人使用得到的结果都差别不大的学习算法。所谓专家型学习算法,就是专家与普通人使用得到的结果差别巨大的学习算法,每个人得出的结果很难一致。当然,中间还有一些处于两者之间的学习算法,既不是纯傻瓜型的也是不纯专家型的。

【网络研讨会】在智能相机中实现高效的神经网络

人工智能(AI),尤其是神经网络(NN)正在成为一种关键性的技术,在不同的领域和市场都有着广泛的应用。借助它我们能够实现更加智能的相机,具有视频分析、异常行为检测、物体和人员识别等多种功能。在相机SoC中实现神经网络(NN)具有一定的挑战性,面临的问题包括功耗增加、存储带宽以及芯片面积等。

人工智能领域十大最具成长性技术展望

在2018世界机器人大会17日的主论坛上,中国电子学会发布《新一代人工智能领域十大最具成长性技术展望(2018-2019年)》。

当前,全球正在经历科技和产业高度耦合、深度迭加的新一轮变革,大数据的形成、理论算法的革新、计算能力的提升及网络设施的演进驱动人工智能进入新一轮创新发展高峰期,新技术持续获得突破性进展,呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等以应用为导向的新特征。加强新一代人工智能技术的前瞻预判,准确把握全球技术创新动态及发展趋势,将为行业健康发展、资金有序进入、政策规划出台、新兴市场开拓等提供具备决策参考价值和实践指导意义的智力支撑。

围绕于此,中国电子学会依据国家出台的《新一代人工智能发展规划》、《促进新一代人工智能产业发展三年行动计划(2018-2020年)》等一系列政策规划,调研走访了一批在新一代人工智能技术及产业方面具备领先水平和特色的龙头企业,组织拜访了来自于知名高校、研究机构的人工智能相关领域专家学者,系统梳理了权威智库和知名战略咨询公司的最新报告,遴选了十项最具特色的成长性技术,得出以下结论:

1、对抗性神经网络

物联网云计算大数据人工智能四者紧紧相连密不可分

近年来,物联网、云计算、大数据、人工智能等专业名词愈来愈成为信息产业和科学技术界的热门词汇,这四者紧紧相连、密切相关、不可分割。

物联网

物联网云计算大数据人工智能四者紧紧相连密不可分

顾名思义,物联网就是物物相连的互联网。与其说物联网是网络,不如说物联网是业务和应用。它是新一代信息技术的重要组成部分,也是“信息化”时代的重要发展阶段,是一个动态的、不断拓展深化的过程。

云计算

盘点物联网设备7大攻击面及其应对措施

背景介绍

这些年,物联网的快速发展,也令连网设备的数量与日俱增。然而,有网络的地方就会有安全问题,根据安全研究员曝光的数据显示,物联网领域存在着诸多漏洞,从无线智能玩偶到重达数吨的汽车,无一幸免。好的方面是,这也令越来越多的公司关注并重视物联网的安全问题。

如今,越来越多的员工都已经在家中部署了各种各样的物联网设备,甚至还会将这些设备连接企业网络进行办公,如此一来,势必会引爆更大的安全危机。与此同时,工业物联网也正面临同样的安全问题,员工所拥有并使用的物联网系统已经成为影响工业物联网安全的第二个主要威胁面。

根据Gartner最新发布的报告指出,近20%的企业机构在过去三年内至少观察到一次基于物联网的攻击。为了应对这些威胁,Gartner预测全球物联网安全支出将在2018年达到15亿美元,相比2017年的12亿美元增加了28%。

针对物联网设备的安全问题,需要提高黑客攻击物联网设备的成本,降低物联网设备的安全风险。我们将从7个攻击面对设备进行安全评估分析,并给出应对措施。大家可以根据表单核查自身安全状况,有则改之无则加勉。

深度学习优化函数详解(1)——Gradient Descent 梯度下降法

本文延续该系列的上一篇 深度学习优化函数详解(0)– 线性回归问题。

上一篇讲到了最基本的线性回归问题,最终就是如何优化参数 a, b 寻找最小的 loss

深度学习优化函数详解(1)——Gradient Descent 梯度下降法

显然loss函数是一个二次函数,问题就转化成了如何求二次函数的最小值。我们再举一个更简单的例子,假设我们要优化的函数是 y = x2,初始条件我们选择了x0 = 2,y0 = 4,画在图上如下:

掌握可视化卷积神经网络模型,带你畅游图像识别技术领域

在走进深度学习的过程中,最吸引作者的是一些用于给对象分类的模型。最新的科研结果表示,这类模型已经可以在实时视频中对多个对象进行检测。而这就要归功于计算机视觉领域最新的技术革新。

众所周知,在过去的几年里,卷积神经网络(CNN或ConvNet)在深度学习领域取得了许多重大突破,但对于大多数人而言,这个描述是相当不直观的。因此,要了解模型取得了怎样大的突破,我们应该先了解卷积神经网络是怎样工作的。

卷积神经网络可以做些什么?

卷积神经网络用于在图像中寻找特征。在CNN的前几层中,神经网络可以进行简单的"线条"和"角"的识别。我们也可以通过神经网络向下传递进而识别更复杂的特征。这个属性使得CNN能够很好地识别图像中的对象。

卷积神经网络

CNN是一个包含各种层的神经网络,其中一些层是卷积层、池化层、激活函数。

卷积层是如何工作的?

要了解CNN如何工作,你需要了解卷积。卷积涉及浏览图像和应用滤波器等具体内容。

计算机视觉如何入门

目前,人工智能,机器学习,深度学习,计算机视觉等已经成为新时代的风向标。

这篇文章主要介绍了下面几点:

第一点,如果说你要入门计算机视觉,需要了解哪一些基础知识?

第二点,既然你要往这方面学习,你要了解的参考书籍,可以学习的一些公开课有哪些?

第三点,可能是大家都比较感兴趣的,就是计算机视觉作为人工智能的一个分支,它不可避免的要跟深度学习做结合,而深度学习也可以说是融合到了计算机视觉、图像处理,包括我们说的自然语言处理,所以本文也会简单介绍一下计算机视觉与深度学习的结合。

第四点,身处计算机领域,我们不可避免的会去做开源的工作,所以本文会给大家介绍一些开源的软件。

第五点,要学习或者研究计算机视觉,肯定是需要去阅读一些文献的,那么我们如何开始阅读文献,以及慢慢的找到自己在这个领域的方向,这些都会在本文理进行简单的介绍。

1. 基础知识

接下来要介绍的,第一点是计算机视觉是什么意思,其次是图像、视频的一些基础知识。包括摄像机的硬件,以及 CPU 和 GPU 的运算。

详解卷积神经网络(CNN)在语音识别中的应用

作者:侯艺馨

前言

总结目前语音识别的发展现状,dnn、rnn/lstm和cnn算是语音识别中几个比较主流的方向。2012年,微软邓力和俞栋老师将前馈神经网络FFDNN(Feed Forward Deep Neural Network)引入到声学模型建模中,将FFDNN的输出层概率用于替换之前GMM-HMM中使用GMM计算的输出概率,引领了DNN-HMM混合系统的风潮。长短时记忆网络(LSTM,LongShort Term Memory)可以说是目前语音识别应用最广泛的一种结构,这种网络能够对语音的长时相关性进行建模,从而提高识别正确率。双向LSTM网络可以获得更好的性能,但同时也存在训练复杂度高、解码时延高的问题,尤其在工业界的实时识别系统中很难应用。

如何在学习机器学习时学习数学?

到目前为止,我们都还不完全清楚开始机器学习需要什么样的数学水平,特别是那些没有在学校学习数学或统计学的人。

在这篇文章中,我的目标是提出建立产品或进行机器学习学术研究所需的数学背景。这些建议源于与机器学习工程师、研究人员和教育工作者的对话以及我在机器学习研究和行业角色方面的经验。

首先,我会提出不同的思维模式和策略,以便在传统课堂之外接近真正的数学教育。然后,我将概述不同类型的机器学习工作所需的具体背景,这些学科的范围涉及到高中统计和微积分到概率图形模型(PGM)。

关于数学焦虑的一个解释

事实证明,很多人包括工程师都害怕数学。首先,我想谈谈“善于数学”的神话。

事实是,擅长数学的人有很多练习数学的习惯。并不是他们先天就是擅长数学,你可能在看他们做数学时发现他们得心应手。要清楚,要达到这种舒适状态需要时间和精力,但这肯定不是你生就有的。本文的其余部分将帮助你确定所需的数学基础水平,并概述构建它的策略。

入门