博客

深度学习优化函数详解(3)——mini-batch SGD 小批量随机梯度下降

发表于:09/05/2018 , 关键词:
本文延续该系列的上一篇 深度学习优化函数详解(2)– SGD 随机梯度下降 上一篇我们说到了SGD随机梯度下降法对经典的梯度下降法有了极大速度的提升。但有一个问题就是由于过于自由 导致训练的loss波动很大。那么如何可以兼顾经典GD的稳定下降同时又保有SGD的随机特性呢?于是小批量梯度下降法, mini-batch gradient descent 便被提了出来。... 阅读详情

语言处理想突破,三座大山必须过

发表于:09/05/2018 , 关键词:
大数据文摘出品 编译:李佳、汤圆、钱天培 “我的飞机什么时候到?” 把这个问题抛给智能机器人助手。几乎可以肯定,机器立马就懵逼了。 “我”是谁?“飞机”是航班还是淘宝上订的模型玩具呢?“到”又是到哪呢? 如果是人类来回答这个问题,即使在情景不明确的情况下也能在快速澄清后给出回答,但对机器来说,除非依赖大量人为制定的规则,回答这样的问题难度堪比“哥德巴赫猜想”。 面对自然语言处理发展(NLP)... 阅读详情

深度学习篇——CNN和RNN结合与对比,实例讲解

发表于:09/05/2018 , 关键词:
一、前述 CNN和RNN几乎占据着深度学习的半壁江山,所以本文将着重讲解CNN+RNN的各种组合方式,以及CNN和RNN的对比。 二、CNN与RNN对比 1、CNN卷积神经网络与RNN递归神经网络直观图 2、相同点: 2.1. 传统神经网络的扩展。 2.2. 前向计算产生结果,反向计算模型更新。 2.3. 每层神经网络横向可以多个神经元共存,纵向可以有多层神经网络连接。 3、不同点

CNN误差反传时旋转卷积核的简明分析

发表于:09/04/2018 , 关键词:
CNN(卷积神经网络)的误差反传(error back propagation)中有一个非常关键的的步骤就是将某个卷积(Convolve)层的误差传到前一层的池化(Pool)层上,因为在CNN中是2D反传,与传统神经网络中的1D反传有点细节上的不同,下面通过一个简单的例子来详细分解一下这个反传步骤。 假设在一个CNN网络中,P代表某个池化层,K代表卷积核,C代表卷基层,首先来看一下前向(feed... 阅读详情

图像处理基础(4):高斯滤波器详解

发表于:09/04/2018 , 关键词:
本文主要介绍了高斯滤波器的原理及其实现过程 高斯滤波器是一种线性滤波器,能够有效的抑制噪声,平滑图像。其作用原理和均值滤波器类似,都是取滤波器窗口内的像素的均值作为输出。其窗口模板的系数和均值滤波器不同,均值滤波器的模板系数都是相同的为1;而高斯滤波器的模板系数,则随着距离模板中心的增大而系数减小。所以,高斯滤波器相比于均值滤波器对图像个模糊程度较小。 什么是高斯滤波器 既然名称为高斯滤波器,... 阅读详情

未来10年将要诞生的21项新工作,看看你都能干嘛?

发表于:09/04/2018 , 关键词:
基于今天可观察到的主流宏观经济、政治、人口、社会、文化、商业和技术趋势,我们来看看未来10年将出现的21个新工作岗位,这些岗位将成为未来工作的基石。 作者:Manish Bahl 编译:大数据(ID:hzdashuju) 1. 数据侦探(Data Detective) 数据侦探用大数据来查看和解释大局。那些成功的应用将“走到数据所在的位置”,去追踪数据所说的内容,... 阅读详情

区块链和AI的的火爆结合,是顺应科技大时代潮流的产物?

发表于:09/04/2018 , 关键词:
人们常常觉得区块链和人工智能是两种截然不同的科技技术,那么你真正的理解它们吗?你知道他们是怎么运行的吗? 区块技术解析 区块链作为一种新兴技术,它对每个行业都可能造成影响。区块链的分布式系统与当今使用的固有集中式操作系统相对立。 采用分布式数据库架构形式,某些操作的记录和身份验证取决于多方的协议,而不仅仅是单一的权限。 与其他集中式技术相比,区块链-使操作更安全,更快速,更透明。... 阅读详情

基于深度学习的恶意样本行为检测(含源码)

发表于:09/04/2018 , 关键词:
前言 目前的恶意样本检测方法可以分为两大类:静态检测和动态检测。静态检测是指并不实际运行样本,而是直接根据二进制样本或相应的反汇编代码进行分析,此类方法容易受到变形、加壳、隐藏等方式的干扰。动态检测是指将样本在沙箱等环境中运行,根据样本对操作系统的资源调度情况进行分析。现有的动态行为检测都是基于规则对行为进行打分,分值的高低代表恶意程度的高低,但是无法给出类别定义。... 阅读详情

机器学习基本概念

发表于:09/03/2018 , 关键词:
要理解什么是机器学习,其实可以类比于人类的学习。假设一个场景:父母教三岁大的孩子认识什么是西瓜。首先父母要给孩子看西瓜,然后告诉孩子这个是西瓜...

图像语义分割的前世今生

发表于:09/03/2018 , 关键词:
1998年以来,人工神经网络识别技术已经引起了广泛的关注,并且应用于图像分割。基于神经网络的分割方法的基本思想是通过训练多层感知机来得到线性决策函数,然后用决策函数对像素进行分类来达到分割的目的。这种方法需要大量的训练数据。神经网络存在巨量的连接,容易引入空间信息,能较好地解决图像中的噪声和不均匀问题。选择何种网络结构是这种方法要解决的主要问题。 图像分割是图像识别和计算机视觉至关重要的预处理。... 阅读详情

【计算机视觉】检测与分割详解

发表于:09/03/2018 , 关键词:
【导读】神经网络在计算机视觉领域有着广泛的应用。只要稍加变形,同样的工具和技术就可以有效地应用于广泛的任务。在本文中,我们将介绍其中的几个应用程序和方法,包括语义分割、分类与定位、目标检测、实例分割。 作者 | Ravindra Parmar 编译 | Xiaowen 计算机视觉-目标检测与分割 神经网络在计算机视觉领域有着广泛的应用。只要稍加变形,同样的工具和技术就可以有效地应用于广泛的任务... 阅读详情

浅析物联网行业五大关键技术

发表于:09/03/2018 , 关键词:
物联网已经成为近几年的热门话题,目前的发展情况也是非常好,特别是在智慧城市、工业、安防、交通等领域,都取得比较不错的成就。我们在要求物联网实现越来越多功能的同时,其相关技术的难点也越来越高。 要推动物联网产业更好地发展,必须从低功耗、高效率、安全性等方面出发,以下几项关键技术的应用变得更加重要、更加严格。 RFID射频识别技术 它是一种通信技术,可通过无线电讯号识别特定目标并读写相关数据,... 阅读详情

深度学习优化函数详解(2)——SGD 随机梯度下降

发表于:09/03/2018 , 关键词:
本文延续该系列的上一篇 深度学习优化函数详解(1)—— Gradient Descent 梯度下降法 上文讲到的梯度下降法每进行一次 迭代 都需要将所有的样本进行计算,当样本量十分大的时候,会非常消耗计算资源,收敛速度会很慢。尤其如果像ImageNet那样规模的数据,几乎是不可能完成的。同时由于每次计算都考虑了所有的训练数据,也容易造成过拟合。在某种程度上考虑的太多也会丧失随机性 。于是有人提出... 阅读详情

图像的下采样Subsampling 与 上采样 Upsampling

发表于:08/31/2018 , 关键词:
一、目的 缩小图像(或称为下采样(subsampled)或降采样(downsampled))的主要目的: 1、使得图像符合显示区域的大小; 2、生成对应图像的缩略图。 放大图像(或称为上采样(upsampling)或图像插值(interpolating))的主要目的是放大原图像,从而可以显示在更高分辨率的显示设备上。 对图像的缩放操作并不能带来更多关于该图像的信息,... 阅读详情

机器视觉系统之光源选择

发表于:08/31/2018 , 关键词:
在机器视觉系统中,获得一张高质量的可处理的图像是至关重要。系统之所以成功,首先要保证图像质量好,特征明显,。一个机器视觉项目之所以失败,大部分情况是由于图像质量不好,特征不明显引起的。要保证好的图像,必须要选择一个合适的光源。 光源选型基本要素 对比度:对比度对机器视觉来说非常重要。机器视觉应用的照明的最重要的任务就是使需要被观察的特征与需要被忽略的图像特征之间产生最大的对比度,... 阅读详情