Demi 的blog

卷积神经网络的几种简单训练技巧

卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。它包括卷积层(convolutional layer)和池化层(pooling layer)。

下面来介绍几种简单的训练技巧:

1.首先说一下filter(感受野)的概念:感受野的大小即特征图中的某一单元是从原始输入图像中多大的一块区域中提取的特征;

卷积神经网络的几种简单训练技巧

如上图,第一次卷积后得到的特征图中,每一个小单元的感受野大小为3*3,而第二次卷积后特征图中的每一个小单元对应的感受野大小为5*5,以此类推,如果用三层3*3的filter,那么最后一层特征图中每一个小单元的感受野大小即为7*7。同时我们可以推论:卷积层数越多,越后面的特征图中的每个单元的感受野大小就越大,特征提取的效果就越好。

这时我们有一个问题,能不能用一层7*7的filter来代替三层3*3的filter?

深度解析 | 人工智能 (AI):到超级智能的路径

什么是AI?

MAFIA

人工智能或者是AI可能对很多人来说只是一个科幻的概念,但最近在这领域有很多很有趣的进展。

首先,AI并不是机器人。机器人只是AI的身体,而AI是机器人的头脑。但在很多情况下AI是无体的,比如智能手机的语音助手只是AI软件和数据组成的。

AI的口径或等级可以分成三大类:

Artificial Narrow Intelligence (ANI)

短秤weak AI,这类AI只专注于一个单一功能或领域,比如当世界象棋冠军。

Artificial General Intelligence (AGI)

短秤strong AI,这类AI跟人一样聪明,人能做或想到的事它都能实现。人类到目前还没研发出真正的AGI,要实现这个比实现ANI难得多,因为AGI要会抽象地思考、解读、和从经验快速学习。

AI界的七大未解之谜:OpenAI丢出一组AI研究课题

近日,OpenAI在官方博客上丢出了7个研究过程中发现的未解决问题。OpenAI希望这些问题能够成为新手入坑AI的一种有趣而有意义的方式,也帮助从业者提升技能。

OpenAI版AI界七大未解之谜,现在正式揭晓——

AI界的七大未解之谜:OpenAI丢出一组AI研究课题

1. Slitherin’

难度指数:☆☆

实现并解决贪吃蛇的多玩家版克隆作为Gym环境。

环境:场地很大,里面有多条蛇,蛇通过吃随机出现的水果生长,一条蛇在与另一条蛇、自己或墙壁相撞时即死亡,当所有的蛇都死了,游戏结束。

智能体:使用自己选择的自我对弈的RL算法解决环境问题。你需要尝试各种方法克服自我对弈的不稳定性。

检查学习行为:智能体是否学会了适时捕捉食物并避开其他蛇类?是否学会了攻击、陷害、或者联合起来对付竞争对手?

[神经网络学习笔记]激活函数的作用、定义和微分证明

激活函数被用到了什么地方?

目前为止,我见到使用激活函数的地方有两个。

• 逻辑回归(Logistic Regression)
• 神经网络(Neural Network)

这两处,激活函数都用于计算一个线性函数的结果。

了解激活函数

激活函数的作用:就是将权值结果转化成分类结果。

2类的线性分类器

先说一个简单的情况 - 一个2类的线性分类器。
了解激活函数,先要明确我们的问题是:"计算一个(矢量)数据的标签(分类)"。
以下图为例:

[神经网络学习笔记]激活函数的作用、定义和微分证明

如何在机器视觉系统中选择合适的照明系统?

机器视觉系统中的照明系统是极其重要的一部分,它的好坏直接影响着后面的图像处理。那么照明是怎样一门学问呢?如何在机器视觉系统中选择合适的照明系统呢?

合适的照明是机器视觉应用成功的关键,而且是第一要考虑的部分。一个设计良好的照明系统不仅会带来更好的性能,节约时间,而且从长远来看能节约成本。

下面来分享选择最合适机器视觉照明的八个小技巧:
(1) 检测材料缺损请使用亮度高的光;
(2) 精确定位请使用合适波长的光;
(3) 检测玻璃上的刮痕请使用非漫射的光,即Non-Diffused Light;
(4) 检测透明包装请使用漫射光,即Diffused Light;
(5) 创造对比请使用颜色光;
(6) 检测快速移动物体请使用频闪光;
(7) 消除反射时请使用红外光;
(8) 消除颜色变化请使用红外光;

照明是怎样影响机器视觉应用的呢?

对于将质量最为输出的机器视觉系统依赖于图像质量。
高质量的图像使得系统能够精确地解释出从检测物体中提取的信息,这样就可以产生可靠的并可重复的系统性能。

手游开发中的6个特殊的文件夹

本文列举出手游开发中用到的六个特殊文件夹:Editor、Editor Default Resources、Gizmos、Plugins、Resources、StreamingAssets。

1.Editor

Editor文件夹可以在根目录下,也可以在子目录里,只要名子叫Editor就可以。比如目录:/xxx/xxx/Editor 和 /Editor 是一样的,无论多少个叫Editor的文件夹都可以。Editor下面放的所有资源文件或者脚本文件都不会被打进发布包中,并且脚本也只能在编辑时使用。一般呢会把一些工具类的脚本放在这里,或者是一些编辑时用的DLL。 比如我们现在要做类似技能编辑器,那么编辑器的代码放在这里是再好不过了,因为实际运行时我们只需要编辑器生成的文件,而不需要编辑器的核心代码。

2.Editor Default Resources

物联网定位技术超全解析!定位正在从室外走向室内

早在15世纪,当人类开始探索海洋的时候,定位技术也随之催生。当时的定位方法十分粗糙,就是是运用航海图和星象图以确定自己的位置。

随着社会的进步和科技的发展,定位技术在技术手段、定位精度、可用性等方面均取得质的飞越,并且逐步从航海、航天、航空、测绘、军事、自然灾害预防等“高大上”的领域逐步渗透社会生活的方方面面,成为人们日常中不可或缺的重要应用——比如人员搜寻、位置查找、交通管理、车辆导航与路线规划等等……

总体来说,定位可以按照使用场景的不同划分为室内定位和室外定位两大类,因为场景不同,需求也就不同,所以分别采用的定位技术也不尽相同。

成熟的室外定位技术

目前应用于室外定位的主流技术主要有卫星定位和基站定位两种。

1.卫星定位

卫星定位即是通过接收卫星提供的经纬度坐标信号来进行定位,卫星定位系统主要有:美国全球定位系(GPS)、俄罗斯格洛纳斯(GLONASS)、欧洲伽利略(GALILEO)系统、中国北斗卫星导航系统,其中GPS系统是现阶段应用最为广泛、技术最为成熟的卫星定位技术。

GPS全球卫星定位系统由三部分组成:空间部分、地面控制部分、用户设备部分。

shader程序员需要注意的优化Tips

在写shader的时候,其实一些写法对于其执行影响非常大,而且由于gpu和cpu在架构上的不同,代码的优化思想也不一样...

首先要树立几个思想:

1.gpu是SIMD的架构,即单指令多数据流架构,即在gpu上同时执行n个数据和执行1个数据的效率是一样的,我们要

尽量的把并行的计算搬到gpu上

2.gpu是以向量计算为基础设计的,也就是说在gpu上执行一个向量乘法和执行一个float的乘法的效率是一样的,

并不向cpu那样要多执行几次

3、通常,需要渲染的像素比顶点数多,而顶点数又比物体数多很多。所以如果可以,尽量将运算从PS移到VS,或直接通过script来设置某些固定值;

所以

1.尽量把一些计算合并成向量计算,记住一个向量计算和一个float计算那样快!
比如
float x,y;
x = x * a;
y = y * b;
不如写成 float2 v = float2(x,y);
v = v*float2(a,b);

因为前一种写法是两次乘法计算,而后一种只要1次

2.不要在gpu里面用分支或者条件判断这种语句,尽管大多数gpu 的shader支持这种语法,但是多数gpu里面的

机器学习算法在自动驾驶领域的应用大盘点

将汽车内外传感器的数据进行融合,借此评估驾驶员情况、进行驾驶场景分类,都要用到机器学习。本文中,我们讲解了不同的自动驾驶算法。

自动驾驶汽车的设计制造面临着诸多挑战,如今,各大公司已经广泛采用机器学习寻找相应的解决方案。汽车中的ECU(电子控制单元)已经整合了传感器数据处理,如何充分利用机器学习完成新的任务,变得至关重要。潜在的应用包括将汽车内外传感器的数据进行融合,借此评估驾驶员情况、进行驾驶场景分类。这些传感器包括像激光雷达,雷达,摄像头或者是物联网。

车载信息娱乐系统所运行的应用,能从传感器数据融合系统中获取数据。举个例子,如果系统察觉驾驶员发生状况,有能力把车开到医院。基于机器学习的应用,还包括对驾驶员的语言和手势识别以及语言翻译。相关的算法被分类为非监督和监督算法。它们两者的区别在于学习的方式。

• 监督学习算法使用训练数据集学习,并且能够持续学习直到达到设定的置信水平(最小化出错概率)。监督学习算法分为回归、分类和异常检测以及数据降维。

[机器学习算法]——神经网络基础

目前,深度学习(Deep Learning,简称DL)在算法领域可谓是大红大紫,现在不只是互联网、人工智能,生活中的各大领域都能反映出深度学习引领的巨大变革。要学习深度学习,那么首先要熟悉神经网络(Neural Networks,简称NN)的一些基本概念。当然,这里所说的神经网络不是生物学的神经网络,我们将其称之为人工神经网络(Artificial Neural Networks,简称ANN)貌似更为合理。神经网络最早是人工智能领域的一种算法或者说是模型,目前神经网络已经发展成为一类多学科交叉的学科领域,它也随着深度学习取得的进展重新受到重视和推崇。

为什么说是“重新”呢?其实,神经网络最为一种算法模型很早就已经开始研究了,但是在取得一些进展后,神经网络的研究陷入了一段很长时间的低潮期,后来随着Hinton在深度学习上取得的进展,神经网络又再次受到人们的重视。本文就以神经网络为主,着重总结一些相关的基础知识,然后在此基础上引出深度学习的概念,如有书写不当的地方,还请大家评批指正。

1. 神经元模型

同步内容
--电子创新网--
粤ICP备12070055号