demi的博客

L1和L2正则常被用来解决过拟合问题。而L1正则也常被用来进行特征选择，主要原因在于L1正则化会使得较多的参数为0，从而产生稀疏解，将0对应的特征遗弃，进而用来选择特征。但为什么L1正则会产生稀疏解呢？本文利用公式进行解释。

卷积是深度学习中的基础运算，那么卷积运算是如何加速到这么快的呢，掰开揉碎了给你看。

在上一个教程里我们为基于现实物理的渲染打下了基础，在这个教程里我们将会着重介绍如何将前面讲到的理论转化成一个基于直接光照的渲染器：比如点光源，方向光和聚光灯。

一般来说， 定位渲染通道瓶颈的方法就是改变渲染通道每个步骤的工作量，如果吞吐量也改变了，那个步骤就是瓶颈。找到了瓶颈就要想办法消除瓶颈，可以减少该步骤的工作量，增加其他步骤的工作量。一般在光栅化之前的瓶颈称作”transform bound”，三角形设置处理后的瓶颈称作”fill bound”。

着色器只是一种把输入转化为输出的程序。着色器也是一种非常独立的程序，因为它们之间不能相互通信；它们之间唯一的沟通只有通过输入和输出。在最简配置下，至少都得有两个着色器：一个叫顶点着色器（vertex shader），它将作用于每个顶点上；另一个叫片段着色器（fragment shader），它将作用于每一个采样点。我们采用4倍抗锯齿，因此每个像素有四个采样点。

卷积有一种模糊（粗粒度）的效果，这种模糊化（忽视掉一些不必要的细节，在加上 maxpooling 的存在，又会去捕捉最显著的特征，这种忽略次要目标，突出重要目标）。也就是 CNN 天然具有的性质，当其应用在 Text（文本处理）时，比如 fraud detection，欺诈检测，一个人抄袭别人的答案，但又机智地做了一些修改的动作（会被 conv，忽视），但一些核心的东西，两人之间一样的内容（执行 maxpooling 时），会被检测出来。

过去，机器学习这个名词的头上曾经笼着科学的光环，只有少数高薪数据科学家才懂得如何用数据“喂养”复杂的算法，得出有用的分析结果。但如今随着自动化工具的快速发展，数据的采集、结构化和分析已经变得更加容易，机器学习的使用门槛已经大幅降低，即使那些不懂编程的业务人员，只要能提出正确的问题，同样也能用机器学习工具得到想要的结果。

在Unity场景中，Lightmap烘焙主要考虑二点：时间消耗与烘焙质量。我们把烘焙的时间流程缩短后，可能会发现某些地方的烘焙质量不够，这时候该怎么补救呢？

近来自然语言处理行业发展朝气蓬勃，市场应用广泛。笔者学习以来写了不少文章，文章深度层次不一，今天因为某种需要，将文章全部看了一遍做个整理，也可以称之为概述。关于这些问题，博客里面都有详细的文章去介绍，本文只是对其各个部分高度概括梳理。

我们都知道增加网络的宽度和深度可以很好的提高网络的性能，深的网络一般都比浅的的网络效果好，比如说一个深的网络A和一个浅的网络B，那A的性能至少都能跟B一样，为什么呢？因为就算我们把A的网络参数全部迁移到B的前面几层，而B后面的层只是做一个等价的映射，就达到了A网络的一样的效果。