demi的博客

是否需要人工构造特征，这应该是深度学习和传统机器学习的最明显的差异。feature engining是传统机器学习中的一个重要组成部分，sift，hog，wavelet等都是解决如何描述数据的问题。深度学习兴起后，feature engining的研究几乎停滞，而end-to-end成为一个新兴的研究方向。

最近，一些机构关于人工智能领域的进展、调查、研究和预测，反映了AI的一些问题——比如AI监控在全球范围内的逐渐壮大，企业数据隐私声明忽略了“遵守通用隐私原则”，全球企业对AI的采用日益广泛，以及机构投资者把AI视为一大风险的趋势。

本文就来讨论一下参数初始化到底有什么讲究以及常见的参数初始化的一些策略方法。阅读本文需要神经网络相关背景，能够理解误差反向传播算法的实现过程。

ShaderGraph是基于可编程渲染管线，我们要使用shaderGraph也就需要设置SRP。

与人类相对缓慢的进化不同的是，机器视觉的演进之路是迅速而具有颠覆意义的，机器看世界的方式也在经历着革命性突破。首先是色彩维度，正如婴儿的“视界”早期只有黑白两色，早期的摄影受感光材料以及后期技术的局限只能记录单调的黑白世界。直到19世纪末，随着光学研究的突破，摄影师采用不同颜色滤镜拍摄并经过后期合成彩色照片，使得机器的视觉能力向前迈出第一步。

Gartner 2019年人工智能成熟度曲线审查了在AI领域的创新和趋势潮流，以及AI计划范围。快速跟风者，首先应该为AI设计一个商业案例。对于早期使用者来说，AI的可扩展性是下一个挑战。

风险现实基金（Venture Reality Fund）一直在投资增强现实和虚拟现实游戏和应用程序，现在是时候进行新一轮有关AR发展现状的季度信息更新了。 基金联合创始人Tipatat Chenavasin提供了七条非常有价值的消息供我们学习了解。

要做机器学习项目，第一重要的就是数据！那如何来准备机器学习要用的数据就成了第一要做的事情，巧妇难为无米之炊，今天就来教大家如何成为巧妇（夫）。

深度学习中的技巧：

初始化参数尽量小一些，这样 softmax 的回归输出更加接近均匀分布，使得刚开始网络并不确信数据属于哪一类；另一方面从数值优化上看我们希望我们的参数具有一致的方差（一致的数量级），这样我们的梯度下降法下降也会更快。同时为了使每一层的激励值保持一定的方差，我们在初始化参数（不包括偏置项）的方差可以与输入神经元的平方根成反比

学习率（learning rate）的设置应该随着迭代次数的增加而减小，个人比较喜欢每迭代完一次epoch也就是整个数据过一遍，然后对学习率进行变化，这样能够保证每个样本得到了公平的对待

滑动平均模型，在训练的过程中不断的对参数求滑动平均这样能够更有效的保持稳定性，使其对当前参数更新不敏感。例如加动量项的随机梯度下降法就是在学习率上应用滑动平均模型。

在验证集上微小的提升未必可信，一个常用的准则是增加了30个以上的正确样本，能够比较确信算法有了一定的提升

什么是PBR？基于物理的渲染过程。PBR是一种着色和渲染技术，用于更精确的描述光如何与物体表面互动。