demi的博客

贴图压缩是游戏开发中常见的一个问题，不过说到法线图的压缩，其实里面就有一些特殊的问题要处理。前段时间做了一次贴图通道的优化，打算用两个通道表示法线图并且和其他通道合并到一张图里，以减少采样次数。这个过程中陆续挖掘了一些问题，记录一下。

科技发展很快，数据在指数级增长，环境也在指数级改变，因此很多时候教科书会跟不上时代的发展。有时，即便是写教科书的人，也不见得都明白结论背后的“所以然”，因此有些结论就会落后于时代。针对这个问题，第四范式创始人、首席执行官戴文渊在公司内部分享上，向大家介绍了机器学习教材中的七个经典问题。本文根据演讲实录整理，略有删减。

预处理的时候0中心化，最好数据增强一下，找预训练模型，ReLU激活函数，3*3卷积核，xavier初始化，sgd+momentum或者adam比较好用，bn(可以调大学习率，收敛很快)，dropout(有bn可以去掉，最好加上，会训练慢一些)，batch_size大一点，另外，多尺度训练效果拔群,前几层卷积核可以多一些。

由于5G网络仍在世界各地部署，并且全球许多地区仍在使用4G甚至3G网络，因此现在谈论6G似乎有点为时过早。

法国博主Jean-Louis Queguiner撰写了这篇《给我8岁的女儿解释深度学习》，以用深度学习技术搭建识别手写数字的神经网络为例，用清晰的方式，解释了深度学习的原理。

API，1.1.121 已经发布，除了对文档的各种错误修复之外，在设备相干内存支持方面有一个新的 Vulkan 扩展。

随着深度卷积神经网络（CNN）在图像处理领域的快速发展，它已经成为机器视觉领域的一种标准，如图像分割、对象检测、场景标记、跟踪、文本检测等。然而，想要熟练掌握训练神经网络的能力并不是那么容易。比如，我们常常会遇到如下问题。你的数据和硬件有什么限制？你应该是从何种网络开始？你应该建立多少与卷积层相对的密集层？你的激励函数怎样去设置？即使你使用了最流行的激活函数，你也必须要用常规激活函数。

Vulkan是Khronos Group(OpenGL标准的维护组织)开发的一个新API，它提供了对现代显卡的一个更好的抽象，与OpenGL和Direct3D等现有api相比，Vulkan可以更详细的向显卡描述你的应用程序打算做什么，从而可以获得更好的性能和更小的驱动开销。

深度学习的巨大成功，揭示了从人类自身启发，并形成算法的巨大价值；相反，从机器学习中，我们有什么值得学习和启发的东西吗？

在为梯度下降算法选择合适的学习速率 α 时，可以大致按3的倍数再按10的倍数来选取一系列α值，直到我们找到一个值它不能再小了，同时找到另一个值，它不能再大了。其中最大的那个 α 值，或者一个比最大值略小一些的α 值 就是我们期望的最终α 值。