神经网络

在本文中，我们将讨论简单神经网络背后的数学概念。其主要目的是说明在建立我们自己的人工智能模型时，数学是如何发挥巨大作用的。

过去二十多年来，深度学习需要越来越多的乘法累加运算，计算机的性能也基本遵循摩尔定律大幅增长。然而，随着半导体工艺发展到临近极限，摩尔定律已经失去动力，继续保持成长趋势是一个极大的挑战。

近日，研究人员在一篇题为“EvilModel: Hiding Malware Inside of Neural Network Models”的学术论文中证明了如何在不影响神经网络性能的前提下将恶意软件通过神经网络来进行传输，以绕过对恶意软件的检测。

在本文中，我们将了解为什么图数据是必不可少的，以及如何用图形神经网络处理它们，我们将看到它们如何用于药物重新定位。

尽管深度神经网络在某些任务上取得了跟人类相当或超过人类的表现，但计算机在人类特有的“想象力”技能方面仍在做着苦苦的挣扎。

你可能听说过图卷积，因为它在当时是一个非常热门的话题。虽然不太为人所知，但网络传播是计算生物学中用于网络学习的主要方法。在这篇文章中，我们将深入研究网络传播背后的理论和直觉，我们也将看到网络传播是图卷积的一种特殊情况。

使用全连接层的网络来分类图像是很奇怪的，因为这样的一个网络架构不考虑图像的空间结构。所以一个很直接的考虑就是引入图像的一种空间关系来构建神经网络，也就是这里要介绍的卷积神经网络（CNN）。

卷积操作是卷积神经网络提取特征的主要手段之一，当前各种卷积操作层出不穷，根据场景各有优势。本文将对常见的几种卷积操作的特性进行简要对比。

6月28日，清华大学计图(Jittor)团队发布了可微渲染库Jrender 2.0新版本，正式支持可微体渲染！近期学术界已有大量工作基于可微体渲染完成，其中备受关注的NeRF[1]应用，在Jrender的加速下训练、测试速度增幅可达2倍！

本博客主要内容为图书《神经网络与深度学习》和National Taiwan University (NTU)林轩田老师的《Machine Learning》的学习笔记，因此在全文中对它们多次引用。