图卷积网络 (GCN) 的高层解释
在本文中,我们将了解为什么图数据是必不可少的,以及如何用图形神经网络处理它们,我们将看到它们如何用于药物重新定位。
神经网络是一种受到生物神经系统启发而设计的计算模型,用于机器学习和人工智能领域。神经网络由大量的人工神经元(模拟生物神经元)组成,这些神经元通过连接权重相互连接,形成网络结构。神经网络的目标是通过学习和调整权重来模拟和解决复杂的问题。
在本文中,我们将了解为什么图数据是必不可少的,以及如何用图形神经网络处理它们,我们将看到它们如何用于药物重新定位。
尽管深度神经网络在某些任务上取得了跟人类相当或超过人类的表现,但计算机在人类特有的“想象力”技能方面仍在做着苦苦的挣扎。
你可能听说过图卷积,因为它在当时是一个非常热门的话题。虽然不太为人所知,但网络传播是计算生物学中用于网络学习的主要方法。在这篇文章中,我们将深入研究网络传播背后的理论和直觉,我们也将看到网络传播是图卷积的一种特殊情况。
使用全连接层的网络来分类图像是很奇怪的,因为这样的一个网络架构不考虑图像的空间结构。所以一个很直接的考虑就是引入图像的一种空间关系来构建神经网络,也就是这里要介绍的卷积神经网络(CNN)。
卷积操作是卷积神经网络提取特征的主要手段之一,当前各种卷积操作层出不穷,根据场景各有优势。本文将对常见的几种卷积操作的特性进行简要对比。
6月28日,清华大学计图(Jittor)团队发布了可微渲染库Jrender 2.0新版本,正式支持可微体渲染!近期学术界已有大量工作基于可微体渲染完成,其中备受关注的NeRF[1]应用,在Jrender的加速下训练、测试速度增幅可达2倍!
本博客主要内容为图书《神经网络与深度学习》和National Taiwan University (NTU)林轩田老师的《Machine Learning》的学习笔记,因此在全文中对它们多次引用。
近年来,随着模型尺寸的增加,推理时间和每次推理能耗的相应增加,神经网络向更深的神经网络发展,激活和系数也在增加。这在资源受限的移动和汽车应用中尤为重要。
本文将讨论如何选择神经网络的超参数。
神经网络之父Geoffrey Hinton也曾感叹自己的学术生涯就像神经网络技术一样起起伏伏。但所幸的是,他并没有就此放弃了对神经网络的研究,反而与许多志同道合的研究者们不断突破、证明自己最初的想法。