PyTorch | 优化神经网络训练的17种方法
本文介绍在使用 PyTorch 训练深度模型时最省力、最有效的 17 种方法。该文所提方法,都是假设你在 GPU 环境下训练模型。
神经网络是一种受到生物神经系统启发而设计的计算模型,用于机器学习和人工智能领域。神经网络由大量的人工神经元(模拟生物神经元)组成,这些神经元通过连接权重相互连接,形成网络结构。神经网络的目标是通过学习和调整权重来模拟和解决复杂的问题。
本文介绍在使用 PyTorch 训练深度模型时最省力、最有效的 17 种方法。该文所提方法,都是假设你在 GPU 环境下训练模型。
知识蒸馏的简单介绍,让大家了解知识蒸馏背后的直觉。
CNN在图像识别、目标检测和语义分割等多个计算机视觉领域有着广泛的应用。
在过去的十年中,深度学习在解决许多以前被认为无法解决的问题方面发挥了重要作用,并且在某些任务上的准确性也与人类水平相当甚至超过了人类水平。
在过去的 10 年里,性能最好的人工智能系统都是由一种称为「深度学习」的技术产生的。
神经网络是机器学习的一个迷人的领域,但是它们有时很难优化和解释。事实上,它们有几个超参数。要优化的最常见的超参数是隐藏层中的神经元数量。让我们看看如何为我们的数据集找到一个神经网络的最佳神经元数量。
NLP研究人员都知道语言模型只能学到语法上下文信息,对于常识性问题则束手无措。南加州大学的一名助理教授最近做客《对话》,阐述了他眼中的常识以及解决方法。他悲观地预测,也许5年、50年才能解决,到底需要多久,没人知道。
在本文中,我们将讨论简单神经网络背后的数学概念。其主要目的是说明在建立我们自己的人工智能模型时,数学是如何发挥巨大作用的。
过去二十多年来,深度学习需要越来越多的乘法累加运算,计算机的性能也基本遵循摩尔定律大幅增长。然而,随着半导体工艺发展到临近极限,摩尔定律已经失去动力,继续保持成长趋势是一个极大的挑战。
近日,研究人员在一篇题为“EvilModel: Hiding Malware Inside of Neural Network Models”的学术论文中证明了如何在不影响神经网络性能的前提下将恶意软件通过神经网络来进行传输,以绕过对恶意软件的检测。