迁移学习

传统机器学习模型，深度学习模型，概率图模型，集成学习模型，聚类与降维模型，强化学习模型，生成模型，其他模型。

参数高效微调是一种针对预训练模型进行微调的策略，旨在以较低的计算和存储成本适配模型到特定任务或数据集，同时保持模型的泛化能力。

域适应是计算机视觉的一个领域，我们的目标是在源数据集上训练一个神经网络，并确保在显著不同于源数据集的目标数据集上也有良好的准确性。为了更好地理解域适应和它的应用，让我们先看看它的一些用例。

我们大多数人已经尝试过，通过几个机器学习教程来掌握神经网络的基础知识。这些教程非常有助于了解人工神经网络的基本知识，如循环神经网络，卷积神经网络，GANs和自编码器。但是这些教程的主要功能是为你在现实场景中实现做准备。现在，如果你计划建立一个利用深度学习的人工智能系统，你要么(i)有一个非常大的预算用于培训优秀的人工智能研究人员，或者(ii)可以从迁移学习中受益。

机器学习的主要任务：分类（classification）：将实例数据划分到合适的类别中。回归（regression）：主要用于预测数值型数据。机器学习可以分为三种形式：监督学习、非监督学习、强化学习。

迁移学习是什么？迁移学习是一种机器学习技术，在这种技术中，一个训练于一项任务的模型被重新用于另一项相关任务。迁移学习是一种优化，它允许在第二个任务建模时快速进行或提高性能。

虽然我不是专门研究迁移学习的，但是作为一个AI研究者，就如题图吴老师所说，迁移学习极为重要，是必须要学习的，今天就先总结介绍一些迁移学习的基础知识。

迁移学习是深度神经网络最吸引人的特性之一。在这篇文章中，我们将首先看看什么是迁移学习，什么时候可行，什么时候不可行，为什么在某些情况下行不通，最后总结一些关于迁移学习的最佳实践的建议。

迁移学习近年来在图形领域中得到了快速的发展，主要在于某些特定的领域不具备足够的数据，不能让深度模型学习的很好，需要从其它领域训练好的模型迁移过来，再使用该模型进行微调，使得该模型能很好地拟合少量数据的同时又具备较好的泛化能力（不过拟合）。

大数据造就了深度学习，通过大量的数据训练，我们能够轻易的发现数据的规律，从而实现基于监督学习的数据预测。基于卷积神经网络的深度学习（包括CNN、RNN），主要解决的领域是 图像、文本、语音，问题聚焦在 分类、回归。