神经网络

这篇博客将简要介绍图神经网络的原理，但是不会设计太多数学细节（因为博主数学很烂啦）。通过理解图神经网络的卷积操作，来理解其流程，再会配合代码来做简单解释。

深度学习的一个显著成功应用是嵌入，这是一种将离散变量表示为连续向量的方法。这项技术已经有了实际的应用，其中有在机器翻译中使用词嵌入和类别变量中使用实体嵌入。

通过神经网络解决多分类问题时，最常用的一种方式就是在最后一层设置n个输出节点，无论在浅层神经网络还是在CNN中都是如此......

我们知道，深度学习神经网络是模仿人类大脑神经元的运行方式而来的。在每一层中，来自上一层（或者输入源）的信号经由神经元处理，将结果和前向信号传递给下一层的神经元。

当机器学习技术用于“关键任务”时，可接受的误差范围变得非常低。在我们用模型进行自动驾驶、协助医生等场景时，我们必须确保模型所做的预测是有效的.随着模糊系统成为我们生活中越来越重要的一部分，测量预测不确定性变得越来越重要。不过好消息是：有几种技术可以测量神经网络中的不确定性，其中一些非常容易实现！

本文简要介绍了提升神经网络性能的方法，如检查过拟合、调参、超参数调节、数据增强。神经网络是一种在很多用例中能够提供最优准确率的机器学习算法。但是，很多时候我们构建的神经网络的准确率可能无法令人满意，或者无法让我们在数据科学竞赛中拿到领先名次......

神经网络中损失函数后一般会加一个额外的正则项L1或L2,也成为L1范数和L2范数。正则项可以看做是损失函数的惩罚项，用来对损失函数中的系数做一些限制。

卷积神经网络四种卷积类型：一般卷积；扩张的卷积；转置卷积；可分离的卷积。

感知机可以说是最古老的分类方法之一了，在1957年就已经提出。今天看来它的分类模型在大多数时候泛化能力不强，但是它的原理却值得好好研究。因为研究透了感知机模型，学习支持向量机的话会降低不少难度。同时如果研究透了感知机模型，再学习神经网络，深度学习，也是一个很好的起点。这里对感知机的原理做一个小结。