深度神经网络

DNN 是深度学习的核心模型之一，其主要特点是具有多个隐藏层，使其能够对复杂的数据进行特征提取和模式识别。

偏差与方差主要与两个因素有关：训练集误差（train set error）、验证集误差（dev set error）

6月30日，清华大学计图（Jittor）团队与刘世霞教授课题组合作开发的基于Jittor的可视化工具JittorVis正式发布。该工具用于帮助理解基于Jittor构建的深度神经网络模型的计算图结构和数据流信息。

和人类不同，AI物体识别靠的是小的细节，而不是图像的边界，但是总是有办法来弥补这个差别的！

深度神经网络的参数网络极其庞大复杂，也因此让机器得以实现以往难以想象的各类功能。然而，这种复杂性也成为制约其广泛应用的祸根：神经网络的内部工作机理一直是个谜，就连创建者自己也搞不清它到底怎么做出决策。自深度学习在2010年初全面流行以来，这个难题一直困扰着人工智能业界。

在这篇文章中，我将会介绍一些我们在 Cardiogram 中调试 DeepHeart 时用到的技术，DeepHeart 是使用来自 Apple Watch、 Garmin、和 WearOS 的数据预测疾病的深度神经网络。在 Cardiogram 中，我们认为构建 DNN 并不是炼金术，而是工程学。

在深度神经网络（DNN）反向传播算法(BP)中，我们对DNN的前向反向传播算法的使用做了总结。里面使用的损失函数是均方差，而激活函数是Sigmoid。实际上DNN可以使用的损失函数和激活函数不少。这些损失函数和激活函数如何选择呢？本文我们就对DNN损失函数和激活函数的选择做一个总结。

在了解DNN的反向传播算法前，我们先要知道DNN反向传播算法要解决的问题，也就是说，什么时候我们需要这个反向传播算法？在DNN中，损失函数优化极值求解的过程最常见的一般是通过梯度下降法来一步步迭代完成的，当然也可以是其他的迭代方法比如牛顿法与拟牛顿法。

深度神经网络（Deep Neural Networks， 以下简称DNN）是深度学习的基础，而要理解DNN，首先我们要理解DNN模型，本文我们就对DNN的模型与前向传播算法做一个总结。

目前，越来越多的网络安全解决方案都在依靠机器学习（ML）技术，来保护用户免受恶意软件的攻击。虽然基于ML的方法（如FireEye终端安全的MalwareGuard特性）在检测最新的网络威胁方面做得非常出色，但它们也带来了大量的研发和维护成本，MalwareGuard就是FireEye的数据科学家花费了两年时间研究出来的成果。