这是神经网络中的一个全连接层。仿射（Affine）的意思是前面一层中的每一个神经元都连接到当前层中的每一个神经元。在许多方面，这是神经网络的「标准」层。仿射层通常被加在卷积神经网络或循环神经网络做出最终预测前顶层。仿射层的一般形式为 y = f(Wx + b)，其中 x 是层输入，w 是参数，b 是一个偏差矢量，f 是一个非线性激活函数。
是类似于 rmsprop 的自适应学习率算法，它通过使用梯度的第一和第二时刻的运行平均值（running average）直接估计，并具有偏差校正功能。 论文：Adam：一种随机优化方法
是一种自适应学习率算法，能够随时间跟踪平方梯度并自动适应每个参数的学习率。它可被用来替代vanillaSGD (#sgd)，稀疏数据上更是特别有用，可以将更高的学习率分配给更新不频繁的参数。 论文：用于在线学习和随机优化的自适应次梯度方法
是基于梯度下降的学习算法，可以随时间调整每个参数的学习率，它比超参数（hyperparameter）更敏感而且可能会降低学习率。Adadelta 类似于 rmsprop，而且可被用来替代 vanilla SGD。
为了让神经网络能够学习复杂的决策边界（decision boundary），我们在其一些层应用一个非线性激活函数。常用的函数有sigmoid、tanh、ReLU（RecTIfied Linear Unit 线性修正单元）和以及这些函数的变体。
我们通常所说的是“人工神经网络”神经网络是一种运算模型，由大量的节点相互连接构成。由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。人工神经网络具有四个基本特征：1、非线性 2、非局限性 3、非常定性 4、非凸性。因为这四个特征的存在而使“人工智能”变得更加“智能”。
姿态估计通俗的理解可以理解为行为估计也可以理解为较高层次的目标检测及未来行为的估计。
人脸识别，是基于人体面部特征信息进行身份识别的一种“生物识别技术”。用摄像机或者摄像头采集含有人脸的图片或视频流，并“自动”在图片中检测和跟踪人脸，进而对检测到的人脸进行脸部识别的一系列相关技术。
目标检测又叫目标提取。主要是一种基于目标几何和统计特征的图像分割，它将目标的分割和识别合二为一，其准确性和实时性是整个系统的一项重要能力。可以在复杂的环境中进行一定的检测和图像提取。是计算机视觉的主要应用之一。
深度学习是一种源于机器学习的新的研究。可以大致概括为大数据 + 机器学习。深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的算法。深度学习则是机器学习的一个分支，主要用基于人工神经网络的各种方法来实现目的。