nn - juedaiyuer/researchNote GitHub Wiki
神经网络
神经网络的每个单元如下：
对应的公式
其中，该单元也可以被称作是Logistic回归模型。当将多个单元组合起来并具有分层结构时，就形成了神经网络模型。下图展示了一个具有一个隐含层的神经网络
对应的公式如下
可以拓展到多个隐含层
神经网络的训练方法也同Logistic类似，不过由于其多层性，还需要利用链式求导法则对隐含层的节点进行求导，即梯度下降+链式求导法则，专业名称为反向传播
单层神经网络-感知机
感知器类似一个逻辑回归模型，可以做线性分类任务