1. 概念

神经元网络是一种网络结构，比较适合拟合连续数据输出。

• 历史

40年代起，50年代高峰，因表征能力有限陷入低潮，80年代有学习算法的创新，又兴起。2014年左右，深度学习在工业界，Google的猫分类应用。

• 思想

人脑结构

人脑由很多（10 billion $10^{10}$） neuron 神经元组成，神经元是计算的基本单位，神经元之间由 synapses 神经键相互连接，其中树突是接收信息的神经键，轴突是输出信息的神经键。运算速度是 $10^{-3}$秒，相互之间并行运行。人脸识别的速度是0.1秒。

人脑的学习机制，变化的是学习的神经元之间的影响。

很简单的神经元通过很简单的神经键连接在一起，就能完成很复杂的操作，给了科学家启发，能否模仿人脑的机制设计一种机器学习方式。

2. ANN结构

Artificial Neural Network (ANN)是由单独的神经元构成的一种网络结构，经典的神经元网络是分层的网络结构，包括输入层、隐藏层、 输出层等，每两个相邻的层之间有联系。学习过程是判断下一层神经元对上一层神经元的影响，不断调整权重，使得输出数据和训练数据结果尽可能一致。换句话说，学习的结果是存储在权重里。

谚语： 脑子缺根筋、缺跟弦

3. 单元 Unit

4. 学习过程