本文首先对人工神经网络的发展历程进行了梳理,进一步解析了人工神经网络设计中的基本元素,最后着重对前馈型以及反馈型网络的前向传递以及后向传递进行了推导。其中前馈型网络包括经典的MLPs以及CNNs,反馈性网络则涵盖了RNNs以及LSTM。