前馈神经网络
机器学习与数据挖掘 |
---|
![]() |
![]() | 此條目可参照外語維基百科相應條目来扩充。 |

前馈神经网络(英文:Feedforward Neural Network),是指神經網路的識別-推理架構。人工神經網路架構是以輸入乘上權重來獲得輸出(輸入對輸出):前饋。[1]循环神经网络或有迴圈的神經網路允許後處理階段的資訊回饋到前處理階段進行序列處理。[2]然而,在推論的每個階段,前饋乘法仍然是核心,對於反向傳播或透過時間的反向傳播來說是不可或缺的。[3][4][5][6][7]因此,神經網路不能包含負反饋或正反饋等回饋,在負反饋或正反饋中,輸出會回饋到相同的輸入並對其進行修改,因為這會形成一個無限循環,不可能通過反向傳播在時間上倒退以產生錯誤信號。這個問題和命名似乎是一些電腦科學家和其他研究腦部網路領域的科學家之間的混淆點。[8]
前馈神经网络為人工智能領域中,最早发明的簡單人工神经网络类型。在它内部,参数从输入层向输出层单向传播。有異於循环神经网络,它的内部不会构成有向环。[9]
单层感知机
[编辑]多层感知机
[编辑]参考
[编辑]- ^ Zell, Andreas. Simulation Neuronaler Netze [Simulation of Neural Networks] 1st. Addison-Wesley. 1994: 73. ISBN 3-89319-554-8 (German).
- ^ Schmidhuber, Jürgen. Deep learning in neural networks: An overview. Neural Networks. 2015-01-01, 61: 85–117. ISSN 0893-6080. PMID 25462637. S2CID 11715509. arXiv:1404.7828
. doi:10.1016/j.neunet.2014.09.003 (英语).
- ^ Linnainmaa, Seppo. The representation of the cumulative rounding error of an algorithm as a Taylor expansion of the local rounding errors (学位论文). University of Helsinki: 6–7. 1970 (芬兰语).
- ^ Kelley, Henry J. Gradient theory of optimal flight paths. ARS Journal. 1960, 30 (10): 947–954. doi:10.2514/8.5282.
- ^ Rosenblatt, Frank. x. Principles of Neurodynamics: Perceptrons and the Theory of Brain Mechanisms. Spartan Books, Washington DC, 1961
- ^ Werbos, Paul. Applications of advances in nonlinear sensitivity analysis (PDF). System modeling and optimization. Springer. 1982: 762–770 [2 July 2017]. (原始内容存档 (PDF)于14 April 2016).
- ^ Rumelhart, David E., Geoffrey E. Hinton, and R. J. Williams. "Learning Internal Representations by Error Propagation (页面存档备份,存于互联网档案馆)". David E. Rumelhart, James L. McClelland, and the PDP research group. (editors), Parallel distributed processing: Explorations in the microstructure of cognition, Volume 1: Foundation. MIT Press, 1986.
- ^ Achler, T. What AI, Neuroscience, and Cognitive Science Can Learn from Each Other: An Embedded Perspective. Cognitive Computation. 2023 (英语).
- ^ 戴葵. 译.(机械工业出版社)《神经网络设计》