BP算法（反向传播）初步学习

本周有期末考试中文摘要本周我主要学习了深度学习反向传播算法的核心思路与基本流程。本次学习重点梳理了反向传播的基础逻辑理解了其通过反向传递模型输出误差、结合梯度下降更新网络参数、优化模型损失的核心机制明晰了前向传播与反向传播协同完成神经网络训练的基本原理。通过本周学习我初步建立了对神经网络训练底层逻辑的认知为后续深入钻研相关算法打下了基础。AbstractThis week, I mainly learned the core idea and basic process of the backpropagation algorithm in deep learning. I focused on sorting out the basic logic of backpropagation, and understood its core mechanism of optimizing model loss by back-propagating output errors and updating network parameters with gradient descent. Meanwhile, I clarified the basic principle of neural network training combining forward propagation and backpropagation. This study has enabled me to initially grasp the underlying logic of neural network training and laid a foundation for further in-depth research on relevant algorithms.正文反向传播是一种适用于类神经元单元网络的新型学习方法核心目标是通过自主优化网络参数实现神经网络对特定任务的特征学习与拟合。该算法的核心运行机制为迭代修正网络内部的连接权重不断缩减模型实际输出向量与任务期望输出向量之间的误差以此完成网络的训练优化。在权重迭代更新的过程中网络内部的隐藏单元可被有效激活与训练区别于传统固定参数的特征分析模块隐藏单元能够自主挖掘并表征任务场景中的关键特征信息依托单元之间的联动作用捕捉数据内在规律实现从原始输入到任务特征的自动提炼。在神经网络学习研究中传统感知器收敛法等早期学习规则仅适用于输入单元与输出单元直接相连的简单网络结构仅能完成基础的参数修正无法适配含隐藏单元的复杂分层网络。当网络存在间接连接与未被任务显式定义状态的隐藏单元时传统算法难以确定隐藏单元的激活规则与表征内容无法构建有效的内部特征表示。而反向传播算法突破了这一技术局限可适配含多层结构的分层神经网络支持输入层、隐藏层、输出层的层级化训练能够自主确定隐藏单元的激活条件与表征信息自动构建适配对应任务的网络内部表征。相较于传统学习方法反向传播最核心的创新优势在于具备生成全新有效任务特征的能力而非仅对输入特征进行简单处理为复杂神经网络的训练、内部特征挖掘与任务拟合提供了通用、简洁且高效的解决方案。