1、深度学习，是一个矩阵计算过程，输入层，隐含层，输出层





2、神经元一层层计算






3、链接视频

1、随机梯度下降



2、




3、




4、局部最优

李老师的视频教程相对比较系统的介绍了深度学习相关的理论。该视频教程共分成5个部分：
李宏毅机器学习(2017)
https://www.bilibili.com/video/av10590361?from=search&seid=456509998694502607
李宏毅深度学习(2017)
https://www.bilibili.com/video/av9770302?from=search&seid=456509998694502607
李宏毅2017 深度学习GAN课程
https://www.bilibili.com/video/av18603573?from=search&seid=456509998694502607
李宏毅深度学习合辑 】Advanced Topics in Deep Learning
https://www.bilibili.com/video/av19145699?from=search&seid=456509998694502607
深度学习 李宏毅 】深度学习理论 Deep Learning Theory
https://www.bilibili.com/video/av20961661?from=search&seid=4753772315676173168

作者简介:
李宏毅是台湾大学教授，主要研究领域为机器学习(特别是深度学习)、口语语义理解和语音识别。2017年，其录制的深度学习课程深受大家的追捧。李宏毅的课程，内容丰富，理论公式推导详细。尤其配套的ppt，生动形象，毫不夸张的说，它是我见过的深度学习最系统的课程了。
课程内容:
前期主讲：深度学习的基本框架、模型，包括DNN、RNN/LSTM等，期间还穿插theano的模型实现(当然现在比较流行的是TensorFlow了)。
中期主讲解：结构化学习的基本框架和数学推导，包括结构化SVM、概率图模型、马尔科夫网络等。
后期主讲：深度学习在NLP和图像上的各种延伸应用，以及深度强化学习、无监督学习的基本方法，还有当时的新模型如Attention Model等。
课程ppt：
李老师的ppt，特别生动，每个神经网络模型都绘制的很精确，就是看ppt也很容易理解网络结构，这里给出部分ppt中讲解全链接神经网络的图片：
资料获取：
李老师的深度学习课程，在b站和youtub上都有，其中b站上比较详细，有中文字幕。大家直接在上面搜索“李宏毅 深度学习”，就可以找到。