西安有哪些网站设计公司,优惠券网站怎么做的,国内便宜的vps,南充商城网站建设文章目录 前言1.深度学习概论2.神经网络1.基础原理2.损失函数3.SoftMax4.前向传播5.反向传播1.反向传播介绍 6 卷积神经网络应用1.检测任务2.超分辨率重构3.医学检测4.无人驾驶5. 人脸识别 6.卷积网络和传统区别7.卷积神经网络1.卷积做了什么#xff1f;2.节点网络1.Alexnet2.… 文章目录 前言1.深度学习概论2.神经网络1.基础原理2.损失函数3.SoftMax4.前向传播5.反向传播1.反向传播介绍 6 卷积神经网络应用1.检测任务2.超分辨率重构3.医学检测4.无人驾驶5. 人脸识别 6.卷积网络和传统区别7.卷积神经网络1.卷积做了什么2.节点网络1.Alexnet2.Vgg 2.卷积网络反向传播详细介绍 前言
本章主要介绍深度学习基础 AI深度学习-卷积神经网络000 1.深度学习概论
深度学习是真正能学习什么样的特征是最重要的它解决了怎么样提取特征。 特征是非常重要的特征的数量级决定了结果。 换脸对于神经网络很简单 识别绿色圆圈属于什么类别。 它周围什么多就属于什么。 CIFAR-10数据集 2.神经网络
1.基础原理
f(x,W),其中x是像素点
img srchttps://img-blog.csdnimg.cn/f8f92629c526460c8fc40c3f0588822e.png width700
W是权重X是像素每个像素有一个权重因为不同像素对结果影响不一样一个类别一类权重。 还要加上一个偏置每个类别 下图是三个类别四个像素点w正值代表促进负值代表抑制作用。 W矩阵最开始是随机值迭代过程中不断改进这些参数最后 2.损失函数
损失函数用来衡量当前你的权重矩阵的好坏如果损失函数值越大代表权重矩阵不好越小代表好。 图片下面的数字是得分。 Sj-Sy其它类别减去正确类别1 代表加了一个偏置正确类别至少比错误类别高1以上才是没有损失的。 损失函数为0的时候代表没有损失。 权重参数会不会产生过拟合。 3.SoftMax
把得分转换成一个概率值把所有值都压缩到0-1
如何理解这个公式
为什么要使用log数字越接近1损失越小其余越来越大 4.前向传播
回归任务预测一个得分计算损失 多次变换增加了多层每一层关注不同的点 5.反向传播 加入结果变小改那个之最好
w让损失函数变换最快。 求偏导数发现z的变换能让整个函数变换最大 实际神经网络中从后往前传播 逐层从后往前传播
下图中x就是我们的像素点绿色的是我们的输入值红色的是梯度值 门单元介绍 训练的过程就是求权重 解决过拟合是随机的杀死一些神经元 深度学习-偏导数复习
1.反向传播介绍 下面是激活函数
继续求输出层
继续求输出层 反向求导
求导后结果 换算后 最后求出新的权重下面参数是学习率也就是步长 我们通过一个线性
6 卷积神经网络应用
Y轴是错误率
1.检测任务 分类与检索淘宝图片同类查找 2.超分辨率重构 3.医学检测 4.无人驾驶 5. 人脸识别 6.卷积网络和传统区别
左边传统网络右边卷积网络 7.卷积神经网络
下面注意全连接层全连接就是全部链接的层 1.卷积做了什么
卷积做特征提取 不要忘了偏置项1 需要做多次卷积 堆叠的卷积 常规卷积网络
卷积计算结果 计算案例
卷积参数共享 池化层下采样 最大池化 有多少层7层。 想要得到结果还是要全连接层 需要把323210拉成一维向量110240拉长操作其实还是卷积比如323210拉长那么就需要32321010240个权重 特征图变换 2.节点网络
1.Alexnet 2.Vgg 2.卷积网络反向传播详细介绍
相比传统神经网络卷积神经网络特征图就是卷积核了
