小D博士2021年8月26日深度学习第9弹:上山容易下山难一、前文回顾 上一节我们讲到神经网络的自主学习过程,其实就是通过不断的调整权重值,使得损失函数达到最小值的过程。今天的内容就是具体怎么实现这个过程。 二、上山容易下山难 举个例子,假如你在爬山的途中突然遇到恶劣天气想要赶紧下山,这时候你就要找到一条能最快下山的路,但是你没带...
小D博士2021年8月26日深度学习第8弹:神经网络---自主学习一、前文回顾 上一节我们使用提前训练好的权重参数尝试了神经网络识别手写数字,正确率可以达到94%。但是这个训练好的权重是怎么训练的?这便是这节的内容:神经网络的自我学习。 二、神经网络的自我学习 我们在讲感知器的时候,权重参数(w1,w2,b)都是手动设置的,这是一个只有三...
小D博士2021年8月26日深度学习第7弹:小D识数字(MNIST手写数字集)一、前文回顾 前面我们说了那么多理论,什么神经网络,激活函数,Softmax函数等等,那么深度学习到底能干什么?这一节我们就来尝试让小D识别手写数字,看看效果怎么样。这里用到的手写数字就是来自于MNIST手写数字数据集。 二、MNIST手写数字数据集...
小D博士2021年8月20日深度学习第6弹:雷劈小D一、前文回顾 上一节设计了小D的神经网络结构,并且了解了激活函数。但是小D到底是死是活?我也不知道,于是我决定召唤两道闪电,给小D点刺激,看看它有没有反应。 ※这节充满了代码以及线性代数,枯燥乏味到我都不想写。 二、实现小D 1.信号的传输...
小D博士2021年8月20日深度学习第5弹:以彼之道还施彼身一、前文回顾 上一节我们为小D设计了大脑(四层神经网络)以及下面的激活函数。 这里的h(s1)激活函数我们称之为阶梯函数。上节也说过激活函数有很多种,今天主要对以下三个进行讲解: ①阶梯函数 ②sigmoid函数 ③ReLu函数 二、激活函数 1.阶梯函数 Python实现...
小D博士2021年8月19日深度学习第4弹:小D的诞生一、前文回顾 上一节我们通过一个简单的神经网络(↓图)模拟了逻辑异或门,并且为它命名为小D。 但是你会发现小D只有一个输出,这意味着它的大脑里面只认识一个东西(假如是肉夹馍),那么你不管问它想吃什么,它的回答都永远是肉夹馍。。所以我们需要对它进行改进一下。 二、小D的构造...
小D博士2021年8月18日深度学习第3弹:神经元的极限一、前文回顾 上一节我们通过神经元模拟了逻辑与,非,或门。你会发现他们的构造其实一样的,都是一个神经元,不同的是权重值不一样,那么同样的方法我们来模拟一下另外一个逻辑电路。 二、异或门(XOR gate) 异或门就是对于两个输入信号x1或者x2,相同则输出0,相异则输出1....
小D博士2021年8月18日深度学习第二弹:感知机和与非门一、前文回顾 感知机:人工神经元 权重:输入信号有多重要 阈值:触发某一事件的临界值 它们之间的关系: 上一节我们了解了感知机(人工神经元)的构成以及工作原理,这节我们利用神经元来模拟一些简单的问题,也就是模拟与非门。 二、与非门...
小D博士2021年8月17日深度学习第一弹:从神经元到感知机一、前言 要想跑需要先学会走,任何复杂技术的背后其实都是依赖像1+1=2这样简单的理论来支撑的,所以基础很枯燥但也重要。 二、深度学习(DeepLearning) 人工智能现在已经慢慢的深入我们的生活之中。比如人脸识别,语音翻译,自动驾驶等等。环顾我们四周,以前一部分只有人...