Canary Blog

生活就像海洋
只有会游泳的人才能到达彼岸!

机器学习策略(2)

"deeplearning.ai-Class3-Week2"

GitHub项目传送门 欢迎Star 误差分析(Carrying out error analysis) 如果试图让学习算法完成通常由人类所做的任务,但它并没达到人类水平的话,就需要人工检查一下学习算法所犯的错误,这有助于了解接下来需要去做什么,这个过程被称为 误差分析 。 例如,你可能会发现一个猫图片识别器错误地将一些看上去像猫的狗误识别为猫。这时,立即盲目地去研究一个能够...

机器学习策略(1)

"deeplearning.ai-Class3-Week1"

GitHub项目传送门 欢迎Star 为什么是ML策略(Why ML Strategy) 对于一个已经被构建好且产生初步结果的机器学习系统,为了能使结果更令人满意,往往还要进行大量的改进。鉴于之前的课程介绍了多种改进的方法,例如收集更多数据、调试超参数、调整神经网络的大小或结构、采用不同的优化算法、进行正则化等等,有针对性的调整才能事半功倍。 正交化(Orthogonaliz...

超参数调试、Batch 正则化和程序框架

"deeplearning.ai-Class2-Week3"

GitHub项目传送门 欢迎Star 超参数调试处理(Tuning process) 目前已经讲到过的超参数中,重要程度依次是(仅供参考): 最重要: 学习率 $α$; 其次重要: $β$:动量衰减参数,常设置为 $0.9$; #hidden units:各隐藏层神经元个数; min...

优化算法

"deeplearning.ai-Class2-Week2"

GitHub项目传送门 欢迎Star Mini-batch梯度下降(Mini-batch gradient descent) batch 梯度下降法(批梯度下降法,我们之前一直使用的梯度下降法)是最常用的梯度下降形式,即同时处理整个训练集。其在更新参数时使用所有的样本来进行更新。 对整个训练集进行梯度下降法的时候,我们必须处理整个训练数据集,然后才能进行一步梯度下降,即每一步...

深度学习的实用层面

"deeplearning.ai-Class2-Week1"

GitHub项目传送门 欢迎Star 本篇博客有大量公式演示,不推荐使用手机查看 训练、验证、测试集(Train / Dev / Test sets) 应用深度学习是一个典型的迭代过程。这个循环迭代的过程是这样的: 我们先有个想法Idea,先选择初始的参数值,构建神经网络模型结构; 然后通过代码Code的形式,实现这个神经网络; 最后,通过实验Experime...

深层神经网络

"deeplearning.ai-Class1-Week4"

GitHub项目传送门 欢迎Star 本篇博客有大量公式演示,不推荐使用手机查看 深层神经网络的前向传播和反向传播(Forward and backward propagation) 前向传播 以上面讲过的4层神经网络为例 输入 :$a^{[l-1]}$ 输出 :$a^{[l]}$,cache($z^{[l]}$) 公式 : 反向传播 输入 :$da^...

浅层神经网络

"deeplearning.ai-Class1-Week3"

GitHub项目传送门 欢迎Star 本篇博客有大量公式演示,不推荐使用手机查看 神经网络表示(Neural Network Representation) 竖向堆叠起来的输入特征被称作神经网络的 输入层(the input layer)。 神经网络的 隐藏层(a hidden layer) 。“隐藏”的含义是 在训练集中,这些中间节点的真正数值是无法看到的。 输出层(t...

神经网络的基础

"deeplearning.ai-Class1-Week2"

GitHub项目传送门 欢迎Star 本篇博客有大量公式演示,不推荐使用手机查看 Logistic 回归(Logistic Regression) Logistic 回归是一个用于二分分类的算法。 Logistic 回归中使用的参数如下: 输入的特征向量:$x \in R^{n_x}$,其中 ${n_x}$是特征数量; 用于训练的标签:$y \in 0,1$ ...

Caffe Windows 配置

"Caffe for Windows10"

前言 学校服务器的资源已经被兄弟们占满了,没有办法,只好在自己的笔记本下尝试安装单机版Caffe,以备不时之需! 环境 Windows10家庭版 GPU Nvidia M1200 Visual Srudio Community 2015 Update 1 Cmake 3.11.0 Git Python 3.5.3 Matlab 2014a CU...