1 为什么需要机器学习
Why do we need machine learning?
面对一个复杂而多变的场景,我们很难通过单纯的程序逻辑去诠释:
- 如何在复杂环境中判断三维物体在不同灯光和角度下的状态?
- 如何合理推测信用卡欺诈的可能性?欺诈是一个动态可变的过程
机器学习的优势:
- 可以通过示例的输入输出进行算法自动学习,得到海量弱规则
- 好的(没有过拟合的)模型不仅适用于训练集,也适用于新的数据
- 面对动态可变的过程,可以通过新增数据训练,不断优化完善模型
神经网络的优秀案例:
MINIST手写数据识别:已经被完全攻克了。。 ImageNet图片分类(涉及130W数据和1000个类别):
- 2010年错误率为47% 考虑前五类选择的错误率为25%
- 2012年错误率为40% 考虑前五类选择的错误率为20%
George Dahl 和 Abdel-rahman Mohamed 倡导的DNN模型已经在声学领域逐步取代过去的机器学习模型:Mohamed, Dahl, & Hinton在2012年推出的模型在TIMIT音素识别基准测试中,得到了20.7%的错误率,一举超过之前的24.4%最好成绩。
2 什么是神经网络
What are neural networks?
神经元网络的灵感来源于真实大脑中的神经元,神经元及其自适应连接过程启发了神经网络的并行计算方式,现有的神经网络虽然和大脑的运作存在差异,但是却在实际工作中取得了很多非常优秀的成果。
一个典型的神经元:
- axon 轴突
- dendritic tress 树突
- axon hillock 轴突体
学会深入大脑内部机制
3 一些常见的神经元
Some simple models of neurons
4 一个简单的学习示例
A simple example of learning
介绍了经典的minist手写数字识别的案例 并以此为例简单说明神经网络的内部计算流程
5 学习的三种分类
Three types of learning
- 监督学习-回归、分类
- 强化学习-奖励机制
- 非监督学习-输入的内部表示