1.《机器学习与神经网络》神经网络入门

1 为什么需要机器学习

Why do we need machine learning?

面对一个复杂而多变的场景,我们很难通过单纯的程序逻辑去诠释:

  • 如何在复杂环境中判断三维物体在不同灯光和角度下的状态?
  • 如何合理推测信用卡欺诈的可能性?欺诈是一个动态可变的过程

机器学习的优势:

  • 可以通过示例的输入输出进行算法自动学习,得到海量弱规则
  • 好的(没有过拟合的)模型不仅适用于训练集,也适用于新的数据
  • 面对动态可变的过程,可以通过新增数据训练,不断优化完善模型

神经网络的优秀案例:

MINIST手写数据识别:已经被完全攻克了。。 ImageNet图片分类(涉及130W数据和1000个类别):

  • 2010年错误率为47% 考虑前五类选择的错误率为25%
  • 2012年错误率为40% 考虑前五类选择的错误率为20%

George Dahl 和 Abdel-rahman Mohamed 倡导的DNN模型已经在声学领域逐步取代过去的机器学习模型:Mohamed, Dahl, & Hinton在2012年推出的模型在TIMIT音素识别基准测试中,得到了20.7%的错误率,一举超过之前的24.4%最好成绩。

2 什么是神经网络

What are neural networks?

神经元网络的灵感来源于真实大脑中的神经元,神经元及其自适应连接过程启发了神经网络的并行计算方式,现有的神经网络虽然和大脑的运作存在差异,但是却在实际工作中取得了很多非常优秀的成果。

一个典型的神经元:

附件/Pasted image 20210902165153.png

  • axon 轴突
  • dendritic tress 树突
  • axon hillock 轴突体

学会深入大脑内部机制

3 一些常见的神经元

Some simple models of neurons

基础神经元分类

4 一个简单的学习示例

A simple example of learning

介绍了经典的minist手写数字识别的案例 并以此为例简单说明神经网络的内部计算流程

5 学习的三种分类

Three types of learning

  1. 监督学习-回归、分类
  2. 强化学习-奖励机制
  3. 非监督学习-输入的内部表示

参考

官方在线课件

往年同期文章