分类目录归档：深度学习
本书系统地描述了深度学习的基本理论算法及应用.以问答形式对常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题进行阐述，以帮助自己及有需
框架对比：Tensorflow VS Pytorch VS Caffe
没有免费午餐定理(No Free Lunch，简称NFL)：
Two Stage 目标检测模型（效果好，但速度相对慢）：
LeNet-5：用于识别手写数字和机器印刷字符的卷积神经网络
AlexNet：首个应用于图像分类的深层卷积神经网络
（仅对书中部分内容进行摘录和补充）
理解张量（麻辣烫 x，tensor √）
情感分析（sentiment analysis）：研究人们在文本中 （如产品评论、博客评论和论坛讨论等）“隐藏”的情绪
常见应用领域
情感分析采用的示例数据集是电影评价数据集
基于PyTorch的情感分析数据读取与预处理：
import os
import torch
fr任意两个不同的 one-hot（独热）向量余弦相似度为0：无法编码词的相似性
两个经典的word2vec模型：skip-gram和CBOW
细节可参阅：word2vec系列
当词表较大时，softmax运算成本较高，需要通过近似训练的方式降低计算复杂
《动手学深度学习》的英文版更新比中文版更及时，因此存在新增的内容
本文针对英文版增添的内容进行简要补充，尚未观看本书或笔记的读者建议先看正文
英文版中，将原本的第三章3.《动手学深度学习》线性神经网络拆分为两个部分：用于回归的线性神经网络和用于分类的线性神经网络
在英文版的第3章《用于回归的线性神经网络》的内容概述如下：
优化算法的目标是减少训练误差，追求损失最小化
深度学习的目标是减少泛化误差，寻找合适的模型
由于深度学习的优化算法一般是围绕误差传播和梯度展开的，因此围绕当梯度消失或值接近0时，会极大地干扰到深度学习的优化过程，其中常见的三种情况是：