1 基本信息
1.1 书籍名称:《深度学习500问》
1.2 撰写作者:众包
1.3 出版日期:在线书籍
1.4 品读时间:2023-11
1.5 整体耗时:约10h
1.6 摘要
本书系统地描述了深度学习的基本理论算法及应用.以问答形式对常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题进行阐述,以帮助自己及有需
分类目录归档:深度学习
本书系统地描述了深度学习的基本理论算法及应用.以问答形式对常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题进行阐述,以帮助自己及有需
框架对比:Tensorflow VS Pytorch VS Caffe
没有免费午餐定理(No Free Lunch,简称NFL):
Two Stage 目标检测模型(效果好,但速度相对慢):
LeNet-5:用于识别手写数字和机器印刷字符的卷积神经网络
AlexNet:首个应用于图像分类的深层卷积神经网络
(仅对书中部分内容进行摘录和补充)
理解张量(麻辣烫 x,tensor √)
情感分析(sentiment analysis):研究人们在文本中 (如产品评论、博客评论和论坛讨论等)“隐藏”的情绪
常见应用领域
情感分析采用的示例数据集是电影评价数据集
基于PyTorch的情感分析数据读取与预处理:
import os
import torch
fr
任意两个不同的 one-hot(独热)向量余弦相似度为0:无法编码词的相似性
两个经典的word2vec模型:skip-gram和CBOW
细节可参阅:[[1_study/DeepLearning/基础神经网络/word2vec 系列]]
当词表较大
《动手学深度学习》的英文版更新比中文版更及时,因此存在新增的内容
本文针对英文版增添的内容进行简要补充,尚未观看本书或笔记的读者建议先看正文
英文版中,将原本的第三章3.《动手学深度学习》线性神经网络拆分为两个部分:用于回归的线性神经网络和用于分类的线性神经网络
在英文版的第3章《用于回归的线性神经网络》的内容概述如下:
优化算法的目标是减少训练误差,追求损失最小化
深度学习的目标是减少泛化误差,寻找合适的模型
由于深度学习的优化算法一般是围绕误差传播和梯度展开的,因此围绕当梯度消失或值接近0时,会极大地干扰到深度学习的优化过程,其中常见的三种情况是: