1.《动手学深度学习》前言

1 基础概念解释说明

目标函数(objective function)、机器学习(machine learning,ML)、深度学习(deep learning,DL)、数据集(dataset)、参数(parameter)、模型(model)、学习算法(learning algorithm)、输入(input)和输出(output)

样本(example, sample)、独立同分布(independently and identically distribu

Read more

NLP 类数据资源

综合型资源(推荐)- funNLP

NLP民工的乐园: 几乎最全的中文NLP资源库

 类ChatGPT的模型评测对比 <br> 类ChatGPT的资料 <br> 类ChatGPT的开源框架 <br> LLM的训练_推理_低资源_高效训练 <br> 提示工程 <br&g

Read more

20211204 B站音乐大赏(第二弹)

1 20211204B站音乐大赏2

上一弹 请参阅[[0_life/碎碎念念/碎碎念念2021/20211121 B站音乐大赏]]

总结今年上半年B站音乐频道-MV分类下每个月热门视频播放量TOP10

1.1 一月冠军瑞克·埃斯利《Never Gonn

Read more

MIT18.01单变量微积分-课程总结

1 基本信息

1.1 课程标题:《MIT18.01单变量微积分》

1.2 授课讲师:David Jerison 教授

1.3 授课日期:2007 FALL

1.4 品读时间:初稿成于2014,电子稿成于2021

1.5 整体耗时:约75h

1.6 摘要

Unit 1 知识点简单概

Read more

35.多变量微积分-期末复习

1 泰勒级数补充

(最后一节课换了个导师,所以教学进度衔接似乎不太好 = =)

幂级数的性质1:存在收敛半径$R$ 幂级数的性质2:当$|x|<R$时,$f(x)$可无限求导(比如说多项式级数)

泰勒展开式:

$$f(x)=\Sigma_{n=0}^{\infty}\frac{f^{(n)}(0)}{n!}x^n$$

2 示例与应用

示例1:几何级数 geometric series $\frac{1}{1+x}=1-x+x^2-x^3...(R=1)$

示例2:$ln(1+x)=\int_0^x\fr

Read more

34.泰勒级数

1 木板问题

将1号木板放置在桌面边缘,在木板不掉落的情况下不断探出;然后再叠加2号木板,追求总探出长度最大的情况,以此类推,判断最终总长度是否是有限的

  • 要保证积木不掉落,就需要保持整体的重心在桌面内
  • 贪婪情况下(追求总长度最长),重心会保持在桌面边缘处
  • 判断最终总长度是否有限,其实是判断$C_N$的极限是否收敛的问题
  • 用$C$表示重心的水平方向值,则$C_N$表示叠加$N$个积木后的整体重心
  • $C_{N+1}=\frac{NC_N+1\times(C_N+1)}{N+1}

Read more

AutoML 项目

本文罗列了一些热门的自动机器学习项目

1 AutoGluon

  • AutoGluon 更倾向于使用多模型的 ensemble,利用多层 stacking + k-fold bagging 来实现更好更稳定的模型效果。当然基本的超参优化也是具备的。

  • 自带了一系列的特征工程自动化组件,例如各种缺失值的预处理,日期特征,类别特征,文本特征处理等。但这部分功能相对基础

  • 针对部署时进行优化,比如训练子模型替代多模型;引入模型蒸馏

  • 代码整

Read more

33.无穷级数和收敛判定

1 反常积分2

反常积分的第二种情况就是积分区域内有奇点的情况

示例:讨论$\int_0^1\frac{dx}{x^p}$的收敛性

  • $\int_0^1\frac{dx}{x^p}=\frac{x^{-p+1}}{-p-1}|_0^1=\frac{1}{1-p}(p<1)$
  • 当$p\geq1$时,函数不收敛

总结3 反常积分示例中示例3的结果可得到以下结果:

2 无穷级数 infinite series

芝诺悖论:$1+\frac{1}{2}+\frac

Read more

31.不定型与洛必达法则

1 洛必达法则

洛必达法则(L'Hopital's Rules):当$f(a)=g(a)=0$

$$lim_{x\to a}\frac{f(x)}{g(x)}=lim_{x\to a}\frac{f(x)/(x-a)}{g(x)/(x-a)}=\frac{f'(x)}{g'(x)}(g'(x)\neq0)$$

2 洛必达法则示例

$$lim_{x\to 0}\frac{sin5x}{sin2x}=lim_{x\to 0}\frac{5cos5x}{2cos2x}=\frac{5}{2}$$

$$lim_{x\to 0}\frac{cosx-

Read more