作者文章归档:王半仙

8.线性近似和二阶近似

1 线性近似 linear approximation

$$f(x) \approx f(x_0)+f'(x_0)(x-x_0)$$

  • 其中$\approx$仅在$x$接近$x_0$时成立

以$x_0=0$且$x\approx 0$为前提,几种常见的函数线性近似:

  • $sin(x) \approx x$
  • $cos(x) \approx 1$
  • $e^x \approx 1+x$
  • $lm(1+x) \approx x$
  • $(1+x)^r \a

Read more

7.单变量微积分-第一次复习

1 多项式导数的推广

$$\frac{d}{dr}x^r=rx^{r-1}$$ 其中$r \in$实数

快速证明 $$\frac{d}{dr}x^r=\frac{d}{dr}e^{ln(x^r)}=e^{ln(x^r)}\times r \times \frac{1}{x}=rx^{r-1}$$

2 自然对数的常见应用

股票指数,以FTSE100为例

  • FTSE100全称为伦敦金融时报100指数,简称英国富时100指数
  • 欧洲三大股票指数包括:30工业股、FT-100、综合

Read more

6.指数和对数的导数

1 指数(exponential)的导数Part1

$$\frac{d}{dx}a^x=\lim_{\Delta x\to 0}\frac{a^{x+\Delta x}-a^x}{\Delta x}=a^x\lim_{\Delta x\to 0}\frac{a^{\Delta x}-1}{\Delta x}=M(a)a^x$$

  • 其中$a$表示某一固定常数,$M(a)$表示某一固定函数值
  • 当$x=0$时,$M

Read more

5.隐函数微积分和逆函数求导

1 隐函数微积分

扩展$(x^n)'=nx^{n-1}$为$(x^a)'=ax^{n-1}$

  • 其中$a$表示有理数,可以用$\frac{m}{n}$表示
  • $m,n \in Z$,即$m$和$n$属于整数集

扩展公式的证明:

  • 转换$y=x^{\frac{m}{n}}$为$y^n=x^m$
  • 由此可得$\frac{d}{dx}y^n=\frac{d}{dx}x^m=mx^{m-1}$
  • 借助链式法则可得$\frac{d}{dy}y^n\frac{dy}{dx}=mx^{m-1}$
  • 化简可得$\frac{dy}{dx}=\frac{mx^{m-

Read more

4.链式法则及高阶导数

1 导数的乘法法则

$(uv)'=u'v+v'u$

乘法法则推导Part 1 $$\begin{align} \Delta(uv) & = u(x+\Delta x)v(x+\Delta x)-u(x)v(x) \ \\ & = [u(x+\Delta x)-u(x)]v(x+\Delta x)+u(x)[v(x+\Delta x)-v(x)] \ \\ & = \Delta u\times v(x+\Delta x)+u(x)\D

Read more

信息论基础

1 信息

信息是不确定性的减少或消除——香农

对于随机变量$X$来说,其取值可能为${x_0,x_1,...,x_n}$

假设变量$X$对应的概率分布为$p$,则$X=x_0$的信息量为 $$I(x_0)=-log(p(x_0))$$

2 熵

熵(entropy)度量了事物的不确定性

不确定越高的事物,它的熵就越大。

随机变量X的熵可以表示如下:

$$H(X)=-\Sigma_{i=1}^np_ilog(p_i)$$

  • 其中$n$表示$X$的所有

Read more

随机森林-知识树

随机森林算法

什么是随机森林算法?

随机森林

随机森林算法的特点

随机森林总结

随机森林算法的相关基础知识

信息、熵以及信息增益

信息增益 信息增益比 基尼系数

决策树

决策树ID3算法 决策树C4 5算法 CART算法 决策树算法总结

集成学习

集成学习概述

随机森林的生成

随机森林的思路

袋外错误率(oob error)

袋外误差

随机森林的Python实

Read more

3.求导公式和三角函数

1 求导公式

  1. 特定函数求导,如$x^n$的导数为$nx^{n-1}$
  2. 通用公式,如${(u+v)}'={u}'+{v}'$
  3. 以上两种的混合使用

2 三角函数的导数

  • 在正式推导前,需要先推导出两个特殊情况下的极限变化率

第一种特殊情况: $$\lim_{x \to 0}\frac{sin(x)}{x}=1$$ 几何法证明:

附件/Pasted image 20210912173326.png

(图片引用说明:知乎@三少爷的贱男春)

  • 上图为一个标准单位圆,角度$\theta$对应弧长为$2\pi r=\theta$
  • 随着$\theta$的减少,极短曲线可看作直线,即$\theta=sin(\theta

Read more

2.极限和连续

1 变化率 rate of change

  • 注意:本课前半部分内容为第一节内容未讲完部分。第一节仅描述了导数的几何解释,而变化率则是导数的物理解释。

$$\lim_{\Delta x \to 0}\frac{\Delta y}{\Delta x}=\frac{dy}{dx}$$

  • $\frac{\Delta y}{\Delta x}$表示的是一种平均值
  • $\frac{dy}{dx}$表示的是一种瞬时值

Read more

1.导数和变化率

1 何为导数 derivative

  • 几何解释 geometric interpretation
  • 物理解释 physical interpretation
  • 导数全方位的重要性 importance to all measurements

2 如何对已知的任意函数求导

  • 思考:如何对$e^{xarctan(x)}$求导

导数的几何解释

附件/Pasted image 20210912115729.png

  • 选择函数曲线上的点$P$,其坐标值为$(x_0,y_0)$
  • $x_0$沿着x轴(x-axis)移

Read more