个人笔记

1 指数（exponential）的导数Part1

$$\frac{d}{dx}a^x=\lim_{\Delta x\to 0}\frac{a^{x+\Delta x}-a^x}{\Delta x}=a^x\lim_{\Delta x\to 0}\frac{a^{\Delta x}-1}{\Delta x}=M(a)a^x$$

• 其中$a$表示某一固定常数，$M(a)$表示某一固定函数值
• 当$x=0$时，$M

Read more

1 隐函数微积分

扩展$(x^n)'=nx^{n-1}$为$(x^a)'=ax^{n-1}$

• 其中$a$表示有理数，可以用$\frac{m}{n}$表示
• $m,n \in Z$，即$m$和$n$属于整数集

扩展公式的证明：

• 转换$y=x^{\frac{m}{n}}$为$y^n=x^m$
• 由此可得$\frac{d}{dx}y^n=\frac{d}{dx}x^m=mx^{m-1}$
• 借助链式法则可得$\frac{d}{dy}y^n\frac{dy}{dx}=mx^{m-1}$
• 化简可得$\frac{dy}{dx}=\frac{mx^{m-

Read more

1 导数的乘法法则

$(uv)'=u'v+v'u$

乘法法则推导Part 1 $$\begin{align} \Delta(uv) & = u(x+\Delta x)v(x+\Delta x)-u(x)v(x) \ \\ & = [u(x+\Delta x)-u(x)]v(x+\Delta x)+u(x)[v(x+\Delta x)-v(x)] \ \\ & = \Delta u\times v(x+\Delta x)+u(x)\D

Read more

1 信息

信息是不确定性的减少或消除——香农

对于随机变量$X$来说，其取值可能为${x_0,x_1,...,x_n}$

假设变量$X$对应的概率分布为$p$，则$X=x_0$的信息量为 $$I(x_0)=-log(p(x_0))$$

2 熵

熵(entropy)度量了事物的不确定性

不确定越高的事物，它的熵就越大。

随机变量X的熵可以表示如下：

$$H(X)=-\Sigma_{i=1}^np_ilog(p_i)$$

• 其中$n$表示$X$的所有

Read more

随机森林算法

什么是随机森林算法？

随机森林

随机森林算法的特点

随机森林总结

随机森林算法的相关基础知识

信息、熵以及信息增益

熵 信息增益 信息增益比 基尼系数

决策树

决策树ID3算法 决策树C4 5算法 CART算法 决策树算法总结

集成学习

集成学习概述

随机森林的生成

随机森林的思路

袋外错误率（oob error）

袋外误差

随机森林的Python实

Read more

1 求导公式

1. 特定函数求导，如$x^n$的导数为$nx^{n-1}$
2. 通用公式，如${(u+v)}'={u}'+{v}'$
3. 以上两种的混合使用

2 三角函数的导数

• 在正式推导前，需要先推导出两个特殊情况下的极限变化率

第一种特殊情况： $$\lim_{x \to 0}\frac{sin(x)}{x}=1$$ 几何法证明：

（图片引用说明：知乎@三少爷的贱男春）

• 上图为一个标准单位圆，角度$\theta$对应弧长为$2\pi r=\theta$
• 随着$\theta$的减少，极短曲线可看作直线，即$\theta=sin(\theta

Read more

1 变化率 rate of change

• 注意：本课前半部分内容为第一节内容未讲完部分。第一节仅描述了导数的几何解释，而变化率则是导数的物理解释。

$$\lim_{\Delta x \to 0}\frac{\Delta y}{\Delta x}=\frac{dy}{dx}$$

• $\frac{\Delta y}{\Delta x}$表示的是一种平均值
• $\frac{dy}{dx}$表示的是一种瞬时值

Read more

1 何为导数 derivative

• 几何解释 geometric interpretation
• 物理解释 physical interpretation
• 导数全方位的重要性 importance to all measurements

2 如何对已知的任意函数求导

• 思考：如何对$e^{xarctan(x)}$求导

导数的几何解释

• 选择函数曲线上的点$P$，其坐标值为$(x_0,y_0)$
• $x_0$沿着x轴（x-axis）移

Read more

中文标题：基于角色标注的中国人名自动识别研究

英文标题：Classification-based Financial Markets Predic

Read more

蒙特卡洛法 MC

蒙特卡洛方法（Monte Carlo method），也称统计模拟方法，是二十世纪四十年代中期由于科学技术的发展和电子计算机的发明，而被提出的一种以概率统计理论为指导的一类非常重要的数值计算方法。

蒙特卡洛方法的名字来源于摩纳哥的一个城市蒙特卡洛，该城市以赌博业闻名，而蒙特卡洛方法正是以概率为基础的方法。与它对应的是确定性算法。

蒙特卡洛方法的原理是通过大量随机样本，去了解一个系统，进而得到所要计算的值。‪‬‪‬‪‬‪‬‪‬‮‬‭‬‪‬‪‬‪‬‪‬‪‬‪‬‮‬‫‬‭‬‪‬

Read more