作者文章归档:王半仙

数据处理技巧

1 正则化

通过对损失函数引入正则项,避免模型的过拟合的情况。

正则化的分析:随着$\delta$取值的增大,系数$\theta$趋近于0

#正则化

2 核技巧

将原始样本通过函数进行高维映射,并作为特征进行模型输入,提高模型对于信息的提取能力

比如最常见的高斯核/RBF核(RBF:Radial basis function/径向基函数)

$$k(x,\mu_i,\lambda)=exp{(-\frac{1}{\lambda}||x-\mu_i||^2)}$$

转换过程: $$\phi(x)=[k(x,\mu_1,\

Read more

维度灾难

1 维度灾难

维数灾难(英语:curse of dimensionality,又名维度的诅咒)是一个最早由理查德·贝尔曼(Richard E. Bellman)在考虑优化问题时首次提出来的术语,用来描述当(数学)空间维度增加时,分析和组织高维空间(通常有成百上千维),因体积指数增加而遇到各种问题场景。

当维数提高时,空间的体积提高太快,因而可用数据变得很稀疏。稀疏性对于任何要求有统计学意义的方法而言都是一个问题,为了获得在统计学上正确并且有可靠的结果,用来支撑这一结果所需要的数据量通常随着维数的提高而呈指数级增长,也使得很多策略变得十分低效。

#维度灾难 #维度爆炸 #维

Read more

Docker 快速上手

Read more

课程列表

机器学习

6_course/机器学习/斯坦福CS224W 图机器学习/CS224W 图机器学习-课程总结 ⭐⭐⭐⭐⭐

基础数学

MIT18.01单变量微积分-课程总结 ⭐⭐⭐⭐⭐

MIT18.02多变量微积分-课程总结⭐⭐⭐⭐⭐

深度学习

DL.ai 大模型系列-课程总结 ⭐⭐⭐⭐

微软Build 2023专题演讲:State of GPT

CBMM 2023 专题讨论:AI 时代的智能研究

金融经济

肖星-《财务分析与决策》课程总结⭐⭐⭐⭐⭐

数据分析

基于Excel的数据分析和可视化-课程总结

量化

Read more

经济与环境关系测度

1 背景

  • 本项目为多年前私人委托,内容较为朴素,实现方式以excel为主。
  • 主要围绕一系列经济指标和生态环境指标,定量分析城市的旅游经济和生态环境的综合效益

项目整体耗时:2h 项目完成时间:2018-08-14 项目回顾时间:2021-09-01

2 建模过程

2.1 两个效益函数

设 $x_1,x_2,......x_m$ 是反映旅游经济状况的m个指标($x$均为正数) 设 $y_1,y

Read more

第一代V-ger回顾

基于wechaty的机器人快速搭建

读前提醒:本文部分内容已不具备时效性,新方案可参考V-ger 2.0

1 背景:

随着微信的封闭性加强和对广告、营销机器人的打压,微信机器人的市场逐渐萎靡,经过一段时间的网络调研,发现之前的微信开源机器人大多基于微信Web开发,这种协议如今功能限制多多,基本不再适用。诸如ItChat 截至2020/09/08 已有20.8k个Satr)之类的项目

Read more

Leo Breiman

1 基本信息

机器学习始于计算机科学的人工智能领域,后来也有不少统计学家加入。如果说哪位统计学家对机器学习的贡献最大,里奥·布莱曼(Leo Breiman)或许当之无愧。

附件/Pasted image 20210901142203.png (January 27, 1928 – July 5, 2005)

2 个人经历

2.1 贫民窟

1928年1月27日,Leo Breiman 出生于纽

Read more

基于Excel的数据分析和可视化-课程总结

基本信息

1 课程标题:《基于Excel的数据分析和可视化》

2 授课讲师:Microsoft 发布于 Edx

3 授课日期:2019-02月

4 品读时间:2019-02-13~2019-02-15

5 整体耗时:约5h

6 摘要

  • 从多个来源收集和转换数据
  • 在mashup中发现和组合数据
  • 了解如何

Read more

贝叶斯算法

贝叶斯定理: $$P(B|A)=\frac{P(A,B)}{P(A)}=\frac{P(A|B)P(B)}{P(A)}$$

  • 其中 $P(B|A)$ 表示后验概率 $posterior$
  • $P(A,B)$ 表示联合概率,$P(A)$ 表示历史经验 $evidence$
  • $P(A|B)$ 表示似然估计值 $likelihood$,$P(B)$ 表示先验概率 $prior$

朴素贝叶斯

朴素贝叶斯(Naive Bayes classifier)以贝叶斯定理为基础的简单分类器,主要通过统计历史数据中各种事件的发生频率,并从中寻找统计上的相关性,以实现

Read more

粒子群算法

1 基本概念

粒子群优化(particle swarm optimization,PSO)算法是计算智能领域的一种群体智能的优化算法(其他群体算法举例:蚁群算法,鱼群算法等),该算法最早由Kennedy和Eberhart在1995年提出的,该算法源自对鸟类捕食问题的研究。

鸟类捕食的生物过程:

  • 假设一群鸟在觅食,在觅食范围内,只在一个地方有食物
  • 所有鸟儿都看不到食物(即不知道食物的具体位置。当然不知道了,知道了就不用觅食了),但是能闻到食物的味道(即能知道食物距离自己是远是近。鸟的嗅觉是很灵敏的)
  • 假设鸟与鸟之间能共享信息(即互

Read more