1 基本介绍
Optuna 是一个为机器学习设计的自动超参数优化软件框架
- 轻量级、多功能和跨平台架构;依赖少,安装简单
- Python式搜索空间(条件语句和循环均为Python语法)
- 高效的优化算法;先进的超参采样方法,支持剪枝算法
- 易用的并行优化;少量改动代码即可实现多服务器并行
- 便捷的可视化;支持各种绘图函数展示优化历史记录
项目地址
官方文档
中文文档 :不推荐,因为很久没更新了(230331)
截至230331,Op
分类目录归档:学习
核密度估计(kernel density estimation,简称KDE)是核平滑对概率密度估计的应用,即一种以核为权重估计随机变量概率密度函数的非参数方法。由Rosenblatt (1955)和Emanuel Parzen(1962)提出,又名Parzen窗(Parzen window)
核密度估计的实现:
$$\hat{f}_h(x)=\frac{1}{n}\Sigma_{i=1}^nK_h(x-x_i)=\frac{1}{nh}\Sigma_
贝叶斯优化是一种通用的黑盒优化算法,不需要计算梯度便可快速解决最优化问题,贝叶斯优化适合处理目标函数计算成本高或求导困难的情况。贝叶斯优化最常用的场景是超参搜索(尤其是神经网络类算法,计算成本高,超参数还多)
贝叶斯优化(Bayesian Optimization,BO)
目的是要找到一组最优的超参组合x,能使评价/目标函数f(x)达到全局最优
由于评价/目标函数f(x)计算成
皮尔逊积矩相关系数(Pearson product-moment correlation coefficient,简称PPMCC或PCCs)
给定均值向量和协方差矩阵,可以唯一确定一个高斯分布(Gaussian distribution)
给定均值函数和协方差函数,可以唯一确定一个高斯过程(Gaussian Process,GP)
假设自变量为时间$t$,则每一个时刻$t$,高斯过程都对应着一个高斯分布
当时间$t$是连续型变量时,整个高斯过程便对应着无数个高斯分布,所以高斯过程可看作无限维高斯分布
高斯分布的两
PyCaret是一个开源的、低代码的Python机器学习库,可以实现机器学习工作流程的自动化。作为一个端到端的机器学习和模型管理工具,PyCaret可以成倍地缩短实验周期,实现更有效率的科研探索。
TableOne是一个很简单实用的小工具,能对数据进行基本统计展示
基本特性:
使用注意事项:
categorical显式指定中介效应(mediation effect)分析能解释自变量 X 对因变量 Y 的影响是如何通过中介变量(mediator) M实现的,是多变量研究的重要统计方法。
中介效应 VS 间接效应(indirect effect)
中介效应 VS “遮掩效应” (suppression effects)
一次性密码(英语:one-time password,简称OTP),又称动态密码或单次有效密码,是指计算机系统或其他数字设备上只能使用一次的密码,有效期为只有一次登录会话或交易。一次性密码一般会配合账号密码等安全登入机制,实现双因素认证(two-factor authentication)
HOTP和TOTP是两种常见的OTP算法
基于HMAC的一次性密码算法(英语:HMAC-based One-time Password algorithm,HOTP)
HMAC 是Ke