分类目录归档：学习
K 近邻算法（k-nearest neighbors, KNN）是一种很基本的机器学习方法
算法步骤：给定样本，寻找最近的 K 个样本进行（分类/回归）预测
KNN的 3 个核心要素：
KNN 的主要优点：
前置知识：图论基础
代码实践：图特征工程_Python实现
度中心性 (Degrree Centrality)：
特征向量中心性 ( Eigenvector Centrality)： $$ c_v=\frac{1}{\lambda}\sum_{u\in N(v)}c_u $$
介数中心性
PyG (PyTorch Geometric)，基于 PyTorch 编写和训练图神经网络 (GNN)
NetworkX 是一个 Python 包，常用于创建、操作和挖掘图/复杂网络
本教程默认使用 NetworkX=3.2.1
G = nx.Gr模型融合（model merging）：
思考：如何验证模型融合的合理性？ （此处
循环神经网络（RNNs）：具有隐状态、不同层参数共享的神经网络
常见的三种基础 RNNs ：RNN、GRU、LSTM
隐变量模型：使用隐状态 $h_{t-1}$ 存储前 $t-1$ 步的序列信息 $$P(x_t|x_{t-1},...,x_1)\approx P(x_t|h_{t-1})$$ $$h_t=f(x_t,h_{t-1})$$ 循环神经网络（recurrent neural networks，RNNs） 是具有隐状态的神经网络
假设时刻 $t$ 的输入为 $X_t \in \mathbb{R}^{n\times d}$，对应的权重参数为 $W
卷积神经网络（CNN）：引入了卷积操作的神经网络
严格来说，卷积层是个错误的叫法，因为它所表达的运算其实是互相关运算（cross-correlation）
二维互相关运算示例：
池化（pool）层的优点：降低卷积层对位置的敏感性
常用池化层分两种：最大池化层和平均池化层，前者示例如下：
类似于卷积层，池化层也会有填充和步幅，使用大于 1 的步幅可以起到降维的作用
不同于卷积层，池化层在每个输入通道上是单独计算的，所以池化层的输出通道数等于输入通道数
膨胀（dilated）卷积，也称
均值回归：对历史一段时间的值取平均，作为未来每个时刻的预测
指数平滑：预测值是过去一段时间内观测值（或已预测值）的加权平均值
普通回归预测：借助时序相关特征（如节假日、周期性）实现建模预测
更多时序类衍生特征可参考 tsfresh概述
自回归（AR）模型：