Pearson 积矩相关系数

$$\rho_{X,Y} = \frac {cov(X, Y)} {\sigma_X \sigma_Y}$$

• $cov(X, Y)$：变量 $X, Y$ 协方差
• $\sigma_X, \sigma_Y$：变量 $X, Y$ 方差

• Pearson 积矩相关系数取值范围为 $[-1, 1]$
  • $1, -1$ 分别表示变量成正线性、负线性函数关系

显著性检验

Fisher 变换

$$z = \frac 1 2 ln(\frac {1+r} {1-r}) = arctanh(r)$$

• $z$：Pearson 积矩相关系数的 Fisher 变换
• $r$：样本的 Pearson 积矩相关系数值

• 当 $(X, Y)$ 为二元正态分布时，$z$ 近似正态分布
  • 均值：$\frac 1 2 ln(\frac {1+\rho} {1-\rho})$
  • 标准差：$\frac 1 {\sqrt {N - 3}}$

基于数学的近似方法

$$t = r \sqrt{\frac {N - 2} {1 - r^2}}$$

• 当 $(X, Y)$ 为二元正态分布且不相关时，$t$ 服从自由度为 $n-2$的 t-分布

Spearman 秩相关系数

$$\begin{align*} \rho_{X, Y} & = \frac {cov(Rank(X) - Rank(Y))} {\sigma_{Rank(X)} \sigma_{Rank(Y)}} \\ & = 1 - \frac {6 \sum_i^N d_i^2} {N(N^2-1)} \\ \end{align*}$$

• $Rank(X), Rank(Y)$：变量 $X, Y$ 的秩（应同序）（相同值秩取均值）
• $d_i$：变量对 $X, Y$ 中，二者秩差值

• Spearman 秩相关系数被定义为变量秩的 Pearson 相关系数

• Spearman 秩相关系数也可以使用 Fisher 变换检验显著性

Kendell 秩相关系数

$$\begin{align*} \tau_a &= \frac {N_c - N_d} {N_0} \\ \tau_b &= \frac {N_c - N_d} {\sqrt{(N_0 - N_X)(N_0 - N_Y)}} \\ \tau_c &= \frac {2(N_c - N_d)} {N^2 \frac {M-1} M} \end{align*}$$

• $N_0 = \frac {N(N-1)} 2$：变量对数量
• $N_c, N_d$：变量对 $X, Y$ 中有序对数量、无序对数量
• $N_X, N_Y$：变量对 $X, Y$ 中 $X$ 取值、$Y$ 取值相同对数量
• $M$：变量 $X, Y$ 中较小取值数量者取值数量

• Kendell 秩相关系数取值范围同样为 $[-1, 1]$

  • -1 仅在变量 $X, Y$ 取值完全反向取到

• $\tau_a$ 是 $\tau_b$ 在变量不存在取值相同时的特例

• $\tau_c$ 适合“层级”数据，即两个变量取值类似划分、内部细分

  ||A|B|C| |——-|——-|——-|——-| |I-1|30|0|0| |I-2|30|0|0| |II-1|0|30|0| |II-1|0|30|0| |III-2|0|0|30| |III-2|0|0|30|

  • 对以上数据，$\tau_b$ 取值在 0.9 附近，而 $\tau_c$ 取 1

• 有序对：对 $(X_i, Y_i), (X_j, Y_j)$，满足 $X_i < X_j, Y_i < Y_j$ 或 $X_i > X_j,Y_i > Y_j$ 则为有序对
• 无序对：对$(X_i, Y_i), (X_j, Y_j)$，满足 $X_i < X_j, Y_i > Y_j$ 或 $X_i > X_j, Y_i < Y_j$ 则为无序对

卡方统计量

卡方统计量：通过观察实际与理论值的偏差确定理论正确与否

$$\chi^2 = \sum \frac {(A - E)^2} E$$

• $A$：自变量、因变量组合对应频数观察值
• $E$：自变量、因变量组合对应频数期望值

• 将模型预测结果视为实际分布、先验分布（均匀分布）视为理论分布

• 卡方检验：检验定性变量之间相关性，假设两个变量确实独立，观察实际值、理论值偏差程度判断变量之间相关性

  • 若偏差足够小，认为误差是自然的样本误差，两者确实独立
  • 若偏差大到一定程度，误差不可能由偶然、测量精度导致， 认为两者相关

• 若模型预测结果同先验分布差别很大，说明模型有效，且卡方统计量值越大表示预测把握越大

特点

• 由于随机误差存在，卡方统计量容易
  • 夸大频数较小的特征影响
  • 相应的，取值数较少（各取值频数相对而言可能较大）特征影响容易被低估

分布证明

• 考虑随机变量 $X=(x_1,\cdots,x_D)$ 服从 Multinomial 分布，分布参数为 $n, p=(p_1,\cdots,p_D)$

• 考虑服从理论分布的随机变量 $X$ 协方差矩阵

  $$\begin{align*} \Sigma = Cov(X) &= \begin{bmatrix} np_1(1-p_1) & -np_1p_2 & \cdots & -np_1p_D \\ np_2p_1 & -np_2(1-p_2) & \cdots & -np_2p_D \\ \vdots & \vdots & \ddots & \vdots \\ -np_Dp_1 & -np_Dp_2 & \cdots & np_D(1-p_D) \end{bmatrix} \\ &= n\begin{bmatrix} p_1 & 0 & \cdots & 0 \\ 0 & p_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & p_D \end{bmatrix} - npp^T \\ \end{align*}$$

• 则由中心极限定理有，如下依分布收敛的结论

  $$\begin{align*} \frac {(X - np)} {\sqrt n} & \overset {D} {\rightarrow} N(0,\Sigma) \\ \end{align*}$$

• 考虑服从理论分布的随机变量 $X$ 的 $\chi^2$ 参数

  $$\begin{align*} \chi^2 &= \frac 1 n (X-np)^T D^2 (X-np) \\ D &= \begin{bmatrix} \frac 1 {\sqrt {p_1}} & 0 & \cdots & 0 \\ 0 & \frac 1 {\sqrt {p_2}} & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \frac 1 {\sqrt {p_D}} \end{bmatrix} \end{align*}$$

• 并由连续映射定理可以得到 $D\frac {x-np} {\sqrt n}$ 分布，且其协方差矩阵 $\Sigma_0$ 满足

  $$\begin{align*} D\frac {x-np} {\sqrt n} & \overset {D} {\rightarrow} N(0, D \Sigma D^T) \\ \Sigma_0 &= D \Sigma D^T \\ \Sigma_0^2 &= (E - \sqrt p {\sqrt p}^T)(E - \sqrt p {\sqrt p}^T) = \Sigma_0 \\ \end{align*}$$

• 由以上，$\Sigma_0$ 仅有特征值 0，1

  • 特征值 0 对应特征向量有且仅有 $\sqrt p$
  • 特征值 1 对应特征向量有 $D-1$ 个
  $$\begin{align*} \Sigma_0 \sqrt p - 0 \sqrt p &= \sqrt p - \sqrt p = 0 \\ \Sigma_0 \lambda - 1 \lambda &= \lambda - \sqrt p {\sqrt p}^T \lambda = \sqrt p {\sqrt p}^T \lambda = 0 \end{align*}$$

• 则 $\chi^2$ 统计量依分布收敛于自由度为 $D-1$ 的卡方分布

  $$\begin{align*} \chi^2 &= \sum_{d=1}^D \frac {(x_d - np_d)^2} {np_d} \overset {D} {\rightarrow} \chi_{D-1} \end{align*}$$

• 可据此构造统计量进行卡方检验，检验实际值实际分布频率 $(a_1,\cdots,a_D)$ 是否符合该分布

  • 构造卡方统计量 $\chi^2 = \sum_{d=1}^D \frac {(x_d - na_d)^2} {na_d}$
  • 则卡方统计量在随机变量满足多项分布情况下依分布收敛于自由度为 $D-1$ 的卡方分布

• https://www.zhihu.com/question/309694332/answer/952401910
• https://zhuanlan.zhihu.com/p/198864907

混淆矩阵

• 对比实际类别值、预测类别值，编制混淆矩阵
• 基于混淆矩阵，计算各类错判率、总错判率（总错判率会受到数据不平衡性的影响）

F-Measure

F-测度：准率率和召回率综合值，越大越好

$$F-measure = \frac {(\beta^2 + 1) * P * R} {\beta^2 * P + R}$$

• $P = \frac {TP} {TP+FP}$：查准率、精确率
• $R = \frac {TP} {TP+FN}$：查全率、召回率、覆盖率

F1 值

F1值：$\beta=1$ 时的 F测度

$$\begin{align*} \frac {1} {F_{1}} &= \frac {1} {2} \left( \frac {1} {P} + \frac {1} {R} \right) \\ \Rightarrow F_{1} &= \frac {2 * P * R} {P + R} = \frac {2 * TP} {样例总数 + TP - TN} \end{align*}$$

TPR、FPR

• TPR、FPR 可视为对 TP、FP 用样本数量归一化的结果

  • 样本全体中正、负样本数量往往差距很大，直接比较 TP、FP 不合理
  • 考虑使用样本正、负数量归一化，即计算正比例 TPR、负比例 FPR

• TPR 越高越好，FPR 越低越好，但是这两个指标相互制约，两者同时增加、减小

  • 模型倾向于将样本 判定为 为正例，则 TP、FP 同时增加，TPR、FPR 同时变大
  • 即模型取不同阈值，会产生正相关的 TPR、FPR 的点列

Recevier Operating Characteristic Curve

ROC 曲线：不同 正样本概率 划分阈值下 TPR、FPR 绘制的折线/曲线

$$TPR = \frac {TP} {TP+FN} \\ FPR = \frac {FP} {FP+TN}$$

• ROC 曲线即以 FPR 为横坐标、TPR 为正坐标绘制曲线

  • FPR 接近 1 时，TPR 也接近 1，这是不可避免的
  • 而 FPR 接近 0 时，TPR 越大越好
  • 所以模型 ROC 曲线下方面积越大，模型判断正确效果越好

• 理解

  • 将正负样本的正样本概率值分别绘制在 x=1、x=-1 两条直线上
  • 阈值即为 y=threshold 直线
  • TPR、FPR 则为 x=1、x=-1 两条直线在阈值直线上方点数量，与各直线上所有点数量比值

Accuracy

准确率、误分率：评价分类器性能一般指标

$$\begin{align*} acc & = \frac 1 N sign(y_i = \hat y_i) \\ & = \frac {TP+TN} N \\ mis & = 1 - acc \end{align*}$$

• $y_i$：第 $i$ 样本实际类别
• $\hat y_i$：第 $i$ 样本预测类别
• $N$：样本数量

• 对给定测试集，分类器正确分类样本数与总样本数比值
• 即 0-1 损失函数时经验风险

Top PR

头部准召：评估模型头部性能

$$pr_{top} = \frac {TP_{top}} {TOP}$$

• $TOP$：指定的头部数量
• $TP_{top}$：头部中正例数量（正例指已知原 $TOP$ 样本）

Area Under Curve

AUC 值：ROC 曲线下方面积，越大越好

• AUC 值实际含义：随机抽取一对正、负样本，对其中正样本的正样本预测概率值、大于负样本的正样本预测概率值的概率

  • $=1$：完美预测，存在一个阈值可以让模型 TPR 为 1，FPR 为 0
  • $(0.5, 1)$ ：优于随机预测，至少存在某个阈值，模型 $TPR > FPR$
  • $=0.5$：同随机预测，无价值
  • $[0, 0.5)$：差于随机预测，但是可以反向取预测值

AUC 计算

• 绘制 ROC 曲线，计算曲线下面积

  • 给定一系列阈值（最精确时为样本数量），分别计算 TPR、FPR
  • 根据 TPR、FPR 计算 AUC

• 正负样本分别配对，计算正样本预测概率大于负样本比例

  $$\begin{align*} auc & = \frac {\sum I(P_P > P_N)} {M * N} \\ I(P_P, P_N) & = \left \{ \begin{array}{l} 1, & P_P > P_N, \\ 0.5, & P_P = P_N, \\ 0, & P_P < P_N \end{array} \right. \end{align*}$$

  • $M, N$：正、负样本数量

• Mann-Witney U 检验：即正、负样本分别配对的简化公式

  $$auc = \frac {\sum_{i \in Pos} rank(i) - \frac {M * (M+1)} 2} {M * N}$$

  • $Pos$：正样本集合
  • $rank(i)$：样本 $i$ 的按正样本概率排序的秩（对正样本概率值相同样本，应将秩加和求平均保证其秩相等）

Weighted-AUC

WAUC：给 每个样本 赋权，计算统计量时考虑样本权重

• FPR、TPR 绘图

  $$\begin{align*} WTPR & = \frac {\sum_{i \in Pos} w_i I(\hat y_i=1)} {\sum_{i \in Pos} w_i} \\ WFPR & = \frac {\sum_{j \in Neg} w_j I(\hat y_j=1)} {\sum_{j \in Neg} w_j} \end{align*}$$

  • $WTPR, WFPR$：加权 TPR、加权 FPR
  • $\hat y_i$：样本预测类别
  • $w_i$：样本权重

• Mann-Witney U 检验：考虑其意义，带入权重即可得

  $$\begin{align*} auc = \frac {\sum_{i \in Pos} w_i * rank(i) - \sum_{i \in Pos} w_i * rank_{pos}(i)} {\sum_{i \in Pos} w_i * \sum_{j \in Neg} w_j} \end{align*}$$

  • $rank_{pos}(i)$：正样本内部排序，样本$i$秩
  • $Neg$：负样本集合

多分类 AUC

• Micro-AUC：将每个类别视为样本标签，计算全体样本的正标签、负标签的 AUC

  • $n$ 个样本的 $m$ 维标签展平， 则其中有 $n$ 个正样本、$n * (m-1)$ 个负样本
  • $n$ 个样本的 $m$ 个分类器共 $n * m$ 个得分展平
  • 使用以上预测得分、标签计算 AUC

  1 2 3 4 5 6 7 8 9 10

  # one-vs-rest分类器得分 y_score = classifer.transform(X_test) # 展平后计算fpr、tpr fpr_micro, tpr_micro, threshhold_micro = \ skilearn.metrics.roc_curve(y_test.ravel(), y_score.ravel()) # 利用fpr、tpr计算auc auc_micro = skilearn.metrics.auc(fpr_micro, tpr_micro) # 等价于直接调用 auc_micro = skilearn.metrics.roc_auc_score(y_test, y_score, average="micro")

• Macro-AUC：对各类别，分别以计算 ROC 曲线（即 TPR、FPR），计算平均 ROC 曲线得到 AUC

  • 对各类别分别计算 TPR、FPR，共 $m$ 组 TPR、FPR

  • 平均合并 TPR、FPR，计算 AUC

    • 方法1：合并 FPR、去除重复值，使用 $m$ 组 TPR、FPR 分别求合并后 FPR 插值

      1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

      # 分别计算各类别fpr、tpr fprs, tprs = [0] * n_classes, [0] * n_classes for idx in range(n_classes): fprs[idx], tprs[idx], _ = sklearn.metrics.ruc_curve( y_test[:, i], y_score[:, i]) # 合并fpr all_fpr = np.unique(np.concatenate(fprs)) mean_tpr = np.zeros_like(all_fpr) # 计算合并后fpr插值 for idx in range(n_classes): mean_tpr += scipy.interp(all_fpr, fpr[idx], tpr[idx]) mean_tpr /= n_classes auc_macro = sklearn.metrics.auc(all_fpr, mean_tpr) # 但是和以下结果不同 auc_macro = sklearn.metrics.roc_auc_score(fprs)

• 以上分类器均为 one-vs-rest 分类器，$m$ 个类别则 $m$ 个分类器、每个样本 $m$ 个得分

Kolmogorov-Smirnov 统计量

KS 值：刻画区分正负样本能力

$$KS = max \{|TPR - FPR|\}$$

• KS 值体现 最理想情况 下，对正负样本区分能力
  • 即 ROC 曲线与 $TPR = FPR$ 直线的最远距离

Squared Error

Mean Squared Error

MSE：均方误差（偏差）

$$MSE = \frac 1 n \sum_{i=1}^{n} (y_{i} - \hat{y_{i}})^{2}$$

Mean Absolute Error

MAE：平均绝对误差

$$MAE = \frac 1 n \sum_{i=1}^n |y_i - \hat {y_i}|$$

Mean Absolute Percentage Error

MAPE：平均绝对百分比误差

$$MAPE = \frac 1 n \sum_{i=1}^n |\frac {y_i - \hat {y_i}} {y_i}|$$

Symmetric Mean Absolute Percentage Error

SMAPE：对称平均绝对百分比误差

$$MAPE = \frac 1 n \sum_{i=1}^n |\frac {y_i - \hat {y_i}} {(|y_i| + |\hat {y_i}|) / 2}|$$

$R^2$

$$\begin{align*} R^2 & = 1 - \frac {SSE} {SST} = \frac {SSR} {SST} \\ R^2_{adj} & = 1 - \frac {1 - R^2} {n - p - 1} \end{align*}$$

• $n, p$：样本量、特征数量
• $SSE$：残差平方和
• $SSR$：回归平方和、组内平方和
• $SST$：离差平方和
• $R^2_{adj}$：调整的$R^2$

Akaike Information Criterion

AIC ：赤池信息准则

$$\begin{align*} AIC & = -2log(L(\hat \theta, x)) + 2p \\ & = nln(SSE/n) + 2p \end{align*}$$

• $n, p$：样本量、特征数量
• $\theta$：带估参数
• $L(\theta, x)$：似然函数
• $SSE$：残差平方和

Bayesian Information Criterion

BIC：贝叶斯信息准则

$$\begin{align*} BIC & = -2log(L(\hat \theta, x)) + ln(n)p \\ & = nln(SSE/n) + ln(n)p \end{align*}$$

$C_p$

$$\begin{align*} C_p & = \frac {SSE} {\hat {\sigma^2}} - n + 2p \\ & = (n - m - 1) \frac {SSE_p} {SSE_m} - n + 2p \end{align*}$$

• $p$：选模型特征子集中特征数量
• $m$：所有特征数量
• $SSE_p$：选模型中残差平方和
• $SSE_m$：全模型中残差平方和