统计推断完全参考假设检验与共轭分布
本文档系统覆盖 频率派假设检验(Z, t, χ², F,及 NP 引理/UMP 检验)与 贝叶斯共轭体系(Beta-Binomial, Gamma-Poisson, Normal-Normal/Gamma, Dirichlet-Multinomial),并配有完整推导与例题。适用于量化研究 / 量化交易面试的统计板块备考。
I · 假设检验基本框架
假设检验的核心逻辑:在零假设 \(H_0\) 成立的前提下,计算观测数据或更极端情况出现的概率(p 值),若该概率极小则拒绝 \(H_0\)。
基本设置
零假设 \(H_0\):待检验的"默认"命题,通常为"无效应"、"参数等于某值"。
备择假设 \(H_1\):与 \(H_0\) 对立的命题。
检验统计量 \(T\):由样本计算的量,其在 \(H_0\) 下的分布已知。
拒绝域 \(\mathcal{C}\):当 \(T \in \mathcal{C}\) 时拒绝 \(H_0\)。
两类错误与检验功效
| 决策 \ 真实状态 | \(H_0\) 为真 | \(H_1\) 为真 |
| 拒绝 \(H_0\) | 第一类错误 α 虚警 | ✓ 正确拒绝(功效 \(1-\beta\)) |
| 不拒绝 \(H_0\) | ✓ 正确保留 | 第二类错误 β 漏警 |
$$\alpha = P(\text{拒绝} H_0 \mid H_0 \text{ 为真}) \qquad \beta = P(\text{不拒绝} H_0 \mid H_1 \text{ 为真})$$
$$\text{检验功效 (Power)} = 1 - \beta = P(\text{拒绝} H_0 \mid H_1 \text{ 为真})$$
权衡关系
在样本量固定时,降低 α(更严格的显著性水平)会增大 β(降低功效)。提升功效的方法:增大样本量 n、选更优检验统计量、或当备择假设更远离零假设时。
功效函数
对参数 \(\theta\) 的假设,功效函数定义为
$$\pi(\theta) = P_\theta(T \in \mathcal{C})$$
当 \(\theta \in H_0\) 时,\(\pi(\theta) \leq \alpha\);当 \(\theta \in H_1\) 时,\(\pi(\theta)\) 越大越好(趋向 1)。
p 值
定义
p 值是在 \(H_0\) 成立条件下,观测到当前统计量 \(t_{\text{obs}}\) 或更极端值的概率:
$$p = P_{H_0}(T \geq t_{\text{obs}}) \text{ (单侧右尾)}$$
$$p = 2 \cdot P_{H_0}(T \geq |t_{\text{obs}}|) \text{ (双侧)}$$
若 \(p \leq \alpha\),则在显著性水平 α 下拒绝 \(H_0\)。
常见误解: p 值 不是 "\(H_0\) 为真的概率",也不是"效应大小"的度量。它是在 \(H_0\) 下数据的极端程度。
置信区间与检验的对偶性
对偶定理
\(H_0: \theta = \theta_0\) 在显著性水平 α 下被双侧检验拒绝,当且仅当 \(\theta_0\) 不在 θ 的 \((1-\alpha)\times 100\%\) 置信区间内。
$$\text{CI}_{1-\alpha} = \left[\hat\theta - z_{\alpha/2}\frac{\sigma}{\sqrt n},\; \hat\theta + z_{\alpha/2}\frac{\sigma}{\sqrt n}\right]$$
II · 频率派经典检验
2.1 Z 检验(总体方差已知)
用于检验 正态总体均值(σ² 已知)或 大样本均值(由 CLT)。
$$Z = \frac{\bar X - \mu_0}{\sigma / \sqrt{n}} \xrightarrow{H_0} \mathcal{N}(0,1)$$
| 检验类型 | 备择假设 | 拒绝域(显著性 α) |
| 双侧 | \(H_1: \mu \neq \mu_0\) | \(|Z| > z_{\alpha/2}\) |
| 右侧 | \(H_1: \mu > \mu_0\) | \(Z > z_\alpha\) |
| 左侧 | \(H_1: \mu < \mu_0\) | \(Z < -z_\alpha\) |
其中 \(z_\alpha = \Phi^{-1}(1-\alpha)\),常用值:\(z_{0.05}=1.645,\; z_{0.025}=1.96,\; z_{0.005}=2.576\)。
2.2 t 检验(总体方差未知)
单样本 t 检验
$$t = \frac{\bar X - \mu_0}{S / \sqrt{n}} \xrightarrow{H_0} t(n-1)$$
$$\text{其中} \quad S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \bar X)^2$$
▸ 为何服从 t 分布?推导
$$\bar X \sim \mathcal{N}(\mu_0, \sigma^2/n), \quad \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1), \quad \bar X \perp S^2$$
$$t = \frac{(\bar X - \mu_0)/(\sigma/\sqrt{n})}{\sqrt{(n-1)S^2/[\sigma^2(n-1)]}} = \frac{Z}{\sqrt{V/(n-1)}} \sim t(n-1)$$
双样本 t 检验(等方差)
设 \(X_1,...,X_m \sim \mathcal{N}(\mu_1,\sigma^2)\),\(Y_1,...,Y_n \sim \mathcal{N}(\mu_2,\sigma^2)\),检验 \(H_0: \mu_1=\mu_2\)。
$$t = \frac{\bar X - \bar Y}{S_p\sqrt{1/m+1/n}} \sim t(m+n-2)$$
$$S_p^2 = \frac{(m-1)S_X^2 + (n-1)S_Y^2}{m+n-2} \quad \text{(合并方差估计)}$$
Welch t 检验(方差不等)
$$t = \frac{\bar X - \bar Y}{\sqrt{S_X^2/m + S_Y^2/n}} \sim t(\nu)$$
$$\nu = \frac{(S_X^2/m + S_Y^2/n)^2}{\dfrac{(S_X^2/m)^2}{m-1} + \dfrac{(S_Y^2/n)^2}{n-1}} \quad \text{(Welch-Satterthwaite 自由度)}$$
配对 t 检验
设 \(D_i = X_i - Y_i\),检验 \(H_0: \mu_D = 0\),等价于单样本 t 检验:
$$t = \frac{\bar D}{S_D/\sqrt{n}} \sim t(n-1)$$
何时用配对? 当两组观测有自然对应关系(同一被试前后测、同一股票的两个时段),配对设计通过消除个体差异来提升功效。
2.3 χ² 检验
方差检验
$$\chi^2 = \frac{(n-1)S^2}{\sigma_0^2} \sim \chi^2(n-1) \quad (H_0: \sigma^2 = \sigma_0^2)$$
拟合优度检验(Goodness of Fit)
检验 \(k\) 个类别的观测频率是否符合理论分布:
$$\chi^2 = \sum_{i=1}^k \frac{(O_i - E_i)^2}{E_i} \xrightarrow{H_0} \chi^2(k-1-p)$$
其中 \(O_i\) 为观测频数,\(E_i = n p_i\) 为期望频数,\(p\) 为需估计的参数数量。要求 \(E_i \geq 5\)。
独立性检验(列联表)
对 \(r \times c\) 列联表,检验行变量与列变量独立:
$$\chi^2 = \sum_{i=1}^r\sum_{j=1}^c \frac{(O_{ij} - E_{ij})^2}{E_{ij}} \xrightarrow{H_0} \chi^2((r-1)(c-1))$$
$$E_{ij} = \frac{R_i \cdot C_j}{n}$$
2.4 F 检验
方差齐性检验
$$F = \frac{S_X^2}{S_Y^2} \sim F(m-1, n-1) \quad (H_0: \sigma_X^2 = \sigma_Y^2)$$
方差分析(ANOVA)
$$F = \frac{MS_{\text{Between}}}{MS_{\text{Within}}} = \frac{SS_B/(k-1)}{SS_W/(N-k)} \sim F(k-1, N-k)$$
$$SS_B = \sum_{j=1}^k n_j(\bar X_j - \bar X)^2, \quad SS_W = \sum_{j=1}^k \sum_{i=1}^{n_j}(X_{ij}-\bar X_j)^2$$
III · 似然比检验与 Neyman-Pearson 理论
3.1 Neyman-Pearson 引理(最优简单假设检验)
Neyman-Pearson 引理
检验 简单 对 简单 假设:\(H_0: \theta = \theta_0\) vs \(H_1: \theta = \theta_1\)。
在所有水平为 α 的检验中,以下似然比检验是最大功效的(Most Powerful, MP):
$$\phi(\mathbf{x}) = \begin{cases}1 & \text{若 } \Lambda(\mathbf{x}) = \dfrac{L(\theta_1;\mathbf{x})}{L(\theta_0;\mathbf{x})} > k \\ \gamma & \text{若 } \Lambda(\mathbf{x}) = k \\ 0 & \text{若 } \Lambda(\mathbf{x}) < k\end{cases}$$
其中 k 由 \(E_{\theta_0}[\phi(\mathbf{x})] = \alpha\) 确定(γ 为随机化参数,保证精确水平 α)。
▸ 直觉理解
似然比 Λ(x) 越大,说明数据在 \(H_1\) 下比在 \(H_0\) 下出现的可能性越大。NP 引理说的是:按 Λ 排序,在使虚警率 = α 的前提下,割取最高分位数作拒绝域,就能使检测率最大。
3.2 广义似然比检验(GLRT)
用于复合假设 \(H_0: \theta \in \Theta_0\) vs \(H_1: \theta \in \Theta_1\):
$$\Lambda(\mathbf{x}) = \frac{\sup_{\theta\in\Theta_0} L(\theta;\mathbf{x})}{\sup_{\theta\in\Theta} L(\theta;\mathbf{x})} = \frac{L(\hat\theta_0)}{L(\hat\theta_{\text{MLE}})}$$
拒绝域:\(\Lambda(\mathbf{x}) \leq c\)(等价地,\(-2\log\Lambda \geq \chi^2_\alpha(r)\)),其中 r 为约束数量。
Wilks 定理
在正则条件下,\(-2\log\Lambda \xrightarrow{d} \chi^2(r)\)(\(n\to\infty\)),其中 r = \(\dim\Theta - \dim\Theta_0\)。
3.3 一致最大功效检验(UMP)
定义
若检验 \(\phi^*\) 对 \(H_1\) 中所有 θ 都是 MP,则称 \(\phi^*\) 为一致最大功效检验(UMP)。
对指数族分布 \(f(x;\theta) = h(x)\exp[\eta(\theta)T(x) - A(\theta)]\),单调似然比(MLR)性质保证 UMP 存在:
$$H_0: \theta \leq \theta_0 \text{ vs } H_1: \theta > \theta_0 \quad \Rightarrow \quad \text{拒绝域} = \{T(\mathbf{x}) > c\}$$
UMP 的局限: 双侧备择假设 \(H_1: \theta \neq \theta_0\) 通常不存在 UMP(拒绝域左右各放一半,无法同时最优)。此时转而寻求无偏检验中的 UMP(UMPU)。
IV · 共轭先验与贝叶斯更新
在贝叶斯推断中,若先验分布与似然函数属于同一参数族,则后验分布与先验同族,称为共轭先验。
$$\underbrace{p(\theta \mid \mathbf{x})}_{\text{后验}} \propto \underbrace{L(\theta;\mathbf{x})}_{\text{似然}} \cdot \underbrace{p(\theta)}_{\text{先验}}$$
共轭的好处
先验 → 后验有解析表达式,无需 MCMC;先验超参数有直观的"伪数据"解释(如 Beta(α,β) 中 α 对应"伪成功次数");序贯更新极为方便。
4.1 Beta–Binomial 共轭
模型:\(X|\theta \sim \text{Binomial}(n, \theta)\),先验:\(\theta \sim \text{Beta}(\alpha, \beta)\)。
$$p(\theta) = \frac{\theta^{\alpha-1}(1-\theta)^{\beta-1}}{B(\alpha,\beta)}, \quad \theta \in (0,1)$$
似然:
$$L(\theta; x) = \binom{n}{x}\theta^x(1-\theta)^{n-x}$$
后验:
$$\theta | X=x \;\sim\; \text{Beta}(\alpha + x,\; \beta + n - x)$$
▸ 推导
$$p(\theta|x) \propto \theta^x(1-\theta)^{n-x} \cdot \theta^{\alpha-1}(1-\theta)^{\beta-1} = \theta^{(\alpha+x)-1}(1-\theta)^{(\beta+n-x)-1}$$
这正好是 Beta(α+x, β+n-x) 的核,故后验确为此分布。
先验均值
\(\dfrac{\alpha}{\alpha+\beta}\)
后验均值
\(\dfrac{\alpha+x}{\alpha+\beta+n}\)
后验众数(MAP)
\(\dfrac{\alpha+x-1}{\alpha+\beta+n-2}\)
后验方差
\(\dfrac{(\alpha+x)(\beta+n-x)}{(\alpha+\beta+n)^2(\alpha+\beta+n+1)}\)
超参数解释: \(\alpha\) ≈ 先验中"成功"的伪次数,\(\beta\) ≈ "失败"的伪次数,\(\alpha+\beta\) ≈ 先验信息量(等效样本量)。当 \(n \to \infty\),后验均值 → MLE \(x/n\)。
后验预测分布(边际化 θ):
$$P(\tilde X = k | X=x) = \binom{m}{k}\frac{B(\alpha+x+k,\;\beta+n-x+m-k)}{B(\alpha+x,\;\beta+n-x)}$$
即 Beta-Binomial 分布。
4.2 Gamma–Poisson 共轭
模型:\(X_1,...,X_n|\lambda \sim \text{Poisson}(\lambda)\),先验:\(\lambda \sim \text{Gamma}(a, b)\)(rate 参数化:均值 = a/b)。
$$p(\lambda) = \frac{b^a}{\Gamma(a)}\lambda^{a-1}e^{-b\lambda}, \quad \lambda > 0$$
$$\lambda | \mathbf{x} \;\sim\; \text{Gamma}\!\left(a + \sum x_i,\; b + n\right)$$
▸ 推导
$$L(\lambda) = \prod_i \frac{\lambda^{x_i}e^{-\lambda}}{x_i!} \propto \lambda^{\sum x_i}e^{-n\lambda}$$
$$p(\lambda|x) \propto \lambda^{\sum x_i}e^{-n\lambda}\cdot \lambda^{a-1}e^{-b\lambda} = \lambda^{(a+\sum x_i)-1}e^{-(b+n)\lambda}$$
后验均值
\(\dfrac{a + \sum x_i}{b + n}\)
收缩形式
\(= w\bar x + (1-w)\dfrac{a}{b}\)
其中 \(w = \dfrac{n}{n+b}\)
后验 MAP
\(\dfrac{a + \sum x_i - 1}{b + n}\)
4.3 Normal–Normal 共轭(方差已知)
模型:\(X_i|\mu \sim \mathcal{N}(\mu, \sigma^2)\)(\(\sigma^2\) 已知,n 个观测),先验:\(\mu \sim \mathcal{N}(\mu_0, \tau^2)\)。
$$\mu | \mathbf{x} \;\sim\; \mathcal{N}\!\left(\mu_n,\, \tau_n^2\right)$$
$$\frac{1}{\tau_n^2} = \frac{1}{\tau^2} + \frac{n}{\sigma^2} \qquad \mu_n = \tau_n^2\!\left(\frac{\mu_0}{\tau^2} + \frac{n\bar x}{\sigma^2}\right)$$
▸ 精度(Precision)形式推导
设精度 \(\kappa = 1/\sigma^2\),先验精度 \(\kappa_0 = 1/\tau^2\):
$$p(\mu|x) \propto \exp\!\left[-\frac{n}{2\sigma^2}(\bar x - \mu)^2 - \frac{1}{2\tau^2}(\mu-\mu_0)^2\right]$$
展开 μ 的二次项,合并 μ² 系数得精度,合并线性系数得后验均值。关键步骤:
$$\kappa_n = \kappa_0 + n\kappa, \qquad \mu_n = \frac{\kappa_0\mu_0 + n\kappa\bar x}{\kappa_n}$$
即后验均值是先验均值和样本均值的精度加权平均。
$$\mu_n = \underbrace{\frac{n/\sigma^2}{1/\tau^2+n/\sigma^2}}_{\text{数据权重}}\bar x \;+\; \underbrace{\frac{1/\tau^2}{1/\tau^2+n/\sigma^2}}_{\text{先验权重}}\mu_0$$
此为收缩估计:后验均值在先验均值与样本均值之间,权重由各自精度决定。当 \(n \to \infty\),后验 → \(\mathcal{N}(\bar x, \sigma^2/n)\)(先验被淹没)。
4.4 Normal–Gamma 共轭(均值与精度均未知)
模型:\(X_i|\mu,\lambda \sim \mathcal{N}(\mu, 1/\lambda)\),联合先验:\(\mu|\lambda \sim \mathcal{N}(\mu_0, (n_0\lambda)^{-1})\),\(\lambda \sim \text{Gamma}(a_0, b_0)\)。
Normal-Gamma 先验
\((\mu,\lambda) \sim \text{NG}(\mu_0, n_0, a_0, b_0)\)
$$p(\mu,\lambda) \propto \lambda^{a_0-\frac12}\exp\!\left[-b_0\lambda - \frac{n_0\lambda}{2}(\mu-\mu_0)^2\right]$$
更新规则(观测到 \(n\) 个样本,均值 \(\bar x\),样本方差 \(s^2\)):
$$n_n = n_0 + n, \quad \mu_n = \frac{n_0\mu_0 + n\bar x}{n_0 + n}$$
$$a_n = a_0 + \frac{n}{2}, \quad b_n = b_0 + \frac12\sum(x_i-\bar x)^2 + \frac{n_0 n(\bar x-\mu_0)^2}{2(n_0+n)}$$
边际后验 \(\mu|\mathbf{x}\) 服从 t 分布:\(\mu|\mathbf{x} \sim t_{2a_n}(\mu_n, b_n/(a_n n_n))\)。
4.5 Dirichlet–Multinomial 共轭
Beta-Binomial 到 k 个类别的推广。模型:\(\mathbf{X}|\boldsymbol\theta \sim \text{Multinomial}(n,\boldsymbol\theta)\),先验:\(\boldsymbol\theta \sim \text{Dir}(\boldsymbol\alpha)\)。
$$p(\boldsymbol\theta) = \frac{\Gamma(\sum_i \alpha_i)}{\prod_i\Gamma(\alpha_i)}\prod_i\theta_i^{\alpha_i-1}, \quad \theta_i>0, \;\sum\theta_i=1$$
$$\boldsymbol\theta|\mathbf{x} \;\sim\; \text{Dir}(\alpha_1+x_1, \alpha_2+x_2, ..., \alpha_k+x_k)$$
后验均值
\(E[\theta_i|\mathbf{x}] = \dfrac{\alpha_i+x_i}{\sum_j(\alpha_j+x_j)}\)
后验 MAP
\(\hat\theta_i = \dfrac{\alpha_i+x_i-1}{\sum_j(\alpha_j+x_j)-k}\)
均匀先验
令 \(\alpha_i=1\),后验均值 = Laplace 平滑估计
4.6 共轭分布汇总表
| 似然(模型) |
参数 |
共轭先验 |
后验超参数更新 |
| Bernoulli / Binomial |
p |
Beta(α, β) |
α + Σxᵢ,β + n − Σxᵢ |
| Poisson |
λ |
Gamma(a, b) |
a + Σxᵢ,b + n |
| Normal(σ² 已知) |
μ |
Normal(μ₀, τ²) |
精度叠加,精度加权均值 |
| Normal(μ 已知) |
σ² (精度λ) |
Gamma(a, b) / Inv-Gamma(a, b) |
a + n/2,b + Σ(xᵢ−μ)²/2 |
| Normal(均值方差均未知) |
(μ, λ) |
Normal-Gamma(μ₀,n₀,a,b) |
见 4.4 节 |
| Multinomial |
θ |
Dirichlet(α) |
αᵢ + xᵢ |
| Exponential |
λ (rate) |
Gamma(a, b) |
a + n,b + Σxᵢ |
| Negative Binomial (r 已知) |
p |
Beta(α, β) |
α + nr,β + Σxᵢ |
| Geometric |
p |
Beta(α, β) |
α + n,β + Σ(xᵢ−1) |
| Pareto (xₘ 已知) |
α (shape) |
Gamma(a, b) |
a + n,b + Σlog(xᵢ/xₘ) |
V · 贝叶斯假设检验
5.1 贝叶斯因子(Bayes Factor)
定义
贝叶斯因子 \(B_{10}\) 量化数据对 \(H_1\) 相对于 \(H_0\) 的支持程度:
$$B_{10} = \frac{P(\mathbf{x}|H_1)}{P(\mathbf{x}|H_0)} = \frac{\int L(\theta_1;\mathbf{x})p(\theta_1|H_1)d\theta_1}{\int L(\theta_0;\mathbf{x})p(\theta_0|H_0)d\theta_0}$$
$$\underbrace{\frac{P(H_1|\mathbf{x})}{P(H_0|\mathbf{x})}}_{\text{后验比}} = B_{10} \times \underbrace{\frac{P(H_1)}{P(H_0)}}_{\text{先验比}}$$
Jeffreys 判断标准
| B₁₀ | log₁₀(B₁₀) | 证据强度 |
| 1 ~ 3 | 0 ~ 0.5 | 可忽略 |
| 3 ~ 10 | 0.5 ~ 1 | 一般 |
| 10 ~ 30 | 1 ~ 1.5 | 强 |
| 30 ~ 100 | 1.5 ~ 2 | 很强 |
| > 100 | > 2 | 决定性 |
5.2 后验概率检验
直接计算后验概率,决策规则为:若 \(P(H_0|\mathbf{x}) < c\)(通常 c = 0.05 或 0.5),则拒绝 \(H_0\)。
$$P(H_0|\mathbf{x}) = \frac{P(\mathbf{x}|H_0)P(H_0)}{P(\mathbf{x}|H_0)P(H_0) + P(\mathbf{x}|H_1)P(H_1)}$$
5.3 贝叶斯可信区间(Credible Interval)
定义
可信区间 \([l,u]\) 满足 \(P(l \leq \theta \leq u | \mathbf{x}) = 1-\alpha\)。
HPD 区间(Highest Posterior Density):后验密度最高的那些 θ 值构成的最短区间,满足 HPD \(\geq\) 所有其他等覆盖率区间内的密度。
可信区间 vs 置信区间: 置信区间是"若重复实验,95% 的区间会覆盖真值"(θ 固定,区间随机);可信区间是"在数据条件下,θ 落在区间内的概率为 95%"(θ 随机,区间固定)。这是根本性的哲学差异。
对 Normal-Normal 共轭,\(\mu\) 的 \((1-\alpha)\) HPD 区间为:
$$\left[\mu_n - z_{\alpha/2}\tau_n,\; \mu_n + z_{\alpha/2}\tau_n\right]$$
VI · 例题精讲
某量化策略在过去 36 个交易月产生月超额收益(相对 benchmark),均值 \(\bar x = 0.8\%\),标准差 \(s = 2.4\%\)。检验该策略是否具有显著正 alpha(\(\alpha = 0.05\))。同时计算该 t 统计量对应的 p 值。
步骤 1:建立假设
$$H_0: \mu = 0 \qquad H_1: \mu > 0 \quad \text{(右侧检验)}$$
步骤 2:计算 t 统计量(总体方差未知,用样本标准差)
$$t = \frac{\bar x - 0}{s/\sqrt{n}} = \frac{0.8\%}{2.4\%/\sqrt{36}} = \frac{0.8}{0.4} = 2.0$$
步骤 3:确定拒绝域
自由度 \(df = 36 - 1 = 35\),右侧检验临界值 \(t_{0.05}(35) \approx 1.690\)。
由于 \(t = 2.0 > 1.690\),拒绝 \(H_0\)。
步骤 4:计算 p 值
$$p = P(t_{35} \geq 2.0) \approx 0.027$$
由于 \(p = 0.027 < 0.05\),在 5% 显著性水平下策略 alpha 显著大于零。
结论: 有足够证据表明策略具有正 alpha,但注意样本量较小,需关注过拟合风险。
分析 500 只股票,按市值(大/中/小)和收益率(正/负)分类,得如下列联表:
| 市值 | 正收益 | 负收益 | 合计 |
| 大盘 | 110 | 90 | 200 |
| 中盘 | 80 | 70 | 150 |
| 小盘 | 60 | 90 | 150 |
| 合计 | 250 | 250 | 500 |
在 α = 0.05 下检验市值与收益率是否独立。
步骤 1:假设 \(H_0\):市值与收益率独立;\(H_1\):不独立。
步骤 2:计算期望频数 \(E_{ij} = R_i C_j / n\):
$$E_{11} = \frac{200\times250}{500}=100,\quad E_{12}=100$$
$$E_{21} = \frac{150\times250}{500}=75,\quad E_{22}=75$$
$$E_{31} = 75,\quad E_{32}=75$$
步骤 3:计算 χ² 统计量
$$\chi^2 = \frac{(110-100)^2}{100}+\frac{(90-100)^2}{100}+\frac{(80-75)^2}{75}+\frac{(70-75)^2}{75}+\frac{(60-75)^2}{75}+\frac{(90-75)^2}{75}$$
$$= 1 + 1 + 0.333 + 0.333 + 3 + 3 = 8.667$$
步骤 4:拒绝判断
自由度 \(df = (3-1)(2-1) = 2\),\(\chi^2_{0.05}(2) = 5.991\)。
由于 \(8.667 > 5.991\),拒绝 \(H_0\),即市值与收益率之间存在显著关联(p ≈ 0.013)。
设 \(X \sim \mathcal{N}(\mu, 1)\),检验 \(H_0: \mu=0\) vs \(H_1: \mu=1\),样本量 n=9,显著性水平 α=0.05。
(a) 用 NP 引理导出最大功效检验;(b) 计算该检验的功效(Power);(c) 说明该检验是否为 UMP。
(a) NP 最大功效检验
对数似然比:
$$\log\Lambda = \log\frac{L(1;\mathbf{x})}{L(0;\mathbf{x})} = \sum_{i=1}^9\left[x_i - \frac{1}{2}\right] = 9\bar x - \frac{9}{2}$$
\(\Lambda > k \Leftrightarrow \bar x > c\),故拒绝域形如 \(\{\bar X > c\}\)(右侧检验)。
在 \(H_0\) 下,\(\bar X \sim \mathcal{N}(0, 1/9)\),确定 c:
$$P_{H_0}(\bar X > c) = 0.05 \Rightarrow c = z_{0.05}/\sqrt{9} = 1.645/3 \approx 0.548$$
最大功效检验:拒绝域 = \(\{\bar X > 0.548\}\)
(b) 计算功效
在 \(H_1: \mu=1\) 下,\(\bar X \sim \mathcal{N}(1, 1/9)\):
$$\text{Power} = P_{\mu=1}(\bar X > 0.548) = P\!\left(Z > \frac{0.548-1}{1/3}\right) = P(Z > -1.356) = \Phi(1.356) \approx 0.913$$
(c) UMP 讨论
对单侧备择 \(H_1: \mu > 0\),正态族具有 MLR 性质(充分统计量 \(\bar X\) 在 μ 方向单调),故同样的拒绝域 \(\{\bar X > 0.548\}\) 是 UMP 检验(对所有 \(\mu > 0\) 均最大功效)。但对双侧备择 \(H_1: \mu \neq 0\) 则不是 UMP。
某量化信号的"命中率"(预测方向正确的概率)\(\theta\) 未知。历史基础判断认为命中率约 55%,等效信息量约 20 次交易。
新的 60 笔交易中,35 笔方向预测正确。
(a) 写出先验分布;(b) 求后验分布;(c) 求后验均值和 95% 可信区间;(d) 检验 \(H_0: \theta \leq 0.5\)(计算后验概率)。
(a) 先验
等效样本量 20,先验均值 0.55:
$$\frac{\alpha}{\alpha+\beta}=0.55,\quad \alpha+\beta=20 \;\Rightarrow\; \alpha=11,\;\beta=9$$
$$\theta \sim \text{Beta}(11, 9)$$
(b) 后验
$$\theta | \text{data} \sim \text{Beta}(11+35,\; 9+25) = \text{Beta}(46,\; 34)$$
(c) 后验均值与可信区间
$$E[\theta|\text{data}] = \frac{46}{46+34} = \frac{46}{80} = 0.575$$
Beta(46,34) 近似于 \(\mathcal{N}(0.575, \sigma^2)\),后验标准差:
$$\sigma_n = \sqrt{\frac{46\times34}{80^2\times81}} \approx \sqrt{\frac{1564}{518400}} \approx 0.0549$$
95% HPD 近似可信区间(利用正态近似):
$$[0.575 - 1.96\times0.0549,\; 0.575+1.96\times0.0549] \approx [0.467,\; 0.683]$$
(d) 检验 \(H_0: \theta \leq 0.5\)
$$P(\theta \leq 0.5 | \text{data}) = I_{0.5}(46, 34) \approx 0.067$$
(利用不完全 Beta 函数)
后验概率约 6.7%,即 \(P(\theta > 0.5 | \text{data}) \approx 93.3\%\)。在 95% 可信水平下尚不能完全排除 \(\theta \leq 0.5\),但证据支持命中率确实高于 50%。
某因子收益率 \(\mu\) 有先验 \(\mu \sim \mathcal{N}(0, \tau^2=0.04)\)(年化 Sharpe 的先验方差为 0.04)。观测到 T=25 年的年化超额收益样本均值 \(\bar x = 0.12\),已知 \(\sigma^2 = 0.04\)(年化收益率方差)。
(a) 求后验分布;(b) 后验均值和后验方差;(c) 与 MLE 比较并解释收缩效应。
(a) 后验分布
先验精度 \(\kappa_0 = 1/\tau^2 = 25\),数据精度 \(n/\sigma^2 = 25/0.04 = 625\):
$$\frac{1}{\tau_n^2} = 25 + 625 = 650 \;\Rightarrow\; \tau_n^2 = 1/650 \approx 0.00154$$
$$\mu_n = \frac{25\times0 + 625\times0.12}{650} = \frac{75}{650} \approx 0.1154$$
$$\mu|\text{data} \sim \mathcal{N}(0.1154,\; 0.00154)$$
(b) 后验均值 & 方差
后验均值 ≈ 0.1154,后验标准差 ≈ 0.0392。
(c) 收缩分析
MLE 估计为 \(\bar x = 0.12\),后验均值为 0.1154,向先验均值 0 收缩了约 3.8%。
$$\mu_n = \underbrace{\frac{625}{650}}_{w=0.962}\times0.12 + \underbrace{\frac{25}{650}}_{1-w=0.038}\times 0 = 0.1154$$
由于数据精度(625)远高于先验精度(25),数据主导,收缩很小。若 T 减小(历史数据少),收缩效应更显著——这正是詹姆斯-斯坦因(James-Stein)收缩在实际因子选股中的应用原理。
检验一枚硬币是否公平。先验 \(P(H_0: \theta=0.5) = P(H_1) = 0.5\),\(H_1\) 下 \(\theta \sim \text{Beta}(1,1)\)(均匀先验)。投掷 10 次得 7 次正面。
(a) 计算边际似然 \(P(\mathbf{x}|H_0)\) 和 \(P(\mathbf{x}|H_1)\);(b) 计算贝叶斯因子;(c) 计算后验概率 \(P(H_0|\mathbf{x})\)。
(a) 边际似然
$$P(\mathbf{x}|H_0) = \binom{10}{7}(0.5)^7(0.5)^3 = 120 \times \frac{1}{1024} = \frac{120}{1024} \approx 0.1172$$
在 \(H_1\) 下(对 Beta(1,1) 先验积分):
$$P(\mathbf{x}|H_1) = \binom{10}{7}\int_0^1 \theta^7(1-\theta)^3 \cdot 1\, d\theta = \binom{10}{7} B(8,4)$$
$$= 120 \times \frac{\Gamma(8)\Gamma(4)}{\Gamma(12)} = 120 \times \frac{7!\cdot 3!}{11!} = 120 \times \frac{5040\times6}{39916800}$$
$$= 120 \times \frac{30240}{39916800} = 120 \times \frac{1}{1320} = \frac{120}{1320} = \frac{1}{11} \approx 0.0909$$
(b) 贝叶斯因子(支持 \(H_0\) 对 \(H_1\))
$$B_{01} = \frac{P(\mathbf{x}|H_0)}{P(\mathbf{x}|H_1)} = \frac{120/1024}{1/11} = \frac{120\times11}{1024} = \frac{1320}{1024} \approx 1.289$$
即 \(B_{10} = 1/B_{01} \approx 0.776\),数据对 \(H_0\) 略有支持,但证据极弱(Jeffreys 标准下"可忽略")。
(c) 后验概率
$$P(H_0|\mathbf{x}) = \frac{B_{01}\times P(H_0)/P(H_1)}{1+B_{01}\times P(H_0)/P(H_1)} = \frac{1.289\times1}{1+1.289\times1} = \frac{1.289}{2.289} \approx 0.563$$
7次正面/10次投掷后,硬币公平的后验概率约 56.3%——数据不足以提供强证据说明硬币不公平,这与频率派 p 值(单侧 p ≈ 0.172,双侧 p ≈ 0.344)的结论一致。
VII · 快速参考:关键分布分位数
| 分布 | α=0.10 | α=0.05 | α=0.025 | α=0.01 | α=0.005 |
| \(\mathcal{N}(0,1)\)(单尾) | 1.282 | 1.645 | 1.960 | 2.326 | 2.576 |
| t(10) | 1.372 | 1.812 | 2.228 | 2.764 | 3.169 |
| t(30) | 1.310 | 1.697 | 2.042 | 2.457 | 2.750 |
| \(\chi^2(1)\) | 2.706 | 3.841 | 5.024 | 6.635 | 7.879 |
| \(\chi^2(2)\) | 4.605 | 5.991 | 7.378 | 9.210 | 10.597 |
| \(\chi^2(5)\) | 9.236 | 11.070 | 12.833 | 15.086 | 16.750 |
| F(1,30) | 2.88 | 4.17 | — | 7.56 | — |