逆威沙特分布

逆威沙特分布，也叫反威沙特分布作是统计学中出现的一类概率分布函数，定义在实值的正定矩阵上。在贝叶斯统计中，逆威沙特分布会用作多变量正态分布协方差矩阵的共轭先验分布。 如果一个正定矩阵 ${\mathbf {B} }$ 的逆矩阵 $\mathbf {B} ^{-1}$ 遵从威沙特分布 $W({\mathbf {\Psi } }^{-1},m)$ 的话，那么就说矩阵 ${\mathbf {B} }$ 遵从逆威沙特分布：

逆威沙特分布

参数	$m>p-1\!$ 自由度 (实数) $\mathbf {\Psi } >0\,$ 尺度矩阵 (正定)
值域	$\mathbf {W} \!$是正定的
概率密度函数	${\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|B\right|^{-(m+p+1)/2}e^{-\mathrm {trace} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}}{2^{mp/2}\Gamma _{p}(m/2)}}$
期望	${\frac {\mathbf {\Psi } }{m-p-1}}$
众数	${\frac {\mathbf {\Psi } }{m+p+1}}$

$\mathbf {B} \sim W^{-1}({\mathbf {\Psi } },m)$

概率密度函数

逆威沙特分布的概率密度函数是：

${\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|\mathbf {B} \right|^{-(m+p+1)/2}e^{-\mathrm {trace} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}}{2^{mp/2}\Gamma _{p}(m/2)}},$

其中 ${\mathbf {B} }$ 和 ${\mathbf {\Psi } }$ 都是 $p\times p$ 的正定矩阵，而Γ_p(·) 则是多变量伽马分布。函数

$\mathrm {trace} \;:\quad \mathbf {M} \quad \rightarrow \quad \mathrm {trace} (\mathbf {M} )$

指的是迹函数。

相关定理

威沙特分布矩阵之逆的概率分布

设矩阵${\mathbf {A} }\sim W({\mathbf {\Sigma } },m)$ 并且 ${\mathbf {\Sigma } }$ 是$p\times p$ 的矩阵，那么 ${\mathbf {B} }={\mathbf {A} }^{-1}$ 遵从逆威沙特分布：${\mathbf {B} }\sim W^{-1}({\mathbf {\Sigma } }^{-1},m)$。它的概率密度函数是：

$p(\mathbf {B} |\mathbf {\Psi } ,m)={\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|\mathbf {B} \right|^{-(m+p+1)/2}\exp \left({-\mathrm {tr} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}\right)}{2^{mp/2}\Gamma _{p}(m/2)}}$

其中 $\mathbf {\Psi } =\mathbf {\Sigma } ^{-1}$，而 $\Gamma _{p}(\cdot )$ 是多变量伽马分布。

威沙特分布矩阵之逆的边际与条件分布

设矩阵 ${\mathbf {A} }\sim W^{-1}({\mathbf {\Psi } },m)$ 遵从逆威沙特分布。并且假设矩阵 ${\mathbf {A} }$ 和 ${\mathbf {\Psi } }$ 都有相适合的分块矩阵表示方式：

${\mathbf {A} }={\begin{bmatrix}\mathbf {A} _{11}&\mathbf {A} _{12}\\\mathbf {A} _{21}&\mathbf {A} _{22}\end{bmatrix}},\;{\mathbf {\Psi } }={\begin{bmatrix}\mathbf {\Psi } _{11}&\mathbf {\Psi } _{12}\\\mathbf {\Psi } _{21}&\mathbf {\Psi } _{22}\end{bmatrix}}$

其中子矩阵 ${\mathbf {A} _{ij}}$ 和 ${\mathbf {\Psi } _{ij}}$ 是 $p_{i}\times p_{j}$ 的矩阵，那么会有：

甲）${\mathbf {A} _{11}}$ 和 ${\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}$ 与 ${\mathbf {A} }_{22\cdot 1}$ 相互独立，其中 ${\mathbf {A} _{22\cdot 1}}={\mathbf {A} }_{22}-{\mathbf {A} }_{21}{\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}$ 是子矩阵 ${\mathbf {A} _{11}}$ 在 ${\mathbf {A} }$ 中的舒尔补。

乙） ${\mathbf {A} _{11}}\sim W^{-1}({\mathbf {\Psi } _{11}},m-p_{2})$;

丙） ${\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}|{\mathbf {A} }_{22\cdot 1}\sim MN_{p_{1}\times p_{2}}({\mathbf {\Psi } }_{11}^{-1}{\mathbf {\Psi } }_{12},{\mathbf {A} }_{22\cdot 1}\otimes {\mathbf {\Psi } }_{11}^{-1})$，其中 $MN_{p\times q}(\cdot ,\cdot )$ 是矩阵正态分布。

丁）${\mathbf {A} }_{22\cdot 1}\sim W^{-1}({\mathbf {\Psi } }_{22\cdot 1},m)$

共轭分布

假设要求先验分布 ${p(\mathbf {\Sigma } )}$ 为逆威沙特分布 $W^{-1}({\mathbf {\Psi } },m)$ 的协方差矩阵${\mathbf {\Sigma } }$。如果观测值 $\mathbf {X} =[\mathbf {x} _{1},\ldots ,\mathbf {x} _{n}]$ 是从互相独立的 p-变量正态分布 $N(\mathbf {0} ,{\mathbf {\Sigma } })$ 的随机变量得到的，那么条件分布 ${p(\mathbf {\Sigma } |\mathbf {X} )}$ 遵从的是逆威沙特分布：$W^{-1}({\mathbf {A} }+{\mathbf {\Psi } },n+m)$。其中 ${\mathbf {A} }=\mathbf {X} \mathbf {X} ^{T}$ 是样本协方差矩阵的$n$倍。

因此，逆威沙特矩阵是多变量正态分布的共轭先验分布。

矩相关特性

期望：

$E(\mathbf {B} )={\frac {\mathbf {\Psi } }{m-p-1}}.$

矩阵 $\mathbf {B}$ 的每一个系数的方差：

${\mbox{var}}(b_{ij})={\frac {(m-p+1)\psi _{ij}^{2}+(m-p-1)\psi _{ii}\psi _{jj}}{(m-p)(m-p-1)^{2}(m-p-3)}}$

对角系数的方差是在上式中令 $i=j$ 得到，化简后变成：

${\mbox{var}}(b_{ii})={\frac {2\psi _{ii}^{2}}{(m-p-1)^{2}(m-p-3)}}.$

相关分布

当变量数目减到一个的时候，逆威沙特分布会变成特例：逆伽马分布。也就是说，当 $p=1$、$\alpha =m/2$、$\beta =\mathbf {\Psi } /2$ 以及 $x=\mathbf {B}$ 的时候，逆威沙特分布的概率密度函数是：

$p(x|\alpha ,\beta )={\frac {\beta ^{\alpha }\,x^{-\alpha -1}\exp(-\beta /x)}{\Gamma _{1}(\alpha )}}.$

这正是逆伽马分布。其中 $\Gamma _{1}(\cdot )$ 是通常的伽马函数。

而逆威沙特分布也有推广，其中一个是正态逆威沙特分布。

参见

• 威沙特分布
• 矩阵正态分布