Это очень простой вопрос. Почему мы используем распределение хи-квадрат? В чем смысл этого распределения? Почему это распределение используется для создания доверительного интервала для дисперсии?

Каждое место, где я пытаюсь найти объяснение, просто представляет этот факт, объясняет, когда использовать ци, но не объясняет, почему использовать ци и почему оно выглядит так, как оно.

Большое спасибо всем, кто может указать мне правильное направление, и это - действительно понимание, почему я использую ци, когда создаю доверительный интервал для дисперсии.

Быстрый ответ

Причина в том, что, предполагая, что данные $X_i\sim N(\mu,\sigma^2)$ , и определяя

$$\begin{eqnarray*} \bar{X}&=&\sum^N \frac{X_i}{N}\\ S^2 &=& \sum^{N} \frac{(\bar{X}-X_i)^2}{N-1} \end{eqnarray*}$$ при формировании доверительных интервалов, распределение выборки, связанное с выборочной дисперсией ($S^2$, помните, случайная величина!), Является распределением хи-квадрат ($S^2(N-1)/\sigma^2 \sim \chi^2_{n-1}$ ), так же как распределение выборки, связанное со средним значением выборки, является стандартным нормальным распределением ($(\bar{X}-\mu)\sqrt{n}/\sigma \sim Z(0,1)$ ), когда вы знаете дисперсию, и с t-студентом, когда вы не знаете ($(\bar{X}-\mu)\sqrt{n}/S \sim T_{n-1}$ ).

Длинный ответ

Прежде всего, мы докажем, что $S^2(N-1)/\sigma^2$ следует распределению хи-квадрат с$N-1$ степенями свободы. После этого мы увидим, как это доказательство полезно при получении доверительных интервалов для дисперсии, и как появляется распределение хи-квадрат (и почему оно так полезно!). Давайте начнем.

Доказательство

Для этого, возможно, вы должны привыкнуть к распределению хи-квадрат в этой статье Википедии . Это распределение имеет только один параметр: степени свободы, , и, случается, имеет функцию генерации момента (MGF), определяемую как m χ 2 ν ( t ) = ( 1 - 2 t ) - ν / 2 . Если мы покажем, что распределение S 2 ( N - 1 ) / σ 2 имеет функцию, порождающую моменты, как эта, но с ν $\nu$

$$\begin{equation*} m_{\chi^2_\nu}(t)=(1-2t)^{-\nu/2}. \end{equation*}$$ $S^2(N-1)/\sigma^2$ , то мы показали, что S 2 ( N - 1 ) / σ 2 следует распределению хи-квадрат с N - 1 степенями свободы. Чтобы показать это, обратите внимание на два факта:$\nu=N-1$$S^2(N-1)/\sigma^2$$N-1$

1. Если мы определим, гдеZi∼N(0

   $$\begin{equation*} Y = \sum \frac{(X_i-\bar{X})^2}{\sigma^2} = \sum Z_i^2, \end{equation*}$$ , т. е. для стандартных нормальных случайных величин, производящая момент функция Y задается как m Y ( t $Z_i\sim N(0,1)$$Y$ MGF дляZ2определяется как m Z 2 ( t $$\begin{eqnarray*} m_Y(t) &=& \mathbb{E}[e^{tY}]\\ &=&\mathbb{E}[e^{tZ_1^2}]\times \mathbb{E}[e^{tZ_2^2}]\times ...\mathbb{E}[e^{tZ_N^2}]\\ &=&m_{Z_i^2}(t)\times m_{Z_2^2}(t)\times ...m_{Z_N^2}(t). \end{eqnarray*}$$ $Z^2$ где использовали PDF стандартного нормального,ф(г $$\begin{eqnarray*} m_{Z^2}(t) &=& \int_{-\infty}^{\infty} f(z)\exp(tz^2)dz\\ &=&(1-2t)^{-1/2}, \end{eqnarray*}$$ и, следовательно, mY(t)=(1-2t) - N $f(z)=e^{-z^2/2}/\sqrt{2\pi}$ чегоследует, что Y следует распределению хи-квадрат с N степенями свободы. $$\begin{equation*} m_Y(t)=(1-2t)^{-N/2}, \end{equation*}$$ $Y$$N$

2. Если и Y 2 независимы и каждый из них распределен как распределение хи-квадрат, но с ν 1 и ν 2 степенями свободы, то W = Y 1 + Y $Y_1$$Y_2$$\nu_1$$\nu_2$$W=Y_1+Y_2$$\nu_1+\nu_2$$W$

$N-1$

$$\begin{equation*} (N-1)S^2 = -n(\bar{X}-\mu)+\sum(X_i-\mu)^2, \end{equation*}$$ $\sigma^2$ $$\begin{equation*} \frac{(N-1)S^2}{\sigma^2}+\frac{(\bar{X}-\mu)^2}{\sigma^2/N}=\sum \frac{(X_i-\mu)^2}{\sigma^2}. \end{equation*}$$ $N$$S^2(N-1)/\sigma^2$$N-1$

Расчет доверительного интервала для дисперсии.

$L_1$$L_2$

$$\begin{equation*} \mathbb{P}\left(L_1\leq \sigma^2 \leq L_2\right) = 1-\alpha. \end{equation*}$$ $S^2(N-1)$ $$\begin{equation*} \frac{L_1}{S^2(N-1)}\leq \frac{\sigma^2}{S^2(N-1)} \leq \frac{L_2}{S^2(N-1)}. \end{equation*}$$ $S^2(N-1)/\sigma^2$$N-1$ $$\begin{eqnarray*} \frac{L_1}{S^2(N-1)}\leq \frac{\sigma^2}{S^2(N-1)} &\Rightarrow& \frac{S^2(N-1)}{\sigma^2}\leq \frac{S^2(N-1)}{L_1},\\ \frac{\sigma^2}{S^2(N-1)} \leq \frac{L_2}{S^2(N-1)} &\Rightarrow& \frac{S^2(N-1)}{L_2} \leq \frac{S^2(N-1)}{\sigma^2},\\ \end{eqnarray*}$$ $$\begin{equation*} \mathbb{P}\left(\frac{S^2(N-1)}{L_2} \leq \frac{S^2(N-1)}{\sigma^2}\leq \frac{S^2(N-1)}{L_1}\right) = 1-\alpha. \end{equation*}$$ $S^2(N-1)/\sigma^2 \sim \chi^2(N-1)$ $$\begin{eqnarray*} \int_{\frac{S^2(N-1)}{L_2}}^{N-1}p_{\chi^2}(x)dx &=& (1-\alpha)/2\ \ \ ,\\ \int_{N-1}^{\frac{S^2(N-1)}{L_1}}p_{\chi^2}(x)dx &=& (1-\alpha)/2\ \ \, \end{eqnarray*}$$ (we integrate up to $N-1$ because the expected value of a chi-squared random variable with $N-1$ degrees of freedom is $N-1$) or, equivalently, $$\begin{eqnarray*} \int_{0}^{\frac{S^2(N-1)}{L_2}}p_{\chi^2}(x)dx=\alpha/2,\\ \int_{\frac{S^2(N-1)}{L_1}}^{\infty}p_{\chi^2}(x)dx=\alpha/2. \end{eqnarray*}$$ Calling $\chi^2_{\alpha/2}=\frac{S^2(N-1)}{L_2}$ and $\chi^2_{1-\alpha/2}= \frac{S^2(N-1)}{L_1}$, where the values $\chi^2_{\alpha/2}$ and $\chi^2_{1-\alpha/2}$ can be found in chi-square tables (in computers mainly!) and solving for $L_1$ and $L_2$, $$\begin{eqnarray*} L_1 &=& \frac{S^2(N-1)}{\chi^2_{1-\alpha/2}},\\ L_2 &=& \frac{S^2(N-1)}{\chi^2_{\alpha/2}}. \end{eqnarray*}$$ Hence, your confidence interval for the variance is $$\begin{equation*} C.I.=\left(\frac{S^2(N-1)}{\chi^2_{1-\alpha/2}}, \frac{S^2(N-1)}{\chi^2_{\alpha/2}}\right). \end{equation*}$$