Значение, которое увеличивает стандартное отклонение

12

Я озадачен следующим утверждением:

«Чтобы увеличить стандартное отклонение набора чисел, вы должны добавить значение, которое больше, чем одно стандартное отклонение от среднего значения»

Что является доказательством этого? Я, конечно, знаю, как мы определяем стандартное отклонение, но эта часть мне как-то не хватает. Любые комментарии?

standard-deviation

— JohnK
источник

1

Вы пытались отработать алгебру?

— Алекос Пападопулос

Да, у меня есть. Я вычел выборочную дисперсию n значений из дисперсии n + 1 значений, и я потребовал, чтобы разница была больше нуля. И все же я не могу понять это.

— JohnK

3

Один из самых простых способов - дифференцировать алгоритм Уэлфорда по новому значению а затем интегрировать, чтобы показать, что если введение увеличивает дисперсию, то где является средним значением первых значений, а является их оценкой дисперсии.

x_{n}

$x_n$

x_{n}

$x_n$

(x_{n} - {\bar{x}}_{n - 1})^{2} \geq \frac{n}{n - 1} v_{n - 1}

$(x_n-\bar{x}_{n-1})^2 \ge \frac{n}{n-1}v_{n-1}$

{\bar{x}}_{n - 1}

$\bar{x}_{n-1}$

n - 1

$n-1$

v_{n - 1}

$v_{n-1}$

— whuber

Хорошо, но может ли это быть показано простой алгеброй? Мои знания в области статистики не настолько развиты.

— JohnK

@JohnK, не могли бы вы поделиться источником цитаты?

— Пе Дро

20

Для любых чисел со средним значением , дисперсия определяется как Применение к данному набору из чисел которые для удобства изложения мы берем среднее значение , имеем $N$ $y_1,y_2, \ldots, y_N$ $\displaystyle \bar{y} = \frac{1}{N}\sum_{i=1}^N y_i$

\begin{aligned} σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i} - \bar{y})^{2} \\ = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - 2 y_{i} \bar{y} + {\bar{y}}^{2}) \\ = \frac{1}{N - 1} [(\sum_{i = 1}^{N} y_{i}^{2}) - 2 N (\bar{y})^{2} + N (\bar{y})^{2}] \\ (1) & σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - (\bar{y})^{2}) \end{aligned}

$\begin{align} \sigma^2 &= \frac{1}{N-1}\sum_{i=1}^N (y_i-\bar{y})^2\\ &= \frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - 2y_i\bar{y} + \bar{y}^2\right)\\ &= \frac{1}{N-1}\left[\left(\sum_{i=1}^Ny_i^2\right) - 2N(\bar{y})^2 + N(\bar{y})^2 \right] \\ \sigma^2 &=\frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - (\bar{y})^2\right) \tag{1} \end{align}$

(1)

$(1)$

n

$n$

x_{1}, x_{2}, \dots x_{n}

$x_1, x_2, \ldots x_n$

\bar{x} = 0

$\bar{x} = 0$

σ^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i}^{2} - (\bar{x})^{2}) = \frac{1}{n - 1} \sum_{i = 1}^{n} x_{i}^{2}

$\sigma^2 = \frac{1}{n-1}\sum_{i=1}^n \left(x_i^2-(\bar{x})^2\right) = \frac{1}{n-1}\sum_{i=1}^n x_i^2$ Если теперь мы добавим новое наблюдение к этому набору данных, то новое среднее значение этого набора данных будет то время как новая дисперсия Soдолжен быть больше чем

x_{n + 1}

$x_{n+1}$

\frac{1}{n + 1} \sum_{i = 1}^{n + 1} x_{i} = \frac{n \bar{x} + x_{n + 1}}{n + 1} = \frac{x_{n + 1}}{n + 1}

$\frac{1}{n+1}\sum_{i=1}^{n+1}x_i = \frac{n\bar{x} + x_{n+1}}{n+1} = \frac{x_{n+1}}{n+1}$

\begin{aligned} {\hat{σ}}^{2} & = \frac{1}{n} \sum_{i = 1}^{n + 1} (x_{i}^{2} - \frac{x_{n + 1}^{2}}{(n + 1)^{2}}) \\ = \frac{1}{n} [((n - 1) σ^{2} + x_{n + 1}^{2}) - \frac{x_{n + 1}^{2}}{n + 1}] \\ = \frac{1}{n} [(n - 1) σ^{2} + \frac{n}{n + 1} x_{n + 1}^{2}] \\ > σ^{2} only if x_{n + 1}^{2} > \frac{n + 1}{n} σ^{2} . \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \frac{1}{n}\sum_{i=1}^{n+1} \left(x_i^2-\frac{x_{n+1}^2}{(n+1)^2}\right)\\ &= \frac{1}{n}\left[\left((n-1)\sigma^2 + x_{n+1}^2\right) - \frac{x_{n+1}^2}{n+1}\right]\\ &= \left.\left.\frac{1}{n}\right[(n-1)\sigma^2 + \frac{n}{n+1}x_{n+1}^2\right]\\ &> \sigma^2 ~ \text{only if}~ x_{n+1}^2 > \frac{n+1}{n}\sigma^2. \end{align}$

| x_{n + 1} |

$|x_{n+1}|$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$ или, в более общем смысле, должен отличаться от среднего значения исходных данных, установленного более чем на , чтобы расширенный набор данных имел большую дисперсию, чем исходный набор данных. См. Также ответ Рэя Купмана, в котором указано, что новая дисперсия больше, равна или меньше, чем исходная дисперсия в соответствии с отличается от среднего более, чем точно, или меньше, чем .

x_{n + 1}

$x_{n+1}$

\bar{x}

$\bar{x}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

x_{n + 1}

$x_{n+1}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

— Дилип Сарватэ
источник

5

+1 Наконец кто - то получает это право ... ;-) Заявление будет доказано , является правильным; это просто не туго. Кстати, вы также можете выбрать свои единицы измерения, чтобы сделать , что еще больше упрощает вычисление, сокращая его примерно до двух строк.

σ^{2} = 1

$\sigma^2=1$

— whuber

Я предлагаю вам использовать S вместо сигмы в первом наборе уравнений и спасибо за вывод. Это было приятно знать :)

— Теоден

3

Загадочное утверждение дает необходимое, но недостаточное условие для увеличения стандартного отклонения. Если старый размер выборки равен , старое среднее значение равно , старое стандартное отклонение равно , а к данным добавляется новая точка , то новое стандартное отклонение будет меньше, равно или больше соответствии с какменьше, равно или больше . $n$ $m$ $s$ $x$ $s$ $|x-m|$ $s\sqrt{1+1/n}$

— Рэй Купман
источник

1

У вас есть доказательства под рукой?

— JohnK

2

Оставляя в стороне алгебру (которая также работает), подумайте об этом следующим образом: стандартное отклонение - это квадратный корень из дисперсии. Дисперсия - это среднее значение квадратов расстояний от среднего. Если мы добавим значение, которое ближе к среднему значению, чем это, дисперсия будет уменьшаться. Если мы добавим значение, которое находится дальше от среднего значения, оно будет расти.

Это верно для любого среднего значения, которые неотрицательны. Если вы добавите значение, которое выше среднего, среднее значение возрастет. Если вы добавите значение, которое меньше, оно уменьшается.

— Питер Флом - Восстановить Монику
источник

Я бы тоже хотел увидеть строгое доказательство. Хотя я понимаю принцип, я озадачен тем фактом, что значение должно быть как минимум на 1 отклонение от среднего. Почему именно 1?

— JohnK

Я не вижу, что смущает. Дисперсия средняя. Если вы добавляете что-то большее, чем среднее (то есть более 1 SD), оно увеличивается. Но я не один для официальных доказательств

— Питер Флом - Восстановить Монику

Это может быть больше среднего на 0,2 стандартных отклонения. Почему бы тогда не увеличить?

— JohnK

Нет, не больше среднего значения данных, больше дисперсии, которая является средним квадратом расстояний.

— Питер Флом - Восстановить Монику

4

Это сбивает с толку, потому что включение нового значения меняет среднее значение, поэтому все остатки изменяются. Возможно, что даже когда новое значение далеко от старого среднего, его вклад в SD может быть компенсирован уменьшением суммы квадратов остатков других значений. Это одна из многих причин, по которым полезны строгие доказательства: они обеспечивают не только безопасность знаний, но и понимание (и даже новую информацию). Например, доказательство покажет, что вам нужно добавить новое значение, которое строго дальше, чем одно SD от среднего значения, чтобы увеличить SD.

— whuber

2

Я начну с алгебры, но не буду полностью. Сначала стандартизируйте ваши данные, вычтя среднее значение и разделив на стандартное отклонение:Обратите внимание, что если находится в пределах одного стандартного отклонения от среднего значения, находится в диапазоне от -1 до 1. Z будет равно 1, если точно на расстоянии 1 с от среднего. Затем посмотрите на ваше уравнение для стандартного отклонения: Что происходит с если находится между -1 и 1?

Z = \frac{x - μ}{σ} .

$Z = \frac{x-\mu}{\sigma} .$

x

$x$

Z

$Z$

x

$x$

σ = \sqrt{\frac{\sum_{i = 1}^{N} Z_{i}^{2}}{N - 1}}

$\sigma = \sqrt{\frac{\sum_{i=1}^{N}Z_i^2}{N-1}}$

σ

$\sigma$

Z_{N}

$Z_N$

— wcampbell
источник

Число, абсолютное значение которого меньше 1, в квадрате оно также будет меньше 1 в абс. значение. Но что я не понимаю, так это то, что даже если Z_N попадает в эту категорию, мы добавляем положительное значение к σ, поэтому не должно ли оно увеличиваться?

— JohnK

Да, вы добавляете положительное значение, но оно будет меньше вашего среднего отклонения от среднего и, следовательно, уменьшит сигму. Возможно, было бы более разумно рассматривать значение как .

Z_{N + 1}

$Z_{N+1}$

— wcampbell

1

1) Не забывайте, что когда вы добавляете это значение, вы также увеличиваете на 1. 2) Вы не добавляете это значение в , вы добавляете его в .

N

$N$

σ

$\sigma$

\sum Z_{i}^{2}

$\sum Z_i^2$

— jbowman

Именно то, что я пытался выразить!

— wcampbell

Это не так просто: в этом ответе вы вычислили SD, как если бы новое значение уже было частью набора данных. Вместо этого необходимо стандартизировать относительно SD и среднего значения только первых значений, а не всех.

Z_{i}

$Z_i$

N - 1

$N-1$

— whuber