Когда нарушается закон больших чисел?


13

Вопрос заключается в том, что указано в заголовке: когда закон больших чисел не работает? Я имею в виду, в каких случаях частота события не будет стремиться к теоретической вероятности?

Ответы:


10

Есть две теоремы (Колмогорова), и обе требуют, чтобы ожидаемое значение было конечным. Первое имеет место, когда переменные являются IID, второе, когда выборка независима и дисперсия удовлетворяетXn

∑n=1∞V(Xn)n2<∞

Скажем, что все имеют ожидаемое значение 0, но их дисперсия равна n 2Xnn2 так что условие явно не выполняется. Что происходит потом? Вы все еще можете вычислить приблизительное среднее значение, но это значение не будет стремиться к 0, когда вы выбираете глубже и глубже. Это будет иметь тенденцию отклоняться все больше и больше, когда вы продолжаете выборку.

Давайте приведем пример. Скажем, что является равномерным U ( - n 2 nXn так что указанное выше условие не выполняется эпически.U(−n2n,n2n)

∑n=1∞V(Xn)n2=∑n=1∞n222n+2121n2=13∑n=1∞4n=∞.

Отмечая, что

X¯n=Xnn+n−1nX¯n−1,

по индукции мы видим, что вычисленное среднее всегда находится в интервале ( - 2 n , 2 n ) . Используя ту же формулу для п + 1 , мы видим , что всегда есть шанс больше , чем 1 / 8 , что ˉ X п + 1 лежит вне ( - 2 пX¯n(−2n,2n)n+11/8X¯n+1 . Действительно, X n + 1(−2n,2n) является равномернымU(-2n+1,2n+1)и лежит снаружи(-2n,2Xn+1n+1U(−2n+1,2n+1) с вероятностью 1 /(−2n,2n) . С другой стороны, н1/4в(-2л,2л)по индукции, асилу симметрии она положительна с вероятностью1/2. Из этих наблюдений непосредственно следуетчто ˉ Х п+1большечем2лили меньше-2л, каждый с вероятностью большечем1/16. Поскольку вероятность того, что| ˉ X n+1| >nn+1X¯n(−2n,2n)1/2X¯n+12n−2n1/16 больше 1|X¯n+1|>2n , не может быть сходимость к 0 при п стремится к бесконечности.1/8n

Теперь, чтобы конкретно ответить на ваш вопрос, рассмотрим событие . Если я правильно понял, вы спросите: «При каких условиях следующее утверждение неверно?»A

limn→∞1n∑k=1n1A(Xk)=P(X∈A),[P]a.s.

где является индикаторной функцией события A , т.е. 1 A ( X k ) = 1, если X k ∈ A и 0 в противном случае и X k1AA 1A(Xk)=1Xk∈A0Xk распределены одинаково (и распределены как ).X

Xk

XkИкс1К тогда соотношение будет равно 1 или 0, независимо от значения N, поэтому сходимости не происходит (если только Aимеет вероятность 0 или 1, конечно). Это фальшивый и экстремальный пример. Мне не известны практические случаи, когда сближение с теоретической вероятностью не произойдет. Тем не менее, потенциальность существует, если выборка не является независимой.


One comment. On wikipedia (lnl page) i have read that the non finiteness of variance only decelerate the convergence of the mean value. Is different from what you states?
— emanuele

2
Вы двое обсуждаете один и тот же закон? Вопрос спрашивает о частоте событий, в то время как этот ответ, кажется, фокусируется на выборочном распределении среднего . Хотя связь существует, она, насколько я могу судить, еще не была явно показана здесь.
— whuber

@whuber True. I focused too much on the title of the question. Thanks for pointing. I updated the answer.
— gui11aume

@gui11aume i don't understand "We see that the condition above will hold, because the variance of an indicator function is bounded above by 1/4.". What does it means?
— emanuele

1
If they are identically distributed, but not independent, the limit in question may not exist at all.
— cardinal
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.