Вопросы с тегом «probability-inequalities»

Я ищу некоторые вероятностные неравенства для сумм неограниченных случайных величин. Я был бы очень признателен, если кто-нибудь может дать мне некоторые мысли. Моя задача состоит в том, чтобы найти экспоненциальную верхнюю границу вероятности того, что сумма неограниченных случайных величин iid, которые на самом деле являются умножением двух iid Gaussian, превышает …

37 probability  mathematical-statistics  probability-inequalities  mgf 

Меня интересует следующая односторонняя версия неравенства Чебышева Кантелли : P ( X- E ( X) ≥ t ) ≤ V a r ( X)V a r (X) + т2,п(Икс-Е(Икс)≥T)≤Вaр(Икс)Вaр(Икс)+T2, \mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,. По сути, если вы знаете среднее значение и …

32 probability  mathematical-statistics  probability-inequalities  mean 

Обозначим через биномиальную функцию распределения (DF) с параметрами и вычисленными при : и пусть обозначает пуассоновский DF с параметром оцененным при : B(n,p,r)B(n,p,r)B(n,p,r)n∈Nn∈Nn \in \mathbb Np∈(0,1)p∈(0,1)p \in (0,1)r∈{0,1,…,n}r∈{0,1,…,n}r \in \{0,1,\ldots,n\}B(n,p,r)=∑i=0r(ni)pi(1−p)n−i,B(n,p,r)=∑i=0r(ni)pi(1−p)n−i,\begin{equation} B(n,p,r) = \sum_{i=0}^r \binom{n}{i} p^i (1-p)^{n-i}, \end{equation}F(ν,r)F(ν,r)F(\nu,r)a∈R+a∈R+a \in \mathbb R^+r∈{0,1,2,…}r∈{0,1,2,…}r \in \{0,1,2,\ldots\}F(a,r)=e−a∑i=0raii!.F(a,r)=e−a∑i=0raii!.\begin{equation} F(a,r) = e^{-a} \sum_{i=0}^r \frac{a^i}{i!}. \end{equation} Рассмотрим p→0p→0p …

30 binomial  poisson-distribution  convergence  probability-inequalities 

В классической задаче по сбору купонов хорошо известно, что время необходимое для завершения набора из случайно выбранных купонов, удовлетворяет , и .TТTnNnE[T]∼nlnnE[T]∼nln⁡nE[T] \sim n \ln n Var(T)∼n2Var(T)∼n2Var(T) \sim n^2Pr(T&gt;nlnn+cn)&lt;e−cPr(T&gt;nln⁡n+cn)&lt;e−c\Pr(T > n \ln n + cn) < e^{-c} Эта верхняя граница лучше, чем та, которую дает неравенство Чебышева, которое было бы …

20 probability  probability-inequalities  coupon-collector-problem 

Давайте рассмотрим проблему классификации набора данных MNIST. Согласно веб -странице MNIST Яна ЛеКуна , «Ciresan et al.» получил 0,23% ошибок в тестовом наборе MNIST с использованием сверточной нейронной сети. Давайте обозначим обучающий набор MNIST как , тестовый набор MNIST как , окончательную гипотезу, которую они получили, используя качестве , и …

16 machine-learning  classification  overfitting  probability-inequalities 

Этот вопрос возникает из вопроса, который здесь задают о функции, порождающей момент (MGF). Предположим, что XXX - ограниченная случайная величина со средним нулем, принимающая значения в [−σ,σ][−σ,σ][-\sigma, \sigma] и пусть G(t)=E[etX]G(t)=E[etX]G(t) = E[e^{tX}] - ее MGF. Из а связаны используется в доказательстве неравенства Хёфдинга , мы имеем , что G(t)=E[etX]≤eσ2t2/2G(t)=E[etX]≤eσ2t2/2G(t) …

14 probability  probability-inequalities  mgf 

Я просматриваю статью, в которой используется неравенство оракула, чтобы что-то доказать, но я не могу понять, что он даже пытается сделать. Когда я искал в Интернете информацию о «Неравенстве Oracle», некоторые источники указали мне на статью «Кандес, Эммануэль Дж.« Современная статистическая оценка через неравенства оракула ». "который можно найти здесь …

14 mathematical-statistics  estimation  probability-inequalities  inequality  oracle 

Замечания: Борель-Кантелли Лемма говорит, что ∑n=1∞P(An)&lt;∞⇒P(limsupAn)=0∑n=1∞P(An)&lt;∞⇒P(limsupAn)=0\sum_{n=1}^\infty P(A_n) \lt \infty \Rightarrow P(\lim\sup A_n)=0 ∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1\sum_{n=1}^\infty P(A_n) =\infty \textrm{ and } A_n\textrm{'s are independent} \Rightarrow P(\lim\sup A_n)=1 Потом, if∑n=1∞P(AnAcn+1)&lt;∞∑n=1∞P(AnAn+1c)&lt;∞\sum_{n=1}^\infty P(A_nA_{n+1}^c )\lt \infty с помощью леммы Бореля-Кантелли Я хочу показать что в первую очередь, limn→∞P(An)limn→∞P(An)\lim_{n\to \infty}P(A_n) …

13 probability  self-study  stochastic-processes  probability-inequalities 

Если - это распределение вероятностей с ненулевыми значениями на , для какого типа (типов) существует константа такая, что для всех ?p(x)p(x)p(x)[0,+∞)[0,+∞)[0,+\infty)p(x)p(x)p(x)c&gt;0c&gt;0c\gt 0∫∞0p(x)logp(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2∫0∞p(x)log⁡p(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2\int_0^{\infty}p(x)\log{\frac{ p(x)}{(1+\epsilon)p({x}(1+\epsilon))}}dx \leq c \epsilon^20&lt;ϵ&lt;10&lt;ϵ&lt;10\lt\epsilon\lt 1 Вышеуказанное неравенство на самом деле является дивергенцией Кульбака-Лейблера между распределением и его сжатой версией . Я обнаружил, что это неравенство справедливо для распределений …

12 probability  stochastic-processes  kullback-leibler  probability-inequalities 

Пусть - последовательность случайных величин от st вероятности , где - фиксированная постоянная. Я пытаюсь показать следующее: и оба в вероятности. Я здесь, чтобы увидеть, была ли моя логика правильной. Вот моя работа{Xn}n≥1{Xn}n≥1\{X_n\}_{n\geq 1}Xn→aXn→aX_n \to aa&gt;0a&gt;0a>0Xn−−−√→a−−√Xn→a\sqrt{X_n} \to \sqrt{a}aXn→1aXn→1\frac{a}{X_n}\to 1 ПОПЫТКА Для первой части мы имеем Обратите внимание, что Из этого …

12 random-variable  convergence  asymptotics  probability-inequalities  coverage-probability 

Предположим, у нас есть случайные величины IID с распределением . Мы будем наблюдать образец 'ы следующим образом: пусть быть независимыми случайные величины, предположим , что все х и «s являются независимыми и определяют размер выборки . В «s показывают , какой из » с в образце, и мы хотим , …

12 probability-inequalities 

В духе этого вопроса Понимая доказательство леммы, используемой в неравенстве Хеффдинга , я пытаюсь понять шаги, которые приводят к неравенству Хеффдинга. Что является для меня самым загадочным в доказательстве, так это то, что экспоненциальные моменты вычисляются для суммы переменных iid, после чего применяется неравенство Маркова. Моя цель состоит в том, …

12 probability  probability-inequalities 

Есть ли аналог чебышевского неравенства с более высоким моментом в одностороннем случае? Неравенство Чебышева-Кантелли, похоже, работает только для дисперсии, в то время как неравенство Чебышева может быть легко получено для всех показателей. Кто-нибудь знает одностороннее неравенство, использующее высшие моменты?

12 approximation  moments  probability-inequalities 

Я изучаю лекционные заметки Ларри Вассермана по статистике, в которых в качестве основного текста используются Казелла и Бергер. Я работаю над его комплектом лекций 2 и застрял в выводе леммы, используемой в неравенстве Хеффдинга (стр. 2-3). Я воспроизводлю доказательства в примечаниях ниже, и после доказательства я укажу, где я застрял. …

11 probability  probability-inequalities 

Учитывая два непрерывных распределения и , мне не ясно, существует ли отношение выпуклого доминирования между ними:FXFX\mathcal{F}_XFYFY\mathcal{F}_Y (0)FX&lt;cFY(0)FX&lt;cFY(0)\quad \mathcal{F}_X <_c \mathcal{F}_Y подразумевает, что (1)F−1Y(q)≤F−1X(q),∀q∈[0.5,1](1)FY−1(q)≤FX−1(q),∀q∈[0.5,1](1)\quad F_Y^{-1}(q) \leq F_X^{-1}(q),\quad \forall q\in[0.5,1] имеет место или если необходимы некоторые дополнительные гипотезы, если должно быть выполнено?(1)(1)(1) Определение выпуклого доминирования. Если два непрерывных распределения и удовлетворяют:FИксFX\mathcal{F}_XFYFY\mathcal{F}_Y ( …

10 probability  probability-inequalities  distributions