Вопросы с тегом «exponential-family»

Я натолкнулся на замечание в The Chemical Statistician, что выборочная медиана часто может быть выбором для достаточной статистики, но, помимо очевидного случая одного или двух наблюдений, когда он равен среднему значению выборки, я не могу думать о другой нетривиальной случай, когда выборка медиана достаточно.

21 median  exponential-family  sufficient-statistics  chemistry 

Так что здесь я изучаю вывод. Мне бы хотелось, чтобы кто-то мог перечислить преимущества экспоненциальной семьи. Под экспоненциальным семейством я подразумеваю распределения, которые задаются как f(x|θ)=h(x)exp{η(θ)T(x)−B(θ)}f(x|θ)=h(x)exp⁡{η(θ)T(x)−B(θ)}\begin{align*} f(x|\theta) = h(x)\exp\left\{\eta(\theta)T(x) - B(\theta)\right\} \end{align*} чья поддержка не зависит от параметра . Вот некоторые преимущества, которые я узнал:θθ\theta (а) Включает в себя широкий …

19 self-study  exponential-family 

Я читаю книгу: Епископ, Распознавание образов и машинное обучение (2006) который определяет экспоненциальное семейство как распределения вида (уравнение 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Но я не вижу никаких ограничений на или \ mathbf u (\ mathbf x) . Не …

18 mathematical-statistics  exponential-family 

Распределение Пуассона может измерять события в единицу времени, а параметр равен λλ\lambda . Экспоненциальное распределение измеряет время до следующего события с параметром 1λ1λ\frac{1}{\lambda} . Можно преобразовать одно распределение в другое, в зависимости от того, проще ли моделировать события или время. Теперь гамма-пуассон - это «растянутый» пуассон с большей дисперсией. Распределение …

16 poisson-distribution  negative-binomial  gamma-distribution  exponential-family 

Мои вопросы: Обязательно ли обобщенные линейные модели (GLM) сходятся к глобальному максимуму? Если так, то почему? Кроме того, какие ограничения существуют для функции связи для обеспечения выпуклости? Мое понимание GLM состоит в том, что они максимизируют крайне нелинейную функцию правдоподобия. Таким образом, я бы предположил, что существует несколько локальных максимумов, …

16 generalized-linear-model  optimization  convergence  exponential-family 

\newcommand{\E}{\mathbb{E}} Как нормализует преобразование A ( ⋅ ) = ∫ d uВ 1 / 3 ( μ )A(⋅)=∫duV1/3(μ)A(\cdot) = \displaystyle\int\frac{du}{V^{1/3}(\mu)} для экспоненциального семейства получен? Более конкретно : я пытался следовать расширительному эскизу Тэйлор на странице 3, слайд- здесь , но есть несколько вопросов. С ИксXX из экспоненциального семейства, преобразованием ч …

15 data-transformation  residuals  asymptotics  exponential-family 

Выбор параметризации гамма-распределения с помощью pdf Дивергенция Кульбака-Лейблера между и определяется как [1] ​​какΓ(b,c)Γ(b,c)\Gamma(b,c)g(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c) = \frac{1}{\Gamma(c)}\frac{x^{c-1}}{b^c}e^{-x/b}Γ(bq,cq)Γ(bq,cq)\Gamma(b_q,c_q)Γ(bp,cp)Γ(bp,cp)\Gamma(b_p,c_p) KLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−logbq−cq−logΓ(cq)+logΓ(cp)+cplogbp−(cp−1)(Ψ(cq)+logbq)+bqcqbpKLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−log⁡bq−cq−log⁡Γ(cq)+log⁡Γ(cp)+cplog⁡bp−(cp−1)(Ψ(cq)+log⁡bq)+bqcqbp\begin{align} KL_{Ga}(b_q,c_q;b_p,c_p) &= (c_q-1)\Psi(c_q) - \log b_q - c_q - \log\Gamma(c_q) + \log\Gamma(c_p)\\ &\qquad+ c_p\log b_p - (c_p-1)(\Psi(c_q) + \log b_q) + \frac{b_qc_q}{b_p} \end{align} Я предполагаю, что - это функция дигаммы . Ψ(x):=Γ′(x)/Γ(x)Ψ(x):=Γ′(x)/Γ(x)\Psi(x):= \Gamma'(x)/\Gamma(x) …

15 kullback-leibler  gamma-distribution  exponential-family 

Имеет ли семейство распределения другое определение статистики, чем в других дисциплинах? В общем, семейство кривых - это набор кривых, каждая из которых задается функцией или параметризацией, в которой один или несколько параметров варьируются. Такие семейства используются, например, для характеристики электронных компонентов . Для статистики семейство в соответствии с одним источником …

14 distributions  terminology  parametric  exponential-family 

Предположим, что скалярная случайная величина принадлежит семейству вектор-параметров с pdfXXX fX(x|θ)=h(x)exp(∑i=1sηi(θ)Ti(x)−A(θ))fX(x|θ)=h(x)exp⁡(∑i=1sηi(θ)Ti(x)−A(θ)) f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) где θ = ( θ1, θ2, ⋯ , θs)Tθ=(θ1,θ2,⋯,θs)T{\boldsymbol \theta} = \left(\theta_1, \theta_2, \cdots, \theta_s \right )^T - вектор параметров, а Т (х)= ( Т1( х ) …

11 variance  mean  exponential-family  sufficient-statistics 

В GLM предполагается скаляр YYY и θθ\theta для базового распределения с pdf еY( у| θ,τ) = ч ( у, т) опыт( θ у- A ( θ )d( τ))fY(y|θ,τ)=h(y,τ)exp⁡(θy−A(θ)d(τ))f_Y(y | \theta, \tau) = h(y,\tau) \exp{\left(\frac{\theta y - A(\theta)}{d(\tau)} \right)} Можно показать, чтоμ=E(Y)=A′(θ)μ=E⁡(Y)=A′(θ) \mu = \operatorname{E}(Y) = A'(\theta). Если функция связиg(⋅)g(⋅)g(\cdot)удовлетворяет следующему:g(μ)=θ=X′βg(μ)=θ=X′βg(\mu)=\theta …

11 generalized-linear-model  exponential-family 

Для гауссовского распределения с неизвестным средним и дисперсией достаточная статистика в стандартной экспоненциальной форме семейства . У меня есть распределение , которое имеет Т ( х ) = ( х , х 2 , . . . , Х 2 Н )T( х ) = ( х , х2)T(Икс)знак равно(Икс,Икс2)T(x)=(x,x^2)T( …

10 normal-distribution  sampling  exponential-family 

Пусть это случайные переменные, имеющие pdfX1,X2,...,XnX1,X2,...,XnX_1, X_2, . . . , X_n fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x) где θ>0θ>0\theta >0 . Задайте UMVUE для 1θ1θ\frac{1}{\theta} и вычислите его дисперсию Я узнал о двух таких методах для полученных UMVUE: Нижняя граница Крамера-Рао (CRLB) Леманн-Шеффе Терем Я собираюсь попробовать это, используя первый из двух. …

10 self-study  estimation  inference  exponential-family  umvue 

Пусть X1,...,XnX1,...,Xn X_1, ...,X_n - случайная выборка из распределения Geometric(θ)Geometric(θ)Geometric(\theta) для 0&lt;θ&lt;10&lt;θ&lt;10<\theta<1 . То есть, pθ(x)=θ(1−θ)x−1I{1,2,...}(x)pθ(x)=θ(1−θ)x−1I{1,2,...}(x)p_{\theta}(x)=\theta(1-\theta)^{x-1} I_{\{1,2,...\}}(x) Найти несмещенную оценку с минимальной дисперсией для g(θ)=1θg(θ)=1θg(\theta)=\frac{1}{\theta} Моя попытка: Поскольку геометрическое распределение принадлежит экспоненциальному семейству, статистика ∑Xi∑Xi\sum X_i является полной и достаточной для θθ \theta . Кроме того, если T(X)=X1T(X)=X1T(X)=X_1 является оценкой …

10 probability  self-study  estimation  unbiased-estimator  exponential-family 

Мой вопрос возникает из прочтения чтения Минки «Оценка распределения Дирихле» , в котором без доказательств говорится следующее в контексте получения оценки максимального правдоподобия для распределения Дирихле на основе наблюдений случайных векторов: Как всегда в случае экспоненциального семейства, когда градиент равен нулю, ожидаемые достаточные статистические данные равны наблюдаемым достаточным статистическим данным. …

10 self-study  maximum-likelihood  exponential-family  sufficient-statistics 

В Survival Analysis вы предполагаете, что время выживания rv распределено экспоненциально. Учитывая теперь , что у меня есть х 1 , ... , х п «результаты» н.о.р. с.в. X я . Только некоторая часть этих результатов фактически «полностью реализована», то есть остальные наблюдения все еще «живы».ИксяXiX_iИкс1, … , ХNx1,…,xnx_1,\dots,x_nИксяXiX_i Если …

9 maximum-likelihood  references  survival  censoring  exponential-family