Является ли теория минимальной дисперсии объективной оценки переоценена в аспирантуре?

В последнее время я был очень смущен, когда дал ответ на вопрос о минимальной дисперсии несмещенных оценок для параметров равномерного распределения, что было совершенно неверным. К счастью, меня сразу же поправили кардинал и Генри, и Генри дал правильные ответы для ОП .

Это заставило меня задуматься. Я изучил теорию лучших непредвзятых оценщиков в своем выпускном курсе математики в Стэнфорде около 37 лет назад. У меня есть воспоминания о теореме Рао-Блэкуэлла, нижней границе Крамера - Рао и теореме Лемана-Шеффе. Но как прикладной статистик я не очень много думаю о UMVUE в моей повседневной жизни, тогда как оценка максимального правдоподобия очень важна.

Это почему? Не переоцениваем ли мы теорию UMVUE в аспирантуре? Я думаю так. Прежде всего, непредвзятость не является решающим свойством. Многие совершенно хорошие MLEs предвзяты. Оценки усадки Штейна смещены, но преобладают в несмещенном MLE с точки зрения среднеквадратичной потери. Это очень красивая теория (оценка UMVUE), но очень неполная, и я думаю, что она не очень полезна. Что думают другие?

estimation point-estimation

— Michael Chernick
источник

(+1) Я согласен, что это послужит хорошим вопросом для основного сайта и вызовет его. Это несколько субъективно, так что это может быть лучшим вопросом CW. (Кроме того, нет причин для смущения.)

— кардинал

Я не думаю, что в целом такого рода оценки переоцениваются. Я помню, что мои профессора больше фокусировались на примерах, где UMVUE "глупы". Люди, как правило, используют точечные оценки, принадлежащие к популярным теориям, в целях безопасности, но существует полная теория оценки уравнений. Некоторые профессора сосредотачиваются на UMVUE, потому что они являются хорошим источником трудных проблем для домашней работы. Я думаю, что уменьшение предвзятости в настоящее время является более популярной и полезной теорией, чем нахождение UMVUE (которое не всегда существует).

Я думаю, здесь много вопросов на UMVUE, потому что они делают хорошие домашние задания. Может быть, это больше проблема с программами статистики бакалавриата и магистратуры, чем с программами PhD.

— Майкл Р. Черник

Ну, оценка UMVU - это классическая идея, так что, может быть, стоит учить по этой причине? И это хорошая отправная точка для обсуждения / критики таких критериев, как объективность! Просто потому, что они не так широко используются на практике, само по себе не является причиной, чтобы не учить их.

— kjetil b halvorsen

Акцент, вероятно, будет меняться в зависимости от времени и отделов. Мой отдел представляет материал на первом курсе по математике, но после этого он пропал, поэтому я не могу с полным основанием сказать, что он переоценен (даже в курсе по выводам PhD его обычно не преподают в пользу более время с байесовскими и минимаксными оценками, допустимостью и многовариантной оценкой), хотя я хотел бы уделить больше внимания тому, почему смещение полезно и, следовательно, почему непредвзятая оценка - излишне крайняя парадигма.

— парень

Ответы:

Мы знаем это

Если случайная выборка из , то для любого UE из $X_1,X_2, \dots X_n$ $Poisson(\lambda)$ $\alpha \in (0,1),~T_\alpha =\alpha \bar X+(1-\alpha)S^2$ $\lambda$

$\lambda$

$X_1,X_2, \dots X_n$ $N(\mu, \sigma^2)$ $T_\alpha =\alpha S^2$ $(n-1)S^2=\sum_{i=1}^{n}(X_i-\bar X)^2$ $\sigma^2$ $\frac{n-1}{n+1}S^2=\frac{1}{n+1}\sum_{i=1}^{n}(X_i-\bar X)^2$

Обратите внимание, что теорема Рао-Блэкуэлла говорит, что для нахождения UMVUE мы можем сосредоточиться только на тех UE, которые являются функцией достаточной статистики, то есть UMVUE является оценщиком, который имеет минимальную дисперсию среди всех UE, которые являются функцией достаточной статистики. Следовательно, UMVUE обязательно является функцией достаточной статистики.

MLE и UMVUE оба хороши с точки зрения. Но мы никогда не можем сказать, что один из них лучше, чем другой. В статистике мы имеем дело с неопределенными и случайными данными. Так что всегда есть возможности для улучшения. Мы можем получить лучшую оценку, чем MLE и UMVUE.

Я думаю, что мы не слишком переоцениваем теорию UMVUE в аспирантуре. Это чисто мое личное мнение. Я думаю, что выпускной этап - это этап обучения. Таким образом, выпускник должен иметь хорошее представление об UMVUE и других оценках,

— Argha
источник

Я думаю, что любая действительная теория вывода полезна для понимания. Хотя объективность может быть хорошим свойством, предвзятость не обязательно плохая. Когда акцент делается на UMVUE, может возникнуть тенденция приписывать ему «оптимальность». Но в классе непредвзятых оценщиков не может быть очень хороших оценок. Точность важна и включает в себя как отклонения, так и отклонения. Что лучше в MLE, так это то, что существуют условия, при которых может быть показано, что он асимптотически эффективен.

— Майкл Р. Черник

Обратите внимание, что теорема Рао-Блэквелла также может быть использована для улучшения любой смещенной оценки, производя улучшенную оценку с тем же смещением.

— kjetil b halvorsen

Возможно, статья Брэда Эфрона «Теория максимального правдоподобия и принятия решений» может помочь прояснить это. Брэд упомянул, что одна из основных трудностей с UMVUE заключается в том, что его вообще сложно вычислить, а во многих случаях не существует.

— Цзянтао Цзяо
источник