Статистика и большие данные

Правда ли, что является объективной оценкой для ? То есть ρ X , Y E [ R X , Y ] = ρ X , Y ?RX,YRX,YR_{X,Y}ρX,YρX,Y\rho_{X,Y}E[RX,Y]=ρX,Y?E[RX,Y]=ρX,Y?\mathbf{E}\left[R_{X,Y}\right]=\rho_{X,Y}? Если нет, то какова объективная оценка для ? (Возможно, существует стандартный объективный оценщик, который используется? Кроме того, он аналогичен несмещенной выборочной дисперсии, где …

14 correlation 

Я, вероятно, не имею четкого понимания парадокса Симпсона . Неофициально я знаю, что среднее значение ответа Y1, сгруппированное по всем возможным уровням фактора A, может быть выше, чем среднее значение ответа Y2 по всем уровням A, даже если среднее значение Y1 для каждого уровня A (каждой группы) равно всегда меньше …

14 mathematical-statistics  simpsons-paradox 

Может ли кто-нибудь объяснить основную идею гамильтоновых методов Монте-Карло и в каких случаях они дадут лучшие результаты, чем марковские цепочки методов Монте-Карло?

14 bayesian  mcmc  hmc 

В некоторых случаях предварительная оценка Джеффриса для полной многомерной модели обычно считается неадекватной, например, в случае: (где ε ∼ N ( 0 , σ 2 ) , где μ и σ неизвестны), где предпочтительным является следующий априор (для полного предшествующего Джеффриса π ( μ , σ ) ∝ σ - …

14 distributions  bayesian  estimation  prior  jeffreys-prior 

Проводились ли крупномасштабные исследования методов MCMC, сравнивающих производительность нескольких различных алгоритмов с набором тестовых плотностей? Я думаю о чем-то эквивалентном статье Риоса и Сахинидиса (2013), которая представляет собой тщательное сравнение большого количества оптимизаторов черного ящика без производных по нескольким классам тестовых функций. Для MCMC эффективность может быть оценена, например, по …

14 machine-learning  bayesian  references  mcmc 

Примечание. = сумма квадратов, = сумма квадратов ошибок и = регрессионная сумма квадратов. Уравнение в названии часто записывается как:SSTSSTSSTSSESSESSESSRSSRSSR ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Довольно простой вопрос, но я ищу интуитивное объяснение. Интуитивно, мне кажется, что будет иметь больше смысла. Например, предположим, что точка имеет соответствующее значение …

14 regression  least-squares  r-squared 

Этот вопрос касается оценки ограниченного максимального правдоподобия (REML) в конкретной версии линейной модели, а именно: Y= Х( α ) β+ ϵ ,ε ~ NN( 0 , Σ ( α ) ) ,Yзнак равноИкс(α)β+ε,ε~NN(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), где - ( ) матрица, параметризованная , как …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

Я читал об оптимизации для некорректной проблемы в компьютерном зрении и натолкнулся на объяснение ниже об оптимизации в Википедии. Я не понимаю, почему они называют эту оптимизацию « Минимизация энергии » в Computer Vision? Задача оптимизации может быть представлена ​​следующим образом: Дано: функция из некоторого множества A в вещественные числаf:A→Rf:A→Rf: …

14 machine-learning  optimization  computer-vision 

У меня есть некоторые данные, которые я хотел бы сгладить так, чтобы сглаженные точки монотонно уменьшались. Мои данные резко уменьшаются и затем начинают плато. Вот пример использования R df <- data.frame(x=1:10, y=c(100,41,22,10,6,7,2,1,3,1)) ggplot(df, aes(x=x, y=y))+geom_line() Какую хорошую технику сглаживания я мог бы использовать? Кроме того, было бы хорошо, если бы …

14 regression  smoothing 

Этот вопрос вытекает из вопроса: когда (если вообще когда-либо) частотный подход существенно лучше, чем байесовский? Как я уже писал в своем решении этого вопроса, по моему мнению, если вы являетесь частым участником, вам не нужно верить / придерживаться принципа вероятности, так как часто методы, применяемые частыми пользователями, будут его нарушать. …

14 bayesian  likelihood  likelihood-principle 

Модели гауссовых смесей (GMM) привлекательны, потому что с ними просто работать как в аналитическом, так и на практическом плане, и они способны моделировать некоторые экзотические распределения без особых сложностей. Есть несколько аналитических свойств, которые мы должны ожидать, которые в целом не ясны. Особенно: Скажем, SnSnS_n - класс всех гауссовых смесей …

14 probability  normal-distribution  references  gaussian-mixture  information-theory 

В Размышлении быстро и медленно» Даниэль Канеман ставит следующий гипотетический вопрос: (Стр. 186). Джули в настоящее время является старшим в государственном университете. Она бегло читала, когда ей было четыре года. Какой у нее средний балл (GPA)? Его намерение состоит в том, чтобы проиллюстрировать, как мы часто не учитываем регрессию к …

14 standard-deviation  regression-coefficients  regression-to-the-mean 

Объясняя, почему некоррелированные не подразумевают независимость, есть несколько примеров, которые включают в себя группу случайных величин, но все они кажутся такими абстрактными: 1 2 3 4 . Этот ответ, кажется, имеет смысл. Моя интерпретация: случайная величина и ее квадрат могут быть некоррелированными (поскольку, очевидно, отсутствие корреляции является чем-то вроде линейной …

14 correlation  independence  non-independent  garch  intuition 

Классическая трактовка статистического вывода основывается на предположении, что существует правильно заданная статистическая информация. То есть распределение , сгенерировавшее наблюдаемые данные является частью статистической модели : Однако в большинстве случаев мы не можем предположить, что это действительно так. Интересно, что происходит с процедурами статистического вывода, если мы отбросим правильно заданное предположение.P∗(Y)P∗(Y)\mathbb{P}^*(Y)yyyMM\mathcal{M}P∗(Y)∈M={Pθ(Y):θ∈Θ}P∗(Y)∈M={Pθ(Y):θ∈Θ}\mathbb{P}^*(Y) …

14 hypothesis-testing  confidence-interval  model  frequentist  misspecification 

Суммируем поток случайных величин: ; пусть будет числом слагаемых, которое нам нужно, чтобы сумма превысила единицу, т. е. - наименьшее число, такое, чтоY YXi∼iidU(0,1)Xi∼iidU(0,1)X_i \overset{iid}\sim \mathcal{U}(0,1)YYYYYY X1+X2+⋯+XY>1.X1+X2+⋯+XY>1.X_1 + X_2 + \dots + X_Y > 1. Почему среднее значение равно постоянной Эйлера ?еYYYeee E(Y)=e=10!+11!+12!+13!+…E(Y)=e=10!+11!+12!+13!+…\mathbb{E}(Y) = e = \frac{1}{0!} + \frac{1}{1!} + …

14 probability  self-study  expected-value  uniform