Статистика и большие данные

Предполагая, что у меня есть две независимые случайные величины, и я хочу максимально уменьшить ковариацию между ними, не теряя слишком много «сигнала», поможет ли центрирование? Я где-то читал, что среднее значение центрирования уменьшает корреляцию значительным фактором, поэтому я думаю, что для ковариации должно быть то же самое.

11 correlation  covariance  random-vector 

Мой вопрос довольно семантический. Когда метод обычно выдает высокие значения p, он называется консервативным. Вы бы назвали обратное, то есть метод с высоким уровнем ошибок типа II либеральным?

11 hypothesis-testing  statistical-significance  p-value  terminology  type-i-and-ii-errors 

Для заданной случайной величины с распределением вероятности корреляционная матрица является положительной полуопределенной, т.е. ее собственные значения положительны или ноль.nnnXiXiX_iP(X1,…,Xn)P(X1,…,Xn)P(X_1,\ldots,X_n)Cij=E[XiXj]−E[Xi]E[Xj]Cij=E[XiXj]−E[Xi]E[Xj]C_{ij}=E[X_i X_j]-E[X_i]E[X_j] Меня интересуют условия на , которые необходимы и / или достаточны для того, чтобы имело нулевых собственных значений. Например, достаточным условием является то, что случайные величины не являются независимыми: для …

11 correlation 

Как я понял, k-NN - это алгоритм для ленивых учеников, и он не требует фазы обучения. Так зачем нам использовать .fit()sklearn и что происходит, когда мы его используем?

11 classification  scikit-learn  k-nearest-neighbour 

Я пытаюсь написать функцию, которая генерирует равномерно распределенный шум, который исходит от шара с p-нормой измерений:nnn ||x||p≤r||x||p≤r\begin{equation} ||x||_p \leq r \end{equation} Я нашел возможные решения для кругов ( ) ( http://mathworld.wolfram.com/DiskPointPicking.html ), однако у меня возникли проблемы с расширением этого для различных значений .p=2p=2p = 2pпp Я попытался сделать это, …

11 simulation  noise 

На своей вики-странице разработчики Стэна заявляют: Некоторые принципы нам не нравятся: инвариантность, Джеффрис, энтропия Вместо этого я вижу много нормальных рекомендаций по распространению. До сих пор я использовал байесовские методы, которые не основывались на выборке, и был отчасти рад, что понял, почему был хорошим выбором для биномиальных вероятностей.θ ∼ бета …

11 bayesian  mcmc  prior  pymc  stan 

Меня интересует текущее состояние дел с выбором исходных семян (кластерных центров) для K-средних. Поиск в Google приводит к двум популярным вариантам: случайный отбор начальных семян, и, с использованием техники отбора KMeans ++: Arthur & Vassilvitskii 2006 k-means ++: Преимущества тщательного посева Есть ли еще какие-нибудь многообещающие методы, о которых кто-либо …

11 clustering  k-means 

Я пытаюсь реализовать алгоритм Nelder-Mead для оптимизации функции. Страница Википедии о Nelder-Mead удивительно ясна обо всем алгоритме, за исключением критерия его остановки. Там это печально говорит: Проверьте сходимость [требуется уточнение] . Я попробовал и протестировал пару критериев сам: Стоп , если , где ε мала и где х я это …

11 optimization  algorithms 

Я понимаю, что SVM очень похож на логистическую регрессию (LR), то есть взвешенная сумма признаков передается в сигмовидную функцию, чтобы получить вероятность принадлежности к классу, но вместо кросс-энтропийной (логистической) потери Функция тренировки выполняется с использованием потери шарнира. Преимущество использования потери шарнира состоит в том, что можно делать различные числовые приемы, …

11 machine-learning  logistic  svm 

Если мы рассмотрим полноценное дерево решений (т.е. дерево необрезанных решений), оно имеет высокую дисперсию и низкое смещение. Мешки и случайные леса используют эти модели высокой дисперсии и агрегируют их, чтобы уменьшить дисперсию и, таким образом, повысить точность прогнозирования. И Мешки, и Случайные Леса используют выборку Bootstrap, и, как описано в …

11 variance  random-forest  cart  bias  bagging 

Я начинаю с глубокого изучения, и у меня есть вопрос, ответ на который я не смог найти, возможно, я не искал должным образом. Я видел этот ответ , но до сих пор не ясно, что такое потеря веса и как она связана с функцией потери.

11 neural-networks  conv-neural-network 

Модели линейных смешанных эффектов - это расширения моделей линейной регрессии для данных, которые собираются и обобщаются в группы. Ключевым преимуществом является то, что коэффициенты могут варьироваться по отношению к одной или нескольким групповым переменным. Тем не менее, я борюсь с тем, когда использовать модель со смешанным эффектом? Я разработаю свои …

11 regression  mixed-model  random-effects-model  linear 

Рискуя сделать вопрос специфичным для программного обеспечения и из-за его повсеместности и особенностей, я хочу спросить о функции biplot()в R и, более конкретно, о вычислении и построении по умолчанию ее наложенных красных стрелок, соответствующих к базовым переменным. [Чтобы разобраться в некоторых комментариях, изначально опубликованные сюжеты имели скудную проблему с редким …

11 r  pca  biplot 

Простая линейная модель: х = α т + ϵTИксзнак равноαT+εTx=\alpha t + \epsilon_t где ~ iid N ( 0 , сг 2 )εTεT\epsilon_tN( 0 , σ2)N(0,σ2)N(0,\sigma^2) с иV a r ( x ) = σ 2Е( х ) = α тЕ(Икс)знак равноαTE(x) = \alpha tВa r ( x ) = …

11 regression  stochastic-processes  autoregressive  deterministic 

Скажем, что YYY - непрерывная случайная величина, а XXX - дискретная. Pr(X=x|Y=y)=Pr(X=x)Pr(Y=y|X=x)Pr(Y=y)Pr(X=x|Y=y)=Pr(X=x)Pr(Y=y|X=x)Pr(Y=y) \Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)} Как мы знаем, Pr(Y=y)=0Pr(Y=y)=0\Pr(Y=y) = 0 потому что YYY - непрерывная случайная величина. И на основании этого я испытываю желание сделать вывод, что вероятность Pr(X=x|Y=y)Pr(X=x|Y=y)\Pr(X=x|Y=y) не определена. Тем не менее, Википедия утверждает здесь, что она …

11 conditional-probability  pdf