Статистика и большие данные

Из того, что я понимаю, выбор переменных на основе p-значений (по крайней мере, в контексте регрессии) является в высшей степени ошибочным. Похоже, что выбор переменных на основе AIC (или аналогичных) также считается ошибочным по некоторым причинам, хотя это кажется немного неясным (например, см. Мой вопрос и некоторые ссылки по этой …

13 hypothesis-testing  multiple-regression  feature-selection  model-selection  aic 

Я ищу ссылку, где доказано, что гармоническое среднее x¯h=n∑ni=11xix¯h=n∑i=1n1xi\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} минимизирует (в zzz ) сумму квадратов относительных ошибок ∑i=1n((xi−z)2xi).∑i=1n((xi−z)2xi).\sum_{i=1}^n \left( \frac{(x_i - z)^2}{x_i}\right).

13 references  mean  error  weighted-regression  harmonic-mean 

Я строю модели ARIMA для некоторых данных ветра / волн. Я строю отдельную модель для каждой переменной. Две из переменных, которые мне нужно смоделировать, это направление волны и ветра. Значения указаны в градусах (0-360 °). Можно ли моделировать данные такого типа, где интервал значений является круглым? Если нет, то какой …

13 time-series  arima  circular-statistics 

Немного предыстории Я работаю над интерпретацией регрессионного анализа, но я действительно запутался в значении r, r в квадрате и остаточного стандартного отклонения. Я знаю определения: характеризации r измеряет силу и направление линейной зависимости между двумя переменными на диаграмме рассеяния R-квадрат - это статистическая мера того, насколько близки данные к подогнанной …

13 r  regression  regression-coefficients  linear  pearson-r 

Задача Подтвердите правильность понимания KKT или нет. Ищите дальнейшие объяснения и подтверждения на KKT. Фон Попытка понять условия KKT, особенно дополнительные, которые всегда всплывают в статьях SVM. Мне не нужен список абстрактных формул, но мне нужно конкретное, интуитивное и графическое объяснение. Вопрос Если P, который минимизирует функцию стоимости f (X), …

13 svm  optimization  lagrange-multipliers 

В качестве специфической задачи, с которой я работаю (соревнование), у меня есть следующие настройки: 21 функция (числовое на [0,1]) и двоичный выход. У меня около 100 К рядов. Настройка кажется очень шумной. Я и другие участники на какое-то время применяем генерацию признаков, и встраивание стохастических соседей с t-распределением оказалось довольно …

13 machine-learning  dimensionality-reduction  unsupervised-learning  tsne 

Я получаю некоторые ошеломляющие результаты для корреляции суммы с третьей переменной, когда два предиктора отрицательно коррелируют. Что вызывает эти недоумения результаты? Пример 1: корреляция между суммой двух переменных и третьей переменной Рассмотрим формулу 16.23 на странице 427 текста Гилфорда 1965 года, показанного ниже. Недоумение: если обе переменные коррелируют .2 с …

13 correlation  multiple-regression 

\newcommand{\diag}{\operatorname{diag}} У нас проблема: при условии, что: \ sum_ {я = 1} ^ nx_ix_i ^ T = \ диаг (\ sigma_1 ^ 2, ..., \ sigma_d ^ 2).minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),minw∈Rd(1n∑i=1n(⟨w,xi⟩−yi)2+2λ||w||1),\min_{w\in\mathbb{R}^{d}}\left( \frac{1}{n}\sum_{i=1}^{n} \left( \langle w,x_{i}\rangle-y_{i} \right)^{2} +2\lambda||w||_1\right),∑i=1nxixTi=diag(σ21,...,σ2d).∑i=1nxixiT=diag⁡(σ12,...,σd2).\sum_{i=1}^nx_ix_i^T=\diag(\sigma_1^2,...,\sigma_d^2). Есть ли в этом случае решение в замкнутой форме? У меня есть это: (XTX)−1=diag(σ−21,...,σ−2d),(XTX)−1=diag⁡(σ1−2,...,σd−2),(X^TX)^{-1}=\diag\left(\sigma_1^{-2},...,\sigma_d^{-2}\right), и поэтому …

13 mathematical-statistics  lasso  computational-statistics  regularization 

Я пытаюсь понять, дает ли дискретное преобразование Фурье такое же представление кривой, как регрессия с использованием базиса Фурье. Например, library(fda) Y=daily$tempav[,1] ## my data length(Y) ## =365 ## create Fourier basis and estimate the coefficients mybasis=create.fourier.basis(c(0,365),365) basisMat=eval.basis(1:365,mybasis) regcoef=coef(lm(Y~basisMat-1)) ## using Fourier transform fftcoef=fft(Y) ## compare head(fftcoef) head(regcoef) БПФ дает комплексное …

13 fourier-transform  functional-data-analysis 

Я читал некоторые статьи о ручном создании изображений, чтобы «обмануть» нейронную сеть (см. Ниже). Это потому, что сети моделируют только условную вероятность ? Если сеть может смоделировать общую вероятность p ( y , x ) , будут ли такие случаи происходить?р ( у| х)п(Y|Икс)p(y|x)р ( у, Х )п(Y,Икс)p(y,x) Я предполагаю, …

13 machine-learning  neural-networks  deep-learning 

Я искал в Google, Википедии, Google ученый и многое другое, но я не мог найти происхождение автоэнкодеров. Возможно, это одна из тех концепций, которые развивались очень постепенно, и невозможно проследить четкую отправную точку, но все же я хотел бы найти какое-то краткое изложение основных этапов их развития. В главе об …

13 neural-networks  autoencoders  history 

На этой центральной странице AP « Случайные переменные против алгебраических переменных» автор Питер Фланаган-Хайд проводит различие между алгебраическими и случайными переменными. Частично он говорит x+x=2xx+x=2xx + x = 2x , но X+X≠2XX+X≠2XX + X \neq 2X - на самом деле это подзаголовок статьи. Какова основная разница между алгебраической переменной и …

13 probability  random-variable 

По моему мнению, коррелированные входные данные должны привести к переоснащению в нейронных сетях, потому что сеть узнает корреляцию, например, шум в данных. Это верно?

13 correlation  neural-networks  overfitting 

Я новичок в исследованиях Байесовской статистики. Я слышал от исследователей, что байесовские исследователи лучше внедряют MCMC, а не используют такие инструменты, как JAGS / Stan. Могу ли я спросить, в чем состоит преимущество реализации алгоритма MCMC самостоятельно (на «не совсем быстрых» языках, таких как R), кроме как для целей обучения?

13 bayesian  mcmc 

Я собираюсь закончить свои отличия в области статистики, и я действительно хочу получить докторскую степень, потому что я нахожу математическую статистику чрезвычайно интересной. Области исследований, в которых я больше всего хочу получить докторскую степень, - это случайные процессы и временные ряды. Однако я также хочу продолжить карьеру в частном секторе …

13 mathematical-statistics  careers  phd