Статистика и большие данные

Я заинтересован в выборе модели в настройке временных рядов. Для конкретности предположим, что я хочу выбрать модель ARMA из пула моделей ARMA с различными порядками запаздывания. Конечная цель - прогнозирование . Выбор модели может быть сделан перекрестная проверка, использование информационных критериев (AIC, BIC), среди других методов. Роб Дж. Хиндман предоставляет …

23 time-series  forecasting  cross-validation  model-selection  aic 

Мне было интересно, каковы разные варианты использования для двух алгоритмов, Coordinate Descent и Gradient Descent . Я знаю, что у координатного спуска есть проблемы с негладкими функциями, но он используется в популярных алгоритмах, таких как SVM и LASSO. Однако градиентный спуск, по-моему, используется более широко, особенно при возрождении ANN и …

23 optimization  gradient-descent 

Я знаю, что если медиана и среднее значение приблизительно равны, то это означает, что существует симметричное распределение, но в данном конкретном случае я не уверен. Среднее значение и медиана довольно близки (разница составляет всего 0,487 м / галл), что заставляет меня сказать, что существует симметричное распределение, но, глядя на коробочный …

23 distributions  mean  skewness  median  qq-plot 

В известной работе 1938 года (« Распределение отношения правдоподобия для большой выборки при проверке составных гипотез », Анналы математической статистики, 9: 60–62) Самуэль Уилкс вывел асимптотическое распределение в (логарифмическое отношение правдоподобия) для вложенных гипотез в предположении, что большая гипотеза указана правильно. Предельное распределение (хи-квадрат) со степенями свободы , где - …

23 hypothesis-testing  model-selection  likelihood-ratio  asymptotics  misspecification 

Люди говорят, что мягкий край SVM использует функцию потери шарнира: . Однако фактическая целевая функция, которую мягкое поле SVM пытается минимизировать, равна \ frac {1} {2} \ | w \ | ^ 2 + C \ sum_i \ max (0,1-y_i (w ^ \ intercal x_i + b) ) Некоторые авторы …

23 svm  loss-functions 

В литературе я нашел два определения времени автокорреляции слабо стационарного временного ряда: τa=1+2∑k=1∞ρkversusτb=1+2∑k=1∞|ρk|τa=1+2∑k=1∞ρkversusτb=1+2∑k=1∞|ρk| \tau_a = 1+2\sum_{k=1}^\infty \rho_k \quad \text{versus} \quad \tau_b = 1+2\sum_{k=1}^\infty \left|\rho_k\right| где - автокорреляция при лагеk. ρk=Cov[Xt,Xt+h]Var[Xt]ρk=Cov[Xt,Xt+h]Var[Xt]\rho_k = \frac{\text{Cov}[X_t,X_{t+h}]}{\text{Var}[X_t]}kkk Одно из применений времени автокорреляции - найти «эффективный размер выборки»: если у вас есть наблюдений временного ряда, и …

23 r  time-series  correlation 

Я использовал принцип максимальной энтропии, чтобы оправдать использование нескольких дистрибутивов в различных условиях; однако мне еще не удалось сформулировать статистическую, а не теоретико-информационную интерпретацию максимальной энтропии. Другими словами, что означает максимизация энтропии в отношении статистических свойств распределения? Кто-нибудь сталкивался или, возможно, открыл для себя статистическую интерпретацию макс. распределение энтропии, которое …

23 distributions  entropy  intuition  information-theory  maximum-entropy 

Когда я Google для "fisher" "fiducial" ... Я уверен, что получаю много хитов, но все те, за которыми я следовал, совершенно за пределами моего понимания. Все эти хиты, похоже, имеют одну общую черту: все они написаны для статистиков, которые тщательно изучили теорию, практику, историю и знания статистики. (Следовательно, ни один …

23 bayesian  inference  terminology  fiducial  ronald-fisher 

У меня есть набор данных, содержащий не более 150 примеров (разделенных на обучение и тестирование) со многими функциями (более 1000). Мне нужно сравнить классификаторы и методы выбора функций, которые хорошо работают с данными. Итак, я использую три метода классификации (J48, NB, SVM) и 2 метода выбора объектов (CFS, WrapperSubset) с …

23 classification  feature-selection 

Я прочитал много исследовательских работ о классификации настроений и смежных темах. Большинство из них используют 10-кратную перекрестную проверку для обучения и тестирования классификаторов. Это означает, что не проводится отдельное тестирование / проверка. Почему это? Каковы преимущества / недостатки этого подхода, особенно для тех, кто проводит исследования?

23 classification  cross-validation 

Я использовал эту prcomp()функцию для выполнения PCA (анализа главных компонентов) в R. Однако в этой функции есть ошибка, из-за которой na.actionпараметр не работает. Я попросил помощи по stackoverflow ; два пользователя предложили два разных способа работы со NAзначениями. Однако проблема обоих решений заключается в том, что при наличии NAзначения эта …

23 r  pca  missing-data  data-imputation 

У меня проблема регрессии с несколькими выходами с входными функциями и выходными . Выходы имеют сложную нелинейную корреляционную структуру.dxdxd_xdydyd_y Я хотел бы использовать случайные леса, чтобы сделать регрессию. Насколько я могу судить, случайные леса для регрессии работают только с одним выходом, поэтому мне пришлось бы тренировать случайные леса - по …

23 regression  multivariate-analysis  random-forest 

Я ищу примеры того, как интерпретировать оценки AIC (информационный критерий Акайке) и BIC (информационный критерий Байеса). Может ли отрицательное различие между BIC быть интерпретировано как последующие шансы одной модели над другой? Как я могу выразить это словами? Например, BIC = -2 может означать, что шансы лучшей модели по сравнению с …

23 interpretation  aic  bic 

У меня есть данные со многими взаимосвязанными функциями, и я хочу начать с сокращения функций с помощью функции плавного базирования перед запуском LDA. Я пытаюсь использовать естественные кубические сплайны в splinesпакете с nsфункцией. Как мне назначить узлы? Вот основной код R: library(splines) lda.pred <- lda(y ~ ns(x, knots=5)) Но я …

23 r  splines 

Какой самый простой способ понять повышение? Почему это не повышает очень слабые классификаторы "до бесконечности" (совершенство)?

23 machine-learning  boosting