Статистика и большие данные

Я пытаюсь понять основную разницу между ступенчатой ​​и обратной регрессией в R, используя функцию шага. Для ступенчатой ​​регрессии я использовал следующую команду step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="both") Я получил следующий вывод для приведенного выше кода. Для выбора обратной переменной я использовал следующую команду step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="backward") И я получил ниже вывод для обратной Насколько я понял, …

15 r  regression 

Основное предположение об использовании регрессионных моделей для вывода заключается в том, что «все соответствующие предикторы» были включены в уравнение прогнозирования. Обоснование состоит в том, что отказ от включения важного фактического фактора приводит к смещенным коэффициентам и, следовательно, к неточным выводам (т. Е. Пропускается переменное смещение). Но в исследовательской практике я …

15 regression  assumptions  bias  predictor  confounding 

Я пытаюсь продублировать результаты из sklearnбиблиотеки логистической регрессии, используя glmnetпакет в R. Из sklearnрегрессионной логистической документации , она пытается свести к минимуму функцию стоимости при l2 казни minw,c12wTw+C∑i=1Nlog(exp(−yi(XTiw+c))+1)minw,c12wTw+C∑i=1Nlog⁡(exp⁡(−yi(XiTw+c))+1)\min_{w,c} \frac12 w^Tw + C\sum_{i=1}^N \log(\exp(-y_i(X_i^Tw+c)) + 1) Из виньеток из glmnetего реализация минимизирует несколько иной стоимость функции минβ, β0- [ 1NΣя = …

15 r  logistic  python  scikit-learn  glmnet 

В главе 9 книги «Распознавание образов и машинное обучение» описана модель гауссовой смеси: Честно говоря, я не очень понимаю, почему это создаст особенность. Кто-нибудь может мне это объяснить? Извините, но я всего лишь студент и новичок в машинном обучении, поэтому мой вопрос может показаться немного глупым, но, пожалуйста, помогите мне. …

15 gaussian-mixture 

Мне было интересно, каковы критерии использования Колмогорова-Смирнова, Крамера-фон-Мизеса и Андерсона-Дарлинга при сравнении 2 ECDFS. Я знаю математику того, как они различаются, но если у меня есть некоторые данные ECDF, как я узнаю, какой тест подходит для использования?

15 kolmogorov-smirnov  anderson-darling  two-sample 

Я инженер-программист, работающий над машинным обучением. Насколько я понимаю, линейная регрессия (например, OLS) и линейная классификация (например, логистическая регрессия и SVM) делают прогноз на основе внутреннего произведения между обучаемыми коэффициентами и характеристическими переменными :вес⃗ вес→\vec{w}Икс⃗ Икс→\vec{x} Y^= ф( ш⃗ ⋅ х⃗ ) = f( ∑явесяИкся)Y^знак равное(вес→⋅Икс→)знак равное(ΣявесяИкся) \hat{y} = f(\vec{w} …

15 regression  machine-learning  classification  feature-selection  linear-model 

Когда я реализовал мини-пакетный градиент приличный, я просто усреднил градиенты всех примеров в обучающей партии. Тем не менее, я заметил, что сейчас оптимальная скорость обучения намного выше, чем для приличного онлайн градиента. Моя интуиция заключается в том, что это происходит из-за того, что усредненный градиент менее шумный и, таким образом, …

15 neural-networks  gradient-descent  backpropagation 

Я читал снова и снова, что перекрестная проверка «Оставить один» имеет высокую дисперсию из-за большого перекрытия тренировочных сгибов. Однако я не понимаю, почему это так: не должны ли результаты перекрестной проверки быть очень стабильными (низкая дисперсия) именно потому, что тренировочные наборы практически идентичны? Или я неправильно понимаю понятие «дисперсия»? Я …

15 variance  cross-validation  bias 

Насколько я понял, дистанционная корреляция - это надежный и универсальный способ проверить, существует ли связь между двумя числовыми переменными. Например, если у нас есть набор пар чисел: (x1, y1) (x2, y2) ... (xn, yn) мы можем использовать корреляцию расстояний, чтобы проверить, существует ли какая-либо (не обязательно линейная) связь между двумя …

15 correlation  independence  intuition  distance-covariance 

Распределение Твиди может моделировать искаженные данные с точечной массой в нуле, когда параметр (показатель степени в отношении средней дисперсии) находится между 1 и 2.pпp Точно так же модель с нулевой раздувкой (будь то непрерывная или дискретная) может иметь большое количество нулей. У меня возникают проблемы с пониманием, почему, когда я …

15 r  generalized-linear-model  prediction  zero-inflation  tweedie-distribution 

Я пытаюсь понять цепи Маркова, используя SAS. Я понимаю, что марковский процесс - это процесс, в котором будущее состояние зависит только от текущего состояния, а не от прошлого, и существует матрица перехода, которая фиксирует вероятность перехода из одного состояния в другое. Но тут я наткнулся на этот термин: цепь Маркова …

15 probability  simulation  mcmc  monte-carlo  markov-process 

В настоящее время я подгоняю случайные леса для задачи классификации, используя randomForestпакет в R, и не уверен, как сообщить об ошибке обучения для этих моделей. Моя ошибка обучения близка к 0%, когда я вычисляю ее, используя прогнозы, которые я получаю с помощью команды: predict(model, data=X_train) где X_trainданные обучения. В ответ …

15 r  machine-learning  classification  random-forest  overfitting 

Я пытаюсь понять интуицию ядра SVM. Теперь я понимаю, как работает линейный SVM, благодаря чему создается линия принятия решений, которая разбивает данные как можно лучше. Я также понимаю принцип, лежащий в основе переноса данных в многомерное пространство, и то, как это может облегчить нахождение линейной линии принятия решений в этом …

15 machine-learning  svm  kernel-trick 

Есть ли способ определить, отличается ли разница между количеством дорожно-транспортных происшествий в момент времени 1 от количества в момент времени 2? Я нашел разные методы для определения различий между группами наблюдений в разное время (например, сравнение средних Пуассона), но не для сравнения только двух отсчетов. Или это даже неверно пытаться? …

15 statistical-significance  count-data 

Я делаю презентацию о примерочных линиях. У меня есть простая линейная функция, . Я пытаюсь получить разбросанные точки данных, которые я могу поместить в график рассеяния, чтобы моя линия лучше соответствовала тому же уравнению.y=1x+by=1x+by=1x+b Я хотел бы изучить эту технику в R или Excel - в зависимости от того, что …

15 r  regression  least-squares  excel