Вопросы с тегом «regression»

При множественной линейной регрессии я могу понять, что корреляции между остатком и предикторами равны нулю, но какова ожидаемая корреляция между остатком и переменной критерия? Должно ли оно быть нулевым или сильно коррелированным? Что это значит?

26 regression  residuals 

Я заинтересован в регрессии с нейронными сетями. Нейронные сети с нулевыми скрытыми узлами + соединения с пропуском слоев являются линейными моделями. А как насчет тех же нейронных сетей, но со скрытыми узлами? Мне интересно, какова будет роль соединений с пропуском слоя? Интуитивно, я бы сказал, что если вы включите соединения …

26 regression  machine-learning  neural-networks  deep-learning 

Мне интересно, если какой-либо алгоритм может сделать классификацию и регрессию одновременно. Например, я бы хотел, чтобы алгоритм изучал классификатор, и в то же время внутри каждой метки он также изучал непрерывную цель. Таким образом, для каждого примера обучения он имеет категориальную метку и непрерывное значение. Я мог бы сначала подготовить …

25 regression  machine-learning  classification  predictive-models  finite-mixture-model 

Предположим , что я бегу регрессию . Почему, выбирая главные основных компонентов X , модель сохраняет свою предсказательную силу на Y ?k X YY∼ XY~ИксY \sim XККkИксИксXYYY Я понимаю, что с точки зрения уменьшения размерности / выбора признаков, если v1, v2, . , , vКv1,v2,,,,vКv_1, v_2, ... v_k являются собственными …

25 regression  classification  pca  dimensionality-reduction  regularization 

У меня есть несколько вопросов, касающихся штрафа за ребро в контексте наименьших квадратов: βR i Dге= ( λ ID+ X'Икс)- 1Икс'Yβряdгезнак равно(λяD+Икс'Икс)-1Икс'Y\beta_{ridge} = (\lambda I_D + X'X)^{-1}X'y 1) Выражение предполагает, что ковариационная матрица X сжимается в сторону диагональной матрицы, означая, что (при условии, что переменные стандартизируются до процедуры) корреляция между …

25 regression  pca  regularization  ridge-regression 

В простой регрессионной модели, y=β0+β1x+ε,y=β0+β1x+ε, y = \beta_0 + \beta_1 x + \varepsilon, оценки OLS и коррелированы.β^OLS0β^0OLS\hat{\beta}_0^{OLS}β^OLS1β^1OLS\hat{\beta}_1^{OLS} Формула для корреляции между двумя оценками (если я вывел ее правильно): Corr(β^OLS0,β^OLS1)=−∑ni=1xin−−√∑ni=1x2i−−−−−−−√.Corr⁡(β^0OLS,β^1OLS)=−∑i=1nxin∑i=1nxi2. \operatorname{Corr}(\hat{\beta}_0^{OLS},\hat{\beta}_1^{OLS}) = \frac{-\sum_{i=1}^{n}x_i}{\sqrt{n} \sqrt{\sum_{i=1}^{n}x_i^2} }. Вопросов: Что такое интуитивное объяснение наличия корреляции? Имеет ли наличие корреляции какие-либо важные последствия? Сообщение было …

25 regression  least-squares  estimators 

Моя зависимая переменная, показанная ниже, не подходит ни под какой дистрибутив, который я знаю. Линейная регрессия приводит к несколько ненормальным отклонениям в правильном направлении, которые странным образом относятся к предсказанному Y (2-й график). Какие-либо предложения для преобразований или других способов получить наиболее достоверные результаты и лучшую точность прогнозирования? Если возможно, …

25 regression  multiple-regression  data-transformation  censoring 

Следуя моему вопросу об OLS , я задаюсь вопросом: какие диагностические графики существуют для квантильной регрессии? (и есть ли у R их реализация?) Быстрый поиск в гугле уже привел к появлению червя (о котором я никогда раньше не слышал), и я был бы рад узнать о других методах, о которых …

25 r  regression  diagnostic  quantile-regression  gamlss 

Я хочу лучше понять плюсы / минусы использования лёсса или сглаживающих сплайнов для сглаживания некоторой кривой. Другой вариант моего вопроса - есть ли способ построить сглаживающий сплайн так, чтобы он давал те же результаты, что и при использовании лёсса. Любая ссылка или понимание приветствуются.

25 regression  splines  loess 

Недавно я начал изучать машинное обучение, однако мне не удалось понять интуицию, лежащую в основе логистической регрессии . Ниже приведены факты о логистической регрессии, которые я понимаю. В качестве основы для гипотезы мы используем сигмовидную функцию . Я понимаю , почему это правильный выбор, однако , почему это единственный выбор …

25 regression  machine-learning  logistic 

В регрессии термин взаимодействия уничтожает оба связанных прямых эффекта. Я прекращаю взаимодействие или сообщаю результат? Взаимодействие не было частью первоначальной гипотезы.

25 regression  interaction 

Я немного сбит с толку, если независимая переменная (также называемая предиктором или признаком) в статистической модели, например в линейной регрессии , является случайной величиной?Y = β 0 + β 1 XXXXY=β0+β1XY=β0+β1XY=\beta_0+\beta_1 X

25 regression  random-variable  experiment-design  predictor 

Все примеры SVM связаны с классификацией. Я не понимаю, как SVM для регрессии (опорный вектор-регрессор) можно использовать в регрессии. Насколько я понимаю, SVM максимизирует разницу между двумя классами, чтобы найти оптимальную гиперплоскость. Как это могло бы работать в проблеме регрессии?

25 regression  svm 

Машинное обучение (ML) активно использует методы линейной и логистической регрессии. Он также опирается на особенность инженерных методов ( feature transform, kernel, и т.д.). Почему нет ничего о variable transformation(например power transformation) , упомянутые в ML? (Например, я никогда не слышал о получении root или log к объектам, они обычно просто …

24 regression  machine-learning  data-transformation 

В настоящее время я использую AnomalyDetection от Twitter в R: https://github.com/twitter/AnomalyDetection . Этот алгоритм обеспечивает обнаружение аномалий временных рядов для данных с сезонностью. Вопрос: есть ли другие алгоритмы, подобные этому (контроль сезонности не имеет значения)? Я пытаюсь набрать как можно больше алгоритмов временных рядов на своих данных, чтобы я мог …

24 r  regression  time-series  anomaly-detection