Статистика и большие данные

Мой вопрос очень прост: почему мы выбираем нормальное в качестве распределения, которому следует термин ошибки в предположении о линейной регрессии? Почему мы не выбираем других, как униформу, т или как?

15 regression  mathematical-statistics  normal-distribution  error  linear 

В линейной регрессии мы делаем следующие предположения Среднее значение ответа E(Yi)E(Yi)E(Y_i) каждого набора значений предикторов (x1i,x2i,…)(x1i,x2i,…)(x_{1i}, x_{2i},…) является линейной функцией предикторов. Ошибки являются независимыми.εiεiε_i Ошибки при каждом наборе значений предикторов (x_ {1i}, x_ {2i},…) распределяются нормально.εiεiε_i(x1i,x2i,…)(x1i,x2i,…)(x_{1i}, x_{2i},…) Ошибки εiεiε_i при каждом наборе значений предикторов (x1i,x2i,…)(x1i,x2i,…)(x_{1i}, x_{2i},…) имеют равные дисперсии (обозначенные …

15 regression  assumptions 

Когда мы углубимся в литературу по нейронным сетям , мы сможем идентифицировать другие методы с нейроморфными топологиями (архитектура, подобная «нейронной сети»). И я не говорю о теореме универсального приближения . Примеры приведены ниже. Тогда это заставляет меня задуматься: каково определение искусственной нейронной сети? Его топология, кажется, охватывает все. Примеры: Одна …

15 machine-learning  neural-networks  deep-learning  unsupervised-learning  supervised-learning 

Этот вопрос ссылается на статью Галита Шмуэли «Объяснить или предсказать» . В частности, в разделе 1.5 «Объяснения и предсказания различны» профессор Шмуэли пишет: При объяснительном моделировании основное внимание уделяется минимизации смещения для получения наиболее точного представления основной теории. Это озадачивало меня каждый раз, когда я читал газету. В каком смысле …

15 predictive-models  inference  bias  unbiased-estimator  explanatory-models 

Я прочитал самые популярные книги в области статистического обучения 1- Элементы статистического обучения. 2- Введение в статистическое обучение . Оба упоминают, что у регрессии гребня есть две формулы, которые эквивалентны. Есть ли понятное математическое доказательство этого результата? Я также прошел Cross Validated , но я не могу найти однозначного доказательства …

15 regression  lasso  regularization  ridge-regression  lagrange-multipliers 

Я не нашел удовлетворительного ответа на этот вопрос от Google . Конечно, если у меня есть данные порядка нескольких миллионов, то глубокое обучение - это путь. И я прочитал, что, когда у меня нет больших данных, тогда, возможно, лучше использовать другие методы в машинном обучении. Приведенная причина является чрезмерной. Машинное …

15 regression  machine-learning  classification  neural-networks  deep-learning 

Вопрос: Каковы основные различия и сходства между использованием стандартных ошибок Newey-West (1987) и Hansen-Hodrick (1980)? В каких ситуациях одна из них должна быть предпочтительнее другой? Примечания: Я знаю, как работает каждая из этих процедур настройки; однако я еще не нашел ни одного документа, который бы сравнивал их, ни в Интернете, …

15 regression  autocorrelation  heteroscedasticity  robust-standard-error  neweywest 

Я пытаюсь научиться использовать нейронные сети. Я читал этот урок . После подбора нейронной сети по временному ряду, используя значение в для прогнозирования значения в момент времени t + 1, автор получает следующий график, где синяя линия - это временной ряд, зеленый - это прогноз данных поезда, красный - это …

15 time-series  neural-networks  predictive-models  deep-learning  prediction 

В моем проекте я хочу создать модель логистической регрессии для прогнозирования двоичной классификации (1 или 0). У меня есть 15 переменных, 2 из которых являются категориальными, а остальные представляют собой смесь непрерывных и дискретных переменных. Чтобы соответствовать модели логистической регрессии, мне посоветовали проверить линейную отделимость с использованием SVM, персептрона или …

15 machine-learning  logistic  classification  svm  separation 

Вопросов Зависит ли это от того, мелкое дерево или глубокое? Или мы можем сказать это независимо от глубины / уровня дерева? Почему уклон низкий и дисперсия высокая? Пожалуйста, объясните интуитивно и математически

15 machine-learning  variance  covariance  cart  bias 

При запуске ANOVA нам говорят, что должны присутствовать определенные допущения теста, чтобы он был применим к данным. Я никогда не понимал причину, почему следующие тесты были необходимы для теста: Дисперсия вашей зависимой переменной (остатки) должна быть одинаковой в каждой ячейке проекта Ваша зависимая переменная (остатки) должна быть примерно нормально распределена …

15 hypothesis-testing  anova  assumptions 

Я думал, что концепция типичного набора довольно интуитивна: последовательность длины будет принадлежать типичному набору A ( n ) ϵ, если вероятность выхода последовательности будет высокой. Таким образом, любая последовательность, которая была бы вероятна, была бы в A ( n ) ϵ . (Я избегаю формального определения, связанного с энтропией, потому …

15 entropy  intuition  information-theory 

Ожидаемое значение распределения f(x)f(x)f(x) - это среднее значение, то есть средневзвешенное значение E[x]=∫+∞−∞xf(x)dxE[x]=∫−∞+∞xf(x)dxE[x]=\int_{-\infty}^{+\infty} x \, \, f(x) dx Наиболее вероятным значением является режим, то есть наиболее вероятное значение. Однако ожидаем ли мы как-нибудь увидеть E[x]E[x]E[x] много раз? Цитирую отсюда : Если результаты не являются в равной степени вероятными, то простое …

15 probability  distributions  chi-squared  expected-value  mode 

В какой момент мы начинаем классифицировать многослойные нейронные сети как глубокие нейронные сети или иначе говоря: «Каково минимальное количество слоев в глубокой нейронной сети?»

15 machine-learning  neural-networks  deep-learning  terminology 

В линейной регрессии (квадрат потери), используя матрицу, мы получаем очень краткие обозначения для цели minimize ∥Ax−b∥2minimize ‖Ax−b‖2\text{minimize}~~ \|Ax-b\|^2 Где AAA - матрица данных, xxx - коэффициенты, а bbb - ответ. Существует ли аналогичная матричная запись для цели логистической регрессии? Все записи, которые я видел, не могут избавиться от суммы по …

15 regression  logistic  linear-model  notation