Статистика и большие данные

Я знаю формулу среднеквадратичной ошибки и как ее вычислить. Когда мы говорим о регрессии, мы можем вычислить среднеквадратическую ошибку. Однако можно ли говорить о MSE для задачи классификации и как ее вычислить?

14 classification  error 

Как обучается слой внедрения в слое Keras Embedding? (скажем, используя тензор потока бэкэнда, то есть он похож на word2vec, glove или fasttext) Предположим, мы не используем предварительно обученное вложение.

14 deep-learning  keras  word-embeddings 

Теорема универсального приближения является довольно известным результатом для нейронных сетей, в основном утверждая, что при некоторых допущениях функция может быть равномерно аппроксимирована нейронной сетью с любой точностью. Есть ли аналогичный результат, применимый к сверточным нейронным сетям?

14 neural-networks  conv-neural-network  approximation 

Целью статьи было оптимизировать некоторые параметры путем максимизации регуляризованного логарифмического правдоподобия. Затем они рассчитывают частичные производные. И затем авторы упоминают, что они оптимизируют уравнение, используя L-BFGS, стандартную квазиньютоновскую процедуру для оптимизации гладких функций многих переменных (не более подробностей). Как это работает ?

14 algorithms  optimization 

Я пытаюсь получить интуитивное понимание и почувствовать разницу и практическое различие между термином последовательный и асимптотически беспристрастный. Я знаю их математические / статистические определения, но я ищу что-то интуитивное. Мне, глядя на их индивидуальные определения, они кажутся почти одинаковыми. Я понимаю, что разница должна быть тонкой, но я просто не …

14 bias  convergence  unbiased-estimator  asymptotics  intuition 

Обычно, когда кто-то выбирает средние значения случайной выборки распределения (с размером выборки больше 30), получается нормальное распределение, центрированное вокруг среднего значения. Однако я слышал, что распределение Коши не имеет среднего значения. Какое распределение тогда получают при получении выборочных средних распределения Коши? В основном для распределения Коши не определено, так что …

14 cauchy 

Я только что запустил отрицательный биномиальный GLM, и это вывод: Call: glm.nb(formula = small ~ method + site + depth, data = size.dat, init.theta = 1.080668549, link = log) Deviance Residuals: Min 1Q Median 3Q Max -2.2452 -0.9973 -0.3028 0.3864 1.8727 Coefficients: Estimate Std. Error z value Pr(>|z|) (Intercept) 1.6954 …

14 r  categorical-data  generalized-linear-model  interpretation  negative-binomial 

В следующем примере > m = matrix(c(3, 6, 5, 6), nrow=2) > m [,1] [,2] [1,] 3 5 [2,] 6 6 > (OR = (3/6)/(5/6)) #1 [1] 0.6 > fisher.test(m) #2 Fisher's Exact Test for Count Data data: m p-value = 0.6699 alternative hypothesis: true odds ratio is not equal …

14 r  odds-ratio  fishers-exact 

В Kahneman and Deaton (2010) † авторы пишут следующее:††^\dagger Эта регрессия объясняет 37% дисперсии с среднеквадратической ошибкой (RMSE) 0,67852. Чтобы исключить выбросы и отчеты о неправдоподобных доходах, мы отбросили наблюдения, в которых абсолютная величина разницы между доходом от журнала и его прогнозом превысила среднеквадратичное значение в 2,5 раза. Это обычная …

13 regression  outliers 

Учитывая набор данных с двоичными результатами и некоторой матрицей предикторов , стандартная модель логистической регрессии оценивает коэффициенты \ beta_ {MLE } которые максимизируют биномиальную вероятность. Когда X - полный ранг, \ beta_ {MLE} уникален; когда нет идеального разделения, оно конечно.y∈{0,1}ny∈{0,1}ny\in\{0,1\}^nX∈Rn×pX∈Rn×pX\in\mathbb{R}^{n\times p}βMLEβMLE\beta_{MLE}XXXβMLEβMLE\beta_{MLE} Эта модель максимального правдоподобия также максимизирует ROC AUC (он …

13 logistic  maximum-likelihood  auc 

Очевидно, существует множество способов злоупотребления статистическими методами. Знаете ли вы о каких-либо примерах плохой статистической практики, которые были впервые опубликованы в качестве явного совета (например, «вы должны использовать этот метод для…») в авторитетных научных журналах, которые затем неоднократно цитировались? Примером может служить правило 10 событий на предиктор, которое часто вызывается …

13 references  statistical-falsehoods 

Допустимо ли использовать среднюю длину ( ) и средний вес ( )) из данной популяции для расчета среднего индекса тела ( ) для этой популяции?hhhwwwBMI=wh2BMI=wh2BMI = \frac{w}{h^2}

13 mean  sample  population 

Обычно в логистической регрессии мы подбираем модель и получаем некоторые прогнозы на тренировочном наборе. Затем мы проводим перекрестную проверку этих прогнозов обучения (что-то вроде этого ) и определяем оптимальное пороговое значение на основе чего-то вроде кривой ROC. Почему бы нам не включить перекрестную проверку порогового значения в реальную модель и …

13 logistic  cross-validation  optimization  roc  threshold 

Прогнозируемые классы из (двоичной) логистической регрессии определяются с использованием порога вероятностей членства в классе, генерируемых моделью. Насколько я понимаю, обычно используется 0.5 по умолчанию. Но изменение порога изменит предсказанные классификации. Означает ли это, что порог является гиперпараметром? Если это так, то почему (например) невозможно легко выполнить поиск по сетке пороговых …

13 machine-learning  logistic  scikit-learn  hyperparameter 

Это какая-то странная мысль, которая у меня возникла при просмотре какой-то старой статистики, и по какой-то причине я не могу придумать ответ. Непрерывный PDF говорит нам о плотности наблюдаемых значений в любом заданном диапазоне. А именно, например, если , то вероятность того, что реализация попадает между и , просто где …

13 normal-distribution  maximum-likelihood  pdf